Γιατί η Σοσάνα Ζούμποφ θεωρεί ότι η τεχνητή νοημοσύνη απειλεί τη δημοκρατία;

Η τεχνητή νοημοσύνη παρουσιάζεται συχνά ως η σημαντικότερη τεχνολογική επανάσταση του 21ου αιώνα. Για τη Σοσάνα Ζούμποφ, όμως, το κρίσιμο ερώτημα δεν είναι τι μπορούν να κάνουν οι νέες τεχνολογίες, αλλά ποιος τις ελέγχει, ποια συμφέροντα υπηρετούν και ποιες είναι οι συνέπειές τους για τη δημοκρατία.

Η Αμερικανίδα καθηγήτρια του Harvard Business School, κοινωνική ψυχολόγος και συγγραφέας έγινε γνωστή διεθνώς μέσα από το βιβλίο της Η Εποχή του Κατασκοπευτικού Καπιταλισμού (The Age of Surveillance Capitalism), όπου περιγράφει ένα νέο οικονομικό μοντέλο που βασίζεται στη μαζική συλλογή και αξιοποίηση προσωπικών δεδομένων. Κατά την άποψή της, τα δεδομένα δεν αποτελούν απλώς το «νέο πετρέλαιο», αλλά τη βάση μιας πρωτοφανούς οικονομικής και πολιτικής ισχύος, που επιτρέπει στις μεγάλες τεχνολογικές εταιρείες να γνωρίζουν, να προβλέπουν και τελικά να επηρεάζουν την ανθρώπινη συμπεριφορά.

Η Ζούμποφ υποστηρίζει σε σχετικό άρθρο της στο Εl Pais English ότι η τεχνητή νοημοσύνη δεν αποτελεί ένα μεμονωμένο τεχνολογικό άλμα, αλλά τη συνέχεια μιας πορείας που ξεκίνησε τη δεκαετία του 1990, όταν οι κυβερνήσεις επέλεξαν να αφήσουν την ανάπτυξη του διαδικτύου σχεδόν αποκλειστικά στις δυνάμεις της αγοράς. Όπως επισημαίνει, η επιλογή αυτή δημιούργησε ένα κενό δημοκρατικής εποπτείας, το οποίο αξιοποιήθηκε από τις εταιρείες της Silicon Valley για να αναπτύξουν επιχειρηματικά μοντέλα βασισμένα στη μαζική εξόρυξη προσωπικών πληροφοριών.

Η Ζούμποφ θεωρείται μία από τις σημαντικότερες θεωρητικούς της ψηφιακής οικονομίας. Εδώ και περισσότερες από δύο δεκαετίες μελετά τον τρόπο με τον οποίο οι τεχνολογικές εταιρείες αξιοποιούν τα προσωπικά δεδομένα και πώς αυτή η εξέλιξη επηρεάζει τη δημοκρατία, τα ανθρώπινα δικαιώματα και την ιδιωτικότητα.

Η στιγμή που άλλαξε το διαδίκτυο

Κατά τη Ζούμποφ, σημείο καμπής υπήρξε το 1997, όταν η κυβέρνηση του Μπιλ Κλίντον παρουσίασε το σχέδιό της για το ηλεκτρονικό εμπόριο. Η βασική φιλοσοφία ήταν ότι το διαδίκτυο έπρεπε να εξελιχθεί με τις λιγότερες δυνατές κρατικές παρεμβάσεις, αφήνοντας την αγορά να καθορίσει τους κανόνες λειτουργίας του.

Η προσέγγιση αυτή βασίστηκε στην πεποίθηση ότι η καινοτομία ευνοείται όταν οι επιχειρήσεις λειτουργούν χωρίς αυστηρή ρύθμιση. Ωστόσο, σύμφωνα με τη Ζούμποφ, η απουσία θεσμικών ορίων δεν οδήγησε μόνο στην τεχνολογική πρόοδο, αλλά και στη δημιουργία ενός νέου οικονομικού μοντέλου, όπου οι ίδιες οι ανθρώπινες εμπειρίες μετατράπηκαν σε εμπορεύσιμη πρώτη ύλη.

Έτσι, οι ψηφιακές πλατφόρμες δεν περιορίστηκαν πλέον στην παροχή υπηρεσιών. Κάθε αναζήτηση, κάθε «κλικ», κάθε αγορά ή μετακίνηση άρχισε να παράγει δεδομένα που μπορούσαν να συλλεχθούν, να αναλυθούν και να χρησιμοποιηθούν για την πρόβλεψη της μελλοντικής συμπεριφοράς των χρηστών. Για τη Ζούμποφ, αυτή ήταν η απαρχή του «καπιταλισμού της επιτήρησης», ενός συστήματος όπου η ανθρώπινη εμπειρία μετατρέπεται σε προϊόν και η πρόβλεψη της συμπεριφοράς αποτελεί βασική πηγή κέρδους.

Η Google και η αξία των προσωπικών δεδομένων

Η Ζούμποφ θεωρεί ότι ο κατασκοπευτικός καπιταλισμός γεννήθηκε στις αρχές της δεκαετίας του 2000, όταν, μετά την κατάρρευση της «φούσκας» του διαδικτύου, οι εταιρείες αναζητούσαν νέους τρόπους κερδοφορίας. Η Google, σύμφωνα με την ανάλυσή της, βρήκε τη λύση αξιοποιώντας όχι μόνο τα δεδομένα που ήταν απαραίτητα για τη λειτουργία της μηχανής αναζήτησης, αλλά και ένα τεράστιο σύνολο πρόσθετων πληροφοριών που οι χρήστες παρήγαν χωρίς να το αντιλαμβάνονται.

Η ίδια ονομάζει αυτή την περίσσεια πληροφοριών «συμπεριφορικό πλεόνασμα» (behavioral surplus): δεδομένα που υπερβαίνουν τις λειτουργικές ανάγκες μιας υπηρεσίας και χρησιμοποιούνται για εμπορικούς σκοπούς. Με την ανάλυσή τους, οι αλγόριθμοι μπορούσαν να εντοπίζουν πρότυπα συμπεριφοράς, να προβλέπουν μελλοντικές επιλογές και να προσφέρουν εξαιρετικά στοχευμένες διαφημίσεις. Έτσι, η πρόβλεψη της ανθρώπινης συμπεριφοράς μετατράπηκε σε προϊόν προς πώληση και τα προσωπικά δεδομένα απέκτησαν τεράστια οικονομική αξία.

Κατά τη Ζούμποφ, η αλλαγή αυτή μετέβαλε ριζικά τη σχέση ανάμεσα στις ψηφιακές πλατφόρμες και τους χρήστες τους. Οι πολίτες δεν ήταν πλέον απλώς αποδέκτες μιας υπηρεσίας, αλλά η βασική πρώτη ύλη πάνω στην οποία στηρίχθηκε η οικονομική ανάπτυξη των τεχνολογικών κολοσσών.

Από την πρόβλεψη στη διαμόρφωση της συμπεριφοράς

Η Ζούμποφ υποστηρίζει ότι οι πλατφόρμες δεν περιορίστηκαν στην πρόβλεψη των επιλογών των χρηστών. Σταδιακά άρχισαν να σχεδιάζουν τις υπηρεσίες τους έτσι ώστε να επηρεάζουν ενεργά τη συμπεριφορά τους. Οι αλγόριθμοι που επιλέγουν το περιεχόμενο που βλέπει κάθε χρήστης, οι ειδοποιήσεις, οι προτάσεις και οι μηχανισμοί εξατομίκευσης έχουν ως στόχο να αυξάνουν τον χρόνο παραμονής στις πλατφόρμες, την αλληλεπίδραση και, τελικά, την παραγωγή ακόμη περισσότερων δεδομένων.

Έτσι δημιουργείται ένας αυτοτροφοδοτούμενος κύκλος: όσο αυξάνεται η δραστηριότητα των χρηστών, τόσο βελτιώνεται η δυνατότητα πρόβλεψης της συμπεριφοράς τους και τόσο μεγαλύτερη γίνεται η εμπορική αξία των δεδομένων. Κατά την Αμερικανίδα ακαδημαϊκό, αυτή η λογική δεν αφορά πλέον μόνο τις μηχανές αναζήτησης ή τα μέσα κοινωνικής δικτύωσης, αλλά σχεδόν κάθε ψηφιακή υπηρεσία, από τις ηλεκτρονικές αγορές μέχρι τις εφαρμογές πλοήγησης και τις έξυπνες συσκευές.

Δημοκρατία, παραπληροφόρηση και η νέα εποχή της τεχνητής νοημοσύνης

Ένα από τα βασικά επιχειρήματα της Ζούμποφ είναι ότι οι συνέπειες του καπιταλισμού της επιτήρησης δεν είναι μόνο οικονομικές, αλλά και βαθιά πολιτικές. Υποστηρίζει ότι η εμπορική λογική των μεγάλων ψηφιακών πλατφορμών έχει επηρεάσει τον τρόπο με τον οποίο λειτουργεί η δημόσια σφαίρα, καθώς οι αλγόριθμοι ευνοούν περιεχόμενο που προκαλεί έντονες αντιδράσεις και αυξάνει την αλληλεπίδραση των χρηστών.

Μέσα σε αυτό το περιβάλλον, η παραπληροφόρηση, οι θεωρίες συνωμοσίας και το ακραίο ή πολωτικό περιεχόμενο μπορούν να διαδίδονται ταχύτερα από την τεκμηριωμένη ενημέρωση. Όχι επειδή οι πλατφόρμες επιδιώκουν απαραίτητα ένα πολιτικό αποτέλεσμα, αλλά επειδή αυτού του είδους το περιεχόμενο διατηρεί περισσότερο το ενδιαφέρον των χρηστών, αυξάνοντας τον χρόνο παραμονής τους στις υπηρεσίες και, κατά συνέπεια, την παραγωγή πολύτιμων δεδομένων.

Κατά τη Ζούμποφ, το οικονομικό συμφέρον των ψηφιακών πλατφορμών δεν συμβαδίζει πάντα με την ποιότητα του δημόσιου διαλόγου. Για τον λόγο αυτό θεωρεί ότι η αντιμετώπιση της παραπληροφόρησης δεν αρκεί να επικεντρώνεται μόνο στο περιεχόμενο, αλλά πρέπει να εξετάζει και τα επιχειρηματικά κίνητρα πάνω στα οποία στηρίζεται η λειτουργία της ψηφιακής οικονομίας.

Η τεχνητή νοημοσύνη ως συνέχεια του ίδιου μοντέλου

Η Ζούμποφ θεωρεί ότι η έκρηξη της γενετικής τεχνητής νοημοσύνης δεν σηματοδοτεί μια εντελώς νέα εποχή, αλλά αποτελεί φυσική συνέχεια του καπιταλισμού της επιτήρησης. Όπως η Google αξιοποίησε τα δεδομένα των χρηστών για να προβλέπει τη συμπεριφορά τους, έτσι και οι σημερινές εταιρείες τεχνητής νοημοσύνης βασίζονται σε τεράστιες ποσότητες ψηφιακού περιεχομένου για την εκπαίδευση των μοντέλων τους.

Βιβλία, άρθρα, φωτογραφίες, βίντεο, ηχογραφήσεις και αναρτήσεις στα μέσα κοινωνικής δικτύωσης χρησιμοποιούνται ως πρώτη ύλη για την ανάπτυξη ολοένα ισχυρότερων συστημάτων AI. Αυτό έχει προκαλέσει αντιδράσεις από συγγραφείς, καλλιτέχνες, εκδότες και δημιουργούς, οι οποίοι υποστηρίζουν ότι το έργο τους χρησιμοποιείται χωρίς σαφή συναίνεση ή επαρκή αποζημίωση.

Για τη Ζούμποφ, όμως, το ζήτημα δεν περιορίζεται στα πνευματικά δικαιώματα. Το ουσιαστικό ερώτημα είναι ποιος ελέγχει τη γνώση που παράγουν οι κοινωνίες και πώς αυτή μετατρέπεται σε οικονομική και πολιτική ισχύ. Όταν λίγες ιδιωτικές εταιρείες συγκεντρώνουν τεράστιους όγκους δεδομένων και διαθέτουν την απαραίτητη υπολογιστική ισχύ για να τους αξιοποιήσουν, αποκτούν ένα πλεονέκτημα που δύσκολα μπορεί να αμφισβητηθεί.

Γιατί η Ευρωπαϊκή Ένωση βρίσκεται στο επίκεντρο

Παρά τη σκληρή κριτική της στις μεγάλες τεχνολογικές εταιρείες, η Ζούμποφ θεωρεί ότι η Ευρωπαϊκή Ένωση αποτελεί τη σημαντικότερη δύναμη που επιχειρεί να θέσει όρια στην ανεξέλεγκτη ανάπτυξη της ψηφιακής οικονομίας. Όπως επισημαίνει, η ΕΕ έχει διαμορφώσει ένα ολοκληρωμένο νομοθετικό πλαίσιο για την προστασία των προσωπικών δεδομένων, τη λογοδοσία των ψηφιακών πλατφορμών και τη ρύθμιση της τεχνητής νοημοσύνης.

Ο GDPR αποτέλεσε το πρώτο καθοριστικό βήμα, ενώ ακολούθησαν κανονισμοί που ενισχύουν τον έλεγχο των μεγάλων πλατφορμών και, πιο πρόσφατα, ο AI Act, ο οποίος θεσπίζει ενιαίους κανόνες για την ανάπτυξη και τη χρήση συστημάτων τεχνητής νοημοσύνης ανάλογα με τον βαθμό κινδύνου τους. Κατά τη Ζούμποφ, η επιρροή αυτών των νομοθεσιών ξεπερνά τα ευρωπαϊκά σύνορα, καθώς αναγκάζει τους παγκόσμιους τεχνολογικούς κολοσσούς να προσαρμόζουν τις πρακτικές τους στο ευρωπαϊκό ρυθμιστικό πλαίσιο.

Η ανησυχία για την αλλαγή πορείας

Παράλληλα, η Αμερικανίδα ακαδημαϊκός εκφράζει έντονο προβληματισμό για το ενδεχόμενο η Ευρώπη να χαλαρώσει αυτή τη στρατηγική στο όνομα της ανταγωνιστικότητας απέναντι στις Ηνωμένες Πολιτείες και την Κίνα. Κατά την άποψή της, η συζήτηση δεν αφορά μια επιλογή ανάμεσα στην καινοτομία και τη ρύθμιση, αλλά δύο διαφορετικά μοντέλα ψηφιακής ανάπτυξης: το ένα δίνει προτεραιότητα στην προστασία των δικαιωμάτων των πολιτών και το άλλο στη συνεχή επέκταση της συλλογής και εμπορικής αξιοποίησης των δεδομένων.

Η ίδια υποστηρίζει ότι η τεχνολογική πρόοδος δεν προϋποθέτει την εγκατάλειψη των δημοκρατικών αρχών. Αντίθετα, πιστεύει ότι η καινοτομία μπορεί να συμβαδίσει με τη διαφάνεια, τη λογοδοσία και τον σεβασμό της ιδιωτικότητας, αρκεί να υπάρχουν σαφείς και αποτελεσματικοί κανόνες.

Η δημοκρατία απέναντι στη συγκέντρωση ψηφιακής ισχύος

Στον πυρήνα της σκέψης της Σοσάνα Ζούμποφ βρίσκεται η πεποίθηση ότι η μεγαλύτερη πρόκληση της ψηφιακής εποχής δεν είναι η ίδια η τεχνολογία, αλλά η πρωτοφανής συγκέντρωση εξουσίας σε λίγες ιδιωτικές εταιρείες. Οι μεγάλες πλατφόρμες, υποστηρίζει, δεν λειτουργούν πλέον μόνο ως πάροχοι υπηρεσιών, αλλά επηρεάζουν τον τρόπο με τον οποίο οι άνθρωποι ενημερώνονται, επικοινωνούν, καταναλώνουν, εργάζονται και συμμετέχουν στη δημόσια ζωή.

Η ισχύς τους δεν πηγάζει μόνο από το οικονομικό τους μέγεθος, αλλά κυρίως από την ασύμμετρη πρόσβαση στις πληροφορίες. Όσο περισσότερα γνωρίζουν για τους χρήστες τους, τόσο μεγαλύτερη δυνατότητα έχουν να προβλέπουν τις ανάγκες και τις επιλογές τους και να διαμορφώνουν τις υπηρεσίες τους ανάλογα. Αντίθετα, οι πολίτες γνωρίζουν ελάχιστα για τον τρόπο λειτουργίας των αλγορίθμων που καθορίζουν τι βλέπουν στις οθόνες τους. Αυτή η έλλειψη διαφάνειας, σύμφωνα με τη Ζούμποφ, δημιουργεί μια πρωτοφανή ανισορροπία ισχύος ανάμεσα στις τεχνολογικές εταιρείες και την κοινωνία.

Η άνοδος του αυταρχισμού

Η Ζούμποφ δεν θεωρεί ότι οι ψηφιακές πλατφόρμες ευθύνονται αποκλειστικά για την υποχώρηση της δημοκρατίας διεθνώς. Υποστηρίζει, όμως, ότι συνέβαλαν στη δημιουργία ενός περιβάλλοντος όπου η παραπληροφόρηση, η πόλωση και η πολιτική χειραγώγηση μπορούν να εξαπλώνονται ευκολότερα.

Η δυνατότητα μαζικής στόχευσης συγκεκριμένων ομάδων πολιτών, η προσωποποιημένη διαφήμιση και η ενίσχυση περιεχομένου που προκαλεί έντονες συναισθηματικές αντιδράσεις δημιουργούν, κατά την άποψή της, σοβαρές προκλήσεις για τη λειτουργία των δημοκρατικών θεσμών. Οι αλγόριθμοι δεν αξιολογούν αν ένα μήνυμα είναι αληθινό ή ψευδές· προωθούν εκείνο που είναι πιθανότερο να αυξήσει την αλληλεπίδραση των χρηστών, ακόμη κι αν αυτό έχει αρνητικές συνέπειες για τον δημόσιο διάλογο.

Η Αμερικανίδα ακαδημαϊκός εκτιμά ότι η τεχνητή νοημοσύνη ενισχύει περαιτέρω αυτές τις προκλήσεις. Η δυνατότητα παραγωγής εξαιρετικά πειστικών κειμένων, εικόνων, βίντεο και φωνών αυξάνει τον κίνδυνο παραπλάνησης, καθιστώντας ακόμη πιο αναγκαία την ύπαρξη αποτελεσματικών θεσμών εποπτείας.

Η τεχνολογία δεν είναι ο εχθρός

Παρά την αυστηρή κριτική της, η Ζούμποφ δεν απορρίπτει την τεχνολογική πρόοδο. Αντίθετα, αναγνωρίζει ότι η τεχνητή νοημοσύνη μπορεί να συμβάλει σημαντικά στην επιστήμη, την ιατρική, την εκπαίδευση, την αντιμετώπιση της κλιματικής κρίσης και τη βελτίωση της καθημερινής ζωής.

Το κρίσιμο ζήτημα, όπως υποστηρίζει, είναι ποιος θέτει τους κανόνες ανάπτυξης αυτών των τεχνολογιών. Αν η εξέλιξή τους καθορίζεται αποκλειστικά από τα επιχειρηματικά συμφέροντα λίγων πολυεθνικών εταιρειών, οι κοινωνίες κινδυνεύουν να χάσουν τον έλεγχο μιας από τις σημαντικότερες τεχνολογικές μεταβάσεις της ιστορίας. Αντίθετα, όταν η ανάπτυξη της τεχνητής νοημοσύνης συνοδεύεται από διαφάνεια, λογοδοσία και δημοκρατικούς κανόνες, μπορεί να λειτουργήσει προς όφελος του συνόλου.

Για τον λόγο αυτό, η Ζούμποφ επιμένει ότι η συζήτηση για την τεχνητή νοημοσύνη δεν αφορά μόνο την τεχνολογία, αλλά κυρίως τις αξίες πάνω στις οποίες θα οικοδομηθεί η ψηφιακή κοινωνία των επόμενων δεκαετιών. Η προστασία της ιδιωτικότητας, η ελευθερία της έκφρασης, η λογοδοσία των ισχυρών και η διασφάλιση των δημοκρατικών δικαιωμάτων δεν αποτελούν εμπόδια στην καινοτομία, αλλά προϋποθέσεις για να υπηρετεί η τεχνολογία τον άνθρωπο.

Ένα διαφορετικό ψηφιακό μέλλον

Το βασικό μήνυμα της Σοσάνα Ζούμποφ είναι ότι ο καπιταλισμός της επιτήρησης δεν αποτελεί αναπόφευκτη εξέλιξη της τεχνολογίας. Πρόκειται για ένα μοντέλο που διαμορφώθηκε μέσα από συγκεκριμένες πολιτικές και οικονομικές επιλογές και, επομένως, μπορεί να αλλάξει.

Η ίδια θεωρεί ότι οι δημοκρατικές κοινωνίες βρίσκονται σήμερα μπροστά σε ένα κρίσιμο δίλημμα: είτε θα αποδεχθούν τη συνεχή συγκέντρωση ψηφιακής ισχύος στα χέρια λίγων εταιρειών είτε θα επιδιώξουν ένα διαφορετικό μοντέλο, όπου η καινοτομία θα συμβαδίζει με τον σεβασμό των θεμελιωδών δικαιωμάτων και των δημοκρατικών θεσμών.

Κατά τη Ζούμποφ, η μεγαλύτερη πρόκληση του 21ου αιώνα δεν είναι η ανάπτυξη ολοένα ισχυρότερων συστημάτων τεχνητής νοημοσύνης, αλλά η διασφάλιση ότι αυτά θα υπηρετούν το δημόσιο συμφέρον και όχι μόνο τα επιχειρηματικά συμφέροντα όσων τα αναπτύσσουν. Το μέλλον της ψηφιακής εποχής, καταλήγει, δεν θα κριθεί αποκλειστικά από τις τεχνολογικές δυνατότητες, αλλά από τις πολιτικές αποφάσεις που θα λάβουν οι δημοκρατικές κοινωνίες για το πώς θα ασκήσουν έλεγχο στη νέα ψηφιακή ισχύ.

Οι απόψεις της Ζούμποφ έχουν επηρεάσει σημαντικά τη διεθνή συζήτηση γύρω από την τεχνητή νοημοσύνη και τη ρύθμιση των ψηφιακών πλατφορμών, αν και δεν λείπουν οι διαφωνίες από άλλους ερευνητές και εκπροσώπους της τεχνολογικής βιομηχανίας.