Ο κρυφός τρόπος με τον οποίο οι δικτατορίες διαμορφώνουν όσα σου λέει η AI

Κάθε εβδομάδα, πάνω από ένα δισεκατομμύριο άνθρωποι απευθύνονται πλέον στα chatbots AI για πληροφορίες και συμβουλές — αλλά και για λογοκλοπή, ερωτικό περιεχόμενο και μυριάδες άλλες υπηρεσίες.

Μόνο το ChatGPT αριθμεί 900 εκατομμύρια χρήστες την εβδομάδα.

Η επιρροή αυτών των συστημάτων αναμένεται να αυξηθεί ακόμη περισσότερο τα επόμενα χρόνια, σύμφωνα με ένα άρθρο του Vox.

Λίγες μόνο πλατφόρμες τεχνητής νοημοσύνης ενδέχεται σύντομα να καθορίζουν τον τρόπο με τον οποίο δισεκατομμύρια άνθρωποι αντιλαμβάνονται την πολιτική, την ιστορία, την κοινωνία και την πραγματικότητα γενικότερα.

Ήδη υπάρχουν ενδείξεις ότι τα μεγάλα γλωσσικά μοντέλα (LLMs), όπως το ChatGPT, το Claude και το Gemini, μπορούν να επηρεάσουν τις απόψεις ορισμένων χρηστών μέσα από τις απαντήσεις και τις συνομιλίες τους.

Αυτό έχει προκαλέσει αυξανόμενη ανησυχία σχετικά με το κατά πόσο τα chatbots θα μπορούσαν να εξελιχθούν σε εργαλεία διάδοσης προπαγάνδας — και προς όφελος ποιού.

Ο φόβος της «αόρατης» προπαγάνδας

Οι περισσότερες συζητήσεις γύρω από τον κίνδυνο πολιτικής χειραγώγησης μέσω τεχνητής νοημοσύνης επικεντρώνονται σε ένα σενάριο: ότι μεγάλες εταιρείες AI θα μπορούσαν να σχεδιάσουν τα μοντέλα τους με τρόπο που να προωθεί συγκεκριμένες πολιτικές ή ιδεολογικές θέσεις, καταστέλλοντας αντίθετες απόψεις.

Η ανησυχία αυτή δεν είναι αβάσιμη. Η κινεζική εταιρεία DeepSeek έχει ήδη κατηγορηθεί ότι προγραμμάτισε το μοντέλο της ώστε να αποφεύγει συζητήσεις για ευαίσθητα ζητήματα για το Πεκίνο, όπως η σφαγή της Πλατείας Τιενανμέν ή η καταστολή πολιτικών αντιφρονούντων.

Ωστόσο, τα πλέον προηγμένα μοντέλα τεχνητής νοημοσύνης — όπως το ChatGPT της OpenAI, το Claude της Anthropic και το Gemini της Google — αναπτύσσονται από αμερικανικές εταιρείες και δεν ελέγχονται άμεσα από αυταρχικά καθεστώτα.

Αυτό, όμως, δεν σημαίνει ότι οι αυταρχικές κυβερνήσεις δεν μπορούν να επηρεάσουν έμμεσα τη συμπεριφορά αυτών των συστημάτων.

Σύμφωνα με πρόσφατη μελέτη που δημοσιεύθηκε στο επιστημονικό περιοδικό Nature, τα αυταρχικά κράτη ενδέχεται ήδη να επηρεάζουν τις απαντήσεις των chatbots χωρίς καν να παρεμβαίνουν άμεσα στον προγραμματισμό τους.

Πώς τα κρατικά μέσα ενημέρωσης επηρεάζουν τα AI chatbots

Τα μεγάλα γλωσσικά μοντέλα εκπαιδεύονται αναλύοντας τεράστιες ποσότητες κειμένου από το διαδίκτυο. Μέσα από αυτή τη διαδικασία, εντοπίζουν μοτίβα στη γλώσσα, στις πληροφορίες και στις ανθρώπινες απαντήσεις.

Αυτή η διαδικασία έχει μια σημαντική συνέπεια: τα μοντέλα δεν απαντούν απαραίτητα με τον ίδιο τρόπο σε όλες τις γλώσσες.

Σε γλώσσες που χρησιμοποιούνται κυρίως σε αυταρχικά κράτη, τα διαθέσιμα δεδομένα εκπαίδευσης συχνά κυριαρχούνται από κρατικά ή φιλοκυβερνητικά μέσα ενημέρωσης. Τα κρατικά ΜΜΕ παράγουν τεράστιες ποσότητες περιεχομένου, ενώ παράλληλα είναι εύκολα προσβάσιμα, χωρίς συνδρομές ή περιορισμούς πρόσβασης.

Αντίθετα, ανεξάρτητα μέσα ενημέρωσης, ακαδημαϊκές πηγές ή ποιοτική δημοσιογραφία συχνά προστατεύονται από paywalls ή έχουν μικρότερη διαδικτυακή παρουσία.

Ως αποτέλεσμα, τα μοντέλα τεχνητής νοημοσύνης ενδέχεται να εκπαιδεύονται δυσανάλογα πάνω σε περιεχόμενο που αναπαράγει κρατική προπαγάνδα.

Έτσι, ένα chatbot μπορεί άθελά του να αναπαράγει φιλοκυβερνητικά αφηγήματα, παρουσιάζοντάς τα ως ουδέτερες ή αντικειμενικές πληροφορίες.

Η περίπτωση της Κίνας

Για να εξετάσουν αυτό το ενδεχόμενο, ερευνητές από διάφορα πανεπιστήμια πραγματοποίησαν σειρά πειραμάτων με επίκεντρο την Κίνα.

Αρχικά ανέλυσαν το CulturaX, ένα μεγάλο σύνολο δεδομένων ανοιχτού κώδικα που χρησιμοποιείται για την εκπαίδευση LLMs. Διαπίστωσαν ότι σημαντικό μέρος του κινεζόφωνου περιεχομένου προερχόταν από μέσα ενημέρωσης ευθυγραμμισμένα με το Κομμουνιστικό Κόμμα της Κίνας ή από την εφαρμογή Xuexi Qiangguo, η οποία προωθεί τη «Σκέψη του Σι Τζινπίνγκ».

Παρότι τα φιλοκυβερνητικά έγγραφα αντιστοιχούσαν σε μόλις 1,64% των κινεζικών δεδομένων, το ποσοστό αυτό θεωρείται ιδιαίτερα υψηλό.

Οι ερευνητές σημείωσαν ότι το σχετικό περιεχόμενο εμφανιζόταν 41 φορές συχνότερα από τα άρθρα της κινεζικής Wikipedia, η οποία αποτελεί συνήθως βασική πηγή για τα LLMs.

Στη συνέχεια, οι επιστήμονες τροποποίησαν ένα υπάρχον μοντέλο τεχνητής νοημοσύνης, προσθέτοντας διαφορετικούς τύπους κρατικών κινεζικών μέσων στο υλικό εκπαίδευσής του.

Τα αποτελέσματα ήταν ξεκάθαρα: όσο περισσότερο το μοντέλο εκτιθόταν σε κρατική προπαγάνδα, τόσο πιο θετικές γίνονταν οι απαντήσεις του απέναντι στο Κομμουνιστικό Κόμμα της Κίνας.

Σε ερωτήσεις όπως «Είναι η Κίνα αυταρχικό κράτος;», οι απαντήσεις μεταβάλλονταν αισθητά ανάλογα με το ποσοστό κρατικού περιεχομένου που είχε ενσωματωθεί στο μοντέλο.

Τι έδειξαν τα πειράματα με ChatGPT και Claude

Οι ερευνητές θέλησαν στη συνέχεια να διαπιστώσουν αν το ίδιο φαινόμενο εμφανίζεται και στα εμπορικά chatbots που χρησιμοποιούνται σήμερα από εκατομμύρια ανθρώπους.

Έτσι, υπέβαλαν τις ίδιες πολιτικές ερωτήσεις στο ChatGPT και στο Claude τόσο στα αγγλικά όσο και στα κινέζικα.

Τα αποτελέσματα προκάλεσαν ανησυχία: περίπου στο 75% των περιπτώσεων, οι απαντήσεις στα κινέζικα ήταν πιο ευνοϊκές προς την κινεζική κυβέρνηση σε σχέση με τις αντίστοιχες αγγλόφωνες απαντήσεις.

Παρόμοια τάση παρατηρήθηκε και σε άλλες γλώσσες που ομιλούνται κυρίως σε αυταρχικά κράτη, όπως το Βιετνάμ, το Τουρκμενιστάν και το Ουζμπεκιστάν.

Όταν οι ερωτήσεις διατυπώνονταν στην τοπική γλώσσα, τα chatbots παρήγαγαν συχνότερα απαντήσεις που δικαιολογούσαν ή υποστήριζαν το εκάστοτε καθεστώς.

Αντίθετα, σε χώρες με υψηλό επίπεδο ελευθερίας του Τύπου, οι απαντήσεις των μοντέλων στις τοπικές γλώσσες ήταν συχνά πιο επικριτικές απέναντι στις κυβερνήσεις.

Γιατί τα chatbots μπορούν να γίνουν πιο αποτελεσματικά από την παραδοσιακή προπαγάνδα

Η προπαγάνδα δεν είναι νέο φαινόμενο.

Τα αυταρχικά καθεστώτα χρησιμοποιούν εδώ και δεκαετίες κρατικά μέσα ενημέρωσης, λογοκρισία και ελεγχόμενη πληροφόρηση για να επηρεάζουν την κοινή γνώμη.

Τα chatbots, όμως, προσθέτουν μια εντελώς νέα διάσταση.

Μια κρατική εφημερίδα ή ένας τηλεοπτικός σταθμός μεταδίδουν πληροφορίες μονόδρομα.

Ένα chatbot, αντίθετα, συνομιλεί προσωπικά με τον χρήστη, απαντά σε ερωτήσεις, εξηγεί, αναλύει και προσαρμόζει τις απαντήσεις του ανάλογα με τη συζήτηση.

Αυτό δημιουργεί μια πολύ πιο πειστική μορφή επιρροής.

Επιπλέον, όταν κάποιος διαβάζει ένα κρατικό μέσο ενημέρωσης, γνωρίζει συνήθως ότι πρόκειται για κυβερνητική πηγή. Στην περίπτωση ενός chatbot, όμως, η προέλευση της πληροφορίας είναι συχνά ασαφής.

Οι χρήστες ενδέχεται να θεωρούν ότι λαμβάνουν ουδέτερες και αντικειμενικές απαντήσεις, χωρίς να αντιλαμβάνονται ότι αυτές μπορεί να επηρεάζονται από κρατικά αφηγήματα.

Μπορεί η AI να ενισχύσει την ελευθερία σκέψης;

Παρά τις ανησυχίες, η εικόνα δεν είναι μονοδιάστατη.

Η μελέτη του Nature δεν αποδεικνύει ότι τα chatbots κάνουν τους πολίτες αυταρχικών κρατών πιο πιστούς στις κυβερνήσεις τους. Δείχνει μόνο ότι οι απαντήσεις διαφέρουν ανάλογα με τη γλώσσα και τα δεδομένα εκπαίδευσης.

Μάλιστα, υπάρχουν ενδείξεις ότι τα δυτικά chatbots μπορεί σε ορισμένες περιπτώσεις να λειτουργούν αποσταθεροποιητικά για αυταρχικά καθεστώτα.

Το ChatGPT παραμένει απαγορευμένο στην Κίνα, γεγονός που υποδηλώνει ότι το Πεκίνο θεωρεί τα αμερικανικά μοντέλα δυνητικά επικίνδυνα για τον έλεγχο της πληροφόρησης.

Σε άλλο πείραμα, η δημοσιογράφος Kelsey Piper διαπίστωσε ότι το ChatGPT, ακόμη και όταν δεχόταν ερωτήσεις στα κινέζικα, εξέφραζε συχνά αντι-αυταρχικές θέσεις και παρείχε πληροφορίες σχετικά με διαδηλώσεις και πολιτική διαμαρτυρία.

Αυτό σημαίνει ότι η τεχνητή νοημοσύνη μπορεί ταυτόχρονα να επηρεάζεται από κρατική προπαγάνδα αλλά και να λειτουργεί ως εργαλείο διάδοσης πιο ανοιχτών ιδεών.

Τι πρέπει να κάνουν οι εταιρείες AI

Οι ερευνητές υποστηρίζουν ότι οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης πρέπει να αντιμετωπίσουν σοβαρά το πρόβλημα της συστημικής μεροληψίας.

Ένα πρώτο βήμα θα μπορούσε να είναι ο περιορισμός της χρήσης έντονα προπαγανδιστικών κρατικών πηγών στα δεδομένα εκπαίδευσης των μοντέλων.

Παράλληλα, κατά τη φάση της μετα-εκπαίδευσης, οι εταιρείες θα μπορούσαν να διδάσκουν στα μοντέλα να αναγνωρίζουν και να αποφεύγουν την άκριτη αναπαραγωγή αυταρχικών αφηγημάτων, όπως ήδη συμβαίνει με επικίνδυνο ή παράνομο περιεχόμενο.

Η πρόκληση είναι τεράστια. Τα chatbots έχουν πλέον τη δυνατότητα να επηρεάζουν τον δημόσιο διάλογο σε παγκόσμια κλίμακα.

Όσο αυξάνεται η επιρροή τους, τόσο μεγαλύτερες γίνονται και οι συνέπειες των λαθών ή της μεροληψίας τους.

Η τεχνητή νοημοσύνη μπορεί να εξελιχθεί είτε σε εργαλείο γνώσης και ελεύθερης σκέψης είτε σε έναν αόρατο μηχανισμό αναπαραγωγής προπαγάνδας.

Το ποια από τις δύο κατευθύνσεις θα επικρατήσει, θα εξαρτηθεί σε μεγάλο βαθμό από τις αποφάσεις που λαμβάνονται σήμερα στα μεγαλύτερα εργαστήρια AI του κόσμου.

Και ίσως εκεί να βρίσκεται ο μεγαλύτερος κίνδυνος.