Σε ορισμένες γωνιές του διαδικτύου, εκεί όπου οι αλγόριθμοι ευνοούν το ακραίο και το προκλητικό, μια βρετανίδα μαθήτρια που δημιουργήθηκε από τεχνητή νοημοσύνη έχει εξελιχθεί σε ένα απρόσμενο φαινόμενο.

Το όνομά της είναι Amelia: μια «γκοθ κοπέλα» με μοβ μαλλιά, που κρατά περήφανα μια μικρή σημαία της Ένωσης και εκφράζει απόψεις με σαφή ρατσιστική χροιά.

Τα βίντεο τη δείχνουν να περπατά στο Λονδίνο ή μπροστά από το Κοινοβούλιο, να δηλώνει την αγάπη της για την Αγγλία και να προειδοποιεί για τους κινδύνους των «μουσουλμάνων τρομοκρατών» ή των «μεταναστών του τρίτου κόσμου».

Αν και το μήνυμα είναι γνώριμο από τα ακροδεξιά social media, αυτό που κάνει την Amelia ξεχωριστή είναι η προέλευσή της: πρόκειται για έναν χαρακτήρα που αρχικά δημιουργήθηκε στο πλαίσιο ενός παιχνιδιού κατά του εξτρεμισμού, χρηματοδοτούμενου από το Υπουργείο Εσωτερικών του Ηνωμένου Βασιλείου.

Η ειρωνεία είναι εμφανής: ένα εργαλείο σχεδιασμένο για να αποτρέπει τη ριζοσπαστικοποίηση των νέων, μετατράπηκε σε σύμβολο που τροφοδοτεί ακριβώς το αντίθετο.

Από εκπαιδευτικό παιχνίδι σε ανεξέλεγκτο εργαλείο

Σύμφψνα με τον Guardian, η Amelia εμφανίστηκε για πρώτη φορά στο παιχνίδι Pathways: Navigating the Internet and Extremism, ένα απλό παιχνίδι πολλαπλών επιλογών με βασικά κινούμενα γραφικά.

Οι παίκτες – νέοι ηλικίας 13 έως 18 ετών – αναλάμβαναν τον ρόλο χαρακτήρων σε ένα κολέγιο και καλούνταν να πάρουν αποφάσεις σε σενάρια που περιλάμβαναν, για παράδειγμα, το αν θα κατεβάσουν εξτρεμιστικό περιεχόμενο ή αν θα συμμετάσχουν σε συγκεντρώσεις που οργανώνονταν από «μικρές πολιτικές ομάδες» διαμαρτυρίας ενάντια στην «διάβρωση των βρετανικών αξιών».

Σε ορισμένες εκδοχές του παιχνιδιού, οι επιλογές οδηγούσαν ακόμη και σε παραπομπή στο πρόγραμμα καταπολέμησης της τρομοκρατίας Prevent της βρετανικής κυβέρνησης. Ο στόχος ήταν σαφής: να δείξει πώς φαινομενικά αθώες επιλογές στο διαδίκτυο μπορούν να οδηγήσουν σε πιο σκοτεινά μονοπάτια.

Κανείς, ωστόσο, δεν προέβλεψε ότι μια ανατροπή του χαρακτήρα της Amelia θα εξαπλωνόταν στα social media, μετατρέποντάς την σε όχημα ρατσιστικών και ακροδεξιών μηνυμάτων.

Η δύναμη της τεχνητής νοημοσύνης και των meme

Η σύγχρονη τεχνητή νοημοσύνη έκανε την Amelia «ατελείωτα προσαρμόσιμη».

Χρήστες με πρόσβαση σε mainstream chatbots – και ιδιαίτερα στο εργαλείο Grok AI – άρχισαν να δημιουργούν παραλλαγές της: σε στυλ μάνγκα, σε εκδοχή Wallace and Gromit, ακόμη και σε «συναντήσεις» με χαρακτήρες όπως ο Harry Potter.

Τα νέα αυτά κλιπ συνόδευαν ρατσιστική γλώσσα και ακροδεξιά μηνύματα, μετατρέποντας την Amelia σε ένα είδος ψηφιακής μασκότ μίσους.

Η διάδοση υπήρξε εκρηκτική. Σύμφωνα με ανάλυση της Peryton Intelligence, ένας ανώνυμος λογαριασμός στο X, γνωστός για τη διάδοση ακροδεξιών αφηγημάτων, ξεκίνησε το meme στις 9 Ιανουαρίου.

Η αρχική ανάρτηση προβλήθηκε 1,4 εκατομμύρια φορές.

Μέσα σε λίγες ημέρες, ο όγκος των «Ameliaposting» εκτοξεύθηκε: από περίπου 500 αναρτήσεις την ημέρα σε σχεδόν 10.000, όταν το meme έφτασε στο διεθνές κοινό. Σε μία μόνο ημέρα καταγράφηκαν πάνω από 11.000 σχετικές αναρτήσεις στο X.

Όταν το μίσος γίνεται εμπόρευμα

Σε μια από τις πιο σουρεαλιστικές εξελίξεις, εμφανίστηκε ακόμη και ένα κρυπτονόμισμα με το όνομα Amelia. Χρήστες των social media προσπάθησαν να εκμεταλλευτούν τη δημοτικότητα του meme για να αυξήσουν τεχνητά την αξία του.

Ο ίδιος ο Έλον Μασκ αναδημοσίευσε έναν λογαριασμό που προωθούσε το συγκεκριμένο meme coin, δίνοντας περαιτέρω ώθηση στο φαινόμενο.

Ο Ματέο Μπεργκαμίνι, ιδρυτής και διευθύνων σύμβουλος της Shout Out UK – της εταιρείας που δημιούργησε το αρχικό παιχνίδι – μίλησε για «εμπορευματοποίηση του μίσους».

Όπως αποκάλυψε, ομάδες στο Telegram αντάλλασσαν μηνύματα ακόμη και στα κινέζικα, συζητώντας πώς θα «φουσκώσουν» την αξία του νομίσματος για γρήγορα κέρδη.

Η ίδια η εταιρεία έγινε στόχος μηνυμάτων μίσους και απειλών, που έχουν πλέον αναφερθεί στην αστυνομία.

Οι ακούσιες παρενέργειες μιας καλής πρόθεσης

Ο Μπεργκαμίνι επισημαίνει ότι το παιχνίδι Pathways δεν προοριζόταν ποτέ να λειτουργήσει αποκομμένο από εκπαιδευτικό πλαίσιο. Ήταν σχεδιασμένο για χρήση στις αίθουσες διδασκαλίας, συνοδευόμενο από εκπαιδευτικούς πόρους και συζητήσεις. Αυτό το στοιχείο, όπως λέει, αγνοήθηκε σε μεγάλο βαθμό από τα σχόλια και την κάλυψη στα μέσα.

«Δυστυχώς, υπήρξαν πολλές παραποιήσεις», ανέφερε.

«Το παιχνίδι δεν δηλώνει ότι η αμφισβήτηση της μαζικής μετανάστευσης είναι εγγενώς λάθος».

Παρ’ όλα αυτά, ορισμένοι κριτικοί υποστήριξαν ότι η παρουσίαση μιας «χαριτωμένης γκοθ κοπέλας» ως αρνητικού χαρακτήρα είχε το αντίθετο αποτέλεσμα, κάνοντάς την αντικείμενο θαυμασμού.

Ο Μπεργκαμίνι αντιτείνει ότι το παιχνίδι αναπτύχθηκε με βάση σχόλια νέων από ομάδες εστίασης και συνέχισε να λαμβάνει θετικά σχόλια από σχολεία. Όμως, η ταχύτητα και η πολυπλοκότητα με την οποία οι ανατρεπτικές εκδοχές της Amelia εξαπλώθηκαν στο διαδίκτυο τον εξέπληξαν.

Ένα οικοσύστημα μίσους με διεθνή διάσταση

Ο Σίντχαρθ Βενκαταραμακρισνάν,, αναλυτής στο Ινστιτούτο Στρατηγικού Διαλόγου (ISD), σημειώνει ότι το meme έχει αποκτήσει διεθνή διάσταση.

«Έχει πολλαπλασιαστεί με εντυπωσιακό τρόπο, όχι μόνο στην ακροδεξιά αλλά και πέρα από αυτήν», δήλωσε.

Κατά την ανάλυσή του, η Amelia αγγίζει μια ιδιαίτερη κατηγορία χρηστών: «διαφωνούντες» ακροδεξιούς, shitposters που απλώς θέλουν να προκαλέσουν, αλλά και άτομα που ελκύονται από το ειρωνικό ύφος των meme.

Το κοινό στο οποίο απευθύνεται είναι σχεδόν αποκλειστικά νεαροί άνδρες, ενώ οι σεξουαλικοποίηση του χαρακτήρα παίζουν επίσης ρόλο στη διάδοση.

Το μέλλον τον διαδικτυακών πρωτοβουλιών

Το Υπουργείο Εσωτερικών υποστηρίζει ότι το πρόγραμμα Prevent έχει απομακρύνει σχεδόν 6.000 άτομα από βίαιες ιδεολογίες.

Προγράμματα όπως το Pathways, τονίζει, σχεδιάστηκαν για να αντιμετωπίζουν τοπικούς κινδύνους ριζοσπαστικοποίησης και υλοποιήθηκαν ανεξάρτητα από την κυβέρνηση.

Ωστόσο, η υπόθεση της Amelia εγείρει κρίσιμα ερωτήματα: πώς μπορούν τα εκπαιδευτικά εργαλεία να προστατευτούν από την κακόβουλη επαναχρησιμοποίηση;

Και πώς μπορεί η τεχνητή νοημοσύνη – με την απεριόριστη δυνατότητα αναπαραγωγής και παραλλαγής – να ρυθμιστεί ώστε να μη γίνεται όχημα μίσους;

Ειδήσεις Σήμερα: