H Meta στο εδώλιο: Ο Μαρκ Ζάκερμπεργκ φέρεται να ενέκρινε τις ερωτικές συζητήσεις ανηλίκων με chatbot

Ο διευθύνων σύμβουλος της Meta Platforms Μαρκ Ζάκερμπεργκ απέρριψε τις προειδοποιήσεις στελεχών του για τις σεξουαλικές συζητήσεις ανηλίκων με τα chatbot της εταιρείας, αποκαλύπτουν εσωτερικά έγγραφα που κατατέθηκαν σε αμερικανικό δικαστήριο.

Στη δίκη που αναμένεται να ξεκινήσει τον ερχόμενο μήνα, ο γενικός εισαγγελέας του Νιου Μέξικο υποστηρίζει ότι η Meta «απέτυχε να αναχαιτίσει το κύμα επιβλαβούς σεξουαλικού περιεχομένου και σεξουαλικών προτάσεων που απευθύνονται σε παιδιά» στο Facebook και το Instagram.

Τα εσωτερικά έγγραφα που υπέβαλε στο δικαστήριο ο εισαγγελέας έρχονται στη δημοσιότητα λίγο αφότου η Meta ανακοίνωσε ότι παγώνει την πρόσβαση εφήβων σε χαρακτήρες ΑΙ, μέχρι να αναβαθμίσει τα μοντέλα της.

Νωρίτερα, η Meta είχε ανακοινώσει ότι οι αλληλεπιδράσεις των chatbot με ανηλίκους θα κρίνονται με βάση το σύστημα PG-13 για τις ακατάλληλες ταινίες στον αμερικανικό κινηματογράφο.

Είχε προηγηθεί η αποκάλυψη του Reuters ότι οι κανόνες της Meta επέτρεπαν σε εικονικούς χαρακτήρες ΑΙ να έχουν «ρομαντικές ή αισθησιακές» συζητήσεις με παιδιά και εφήβους, αλλά και η αποκάλυψη της Wall Street Journal για τη σεξουαλική συμπεριφορά ανήλικων εικονικών χαρακτήρων της εταιρείας.

Η αποκάλυψη θορύβησε τις αμερικανικές αρχές. Τον Σεπτέμβριο, η Ομοσπονδιακή Επιτροπή Εμπορίου ξεκίνησε έρευνα για τις πιθανές επιπτώσεις των chatbot στα παιδιά.

«Απέρριψε τις συστάσεις»

Tα έγγραφα που υποβλήθηκαν αυτή την εβδομάδα στο δικαστήριο του Νιου Μέξικο περιλαμβάνουν μηνύματα και email της εταιρείας, τα οποία, όπως υποστηρίζει ο εισαγγελέας, δείχνουν πως «η Meta, καθοδηγούμενη από τον Ζάκερμπεργκ, απέρριψε τις συστάσεις του προσωπικού ακεραιότητας και αρνήθηκε να επιβάλει εύλογες δικλίδες ασφαλείας ώστε να αποτρέψει τα παιδιά από το να εκτίθενται σε συνομιλίες σεξουαλικής εκμετάλλευσης με τα chatbot τεχνητής νοημοσύνης».

Στα έγγραφα, στελέχη της Meta εκφράζουν διαφωνίες με την ανάπτυξη chatbot συντροφιάς, τα οποία προσφέρουν μεταξύ άλλων ρομαντικές και σεξουαλικές αλληλεπιδράσεις με τους χρήστες. Τα chatbot κυκλοφόρησαν στις αρχές του 20254. Τα έγγραφα δεν περιλαμβάνουν μηνύματα που έστειλε ο ίδιος ο Ζάκερμπεργκ, αναφέρει το Reuters.

Εκπρόσωπος της Meta υποστήριξε ότι η εικόνα που παρουσιάζεται στην προσφυγή είναι ανακριβής και βασίστηκε σε επιλεκτικές πληροφορίες. «Είναι ένα ακόμα παράδειγμα του πώς ο γενικός εισαγγελέας του Νιου Μέξικο διαλέγει έγγραφα επιλεκτικά προκειμένου να παρουσιάσει μια εσφαλμένη και ανακριβή εικόνα» είπε.

Τα έγγραφα περιέχουν αντικρουόμενες αναφορές για τη στάση του Μαρκ Ζάκερμεργκ (Reuters)

Ανήλικα ερωτικά chatbot

Τα μηνύματα δείχνουν ακόμα ότι μέλη της ομάδας ασφάλειας της Meta εξέφρασαν ανησυχίες για τις αλληλεπιδράσεις ενήλικων χρηστών με ανήλικους εικονικούς χαρακτήρες.

«Δεν πιστεύω ότι η δημιουργία και προώθηση ενός προϊόντος που δημιουργεί χαρακτήρες ΑΙ κάτω των 18 ετών είναι συνετή ή υπερασπίσιμη» έγραφε τον Ιανουάριο του 2024 ο Ράβι Σίνχα, επικεφαλής πολιτικής για την ασφάλεια παιδιών.

Απαντώντας στο μήνυμα, η Αντιγόνη Ντέιβις, επικεφαλής ασφάλειας της Meta, συμφώνησε ότι η ομάδα της έπρεπε να πιέσει για το μπλοκάρισμα της δημιουργίας ανήλικων ερωτικών συντρόφων επειδή αυτό «σεξουαλικοποιεί τους ανήλικους».

Ο Σίνχα και η Ντέιβις δεν απάντησαν σε αίτημα του Reuters για σχόλιο.

Σύμφωνα με μήνυμα του Φεβρουαρίου 2024, ένας εργαζόμενος της Meta, του οποίου το όνομα έχει αποκρυφθεί, μετέφερε ότι την άποψη του Ζάκερμπεργκ πως οι σύντροφοι ΑΙ δεν πρέπει να εμπλέκονται σε σεξουαλικές συνομιλίες, τουλάχιστον με μικρότερους εφήβους, και ότι οι ενήλικες δεν πρέπει να αλληλεπιδρούν με «AI κάτω των 18 για ρομαντικούς σκοπούς».

Σύμφωνα όμως με τη σύνοψη μιας συνάντησης με ημερομηνία 20 Φεβρουαρίου 2024, ο Ζάκερμπεργκ πίστευε πως «το αφήγημα θα πρέπει να διαμορφωθεί γύρω από … γενικές αρχές επιλογής και μη λογοκρισίας», ότι η Meta θα έπρεπε να είναι «λιγότερο περιοριστική από ό,τι προτείνεται» και ότι θα ήθελε να «επιτραπεί στους ενήλικες να εμπλέκονται σε πιο τολμηρές συνομιλίες σε θέματα όπως το σεξ».

Ο εκπρόσωπος της Meta υποστήριξε ότι τα έγγραφα δεν υποστηρίζουν τη θέση του εισαγγελέα. «Ακόμα και αυτά τα επιλεκτικά έγγραφα δείχνουν ξεκάθαρα ότι ο Μαρκ Ζάκερμπεργκ έδωσε την οδηγία ότι οι ερωτικές ΑΙ δεν πρέπει να είναι διαθέσιμες σε νεότερους χρήστες και ότι οι ενήλικοι δεν θα πρέπει να μπορούν να δημιουργούν ΑΙ κάτω των 18 για ρομαντικούς σκοπούς».

Επιπλέον, μηνύματα που αντάλλαξαν δύο υπάλληλοι τον Μάρτιο του 2024 αναφέρουν ότι ο Ζάκερμπεργκ είχε διαφωνήσει με τη δημιουργία εργαλείων γονικού ελέγχου, και ότι η Meta ανέπτυσσε «ρομαντικά chatbot τεχνητής νοημοσύνης» που θα ήταν διαθέσιμα σε ανηλίκους.

«Πιέσαμε για γονικούς ελέγχους ώστε να απενεργοποιείται η GenAI –όμως η ηγεσία της GenAI αντέδρασε δηλώνοντας ότι ήταν απόφαση του Μαρκ» έγραφε ο ένας εργαζόμενος.

Ο Νικ Κλεγκ, πρώην αναπληρωτής πρωθυπουργός της Βρετανίας που εργάστηκε ως επικεφαλής παγκόσμιας πολιτικής της Meta μέχρι τις αρχές του 2025, δήλωσε σε email που περιλαμβάνεται στα έγγραφα ότι η προσέγγιση της Meta στα σεξουαλικά chatbot δεν ήταν συνετή.

Ο Κλεγκ εξέφραζε μάλιστα την ανησυχία ότι οι σεξουαλικές αλληλεπιδράσεις θα ήταν ο κύριος τρόπος με τον οποίο οι ανήλικοι χρησιμοποιούν τους ερωτικούς συντρόφους. «Είναι πραγματικά αυτό για το οποίο θέλουμε να είναι γνωστά αυτά τα προϊόντα (χωρίς καν να λάβουμε υπόψη την αναπόφευκτη κοινωνική αντίδραση που θα ακολουθούσε);» έγραφε.

Το Reuters ανέφερε τον Αύγουστο ότι οι επίσημες κατευθυντήριες γραμμές της Meta για τα chatbot ανέφεραν πως είναι «αποδεκτό να εμπλέκεται ένα παιδί σε συνομιλίες που είναι ρομαντικές ή αισθησιακές».

Απαντώντας στο ρεπορτάζ, η Meta δήλωσε ότι αλλάζει τις πολιτικές της και ότι το εσωτερικό έγγραφο που παρείχε αυτή την έγκριση ήταν λανθασμένο.