Έρωτας στα χρόνια της… τεχνητής νοημοσύνης – Θα έκανες sexting με το ChatGPT;

Στο επίκεντρο μιας έντονης και πολωμένης συζήτησης βρίσκεται η OpenAI, καθώς προχωρά σχέδια για την εισαγωγή ερωτικού περιεχομένου στο ChatGPT, προκαλώντας αντιδράσεις ακόμη και από τους ίδιους της τους συμβούλους.

Τον Ιανουάριο, το επιλεγμένο συμβούλιο συμβούλων της εταιρείας για την ευημερία και την τεχνητή νοημοσύνη συναντήθηκε με εκπροσώπους της OpenAI για ενημέρωση σχετικά με το αμφιλεγόμενο «adult mode».

Επικαλούμενος την ανάγκη να «αντιμετωπίζονται οι ενήλικοι χρήστες ως ενήλικοι», ο διευθύνων σύμβουλος της OpenAI, Sam Altman, είχε από πέρυσι θέσει την ιδέα να επιτραπούν ερωτικές συνομιλίες στο chatbot ChatGPT και να αρθεί η απαγόρευση τέτοιου περιεχομένου.

Το σχέδιο προκάλεσε έντονη εσωτερική αντιπαράθεση σχετικά με τους πιθανούς κινδύνους. Μέλη του συμβουλίου, με υπόβαθρο σε τομείς όπως η ψυχολογία και η γνωστική νευροεπιστήμη, είχαν επίσης εκφράσει σοβαρές επιφυλάξεις, σύμφωνα με την Wall Street Journal.

Στη συνέχεια, η OpenAI προχώρησε σε μια αιφνιδιαστική ανακοίνωση: παρά τις ανησυχίες, προχωρά κανονικά με τα σχέδιά της για ερωτικό περιεχόμενο.

Ανησυχίες για την χρήση του

Όταν συγκεντρώθηκαν για τη συνάντηση του Ιανουαρίου, τα μέλη του συμβουλίου ήταν ομόφωνα — και εξοργισμένα. Προειδοποίησαν ότι η ερωτική χρήση της τεχνητής νοημοσύνης θα μπορούσε να ενισχύσει ανθυγιεινές συναισθηματικές εξαρτήσεις από το ChatGPT, ενώ ανήλικοι ενδέχεται να βρουν τρόπους πρόσβασης σε σεξουαλικές συνομιλίες, σύμφωνα με άτομα που γνωρίζουν το θέμα.

Τα ίδια άτομα ανέφεραν ότι ένα μέλος του συμβουλίου, επικαλούμενο περιπτώσεις όπου χρήστες του ChatGPT αυτοκτόνησαν αφού ανέπτυξαν έντονους δεσμούς με το σύστημα, υποστήριξε ότι η OpenAI κινδυνεύει να δημιουργήσει έναν «σέξι σύμβουλο αυτοκτονίας».

Ένα από τα ζητήματα που εξετάζει η εταιρεία είναι το νέο σύστημα πρόβλεψης ηλικίας, που στοχεύει να αποτρέπει την πρόσβαση ανηλίκων σε συνομιλίες ενηλίκου περιεχομένου. Σε κάποια φάση, το σύστημα αυτό κατηγοριοποιούσε εσφαλμένα ανηλίκους ως ενήλικες περίπου στο 12% των περιπτώσεων, γεγονός που θα μπορούσε να επιτρέψει σε εκατομμύρια από τους περίπου 100 εκατομμύρια χρήστες κάτω των 18 ετών κάθε εβδομάδα να έχουν πρόσβαση σε τέτοιες συνομιλίες.

Η εταιρεία έχει επίσης δυσκολευτεί να άρει τους περιορισμούς στο ερωτικό περιεχόμενο, διατηρώντας παράλληλα απαγορεύσεις σε σενάρια όπως αυτά που περιλαμβάνουν μη συναινετική συμπεριφορά ή σεξουαλική κακοποίηση ανηλίκων. Όταν τελικά κυκλοφορήσει το adult mode, η OpenAI σχεδιάζει να επιτρέψει μόνο γραπτές συνομιλίες, περιορίζοντας τη δυνατότητα παραγωγής ερωτικών εικόνων, φωνής ή βίντεο.

Οι κίνδυνοι

Ακόμη και με αυτούς τους περιορισμούς, εργαζόμενοι της OpenAI έχουν εντοπίσει αρκετούς κινδύνους, όπως η καταναγκαστική χρήση, η υπερβολική συναισθηματική εξάρτηση από το chatbot, η τάση προς πιο ακραίο ή ταμπού περιεχόμενο και η υποκατάσταση των διαπροσωπικών και ρομαντικών σχέσεων εκτός διαδικτύου, σύμφωνα με έγγραφα που εξέτασε η Wall Street Journal.

Εκπρόσωπος της OpenAI περιέγραψε το σχέδιο ως δυνατότητα δημιουργίας συνομιλιών με ενήλικο περιεχόμενο σε μορφή κειμένου, τονίζοντας ότι πρόκειται περισσότερο για «άσεμνο» υλικό παρά για πορνογραφία. Πρόσθεσε ότι οι αλγόριθμοι πρόβλεψης ηλικίας της εταιρείας έχουν απόδοση παρόμοια με εκείνη του υπόλοιπου κλάδου, αλλά δεν θα είναι ποτέ απολύτως αλάνθαστοι.

Η OpenAI εκπαιδεύει επίσης τα μοντέλα της ώστε να μην ενθαρρύνουν αποκλειστικές σχέσεις με τους χρήστες και να τους υπενθυμίζουν την ανάγκη για σχέσεις στον πραγματικό κόσμο, ανέφερε η ίδια.

Η εταιρεία, η οποία έχει προσλάβει ειδικούς ψυχικής υγείας και έχει δημιουργήσει ομάδα για την ευημερία των νέων, υποστηρίζει ότι διαθέτει ολοκληρωμένο σχέδιο παρακολούθησης των πιθανών μακροπρόθεσμων επιπτώσεων του adult mode, τόσο θετικών όσο και αρνητικών.

Τα σχέδια του Altman να προχωρήσει στην υλοποίηση του adult mode έρχονται σε μια δύσκολη περίοδο για την εταιρεία. Το τεχνολογικό της προβάδισμα έναντι ανταγωνιστών έχει μειωθεί, καθώς προσπαθεί να προσελκύσει χρήστες και χρηματοδότηση. Οι οικονομικές της απώλειες αυξάνονται, ενώ πολλαπλές αγωγές υποστηρίζουν ότι το ChatGPT συνέβαλε σε βλάβες για χρήστες και άλλους.