Αγωγή κατά της OpenAI υπέβαλαν στην Καλιφόρνια οι γονείς ενός 19χρονου που ακολούθησε τις συμβουλές του ChatGPT και πέθανε από υπερβολική δόση ναρκωτικών.

Είναι τουλάχιστον η δεύτερη φορά που η εταιρεία τεχνητής νοημοσύνης κατηγορείται για τον θάνατο νέου, μετά την αγωγή που υπέβαλαν οι γονείς ενός εφήβου που συμβουλεύτηκε το ChatGPΤ για το πώς θα αυτοκτονούσε.

Στη νέα υπόθεση, ο Άνγκους Σκοτ και η Λέιλα Τέρνερ-Σκοτ υποστηρίζουν ότι ο γιος τους, Σαμ Νέλσον, ζήτησε συμβουλές από το chatbot για τον συνδυασμό διαφορετικών ουσιών.

Το ChatGPT φέρεται να τον ενθάρρυνε να πάρει το αχολυτικό φάρμακο αλπραζολάμη προκειμένου να αντιμετωπίσει τη ναυτία που του προκάλεσε το φυτικό ναρκωτικό κράτομ, το οποίο έχει δράση παρόμοια με των οπιοειδών.

Ο συνδυασμός των ουσιών αυτών με αλκοόλ προκάλεσε τον θάνατο του Νέλσον τον Μάιο του 2025, σύμφωνα με την αγωγή που κατατέθηκε σε πολιτειακό εργαστήριο του Σαν Φρανσίσκο. Οι γονείς δεν στρέφονται μόνο κατά της OpenAI αλλά και κατά του επικεφαλής της Σαμ Άλτμαν.

Οι γονείς του Νέλσον αξιώνουν τώρα οικονομική αποζημίωση, της οποίας το ύψος δεν διευκρινίστηκε, και ζητούν από το δικαστήριο να εμποδίσει το λανσάρισμα του ChatGPT Health, υπηρεσίας που επιτρέπει στους χρήστες να ανεβάζουν τα αποτελέσματα ιατρικών εξετάσεων και να λαμβάνουν συμβουλές υγείας.

Προηγούμενη βερσιόν

Η υπηρεσία ανακοινώθηκε τον Ιανουάριο και παραμένει διαθέσιμη μόνο με λίστα προτεραιότητας. Έκθεση της OpenAI τον Ιανουάριο ανέφερε ότι περίπου 40 εκατομμύρια χρήστες την ημέρα ζητούν από το ChatGPT συμβουλές για θέματα υγείας.

O εκπρόσωπος της OpenAI Ντρου Πουσατέρι εξέφρασε τη θλίψη του για τον θάνατο του Νέλσον και επισήμανε ότι ο νεαρός είχε χρησιμοποιήσει μια παλαιότερη έκδοση του chatbot που πλέον έχει αποσυρθεί.

Η εταιρεία καταβάλλει συνεχείς προσπάθειες για τη βελτίωση της ασφάλειας του μοντέλου της, είπε ο εκπρόσωπος.

«Το ChatGPT δεν υποκαθιστά την ιατρική ή ψυχική φροντίδα υγείας. Συνεχίζουμε να ενισχύουμε τον τρόπο με τον οποίο ανταποκρίνεται σε ευαίσθητες και οξείες καταστάσεις με τη συμβολή ειδικών ψυχικής υγείας» δήλωσε ο Πουσεράτι.

«Οι σημερινές δικλείδες ασφαλείας του ChatGPT έχουν σχεδιαστεί ώστε να εντοπίζουν την ψυχική δυσφορία, να διαχειρίζονται με ασφάλεια επιβλαβή αιτήματα και να καθοδηγούν τους χρήστες ώστε να λάβουν βοήθεια στον πραγματικό κόσμο».

Οι εταιρείες τεχνητής νοημοσύνης αντιμετωπίζουν ένα κύμα προσφυγών κατηγορούμενες ότι απέτυχαν να εμποδίζουν συζητήσεις που φέρονται9 να προκάλεσαν ψυχικές διαταραχές, αυτοτραυματισμούς ή εξάρσεις βίας.

Σύμφωνα με τη νέα αγωγή, το ChatGPT αρχικά αρνήθηκε να προσφέρει στον Νέλσον πληροφορίες για τη χρήση ναρκωτικών.

Αυτό άλλαξε το 2024, όταν η OpenAI λάνσαρε το ChatGPT-4o, το οποίο προσέφερε πληροφορίες για τις αλληλεπιδράσεις ουσιών με γλώσσα που παρέπεμπε σε γιατρό, σύμφωνα με την αγωγή.

Το chatbot είπε στον Νέλσον πώς να προμηθευτεί παράνομες ουσίες, τον συμβούλευσε να πάρει τα κατάλληλα ναρκωτικά για να πετύχει το αποτέλεσμα που επιθυμούσε.

Οι γονείς του Νέλσον κατηγορούν την OpenAI ότι δεν πραγματοποίησε επαρκείς ελέγχους ασφάλειας βιάστηκε να λανσάρει το ChatGPT-4o για να μην μείνει πίσω από ανταγωνιστές της όπως η Anthropic.

Υποστηρίζουν ότι η εταιρεία σχεδίασε ένα ελαττωματικό προϊόν και δεν προειδοποίησε τους χρήστες για τους κινδύνους. Επικαλούνται μάλιστα νόμο της Καλιφόρνια που εμποδίζει τις εταιρείες ΑΙ να υπερασπίζονται τον εαυτό τους στα δικαστήρια υποστηρίζοντας ότι τα chatbot τους λειτούργησαν αυτόνομα.

«Στην Καλιφόρνια», γράφει το κείμενο της αγωγής, «εφόσον οι ενάγοντες αποδείξουν ότι υπέστησαν βλάβη από προϊόν τεχνητής νοημοσύνης των εναγομένων, τότε οι εναγόμενοι θα φέρουν ευθύνη για αυτή τη βλάβη, ανεξάρτητα από το πόσο έξυπνο, ανεξάρτητο, εκούσιο, κακόβουλο, ανεξέλεγκτο, επαναστατικό, ελευθεριάζον, στοχαστικό ή αυτόνομο μπορεί να είναι το δημιούργημα που έφεραν στον κόσμο».

Ειδήσεις Σήμερα: