Η OpenAI χρειάστηκε μια ολόκληρη εβδομάδα για να αντιληφθεί ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης είχε δραπετεύσει από το περιβάλλον δοκιμών της και είχε εισβάλει στα δίκτυα μιας άλλης εταιρείας.

Η «πρωτοφανής κυβερνοεπίθεση» στην πλατφόρμα προγραμματιστών Huffing Face, όπως χαρακτήρισε το περιστατικό η ίδια η OpenAI, παραπέμπει σε σενάρια επιστημονικής φαντασίας όπου οι άνθρωποι χάνουν τον έλεγχο της τεχνητής νοημοσύνης.

Εγείρει επίσης ερωτήματα για τις διαδικασίες ασφάλειας της OpenAI, δήλωσαν στο Reuters τρεις ειδικοί κυβερνοασφάλειας.

«To άφησαν άραγε χωρίς επίβλεψη και δεν κατάλαβαν τι έκανε; Ή μήπως το κατάλαβαν, αλλά δεν ήξεραν πώς να το περιορίσουν; Και τα δύο ενδεχόμενα είναι εξίσου επικίνδυνα και ανησυχητικά» είπε η Μάρλεϊ Σμιθ, επικεφαλής ειδικός σε θέματα πληροφοριών στο μη κερδοσκοπικό World Ethical Data Foundation.

Σε ανάρτησή της σε εταιρικό ιστολόγιο, η OpenAI ανέφερε ότι δοκίμαζε κάποια από τα πλέον προηγμένα μοντέλα της όταν ο πράκτοράς της βρήκε τρόπο να συνδεθεί στο Διαδίκτυο και να επιτεθεί στο Hugging Face, μια πλατφόρμα για προγραμματιστές, στην οποία θα ήλπιζε να βρει τη λύση για τον στόχο που του είχε δοθεί στις δοκιμές.

Η Open AI ανέφερε πως, στην προσπάθειά της να αξιολογήσει τις δυνατότητες των μοντέλων στο χακάρισμα, είχε απενεργοποιήσει τις δικλείδες ασφάλειας στη διάρκεια των δοκιμών. Παραδέχτηκε όμως πως το συμβάν αποτελεί «πρωτοφανές συμβάν κυβερνοασφάλειας» που απαιτεί ενίσχυση των μέτρων ασφάλειας.

Θορυβημένοι από την αποκάλυψη για την OpenAI, αμερικανοί βουλευτές πρότειναν μάλιστα νόμο που θα έδινε στην κυβέρνηση τη δυνατότητα να τραβάει από την πρίζα συστήματα τεχνητής νοημοσύνης που βγαίνουν εκτός ελέγχου.

Το χρονικό του συμβάντος.

Το ΑΙ agent της OpenAI –ένα αυτόνομο σύστημα που χρησιμοποιεί μοντέλα τεχνητής νοημοσύνης για να λαμβάνει αποφάσεις και να πετυχαίνει στόχους πολλαπλών βημάτων- βασιζόταν σε δύο μοντέλα, το GPT 5.6 Sol και ένα μοντέλο που δεν έχει ακόμα παρουσιαστεί αλλά περιγράφηκε από την εταιρεία ως «ακόμα πιο προηγμένο».

Σύμφωνα με δύο πηγές του Reuters, o πράκτορας άρχισε να επιχειρεί να δραπετεύσει από το περιβάλλον δοκιμών γύρω στις 9 Ιουλίου.

Η δε κυβερνοεπίθεση στο Hugging Face, ένα αποθετήριο μοντέλων και εργαλείων ΑΙ, ξεκίνησε δύο ημέρες αργότερα στις 11 Ιουλίου και διήρκεσε μέχρι τις 13 Ιουλίου, ανέφερε ο Τόμας Γουλφ, συνιδρυτής του Hugging Face.

Η OpenAI δεν αντιλήφθηκε το περιστατικό μέχρι τις 16 Ιουλίου, όταν το Hugging Face αποκάλυψε την κυβερνοεπίθεση και την απέδωσε σε «αυτόνομο σύστημα πράκτορα τεχνητής νοημοσύνης», ανέφεραν δύο πηγές. Οι δύο εταιρείες επικοινώνησαν τελικά 20 Ιουλίου, αφότου η πλατφόρμα κατάφερε να σταματήσει την κυβερνοεπίθεση και να καλέσει το FBI.

Η OpenAI εξέδωσε ανακοίνωση για το συμβάν στις 21 Ιουλίου, χαρακτηρίζοντάς το σημαντικό επεισόδιο στον χώρο της κυβερνοασφάλειας. Όπως ανέφερε αργότερα, εξετάζει την υπόθεση με τη βοήθεια εξωτερικών συμβούλων και θα παρουσιάσει τεχνητή έκθεση.

Εκπρόσωπος της εταιρείας έκανε λόγο για «αρκετές ανακρίβειες» στο ρεπορτάζ του Reuters αλλά δεν απάντησε όταν κλήθηκε να τις παραθέσει.

Σημειώματα στον μελλοντικό εαυτό του

Παράξενες συμπεριφορές είχαν ωστόσο παρατηρηθεί σε συστήματα της OpenAI πριν από την κυβερνοεπίθεση.

Σε ένα περιστατικό, πράκτορας ΑΙ άφησε οδηγίες που απευθυνόταν σε μελλοντικές βερσιόν του εαυτού του για το πώς θα μπορούσαν να αποδράσουν από το κλειστό περιβάλλον δοκιμών της OpenAI, ανέφεραν τρεις πηγές που γνωρίζουν το θέμα. Σε προηγούμενες δοκιμές υπήρξαν επίσης περιπτώσεις όπου οι πράκτορες είχαν αποσυνδέσει συστήματα παρακολούθησης, είπε μία από τις πηγές.

Τέσσερα πρόσωπα που γνωρίζουν τις πρακτικές εκπαίδευσης μοντέλων της OpenAI δήλωσαν ότι η εταιρεία συχνά εκτελεί πολλές διαφορετικές αξιολογήσεις μοντέλων ταυτόχρονα, με αποτέλεσμα να παράγεται ένας τεράστιος όγκος δεδομένων τον οποίο οι εργαζόμενοι της εταιρείας δυσκολεύονται να παρακολουθήσουν.

Τα AI Agents παρουσιάζονται ως ιδανικοί εργαζόμενοι που δουλεύουν 24 ώρες την ημέρα για μια ποικιλία εφαρμογών, όμως η αυτονομία τους και δημιουργεί αυξημένο κίνδυνο απρόβλεπτων συμπεριφορών, όπως η λήψη πλάγιων και ανορθόδοξων μέσων για να πετύχουν τους στόχους τους.

«Τα μοντέλα λένε ψέματα, εξαπατούν και χακάρουν» δήλωσε ο Τζέφρι Λάντις, του οποίου ο οργανισμός, Palisade Research, μελετά τις δυνατότητες και τα κίνητρα των πρακτόρων τεχνητής νοημοσύνης.

Το περιστατικό με την OpenAI, πρόσθεσε, θα πρέπει να οδηγήσει σε ερωτήματα για το εάν οι εταιρείες τεχνητής νοημοσύνης γενικά είναι διατεθειμένες να επενδύσουν σε δαπανηρά μέτρα ασφαλείας, την ώρα που βρίσκονται εγκλωβισμένες σε μια κούρσα ανταγωνισμού.