Η Anthropic τρομάζει το παγκόσμιο χρηματοπιστωτικό σύστημα

«Συναγερμός» έχει σημάνει στο παγκόσμιο χρηματοπιστωτικό σύστημα λόγω της δημιουργίας του Claude Mythos, ενός μοντέλου τεχνητής νοημοσύνης (ΤΝ) της Anthropic ΑΙ που μοιάζει έτοιμο να φέρει τα πάνω – κάτω στον χώρο της κυβερνοασφάλειας. Το Mythos έχει τη δυνατότητα να «τρέξει» πάνω σε κώδικες που βρίσκονται πίσω από κάθε υπολογιστικό σύστημα και να εντοπίσει ευαλωτότητες που μπορούν να επιτρέψουν το «χακάρισμα» του κώδικα για εξαγωγή πληροφοριών ή για να δώσουν εντολές.

Στις δοκιμές της Anthropic, το μοντέλο βρήκε ευαλωτότητες σε βασικούς κώδικες που χρησιμοποιούνται σε λειτουργικά συστήματα

Αυτό σημαίνει ότι το Mythos μπορεί επί της ουσίας να δείξει σε επιτήδειους τις αδυναμίες διαδικτυακών εφαρμογών και το «μονοπάτι» για να εισχωρήσουν στο σύστημα, με αυτοματοποιημένο τρόπο. Στις δοκιμές που έκανε η Anthropic, το μοντέλο βρήκε ευαλωτότητες σε βασικούς κώδικες που χρησιμοποιούνται σε λειτουργικά συστήματα και μηχανές αναζήτησης. Μάλιστα, βρήκε ακόμα και κενά που υπάρχουν εδώ και 27 χρόνια και τα οποία κανένας άνθρωπος δεν είχε εντοπίσει νωρίτερα.

Σύμφωνα με την ίδια την εταιρεία που το ανέπτυξε, το Mythos μπορεί να έχει σημαντικές συνέπειες στην οικονομία, τη δημόσια και την εθνική ασφάλεια. Λόγω των κινδύνων που ενέχει, η Anthropic αποφάσισε να μην το δώσει ακόμα προς χρήση στο γενικό κοινό, αλλά να το δοκιμάσει με επιλεγμένες μεγάλες εταιρείες των ΗΠΑ, ώστε να εξακριβωθούν οι πραγματικές του δυνατότητες.

Η Anthropic ονόμασε την εν λόγω ομάδα «Project Glasswing», εμπνευσμένη από τη «γυάλινη πεταλούδα» (επιστημονική ονομασία: Greta Oto) που έχει διάφανα φτερά – δείχνοντας έτσι ότι η διαφάνεια αποτελεί προτεραιότητα για την εταιρεία. Στο Project Glasswing συμμετέχουν οι: Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA και Palo Alto Networks. Πρόκειται κατά βάση για τεχνολογικές εταιρείες που ασχολούνται ειδικά με τις υποδομές του Διαδικτύου. Εξαίρεση αποτελεί η επενδυτική τράπεζα JPMorgan.

Οι τράπεζες, πάνω στις οποίες βασίζεται εν πολλοίς το παγκόσμιο οικονομικό σύστημα, έχουν θορυβηθεί ιδιαιτέρως από την ανακάλυψη της Anthropic, καθώς τα συστήματα κυβερνοασφάλειας που χρησιμοποιούν δεν είναι απαραίτητα τα πιο σύγχρονα. Αλλωστε, οι τράπεζες αποτελούν κορυφαίο στόχο για χάκερ που συνήθως κινούνται με γνώμονα το οικονομικό όφελος. Σε αυτό το πλαίσιο, ζητήθηκε από την Anthropic να μοιραστεί το μοντέλο της και με άλλες τράπεζες εντός και εκτός ΗΠΑ, όπως επίσης και με το υπουργείο Οικονομικών των ΗΠΑ.

Τις τελευταίες ημέρες, τα επιτελεία των μεγάλων κεντρικών τραπεζών (Fed, ΕΚΤ, Τράπεζα της Αγγλίας κ.ά.) συγκεντρώνουν πληροφορίες για το Mythos, τις δυνατότητές του και τον κίνδυνο που αποτελεί για το χρηματοπιστωτικό σύστημα. Τους κινδύνους εξετάζουν εξάλλου οι τράπεζες και οι οικονομικές αρχές της Γερμανίας, σύμφωνα με δημοσίευμα του πρακτορείου Ρόιτερς.

Τι ισχύει στην πραγματικότητα

Ειδικοί κυβερνοασφάλειας που έχουν εξετάσει το μοντέλο του Mythos επιβεβαίωσαν ότι είναι το πρώτο μοντέλο ΤΝ που καταφέρνει να ολοκληρώσει από την αρχή έως το τέλος μια πολύπλοκη κυβερνοεπίθεση που οδηγεί σε πλήρη έλεγχο επί του συστήματος-στόχου.

Ωστόσο, το μοντέλο μοιάζει να είναι αποτελεσματικό μόνο σε σενάρια που το επίπεδο ενεργούς κυβερνοασφάλειας είναι μηδενικό. Δηλαδή, μπορεί να λειτουργήσει σε «παθητικά» συστήματα βρίσκοντας ευαλωτότητες, όμως πιθανότατα δεν αποτελεί πραγματικό κίνδυνο για ένα πληροφοριακό σύστημα που αμύνεται ενεργά, δηλαδή παρακολουθείται από αμυντική ομάδα κυβερνοασφάλειας σε πραγματικό χρόνο.

Σύμφωνα με ειδικό από τον χώρο της κυβερνοασφάλειας που μίλησε στα «ΝΕΑ», ο φόβος που επικρατεί γύρω από το Mythos δεν είναι αδικαιολόγητος, αλλά είναι σε έναν βαθμό υπερβολικός. «Το μοντέλο εξετάζει κάποιες πιθανότητες που δεν είναι τόσο ρεαλιστικές, π.χ. να μην έχεις κανέναν μηχανισμό άμυνας. Σε έναν ώριμο οργανισμό όπως είναι μία τράπεζα, δεν θα έχει τύχη» αναφέρει χαρακτηριστικά.

«Μπορεί να είναι ανώτερο από άλλα παρόμοια μοντέλα, όμως δεν είναι κάτι που δεν μπορεί να κάνει ένας ερευνητής που έχει ασχοληθεί πολύ καιρό με την τεχνολογία» σημειώνει.

Επιπλέον, προσθέτει ότι το να «τρέξει» το Mythos είναι κυριολεκτικά πανάκριβο και χρειάζεται τεράστια υπολογιστική δύναμη. Αυτά τα χαρακτηριστικά προφανώς περιορίζουν τη δυνατότητα χρήσης του μοντέλου από μικρές ομάδες χάκερ.

Ο παράγοντας του «hype»

Η «προειδοποίηση» της Anthropic για τους κινδύνους του Mythos δεν είναι πρωτοφανής. Οι επικεφαλής εταιρειών ΤΝ έχουν κάνει παρόμοιες δηλώσεις στο παρελθόν για μοντέλα που έχουν αναπτύξει.

Τον περσινό Ιούλιο, ο διευθύνων σύμβουλος της OpenAI Σαμ Αλτμαν είχε δηλώσει ότι τον τρομάζουν οι δυνατότητες του μοντέλου GTP 5 της εταιρείας του. Το μοντέλο τελικά κυκλοφόρησε, όμως δεν αποτέλεσε πραγματική ρήξη σε σχέση με τα προηγούμενα αντίστοιχα εργαλεία της OpenAI και άλλων εταιρειών.

Οπως επισημαίνουν ορισμένοι αναλυτές, τέτοιες δηλώσεις δημιουργούν τον παράγοντα του «hype», δηλαδή ενός υπέρμετρου ενθουσιασμού για τις δυνατότητες των εργαλείων. Αυτός ο ενθουσιασμός μεταφράζεται σε χρήματα για τις εταιρείες που αναπτύσσουν τα μοντέλα ΤΝ, καθώς αυξάνουν διαρκώς τις αποτιμήσεις τους. Αλλωστε, πρόκειται κυρίως για ιδιωτικές εταιρείες, που δεν είναι εισηγμένες σε κάποια κεφαλαιαγορά και επομένως δεν έχουν υποχρέωση να δημοσιεύουν αναλυτικά τα οικονομικά τους δεδομένα.

Οι αποτιμήσεις τους δεν βασίζονται επομένως σε θεμελιώδη μεγέθη, αλλά στην προσδοκία δημιουργίας μελλοντικής αξίας. Η «απειλή» ενός παντοδύναμου μοντέλου ΤΝ θρέφει τις προσδοκίες των επενδυτών και φέρνει αύξηση της εκτιμώμενης αξίας των εταιρειών.

Σήμερα, η αποτίμηση της Anthropic υπολογίζεται στα 380 δισ. δολάρια, όμως το Mythos έχει αυξήσει το επενδυτικό ενδιαφέρον για την εταιρεία στα 800 δισ. δολάρια. Την ίδια στιγμή, η – επίσης μη εισηγμένη – OpenAI αποτιμάται στα 852 δισ. δολάρια.

Premium έκδοση «Τα ΝΕΑ»