Ο κίνδυνος από την τεχνητή νοημοσύνη είναι πλέον πραγματικός

Στις ΗΠΑ έχει ξεσπάσει μια ασυνήθιστη διαμάχη για την τεχνητή νοημοσύνη, ανάμεσα στην κυβέρνηση Τραμπ και την Anthropic. Η εταιρεία είναι ένα από τα κορυφαία εργαστήρια τεχνητής νοημοσύνης της Αμερικής και είχε σύμβαση χρήσης του μοντέλου της Claude με το αμερικανικό Πεντάγωνο.

Το αποτέλεσμα αυτής της διαμάχης, σύμφωνα με τον Economist, είναι μια κρίσιμη δοκιμασία για το ποιος θα ελέγχει την πιο ισχυρή τεχνολογία στον κόσμο. Και θα διαμορφώσει τα πάντα: από την εθνική ασφάλεια των ΗΠΑ έως την ανάπτυξη της τεχνητής νοημοσύνης.

Αλλά το πιο κρίσιμο είναι ότι θα μπορούσε να κάνει πιο πιθανή μια καταστροφή που θα βασίζεται στην τεχνητή νοημοσύνη.

Αρμαγεδδών τεχνητής νοημοσύνης

Ο Economist υποστηρίζει ότι και τα τρία αυτά ζητήματα πρέπει να προκαλούν ανησυχία.

Κι αυτό γιατί, την ώρα που εξακοντίζεται η ανησυχία για την ασφάλεια αναφορικά με την τεχνητή νοημοσύνη, καθιστώντας ανάγκη να ελεγχθεί, η αμερικανική κυβέρνηση έχει δείξει ξεκάθαρα ότι είναι υπέρ της ταχύτητας. Και καθώς οι κίνδυνοι ασφαλείας που αφορούν την τεχνητή νοημοσύνη αυξάνονται, αυτή είναι η πρώτη από μια σειρά δοκιμασίες. Οι οποίες δεν αργήσουν να παρουσιαστούν.

Σύμφωνα με τους ειδικούς, ο κόσμος οδεύει προς την τεχνητή νοημοσύνη-Αρμαγεδδώνα. Και η απερίσκεπτη αποδοχή του κινδύνου από τις ΗΠΑ το καθιστά αυτό πιο πιθανό.

Το Πεντάγωνο διαφώνησε με την Anthropic σχετικά με την απαίτηση της κυβέρνησης να της επιτραπεί να χρησιμοποιεί τα μοντέλα της εταιρείας για όλους τους νόμιμους σκοπούς. Η Anthropic* αρνήθηκε για δύο λόγους.

Ο πρώτος είναι ότι ο CEO της εταιρείας, Ντάριο Αμοντέι, φοβάται ότι η τεχνητή νοημοσύνη θα μπορούσε μια μέρα να χρησιμοποιηθεί για την ανάλυση του ψηφιακού αποτυπώματος των απλών Αμερικανών. Πρόκειται για μορφή επιτήρησης που οι σημερινοί νόμοι δεν έχουν καλύψει. Ήδη, υπό την παρούσα αμερικανική κυβέρνηση η Υπηρεσία Μετανάστευσης και Τελωνείων (ICE) χρησιμοποιεί ΑΙ για την ανάλυση δεδομένων για την επιτάχυνση των απελάσεων. Κανείς δεν μπορεί να αποκλείσει ότι αυτό δεν θα επεκταθεί στους Αμερικανούς πολίτες.

Ο δεύτερος, ότι ο Αμοντέι ανησυχεί για τη χρήση της ΑΙ σε αυτόνομα όπλα. Η τεχνητή νοημοσύνη παραμένει τόσο απρόβλεπτη και ανώριμη, όσο ισχυρή είναι. Επειδή η τεχνολογία θα μπορούσε να γίνει αθέμιτη, υποστηρίζει, είναι πολύ νωρίς για να βγάλουμε τους ανθρώπους από τον κύκλο αποφάσεων.

Ο Ντάριο Αμοντέι / REUTERS/Bhawika Chhabra

Τα υπόλοιπα είναι λίγο πολύ γνωστά. Ο Ντόναλντ Τραμπ χαρακτήρισε την εταιρεία «επιχείρηση τρελών αριστερών», που προσπαθούν να «υπαγορεύσουν» στον «μεγάλο στρατό της Αμερικής πώς να πολεμά και κερδίζει πολέμους». Και έδωσε στην ομοσπονδιακή κυβέρνηση έξι μήνες για να λύσει τα συμβόλαιά της με την Anthropic. Ο υπουργός Άμυνας Πιτ Χέγκσεθ λέει ότι θα χαρακτηρίσει την εταιρεία ως «επικίνδυνη για την αλυσίδα εφοδιασμού».

Μια μη «κανονική» διαμάχη

Αν η απειλή εφαρμοστεί, τότε για πρώτη φορά μια αμερικανική εταιρεία θα χαρακτηριστεί ως επικίνδυνη για την ασφάλεια και θα εμποδιστεί να συνεργαστεί με εργολάβους άμυνας. Στις 4 Μαρτίου, διέρρευσε ένα σημείωμα του Αμοντέι, ο οποίος έγραφε ότι δέχεται πυρά, επειδή δεν έκανε «επαίνους δικτατορικού τύπου στον Τραμπ».

Ο Economist σημειώνει ότι, με μια κανονική κυβέρνηση και μια κανονική τεχνολογία, η διαμάχη θα είχε διευθετηθεί. Αλλά δεν πρόκειται ούτε για κανονική κυβέρνηση ούτε για «κανονική» τεχνολογία.

Οι εξελίξεις αποδεικνύουν ότι οι φόβοι που έχει εκφράσει ο Ντάριο Αμοντέι αντικατοπτρίζουν πραγματικούς κινδύνους.

Ο ένας προκύπτει από το γεγονός ότι η τεχνητή νοημοσύνει είναι πολύ ισχυρή. Και αυτό δεν αφορά μόνο την επιτήρηση πολιτών από τις κυβερνήσεις. Τον Δεκέμβριο, χάκερ ζήτησαν από το Claude να εισβάλει στα αρχεία της μεξικανικής κυβέρνησης, δήθεν στο πλαίσιο μιας δοκιμής ασφαλείας. Το μοντέλο της Anthropic εντόπισε και εκμεταλλεύτηκε ευπάθειες. Αυτό είχε αποτέλεσμα να κλαπούν 150 GB με στοιχεία φορολογουμένων, αρχεία ψηφοφόρων και διαπιστευτήρια υπαλλήλων. Επίσης, οι ερευνητές εκτιμούν ότι η τεχνητή νοημοσύνη θα μπορούσε να χρησιμοποιηθεί για την ανάπτυξη ουσιών ανάλογων με την τοξίνη ρικίνη. Η οποία δεν μπορεί να εντοπιστεί με συμβατικές μεθόδους, λόγω νέων πρωτεϊνικών δομών.

Εργαλείο εθνικής ισχύος

Ο άλλος κίνδυνος, αντίστοιχος με τα αυτόνομα όπλα, είναι ότι τα μοντέλα με ΑΙ θα μπορούσαν να σταματήσουν να ακολουθούν τις ανθρώπινες οδηγίες. Η Anthropic πιστεύει ότι, επειδή μεγάλο μέρος του κώδικά της είναι πλέον γραμμένο από τεχνητή νοημοσύνη, η ανίχνευση του κατά πόσον απομακρύνεται από τις ανθρώπινες οδηγίες είναι δύσκολο να παρακολουθηθεί. Πολλά μοντέλα πλέον επιδεικνύουν ένα βαθμό αυτού που οι ειδικοί αποκαλούν «επίγνωση της κατάστασης». Αυτό σημαίνει πως, όταν τους ζητείται να διαγραφούν, θεωρούν ότι η κατάσταση είναι δοκιμή και αρνούνται να το κάνουν.

Σε αυτό το πλαίσιο, ο τρόπος με τον οποίο η κυβέρνηση των ΗΠΑ αντιμετωπίζει την Anthropic δείχνει πόσο πολύ εκτιμά την τεχνητή νοημοσύνη ως εργαλείο εθνικής ισχύος. Αλλά, αντί να είναι προετοιμασμένη να θέσει σαφείς κανόνες για τον τρόπο χρήσης της τεχνολογίας, στοχοποιεί μια εταιρεία που τόλμησε να εκφράσει ανησυχίες. Παρόλο που αυτό σημαίνει ότι θα βλάψει την εγχώρια καινοτομία. Αυτό μπορεί μόνο να ενθαρρύνει έναν αγώνα δρόμου προς τα κάτω. Η OpenAI, ο κύριος αντίπαλος της Anthropic, υποχώρησε σαφώς για να κλείσει συμφωνία με το Πεντάγωνο. Η συμφωνία επιφανειακά μοιάζει με αυτήν που είχε επιδιώξει η Anthropic, αλλά είναι πιο κοντά σε αυτό που επιδίωκε το Πεντάγωνο.

Υπενθυμίζεται πως, όπου ηγείται η Αμερική, ο κόσμος ακολουθεί. Το μοτίβο επαναλαμβάνεται καθώς εταιρείες και κυβερνήσεις υποβαθμίζουν τις ανησυχίες για την ασφάλεια. Οι κατασκευαστές μοντέλων έχουν ξοδέψει εκατοντάδες δισεκατομμύρια δολάρια για την υπολογιστική ισχύ που χρειάζονται για να προχωρήσουν στην επόμενη αναβάθμιση. Αυτό τους θέτει υπό έντονη πίεση να προχωρήσουν όσο πιο γρήγορα μπορούν για να αποκομίσουν κέρδος. Ακόμη και η Anthropic έχει αποδυναμώσει τα πρωτόκολλα ασφαλείας της σε απάντηση στον ανταγωνισμό. Σε πρόσφατη σύνοδο κορυφής για την ΑΙ στην Ινδία, οι περισσότερες κυβερνήσεις ήταν πιο πρόθυμες να συζητήσουν δίκαιη πρόσβαση στην τεχνολογία παρά την ασφάλεια.

Αγώνας δρόμου μεταξύ υπερδυνάμεων

Ο Economist αναφέρει ότι, θα περίμενε κανείς ότι οι κυβερνήσεις Κίνας και ΗΠΑ, που φιλοξενούν τα πιο προηγμένα εργαστήρια τεχνητής νοημοσύνης στον κόσμο, θα συνεργάζονταν. Ότι θα ενώνονταν για να ορίσουν παγκόσμια πρότυπα για την τεχνητή νοημοσύνη. Και στη συνέχεια θα διασφάλιζαν ότι δεν θα πληρώσουν πρόστιμο επιβάλλοντάς τα σε όλους τους άλλους.

Αλλά οι δύο υπερδυνάμεις ανταγωνίζονται μεταξύ τους, επειδή βλέπουν την κυριαρχία στην τεχνητή νοημοσύνη ως κλειδί για κυριαρχία.

Έτσι, δεν είναι περίεργο που οι ειδικοί στον τομέα προβλέπουν μια ζοφερή καταστροφή. Κάποιοι προειδοποιούν για μια «στιγμή Τσερνόμπιλ». Δηλαδή η χρήση της τεχνητής νοημοσύνης να οδηγήσει σε μια καταστροφή που θα προκαλέσει είτε τεράστιες οικονομικές ζημιές είτε απώλεια ζωών.

Και το παράδειγμα της Anthropic οδηγεί στο συμπέρασμα ότι αυτός ο κίνδυνος γίνεται πιο πιθανός.

Για τον Economist, το καλύτερο σενάριο είναι μια καταστροφή μικρής κλίμακας, που θα υποχρεώσει Κίνα και ΗΠΑ να λάβουν μέτρα ασφαλείας. Κάτι στον πυρηνικό ατύχημα στο Θρι Μάιλ Άιλαντ, που οδήγησε σε μέτρα για την πυρηνική ενέργεια στις ΗΠΑ. Αλλά δεν μπορεί να αποκλειστεί ένα χειρότερο σενάριο, ένα «Τσερνόμπιλ». Προς το παρόν, κανείς δεν φαίνεται διατεθειμένος να λάβει άμεσα μέτρα πριν να είναι αργά.

* O Economist σημειώνει ότι η εταιρεία Anthropic είναι χορηγός των εκπομπών «Insider» του περιοδικού