«Ο Εξολοθρευτής έρχεται»: Ο Τζέιμς Κάμερον προειδοποιεί για αποκάλυψη εάν η τεχνητή νοημοσύνη μπει σε πεδία μάχης

Ο Τζέιμς Κάμερον, ο σκηνοθέτης που βρίσκεται πίσω από μερικές από τις μεγαλύτερες κινηματογραφικές επιτυχίες όλων των εποχών και υπέγραψε τη δυστοπία του Εξολοθρευτή, προειδοποιεί ότι η χρήση της τεχνητής νοημοσύνης σε έναν παγκόσμιο ανταγωνισμό εξοπλισμών θα μπορούσε να οδηγήσει σε μια αποκάλυψη παρόμοια με αυτήν που παρουσίασε στο κινηματογραφικό του franchise.

Σε μια συνέντευξη του στο περιοδικό Rolling Stone, με αφορμή την ανακοίνωση της κινηματογραφικής μεταφοράς του βιβλίου Ghosts of Hiroshima, ενός έργου του Τσαρλς Πελεγκρίνο για την πρώτη ρήψη ατομικής βόμβας, ο Κάμερον δήλωσε πως, παρότι βασίζεται στην τεχνητή νοημοσύνη για κάποια επαγγελματικά του Project, ανησυχεί βαθύτατα για το τι μπορεί να συμβεί αν χρησιμοποιηθεί με αυτό που ο ίδιος αποκαλεί «μηδενιστικές προθέσεις».

«Πιστεύω ότι εξακολουθεί να υπάρχει ο κίνδυνος μιας αποκάλυψης τύπου Εξολοθρευτή εάν συνδυάσεις την τεχνητή νοημοσύνη με οπλικά συστήματα, ακόμα και με πυρηνικά. Το πεδίο επιχειρήσεων είναι πολύ γρήγορο, τα χρονικά παράθυρα για λήψη αποφάσεων πολύ σύντομα, που πραγματικά θα χρειαζόταν μια υπερ-νοημοσύνη για να μπορέσει να επεξεργαστεί όλο αυτό, και ίσως να είμαστε αρκετά έξυπνοι ώστε να κρατήσουμε έναν άνθρωπο στην εξίσωση», είπε ο Κάμερον.

«Αλλά οι άνθρωποι είναι αναξιόπιστοι, και έχουν γίνει πολλά λάθη που μας έχουν φέρει στα πρόθυρα διεθνών επεισοδίων που θα μπορούσαν να οδηγήσουν σε πυρηνικό πόλεμο. Οπότε δεν ξέρω» πρόσθεσε με ειρωνεία.

«Σας προειδοποίησα το 1984 και δεν ακούσατε»

Αυτή δεν είναι η πρώτη φορά που ο σκηνοθέτης του Terminator μίλησε για τους φόβους του στην εφαρμογή τεχνητής νοημοσύνης από το μιλιταριστικό λόμπι.

Σε συνέντευξή του στο CTV News το 2023, ο σκηνοθέτης αναφέρθηκε στην κλασική επιστημονικής φαντασίας ταινία του όταν ρωτήθηκε τι πιστεύει για την άνοδο της AI στη βιομηχανία του θεάματος.

«Σας προειδοποίησα το 1984 και δεν ακούσατε» είπε ο Κάμερον.

Εκτός από τη βιομηχανία της ψυχαγωγίας, ο Κάμερον πιστεύει επίσης ότι η τεχνητή νοημοσύνη αποτελεί απειλή στις στρατιωτικές επιχειρήσεις:

«Πιστεύω ότι θα μπούμε στον ισοδύναμο αγώνα πυρηνικών όπλων με την τεχνητή νοημοσύνη και αν δεν το εξελίξουμε εμείς, οι άλλοι σίγουρα θα το κάνουν, και έτσι τότε θα κλιμακωθεί. Θα μπορούσατε να φανταστείτε μια τεχνητή νοημοσύνη σε ένα πεδίο μάχης, να γίνεται πόλεμος από τους υπολογιστές με μια ταχύτητα που οι άνθρωποι δεν μπορούν πλέον να παρέμβουν και να μην έχετε ικανότητα να το αποκλιμακώσετε;»

Σε άλλο σημείο της συνέντευξης, ο Τζέιμς Κάμερον είπε ότι δεν πιστεύει ότι η τεχνολογία πίσω από την Τεχνητή Νοημοσύνη θα μπορέσει να αντικαταστήσει τους σεναριογράφους, λέγοντας: «Ποτέ δεν είναι θέμα ποιος το έγραψε, είναι ζήτημα αν είναι μια καλή ιστορία».

«Απλώς δεν πιστεύω προσωπικά ότι ένας ασώματος νους αναπαράγει αυτά που είπαν άλλα ενσαρκωμένα μυαλά – για τη ζωή που είχαν, για την αγάπη, για το ψέμα, για τον φόβο, για τη θνητότητα- απλώς τα βάζει όλα μαζί σε μια σαλάτα λέξεων και μετά τα αναμασά… Δεν πιστεύω ότι έχει κάτι που θα συγκινήσει το κοινό» εκτίμησε ο Καναδός σκηνοθέτης, παραγωγός και σεναριογράφος.

Ο Κάμερον είπε επίσης ότι «σίγουρα δεν θα τον ενδιέφερε» να γράψει η τεχνητή νοημοσύνη σενάρια για ταινία του, αλλά μόνο ο χρόνος θα δείξει πώς η Τεχνητή Νοημοσύνη θα επηρεάσει τη βιομηχανία. «Ας περιμένουμε 20 χρόνια και αν μια τεχνητή νοημοσύνη κερδίσει Όσκαρ Καλύτερου Σεναρίου, νομίζω ότι πρέπει να την πάρουμε στα σοβαρά» κατέληξε.

Εξολοθρευτής: Προφητεία ή προειδοποίηση;

Με πρωταγωνιστή τον Άρνολντ Σβαρτσενέγκερ, η εμβληματική ταινία Ο Εξολοθρευτής του 1984 έχει γίνει συνώνυμο των κινδύνων που εγκυμονούν οι υπερ-έξυπνες μηχανές. Ωστόσο, όπως επισήμαναν ειδικοί πρόσφατα στο BBC, αυτό μπορεί ταυτόχρονα να βοηθά και να εμποδίζει την κατανόησή μας για την τεχνητή νοημοσύνη.

Το 1984, η ταινία του Τζέιμς Κάμερον, με τα φονικά ρομπότ και το ανεξέλεγκτο σύστημα τεχνητής νοημοσύνης Skynet, καθιερώθηκε ως συνώνυμο του φαντάσματος μιας μηχανικής νοημοσύνης που στρέφεται εναντίον των ανθρώπινων δημιουργών της.

Πολλά άρθρα για την τεχνητή νοημοσύνη εικονογραφούνται με το χρωματιστό κρανίο του ρομπότ T-800, ενώ ο ρομποτιστής Ρόναλντ Άρκιν χρησιμοποίησε αποσπάσματα από την ταινία σε μια προειδοποιητική ομιλία με τίτλο «Πώς να ΜΗΝ φτιάξετε έναν Εξολοθρευτή».

«Είναι σχεδόν, με έναν αστείο τρόπο, πιο επίκαιρη τώρα από ό,τι όταν βγήκε», δήλωσε ο Κάμερον για την ταινία, «επειδή η τεχνητή νοημοσύνη είναι πλέον ένα πραγματικό πράγμα με το οποίο πρέπει να ασχοληθούμε, ενώ τότε ήταν μια φαντασία».

Ωστόσο, η επιρροή της ταινίας είναι μια «αναμεμειγμένη ευλογία».

Το έγκριτο New Scientist έχει επίσης αναφερθεί στην επιδραστικότητα της ταινίας του Κάμερον, όχι μόνο λόγω της καλλιτεχνικής της αξίας, αλλά και για τον τρόπο που διαμόρφωσε τη συλλογική μας φαντασία σχετικά με την τεχνητή νοημοσύνη καθώς η κεντρική ιδέα της έχει γίνει το απόλυτο σημείο αναφοράς για τους κινδύνους της τεχνολογίας.

Ο φιλόσοφος Νικ Μπόστρομ, ο οποίος με το βιβλίο του Superintelligence το 2014 έκανε γνωστό τον κίνδυνο της «μη ευθυγραμμισμένης τεχνητής νοημοσύνης», έχει παραδεχτεί ότι η σύζυγός του «με πειράζει για τον Εξολοθρευτή και τον στρατό των ρομπότ», ενώ ο ερευνητής της τεχνητής νοημοσύνης Μάικλ Γούλριτζ αφιέρωσε ένα ολόκληρο κεφάλαιο του βιβλίου του σε μια αναφορά στο «αφήγημα του Εξολοθρευτή για την τεχνητή νοημοσύνη».

Η επιτυχία αυτή είναι αξιοσημείωτη για μια ταινία που δεν ενδιαφέρεται ιδιαίτερα για την τεχνητή νοημοσύνη. Το σενάριο γράφτηκε από τον Κάμερον το 1982, μετά την απόλυσή του από την πρώτη του σκηνοθετική δουλειά.

Με έναν σωματώδη τύπο με αμφίβολο ταλέντο στον πρωταγωνιστικό ρόλο, ο Κάμερον δεν περίμενε να δημιουργήσει ένα πολιτισμικό ορόσημο.

Ενώ ο ίδιος πίστευε ότι η ταινία θα αποτύγχανε, ο Εξολοθρευτής ξεπέρασε κινηματογραφικά έπη και έγινε ένα επιτυχημένο εμπορικό και αφόρητα δυστοπικό κινηματογραφικό franchise για τον πόλεμο ανθρώπου εναντίον μηχανής.

Ο πυρήνας της ταινίας είναι ένα θρίλερ, μια ιστορία αγάπης, ένας προβληματισμός για την ελεύθερη βούληση και μια σάτιρα για την εξάρτησή μας από την τεχνολογία και η ταινία είναι αντιπολεμική, αντικαπιταλιστική, κατά των όπλων και κατά της τεχνολογίας επισημαίνουν πολλοί αναλυτές.

Οι μηχανές του ολέθρου

Πολύ πριν οριστεί επίσημα το πεδίο της τεχνητής νοημοσύνης, οι πιθανοί κίνδυνοί της είχαν ήδη εκδηλωθεί με τη μορφή του ρομπότ, όπως στα έργα RUR του Κάρελ Τσάπεκ και Metropolis του Φριτς Λανγκ.

Ο Σον Φρεντς, συγγραφέας του βιβλίου για τον Εξολοθρευτή, αναφέρει ότι η πιο αξιομνημόνευτη εικόνα της ταινίας — ο T-800 να βγαίνει από τις φλόγες με τον σκελετό του να εκτίθεται — ήταν μια αναφορά στο φλεγόμενο ρομπότ της ταινίας του Λανγκ.

Η δημοτικότητα των φονικών ρομπότ οδήγησε τον συγγραφέα επιστημονικής φαντασίας Ισαάκ Ασίμοφ να διατυπώσει τους «τρεις νόμους της ρομποτικής», την πρώτη προσπάθεια για τον καθορισμό της ηθικής της τεχνητής νοημοσύνης.

Οι τρεις νόμοι της ρομποτικής, όπως τους όρισε ο Ισαάκ Ασίμωφ, είναι:

• Ένα ρομπότ δεν πρέπει να βλάψει έναν άνθρωπο ή, μέσω της αδράνειάς του, να επιτρέψει σε έναν άνθρωπο να υποστεί κακό.
• Ένα ρομπότ πρέπει να υπακούει στις εντολές που δίνονται από τους ανθρώπους, εκτός εάν αυτές οι εντολές έρχονται σε αντίθεση με τον Πρώτο Νόμο.
• Ένα ρομπότ πρέπει να προστατεύει την ύπαρξή του, εφόσον αυτή η προστασία δεν έρχεται σε αντίθεση με τον Πρώτο ή τον Δεύτερο Νόμο.

Σε μετέπειτα έργα του, ο Ασίμωφ εισήγαγε και έναν τέταρτο νόμο, τον μηδενικό νόμο:

• Ένα ρομπότ δεν πρέπει να βλάψει την ανθρωπότητα ή, μέσω της αδράνειάς του, να επιτρέψει στην ανθρωπότητα να υποστεί κακό.

Αργότερα, ο Στάνλεϊ Κιούμπρικ και ο Άρθουρ Κλαρκ ενσωμάτωσαν την τεχνητή νοημοσύνη στο εμβληματικό αριστούργημα του 1968, 2001: A Space Odyssey με τη μορφή του ΧΑΛ 9000.

Το όνομα του ΧΑΛ προέρχεται από τον Μάρβιν Μίνσκι, έναν από τους πρωτοπόρους της τεχνητής νοημοσύνης, τον οποίο προσέλαβε ο Κιούμπρικ ως σύμβουλο.

Ο Κάμερον συνέλαβε την ιδέα να συνδυάσει τον εκτός ελέγχου υπολογιστή του ΧΑΛ 9000 (το Skynet) με το φονικό ρομπότ (τον T-800), δημιουργώντας τον Εξολοθρευτή.

Οι δύο όψεις της τεχνητής νοημοσύνης

Στην ταινία, ο Κάμερον παρουσιάζει την τεχνητή νοημοσύνη να γίνεται απειλητική, επειδή, όπως εξηγεί ο Κάιλ Ρις, «σκέφτηκε… μια νέα τάξη νοημοσύνης» και «είδε όλους τους ανθρώπους ως απειλή».

Στο σίκουελ, Terminator 2: Judgment Day, η τεχνητή νοημοσύνη γίνεται απειλητική επειδή ενεργεί από ιδιοτέλεια, με σκοπό να αυτοπροστατευτεί.

Ο κόσμος θεωρεί ότι η «μη ευθυγραμμισμένη τεχνητή νοημοσύνη» θα είναι επαναστατική και κακόβουλη. Ωστόσο, ειδικοί όπως ο Μπόστρομ επιμένουν ότι ο πραγματικός κίνδυνος προέρχεται από τον απρόσεκτο προγραμματισμό.

Το Skynet του Κάμερον, λοιπόν, γίνεται επικίνδυνο επειδή είναι «πολύ ανθρώπινο» — εγωιστικό, κακόβουλο, διψασμένο για εξουσία.

Ως εκ τούτου, ο Εξολοθρευτής έχει διττή λειτουργία. Η ταινία, ταυτόχρονα, βοηθά και εμποδίζει την κατανόησή μας για την τεχνητή νοημοσύνη. <ας βοηθά να φανταστούμε μια μηχανή που «σκέφτεται», αλλά ταυτόχρονα μπορεί να αποπροσανατολίζει από τους πιο άμεσους κινδύνους, όπως η μαζική ανεργία, η παραπληροφόρηση και τα αυτόνομα όπλα.

Ο Κάμερον σχεδιάζει μια νέα ταινία Εξολοθρευτής, η οποία θα απορρίψει όλο το αφηγηματικό φορτίο του franchise, αλλά θα διατηρήσει την κεντρική ιδέα των «ανίσχυρων» ανθρώπων εναντίον της τεχνητής νοημοσύνης.

Αν τελικά κυκλοφορήσει, θα είναι ενδιαφέρον να δούμε τι έχει να πει ο σκηνοθέτης για την τεχνητή νοημοσύνη τώρα που είναι κάτι για το οποίο μιλάμε και ανησυχούμε καθημερινά.

Ίσως το πιο χρήσιμο μήνυμα του Εξολοθρευτή να είναι αυτό της «ελεύθερης βούλησης εναντίον του πεπρωμένου». Οι ανθρώπινες αποφάσεις καθορίζουν τα αποτελέσματα.

Τίποτα δεν είναι αναπόφευκτο.