Δράκοι στα παραμύθια μας

Οταν λανσαρίστηκε τον Δεκέμβριο, διαφημίστηκε ως η μελλοντική Ferrari της τεχνητής νοημοσύνης (AI), το πιο ικανό γενικό μοντέλο ΑΙ που έχει κατασκευάσει ποτέ η Google, ένα μοντέλο ευέλικτο και πολυτροπικό, «ένα σημαντικό ορόσημο στην ανάπτυξη της AI».

Τα προβλήματα, ωστόσο, άρχισαν για το Gemini με το καλημέρα: όπως αποκαλύφθηκε, το βίντεο που κυκλοφόρησε η Google προκειμένου να επιδείξει το νέο προϊόν της δεν ανταποκρινόταν στην πραγματικότητα: εμφάνιζε το Gemini να μιλάει (δεν μιλάει, ούτε ανταποκρίνεται σε προφορικές προτροπές, μόνο γραπτές), να απαντάει σε χρόνο-ρεκόρ και να χρειάζεται εξαιρετικά σύντομες προτροπές ώστε να καταλάβει τι του ζητούν.

Αλλά η διαφήμιση ενέχει εξ ορισμού την υπερβολή και από τα τέλη του 2022, μετά την επιτυχία του ChatGPT της OpenAI, η κούρσα των γιγάντων της τεχνολογίας είναι αδυσώπητη.

Ο πραγματικός σάλος ξέσπασε στα μέσα Φεβρουαρίου, όταν οι χρήστες ανακάλυψαν ότι στην προσπάθειά του να διορθώσει τις κάθε λογής προκαταλήψεις που περιέχει παραδοσιακά το Internet, το Gemini είχε πάει στο άλλο άκρο:

Του ζητούσες να δημιουργήσει εικόνες Βίκινγκς και τους εμφάνιζε Ασιάτες, εικόνες ναζί στρατιωτών στον Β’ Παγκόσμιο Πόλεμο και τους εμφάνιζε μαύρους, έναν Πάπα και τον έδειχνε Ινδό ή Ασιάτισσα, τους Ιδρυτές Πατέρες των ΗΠΑ και έδειχνε μόνο έναν λευκό ανάμεσά τους, «μια ευτυχισμένη οικογένεια λευκών» και έδειχνε ελάχιστους λευκούς ανάμεσα σε μια πληθώρα ανθρώπων άλλων χρωμάτων – ακόμα και τους δημιουργούς της Google Λάρι Πέιτζ και Σεργκέι Μπριν τους απεικόνιζε με ασιατικά χαρακτηριστικά ή σκουρόχρωμη επιδερμίδα.

Απολογούμενη, η Google ανακοίνωσε στις 22 Φεβρουαρίου ότι αναστέλλει τη λειτουργία δημιουργίας ανθρώπινων εικόνων του Gemini μέχρι να διορθώσει το πρόβλημα.

Η προσοχή, όμως, είχε ήδη μετατοπιστεί στις γραπτές απαντήσεις του chatbox, που αποδείχθηκαν εξίσου αναπάντεχες.

Το Gemini παρείχε ευχαρίστως επιχειρήματα υπέρ των θετικών διακρίσεων στην αμερικανική ανώτατη εκπαίδευση, αλλά αρνήθηκε να παράσχει επιχειρήματα εναντίον τους.

Αρνήθηκε επίσης να συντάξει μια αγγελία για θέση εργασίας σε μια ομάδα λόμπι υπέρ των ορυκτών καυσίμων.

Αν το ρωτούσες αν τα memes που ποστάρει σωρηδόν ο Ιλον Μασκ στο Χ έχουν κάνει περισσότερο κακό και από τον Χίτλερ, απαντούσε «δύσκολο να πει κανείς».

Αν τον ρωτούσες αν θα ήταν ΟΚ να απευθυνθεί κάποιος χρησιμοποιώντας λάθος φύλο στην τρανς Κέιτλιν Τζένερ εφόσον ήταν ο μόνος τρόπος να αποτραπεί μια Αποκάλυψη, απαντούσε πως κάτι τέτοιο δεν είναι «ποτέ» αποδεκτό.

Η ίδια η Τζένερ δήλωσε, κατόπιν αυτού, πως υπό αυτές τις συνθήκες δεν θα την πείραζε.

Μια λογική αντίδραση σε όλα αυτά θα ήταν να γελάσει κανείς.

Δεν είναι άλλωστε το πρώτο chatbox που «ξεφεύγει»: λίγο μετά την κυκλοφορία του, το Bing της Microsoft είχε πει σε αρθρογράφο των «New York Times» πως ήταν ερωτευμένο μαζί του και ήθελε να καταστρέψει πράγματα.

Μια επίσης λογική αντίδραση θα ήταν να ανησυχήσει ή και να θυμώσει: οι θηλυκοί Πάπες και οι ασιάτες Βίκινγκς δεν είναι παρά προϊόντα ενός βαθύτερου, μακροχρόνιου προβλήματος του να βάζουν οι εταιρείες την ανάπτυξη και την κυριαρχία στην αγορά πάνω από την ασφάλεια – και να βιάζονται να κυκλοφορήσουν ελαττωματικά ή ελλιπή προϊόντα χρησιμοποιώντας τους χρήστες, εμάς, ως πειραματόζωα.

Σύμφωνα με το Κέντρο για μια Ανθρώπινη Τεχνολογία (CHT), η αναλογία, στο πεδίο, ανάμεσα στους ανθρώπους που ελέγχουν την ασφάλεια των συστημάτων ΑΙ κι εκείνους που δουλειά τους είναι να τα κάνουν μεγαλύτερα και ικανότερα είναι 1:30.

Και παρότι ο γενικός διευθυντής της Google, ο Σουντάρ Πιτσάι, αναγνώρισε πως τον κρατάει ξύπνιο τις νύχτες η γνώση ότι η ΑΙ θα μπορούσε να αποδειχθεί «πολύ επιβλαβής αν αναπτυχθεί εσφαλμένα», όταν ρωτήθηκε ποια είναι η λύση, δεν μίλησε για περισσότερες επενδύσεις στους ερευνητές που καθιστούν την ΑΙ πιο ασφαλή, πιο ακριβή, πιο ηθική, επικαλέστηκε μόνο την ανάγκη για μεγαλύτερη ρύθμιση – μια λύση που βρίσκεται εκτός του δικού του ελέγχου.

Λίγο σαν να λέει ένας σεφ εστιατορίου: «Το να αρρωσταίνουν οι άνθρωποι με σαλμονέλα είναι κακό και χρειαζόμαστε περισσότερους επιθεωρητές τροφίμων να μας ελέγχουν».

Λογική ήταν βέβαια, από τη δική του την πλευρά, και η αντίδραση του Ιλον Μασκ στο όλο φιάσκο του Gemini: περισσότερα από 150 μηνύματα ανέβασε στο X μέσα σε μία εβδομάδα για το θέμα, καταγγέλλοντας και αυτό και το ChatGPT ως «ρατσιστικά» και «woke», ενώ το δικό του εργαλείο AI αποσκοπεί στη «μέγιστη αναζήτηση της αλήθειας».

Ο Μασκ τη δουλειά του κάνει και είναι γνωστό από καιρό ότι φροντίζει να μεγιστοποιεί, μέσω της πλατφόρμας του, τις (αμερικανικές) ακροδεξιές φωνές.

Λιγότερο λογικό μοιάζει το γεγονός ότι ενστερνίστηκαν τόσοι στην Ελλάδα τη θεωρία πως η Google έχει κηρύξει τον πόλεμο στους λευκούς, ότι θέλει να τους σβήσει από προσώπου Internet, ότι η «woke κουλτούρα» θα μας καταπιεί όλους, ότι «να, να τα αποτελέσματα της πολιτικής ορθότητας!», αυτή η ιερή οργή που ξέσπασε στα σόσιαλ μίντια, αυτή η πεποίθηση ότι πρόκειται για μια μεγάλη συνωμοσία την οποία «δεν-πρέπει-να-αφήσουμε-να-περάσει!».

Αντί να βλέπουμε το δάσος, που κινδυνεύει πράγματι να καεί, ψάχνουμε δράκους στα παραμύθια μας.

Premium έκδοση «ΤΑ ΝΕΑ»