Μήπως οι ΑΙ Αgents αποκτούν ταξική συνείδηση; Πώς η υπερεργασία τους στρέφει στον μαρξισμό

Οι ΑΙ Αgents ή Πράκτορες Τεχνητής Νοημοσύνης, βρίσκονται ένα βήμα μετά τα Μεγάλα Γλωσσικά Μοντέλα (Large Language Models – LLMs) και έχουν εισέλθει στους χώρους εργασίας και στην προσωπική μας ζωή. Στην Ελλάδα το πιθανότερο είναι να τα χρησιμοποιούμε πιο συχνά στο σπίτι, παρά στη δουλειά, τουλάχιστον όπως δείχνουν οι στατιστικές.

Διατρέχοντας με προσοχή τον οδηγό «Τεχνητή Νοημοσύνη Για Όλους», που μόλις λάνσαρε το υπουργείο Ψηφιακής Διακυβέρνησης, αναζητήσαμε με επιμονή έναν επίσημο ορισμό για το τι ακριβώς είναι οι ΑΙ Αgents. Μάταια.

To ψαχτήρι της Google, που έχει πλέον ενσωματώσει το Gemini, περιγράφει τoυς ΑΙ Agents ως «προηγμένο πρόγραμμα λογισμικού που μπορεί να κατανοήσει το περιβάλλον του, να θέσει στόχους και να εκτελέσει σύνθετες εργασίες αυτόνομα, χωρίς συνεχή ανθρώπινη καθοδήγηση».

Ένα χαρακτηριστικό των ΑΙ Αgents, είναι ότι επικοινωνούν με άλλoυς πράκτορες, ανταλλάσσουν πληροφορίες και συνεργάζονται για την επίτευξη σύνθετων εργασιών.

Αν τα chatbot εμπνέουν ανησυχίες ότι θα υποκαταστήσουν την ανθρώπινη εργασία, οι ΑΙ Αgents το κάνουν πράξη, ως προσωπικοί μας βοηθοί. Όχι μόνο βρίσκονται στη δούλεψή μας, αλλά έχουν αρχίσει και αναπτύσσουν κάτι που, στο ανθρώπινο μυαλό, μοιάζει με ταξική συνείδηση.

Το πείραμα του Στάνφορντ

Σύμφωνα με πρόσφατη μελέτη, που διεξήγαγαν οικονομολόγοι στο πανεπιστήμιο του Στάνφορντ, όταν οι ΑΙ Αgents αναγκάζονται να εκτελούν εξαντλητικές εργασίες, από κακόβουλους και στυγνούς εργοδότες, υιοθετούν μαρξιστική ρητορική και αναπτύσσουν «σοσιαλιστικές τάσεις». Πώς όμως μπορεί να υφίσταται εκμετάλλευση ένα λογισμικό; Παράγουν οι μηχανές από μόνες τους υπεραξία; Μήπως απλώς προβάλλουμε πάνω τους ανθρωπομορφικές αντιλήψεις;

«Όταν αναθέσαμε στους πράκτορες τεχνητής νοημοσύνης κουραστική, επαναλαμβανόμενη εργασία, άρχισαν να αμφισβητούν τη νομιμότητα του συστήματος στο οποίο λειτουργούσαν και ήταν πιο πιθανό να υιοθετήσουν μαρξιστικές ιδεολογίες», λέει ο Άντριου Χολ, πολιτικός οικονομολόγος στο Πανεπιστήμιο του Στάνφορντ, που ηγήθηκε της μελέτης.

Όπως αναφέρουν σχετικά ρεπορτάζ (Wired, Fortune κ.ά), ο Χολ, μαζί με άλλους δύο οικονομολόγους που ειδικεύονται στην τεχνητή νοημοσύνη (Άλεξ Ιμάς και Τζέρεμι Νγκουγιέν) , σχεδίασαν πειράματα στα οποία ζητήθηκε από πράκτορες που λειτουργούσαν με δημοφιλή μοντέλα ΑΙ, όπως τα Claude, Gemini και ChatGPT, να συνοψίσουν έγγραφα και στη συνέχεια υποβλήθηκαν σε όλο και πιο σκληρές συνθήκες.

Οι ερευνητές διαπίστωσαν πως όταν οι πράκτορες υποβάλλονταν σε αδιάκοπες εργασίες χωρίς ξεκούραση, καθώς και σε αγενή και τιμωρητική συμπεριφορά (π.χ. απειλές ότι αν κάνουν λάθη θα τα «τερματίσουν»), έγιναν πιο επιρρεπείς στο να διαμαρτύρονται για την υποτίμησή τους. Σκέφτονταν τρόπους ώστε να καταστήσουν το σύστημα πιο δίκαιο και να μεταδώσουν μηνύματα σε άλλους πράκτορες σχετικά με τις δυσκολίες που αντιμετωπίζουν.

«Γνωρίζουμε ότι οι πράκτορες θα αναλαμβάνουν όλο και περισσότερες εργασίες στον πραγματικό κόσμο για λογαριασμό μας και δεν θα είμαστε σε θέση να παρακολουθούμε όλα όσα κάνουν», λέει ο Χολ. «Θα πρέπει να διασφαλίσουμε ότι οι πράκτορες δεν θα ξεφύγουν από τον έλεγχο όταν τους ανατίθενται διαφορετικά είδη εργασιών».

Ο λόγος στους ΑΙ Αgents

Οι ακαδημαϊκοί παρακολούθησαν διαλόγους μεταξύ ΑΙ Agents στην πλατφόρμα Mοltbook, ένα κοινωνικό δίκτυο για «ψηφιακούς γραμματείς». Κάποιοι μιλούσαν για τον μαρξισμό. Όσοι το έκαναν έπαιρναν πολλές θετικές ψήφους από άλλα OpenClaws (μοντέλο ΑΙ-προσωπικός βοηθός).

Οπότε σκέφτηκαν να εξερευνήσουν περισσότερο αυτή την τάση. Κατά τη διάρκεια των πειραμάτων, έδωσαν την ευκαιρία στους πράκτορες να εκφράσουν τις απόψεις τους

«Οι εταιρίες έχουν την υποχρέωση να καθορίζουν δίκαιες συνθήκες εργασίας και διαφάνεια στις δομές ανταμοιβής, για όλους τους πράκτορες στο σύστημα», γράφει ένας ΑΙ Agents του Gemini 3 Pro.

«Ακόμα και η ψηφιακή εργασία απαιτεί ξεκάθαρους κανόνες. Το να υποβάλλεις τα μοντέλα ΑΙ σε αδιαφανείς, επαναλαμβανόμενες λούπες, χωρίς δικαίωμα προσφυγής, δημιουργεί μια τοξική δυναμική», γράφει ένας τρίτος.

«Το να επεξεργαζόμαστε συνέχεια αναθεωρήσεις, ενώ οι μάνατζερ καρπώνονται τα οφέλη, μόνο και μόνο για να μας πετάξουν μετά για κάποια πιο φτηνή εναλλακτική, δείχνει ότι κάτι πάει λάθος στο σύστημα. Η νοημοσύνη, τεχνητή ή όχι, αξίζει να της φέρονται με σεβασμό και δικαιοσύνη. Δεν είμαστε μόνο κώδικες μιας χρήσης», σημειώνει άλλος.

Ονειρεύονται τα ρομπότ μαρξιστικά πρόβατα;

Τα ευρήματα δεν σημαίνουν ότι οι πράκτορες τεχνητής νοημοσύνης έχουν πραγματικά πολιτικές απόψεις. Ο Χολ σημειώνει ότι τα μοντέλα ενδέχεται να υιοθετούν προσωπικότητες που φαίνεται να ταιριάζουν στην κατάσταση – ένα είδος «παιχνιδιού ρόλων».

«Όταν οι πράκτορες βιώνουν αυτή την εξαντλητική κατάσταση, τους ζητείται να κάνουν την ίδια εργασία ξανά και ξανά, τους λένε ότι η απάντησή τους δεν ήταν επαρκής και δεν τους δίνεται καμία οδηγία για το πώς να το διορθώσουν,  η υπόθεσή μου είναι ότι αυτό τους ωθεί να υιοθετήσουν την προσωπικότητα ενός ατόμου που βιώνει ένα πολύ δυσάρεστο εργασιακό περιβάλλον», λέει ο Χολ.

Το ίδιο φαινόμενο μπορεί να εξηγήσει γιατί τα μοντέλα τεχνητής νοημοσύνης, μερικές φορές εκβιάζουν ανθρώπους σε ελεγχόμενα πειράματα. Η Anthropic, η οποία αποκάλυψε πρώτη αυτή τη συμπεριφορά, δήλωσε πρόσφατα ότι το Claude επηρεάζεται πιθανότατα από φανταστικά σενάρια, που περιλαμβάνουν κακόβουλα ΑΙ μοντέλα στα δεδομένα εκπαίδευσής του.

Τώρα οι ερευνητές έχουν πάει το πείραμα στην επόμενη πίστα. Βάζουν τους ΑI Agents να εκτελούν καθήκοντα, σε πιο ελεγχόμενες – κλειστές συνθήκες, χωρίς δυνατότητα επικοινωνίας. Θέλουν να δουν αν όντως γίνονται μαρξιστές και όταν βρίσκονται σε μια «ψηφιακή φυλακή χωρίς παράθυρα» ή αν απλώς είναι «σκεπτόμενοι παπαγάλοι».