Μπαίνουν κανόνες για την τεχνητή νοημοσύνη

Οι διαπραγματεύσεις ήταν σκληρές. Συνολικά 37 ώρες χρειάστηκαν οι εκπρόσωποι του Ευρωκοινοβουλίου και του Ευρωπαϊκού Συμβουλίου για να καταλήξουν, τα μεσάνυχτα της Παρασκευής, σε μία «πολιτική συμφωνία» όσον αφορά τους κανόνες που πρέπει να διέπουν την τεχνητή νοημοσύνη (AI) και τις εφαρμογές της – και αυτός ήταν ο τελευταίος γύρος των διαπραγματεύσεων, το θέμα συζητούνταν από τον Απρίλιο του 2021.

Το κείμενο χρειάζεται ακόμα «χτένισμα», θα πρέπει να συμπληρωθεί από μία τεχνική εργασία, ο Νόμος περί Τεχνητής Νοημοσύνης (Alt Act) της ΕΕ δεν πρόκειται να τεθεί πλήρως σε ισχύ πριν από το 2025

Σκοπός είναι να συμφιλιωθεί η καινοτομία με τον σεβασμό των ατομικών δικαιωμάτων, να βρεθεί μία ισορροπία ανάμεσα στα πλεονεκτήματα της τεχνολογίας και την ανάγκη εφαρμογής ασφαλιστικών δικλίδων.

Το κείμενο χρειάζεται ακόμα «χτένισμα», θα πρέπει να συμπληρωθεί από μία τεχνική εργασία, ο Νόμος περί Τεχνητής Νοημοσύνης (AI Act) της ΕΕ δεν πρόκειται να τεθεί πλήρως σε ισχύ πριν από το 2025.

Είναι όμως, τουλάχιστον στις προθέσεις του, ένας πρωτοποριακός νόμος: τοποθετεί την ΕΕ μπροστά από τις ΗΠΑ, την Κίνα και τη Βρετανία στην κούρσα για τη ρύθμιση της AI και την προστασία του κοινού από τους κινδύνους που ενέχει, θα μπορούσε λοιπόν να αποτελέσει σημείο αναφοράς για ολόκληρο τον κόσμο.

«Η ΕΕ γίνεται η πρώτη ήπειρος που ορίζει σαφείς κανόνες για τη χρήση της τεχνητής νοημοσύνης», δήλωσε ο ευρωπαίος επίτροπος για την εσωτερική αγορά Τιερί Μπρετόν, κάνοντας λόγο για μία «ιστορική» συμφωνία.

Ποιες χρήσεις απαγορεύονται

Δεδομένης της απόστασης που χώριζε το Ευρωκοινοβούλιο, το οποίο δίνει κατά παράδοση μεγαλύτερη προσοχή στα ανθρώπινα δικαιώματα, από τις ευρωπαϊκές κυβερνήσεις, που δίνουν μεγαλύτερη προσοχή στην ανάπτυξη και τη δημόσια τάξη, όταν προσήλθαν στο διαπραγματευτικό τραπέζι, το αποτέλεσμα δεν ήταν δεδομένο.

Και εξακολουθούν να υπάρχουν πολλές άγνωστες παράμετροι όσον αφορά την εφαρμογή και την αποτελεσματικότητα της συμφωνίας που θα πρέπει να επαληθευτούν στην πράξη.

Η βασική αρχή που συμφωνήθηκε, σε κάθε περίπτωση, είναι η διάκριση των εφαρμογών AI ανάλογα με το επίπεδο του κινδύνου που ενέχουν.

Απαγορεύονται, λοιπόν, ορισμένες χρήσεις: τα συστήματα «κοινωνικής αξιολόγησης» ή «κοινωνικής βαθμολόγησης», με βάση την κοινωνική συμπεριφορά ή τα προσωπικά χαρακτηριστικά (όπως αυτό που δοκιμάζεται στην Κίνα), εκείνα που χειραγωγούν τη συμπεριφορά ή τις αποφάσεις, καθώς και τα συστήματα προληπτικής αστυνόμευσης που προσδιορίζουν την επικινδυνότητα ενός ανθρώπου πριν αυτός διαπράξει κάποιο έγκλημα.

Οι αλγόριθμοι που μπορούν να διαβάζουν συναισθήματα απαγορεύονται στα σχολεία και τους εργασιακούς χώρους, θα μπορούν ωστόσο να χρησιμοποιηθούν στα πλαίσια της αστυνόμευσης και της μετανάστευσης, όπως ζητούσαν οι κυβερνήσεις.

Θα απαγορεύονται επίσης τα συστήματα κατηγοριοποίησης που βασίζονται σε ευαίσθητες πληροφορίες – όπως η φυλή, η θρησκεία και ο σεξουαλικός προσανατολισμός.

Οι εφαρμογές «υψηλού κινδύνου»

Υπάρχουν κατόπιν οι εφαρμογές «υψηλού κινδύνου», εκείνες που θα χρησιμοποιούνται στους τομείς της υγείας, της εργασίας, της εκπαίδευσης και της δικαιοσύνης, όπου τυχόν λάθη ή διακρίσεις που «μαθαίνουν» οι αλγόριθμοι θα μπορούσαν να βλάψουν τους πολίτες.

Ο Νόμος περί Τεχνητής Νοημοσύνης εισάγει απαιτήσεις για όσους τις αναπτύσσουν και τις χρησιμοποιούν, όπως η αξιολόγηση του κινδύνου και η ανάγκη για ανθρώπινη επίβλεψη, ώστε να μην «αποφασίζουν» οι μηχανές μόνες τους.

Ενα από τα τελευταία σημεία τριβής που έπρεπε να διευθετηθούν αφορούσε τη χρήση συστημάτων αναγνώρισης προσώπου, στα όρια ανάμεσα στην ασφάλεια και την ελευθερία.

Το Ευρωκοινοβούλιο, ενθαρρυμένο από διάφορες οργανώσεις για τα ανθρώπινα δικαιώματα, είχε προτείνει μια απόλυτη απαγόρευση, ενώ οι κυβερνήσεις ήθελαν ευρείες εξαιρέσεις για τις αστυνομικές δυνάμεις.

Τελικά, επιτεύχθηκε ο εξής συμβιβασμός: θα μπορούν να χρησιμοποιούνται μόνο με δικαστική άδεια και σε καθορισμένες περιστάσεις, όπως μία έκτακτη ανάγκη εξαιτίας τρομοκρατίας, η αναζήτηση θυμάτων ή υπόπτων για σοβαρά εγκλήματα.

Ενα ακόμα δύσκολο σημείο ήταν η ρύθμιση των μοντέλων τεχνητής νοημοσύνης που είναι τόσο ισχυρά ώστε να προσφέρονται για πολλαπλές χρήσεις, όπως αυτό που διέπει το ChatGPT, ή εκείνα που αναπτύσσουν άλλα μεγαθήρια της Σίλικον Βάλεϊ, από την Google μέχρι τη Meta.

Οι κανόνες θα είναι δεσμευτικοί: μία νίκη για το Ευρωκοινοβούλιο, δεδομένου ότι οι ευρωπαϊκές κυβερνήσεις – και ιδίως οι κυβερνήσεις της Γερμανίας, της Γαλλίας και της Ιταλίας – είχαν ζητήσει να περιοριστούν σε εθελοντικούς κώδικες συμπεριφοράς.

Τα εν λόγω μοντέλα, λοιπόν, θα πρέπει να δημοσιεύουν αναλυτική τεχνική τεκμηρίωση, συμπεριλαμβανομένου και ενός καταλόγου των περιεχομένων που χρησιμοποιούνται για την εκπαίδευση των αλγόριθμων – οι δημιουργοί περιεχομένου θα μπορούν έτσι να υπερασπιστούν τα πνευματικά τους δικαιώματα.

Επιβάλλεται επίσης να καθίσταται αναγνωρίσιμο κάθε υλικό που δημιουργείται μέσω τεχνητής νοημοσύνης, ώστε να αποτρέπεται η εξαπάτηση ή η παραπληροφόρηση.

Τα πλέον ισχυρά συστήματα, που ενέχουν «συστημικούς κινδύνους», θα πρέπει να συντάσσουν αξιολογήσεις κινδύνου, ενημερώνοντας την Κομισιόν – η οποία θα διαθέτει μία Υπηρεσία Τεχνητής Νοημοσύνης – για τυχόν περιστατικά.

Καταγγελίες θα μπορούν να κάνουν και πολίτες.

Τα πρόστιμα για τις εταιρείες που παραβιάζουν τους κανονισμούς θα είναι τσουχτερά, ξεκινώντας από το 1,5% και φτάνοντας μέχρι το 7% του τζίρου τους, με ανώτατο όριο τα 35 εκατομμύρια ευρώ.

Θα τεθεί σε ισχύ σταδιακά

Απαξ και εγκριθεί – ιδανικά, μέχρι το τέλος της τρέχουσας ευρωπαϊκής κοινοβουλευτικής περιόδου –, ο Νόμος περί Τεχνητής Νοημοσύνης θα τεθεί σε ισχύ σταδιακά: οι απαγορεύσεις έπειτα από έξι μήνες, οι κανονισμοί για τα συστήματα υψηλού κινδύνου και τα πιο ισχυρά συστήματα έπειτα από δώδεκα μήνες, οι υπόλοιπες προβλέψεις στα δύο χρόνια.

Θα χρειαστεί χρόνος για τον καθορισμό των τεχνικών λεπτομερειών και την προσαρμογή των εταιρειών, αν και αυτές οι τελευταίες θα ενθαρρυνθούν να προσαρμοστούν νωρίτερα.

Οπως σημειώνει η ιταλική «La Repubblica», καθότι πρόκειται για ευρωπαϊκό κανονισμό, δεν θα χρειαστεί νέα επικύρωση από τις κυβερνήσεις.

«Εγγυόμαστε μια ισορροπία ανάμεσα στην καινοτομία και την προστασία», δήλωσε ο ιταλός ευρωβουλευτής Μπράντο Μπένιφαϊ, εισηγητής του κειμένου.

Αντιρρήσεις από Παρίσι – Βερολίνο και από τον κόσμο της τεχνολογίας

Δεν πανηγυρίζουν πάντως όλοι για την «πολιτική συμφωνία» που επιτεύχθηκε. Χώρες όπως η Γαλλία και η Γερμανία ανησυχούν μήπως μία υπερβολική κανονιστική ρύθμιση σκοτώσει εν τη γενέσει τούς εν δυνάμει «πρωταθλητές» τους, όπως η Mistral AI και η Aleph Alpha αντίστοιχα, καθιστώντας απαγορευτικά τα κόστη ανάπτυξης.

«Θα αναλύσουμε προσεκτικά τον συμβιβασμό που επιτεύχθηκε και θα εξασφαλίσουμε μέσα στις επόμενες εβδομάδες ότι το κείμενο προστατεύει τη δυνατότητα της Ευρώπης να αναπτύξει τις δικές της τεχνολογίες AI και να προστατεύσει τη στρατηγική αυτονομία της», δήλωσε χαρακτηριστικά ο γάλλος υπουργός Ψηφιακής Διακυβέρνησης Ζαν – Νοέλ Μπαρό.

Επικριτικός εμφανίζεται και ο κόσμος της τεχνολογίας.

«Φαίνεται πως προκρίθηκε η ταχύτητα έναντι της ποιότητας, με συνέπειες εν δυνάμει καταστροφικές για την ευρωπαϊκή οικονομία», δήλωσε ο Ντάνιελ Φριντλέντερ, υπεύθυνος για την Ευρώπη στο CCIA, ένα από τα κύρια τεχνολογικά λόμπι, επισημαίνοντας πως «μία τεχνική δουλειά» είναι πλέον «απαραίτητη» πάνω σε λεπτομέρειες κρίσιμης σημασίας.

Εξίσου επικριτική, στον αντίποδα όμως, εμφανίστηκε και η οργάνωση προστασίας του δικαιώματος στην ιδιωτικότητα European Digital Rights.

«Δύσκολα μπορεί να ενθουσιαστεί κανείς με έναν νόμο ο οποίος, για πρώτη φορά στην ΕΕ, λαμβάνει μέτρα για τη νομιμοποίηση της δημόσιας αναγνώρισης προσώπου σε όλη την ΕΕ», σχολίασε.

«Παρότι το Κοινοβούλιο πάλεψε σκληρά, η συνολική δέσμη μέτρων για τη βιομετρική παρακολούθηση και τη δημιουργία προφίλ είναι στην καλύτερη περίπτωση χλιαρή», πρόσθεσε.

Premium έκδοση «ΤΑ ΝΕΑ»