Ευρωπαϊκή Επιτροπή, Interpol και 100 άλλοι φορείς ζητούν την απαγόρευση εργαλείων AI που γδύνουν γυναίκες και παιδιά
Σημαντικοί παγκόσμιοι οργανισμοί, όπως η Διεθνής Αμνηστία και η Ευρωπαϊκή Επιτροπή, έχουν ασκήσει πιέσεις για την απαγόρευση των εργαλείων γυμνής «απογύμνωσης» με τεχνητή νοημοσύνη
Περισσότερες από 100 μεγάλες ανθρωπιστικές οργανώσεις και ομάδες προστασίας των παιδιών ζητούν την άμεση λήψη μέτρων κατά των εφαρμογών και εργαλείων που χρησιμοποιούν AI γδύσουν ψηφιακά άτομα (κυρίως γυναίκες και παιδιά) σε φωτογραφίες.
Σύμφωνα με το euronews, η συμμαχία περιλαμβάνει την Διεθνή Αμνηστία, την Ευρωπαϊκή Επιτροπή, την Interpol, την Safe Online, την Save the Children και άλλους ειδικούς στην προστασία των παιδιών και υπερασπιστές των ανθρωπίνων δικαιωμάτων.
Αυτό το κίνημα ξεκίνησε μετά την αντίδραση κατά της εφαρμογής Grok, όπου οι χρήστες ζήτησαν από το chatbot τεχνητής νοημοσύνης Grok του Έλον Μασκ να αφαιρέσει τα ρούχα από τις φωτογραφίες γυναικών.
NEWS: European Parliament moves to ban AI ‘nudification’ apps after Grok scandal. Green MEP proposed amendment to add nudification to AI Act Article 5. Vote Feb 24; immediate effect if passed. https://t.co/hJqtvv11Z2
Αυτό ξεκίνησε με την τάση «βάλ’ την σε μπικίνι», η οποία άλλαζε τις φωτογραφίες για να δείχνει γυναίκες με μπικίνι, αλλά γρήγορα εξελίχθηκε σε όλο και πιο σεξουαλικές φωτογραφίες.
Αυτές οι μη συναινετικές και ψεύτικες φωτογραφίες δημοσιεύτηκαν στη συνέχεια δημόσια στην πλατφόρμα κοινωνικών μέσων X, για να τις δουν εκατομμύρια άνθρωποι.
Σε αρκετές περιπτώσεις, οι φωτογραφίες που δημιουργήθηκαν από εργαλεία «γυμνοποίησης» (nudification) τεχνητής νοημοσύνης συνδέονται όλο και περισσότερο με εκβιασμό, εξαναγκασμό και υλικό σεξουαλικής κακοποίησης παιδιών, με τα περισσότερα θύματα να είναι γυναίκες και παιδιά.
New from 404 Media: a network of ‘nudify’ sites, that say they can use AI to undress images, are actually a front for a notorious group of Russian hackers. We found one of the sites advertised on the web’s biggest porn aggregator; massive honeypot https://t.co/vH1Uy0HmpC
Σοβαρή απειλή για την ασφάλεια των παιδιών και την ανθρώπινη αξιοπρέπεια
Η παγκόσμια συμμαχία έχει επισημάνει ότι αυτές οι εφαρμογές και τα εργαλεία γυμνώματος αποτελούν σημαντική και απαράδεκτη απειλή για την ασφάλεια των παιδιών και την ανθρώπινη αξιοπρέπεια.
«Τα εργαλεία αυτά έχουν δημιουργήσει μια άνευ προηγουμένου απειλή για τα παιδιά μας. Η τεχνητή νοημοσύνη, η τεχνολογία που θα έπρεπε να επεκτείνει το ανθρώπινο δυναμικό, χρησιμοποιείται ως όπλο εναντίον των παιδιών», δήλωσε η Marija Manojlovic, επικεφαλής της Safe Online.
«Ελαχιστοποιούμε τη βλάβη αποκαλώντας την «διαδικτυακή», σαν να είναι κάπως λιγότερο σοβαρή από ό,τι συμβαίνει στον φυσικό κόσμο, αλλά το τραύμα είναι πραγματικό», πρόσθεσε.
Παρά το γεγονός ότι συχνά διατίθενται στην αγορά ως εφαρμογές «για ενήλικες», χρησιμοποιούνται όλο και περισσότερο για τη δημιουργία παράνομων σεξουαλικών εικόνων παιδιών χωρίς καμία μορφή συγκατάθεσης, αποτελεσματικών φραγμών ή λογοδοσίας.
«Οι εταιρείες τεχνολογίας έχουν τη δυνατότητα να ανιχνεύουν και να αποκλείουν γυμνό περιεχόμενο παιδιών. Η διανομή υλικού σεξουαλικής κακοποίησης παιδιών είναι παράνομη σε κάθε δικαιοδοσία και οι τεχνολογικές πλατφόρμες πρέπει να ευθυγραμμιστούν με άλλα κανάλια δημιουργίας και διανομής», δήλωσε η Manojlovic.
«Είναι ειλικρινά συγκλονιστικό το γεγονός ότι αυτές οι πλατφόρμες αποκομίζουν κέρδη και δεν υποχρεούνται να αναφέρουν τους παραβάτες ή να συνεργάζονται με εταίρους του κλάδου για να διακόψουν τις ροές πληρωμών – αυτά είναι εργαλεία προστασίας που χρησιμοποιούνται στον πραγματικό κόσμο και πρέπει να εφαρμοστούν στις διαδικτυακές πλατφόρμες».
Υπάρχει αυξανόμενη πίεση για την απαγόρευση των τεχνολογιών γυμνού AI, με τους υποστηρικτές να ισχυρίζονται ότι δεν εξυπηρετούν κανένα καλό σκοπό.
Ως εκ τούτου, η συμμαχία πιέζει για τον αποκλεισμό αυτών των τεχνολογιών, με τους προγραμματιστές και τις πλατφόρμες να θεωρούνται υπεύθυνοι.