Η χρήση τεχνολογιών τεχνητής νοημοσύνης για τη δημιουργία deepfake εικόνων σεξουαλικού περιεχομένου ανάμεσα σε μαθητές έχει γίνει ανησυχητικά συχνή. Δέκα χρόνια πριν, το πρόβλημα στα σχολεία περιοριζόταν σε sexting και γυμνές φωτογραφίες.

Σήμερα, οι δυνατότητες της AI έχουν καταστήσει πολύ πιο εύκολη τη δημιουργία deepfake εικόνων και βίντεο, που μπορούν να δείχνουν συμμαθητές, φίλους ή ακόμη και καθηγητές. Αυτό μπορεί να περιλαμβάνει αφαίρεση ρούχων, μετατροπή μιας εικόνας ώστε να κινείται προκλητικά ή τοποθέτηση του κεφαλιού κάποιου σε πορνογραφική εικόνα.

Μια διευθύντρια περιγράφει στον Guardian πώς ένας έφηβος σε λεωφορείο, επιστρέφοντας από το σχολείο, έβγαλε το κινητό του, διάλεξε φωτογραφία μιας μαθήτριας από άλλο σχολείο και χρησιμοποίησε μια εφαρμογή «γυμνοποίησης» για να επεξεργαστεί την εικόνα της σε κοινή θέα και χωρίς να φαίνεται ότι ντρεπόταν.

Η διευθύντρια του σχολείου δήλωσε ότι δεν γνωρίζει γιατί επιλέχθηκε αυτή η συγκεκριμένη μαθήτρια, αν δηλαδή τη γνώριζε ο μαθητής ή αν ήταν τυχαία επιλογή. Το περιστατικό έγινε γνωστό μόνο όταν άλλος μαθητής αντιλήφθηκε τι συνέβαινε και το ανέφερε στη διεύθυνση του σχολείου.

Οι γονείς ενημερώθηκαν, ο μαθητής εντοπίστηκε και κλήθηκε η αστυνομία. Ωστόσο, λόγω του στίγματος και της ντροπής που συνοδεύει την κακοποίηση μέσω εικόνων και τη διανομή deepfakes, αποφασίστηκε η στοχευμένη μαθήτρια να μην ενημερωθεί. «Η μαθήτρια δεν το γνωρίζει καν», είπε η διευθύντρια. «Μίλησα με τους γονείς και εκείνοι δεν ήθελαν να το μάθει».

«Έκανε εμετό βλέποντας τις εικόνες»

Το περιστατικό του μαθητή στο λεωφορείο είναι μόνο ένα παράδειγμα του πώς τα deepfakes και η εύκολα προσβάσιμη τεχνολογία γυμνοποίησης επηρεάζουν τους μαθητές – συχνά με καταστροφικά αποτελέσματα. Στην Ισπανία πέρυσι, 15 αγόρια στην περιοχή Extremadura καταδικάστηκαν σε αναστολή ενός έτους για τη χρήση AI σε ψεύτικες γυμνές εικόνες συμμαθητριών τους, που μοιράστηκαν σε ομάδες WhatsApp. Περίπου 20 κορίτσια επηρεάστηκαν, κυρίως 14 ετών, ενώ η νεαρότερη ήταν 11.

Στην Αυστραλία, περίπου 50 μαθητές στο Bacchus Marsh Grammar της Βικτόρια ανέφεραν ότι οι εικόνες τους είχαν παραποιηθεί και διανεμηθεί – η μητέρα μιας μαθήτριας είπε ότι η κόρη της έμεινε σοκαρισμένη και έκανε εμετό βλέποντας τις εικόνες. Στις ΗΠΑ, πάνω από 30 μαθήτριες στο Westfield High School του New Jersey διαπίστωσαν ότι deepfake πορνογραφικές εικόνες τους είχαν διαμοιραστεί μεταξύ των αγοριών της τάξης τους στο Snapchat.

Και στο Ηνωμένο Βασίλειο, το πρόβλημα είναι παρόν. Μια έρευνα σε 4.300 καθηγητές δευτεροβάθμιας εκπαίδευσης στην Αγγλία, που διεξήχθη από την Teacher Tapp για λογαριασμό της Guardian, έδειξε ότι περίπου ένας στους δέκα γνώριζε μαθητές που δημιούργησαν «deepfake, σεξουαλικά εκφραστικά βίντεο» τη διάρκεια της τελευταίας σχολικής χρονιάς.

Θύματα 14χρονα παιδιά

Τα τρία τέταρτα των περιστατικών αφορούσαν παιδιά 14 ετών ή μικρότερα, ενώ το 10% αφορούσε 11χρονα και το 3% ακόμα μικρότερα, δείχνοντας πόσο εύκολα μπορεί να χρησιμοποιηθεί αυτή η τεχνολογία. Μεταξύ των καθηγητών που συμμετείχαν, το 7% δήλωσε ότι γνώριζε ένα περιστατικό, το 1% δύο περιστατικά και παρόμοιο ποσοστό τρία ή περισσότερα περιστατικά την τελευταία σχολική χρονιά.

Νωρίτερα φέτος, μια έρευνα της Girlguiding έδειξε ότι ένας στους τέσσερις ερωτηθέντες ηλικίας 13-18 ετών είχε δει σεξουαλικά εκφραστική deepfake εικόνα ενός διάσημου προσώπου, φίλου, καθηγητή ή του ίδιου του εαυτού του.

«Πριν από ένα χρόνο χρησιμοποιούσα παραδείγματα από τις ΗΠΑ και την Ισπανία για να μιλήσω για αυτά τα ζητήματα», λέει η Margaret Mulholland, ειδική στην εκπαίδευση και ένταξη μαθητών με ιδιαίτερες ανάγκες στο Association of School and College Leaders. «Τώρα συμβαίνει δίπλα μας και είναι πραγματικά ανησυχητικό».

Πέρυσι, οι Times ανέφεραν ότι δύο ιδιωτικά σχολεία στο Ηνωμένο Βασίλειο βρέθηκαν στο επίκεντρο αστυνομικής έρευνας για τη δημιουργία και διανομή deepfake πορνογραφικών εικόνων. Η αστυνομία διερευνά ισχυρισμούς ότι τα deepfakes δημιουργήθηκαν σε σχολείο αρρένων από άτομο που χειριζόταν εικόνες μαθητριών άλλου σχολείου.

Η επίτροπος παιδιών της Αγγλίας, Dame Rachel de Souza, έχει ζητήσει την απαγόρευση εφαρμογών γυμνοποίησης όπως το ClothOff, που ερευνήθηκε στο podcast Black Box της Guardian για την AI. «Τα παιδιά μου είπαν ότι φοβούνται ακόμη και την ιδέα ότι αυτή η τεχνολογία είναι διαθέσιμη, πόσο μάλλον να χρησιμοποιείται», λέει.

Το 99% αφορά θύματα γυναίκες

Μεταξύ μαθητών, οι συνέπειες μπορεί να είναι τεράστιες. Κορίτσια και νεαρές γυναίκες αισθάνονται παραβιασμένες και ταπεινωμένες. Οι φιλικές ομάδες διαλύονται και υπάρχει βαθιά αίσθηση προδοσίας όταν μια μαθήτρια ανακαλύπτει ότι κάποια άλλη δημιούργησε μια σεξουαλική deepfake εικόνα της και τη διαμοίρασε στο σχολείο. Κορίτσια αδυνατούν να παρακολουθήσουν τα μαθήματα, ενώ οι καθηγητές με περιορισμένη εκπαίδευση προσπαθούν να στηρίξουν και να εκπαιδεύσουν. Τα αγόρια και οι νεαροί άνδρες εμπλέκονται σε εγκληματική συμπεριφορά, συχνά επειδή δεν κατανοούν τις συνέπειες των πράξεών τους.

Υπολογίζεται ότι το 99% των σεξουαλικά εκφραστικών deepfakes στο διαδίκτυο αφορά γυναίκες και κορίτσια, αλλά υπάρχουν και περιστατικά αγοριών. Η οργάνωση Everyone’s Invited (EI), που συλλέγει μαρτυρίες επιζώντων σεξουαλικής κακοποίησης, έχει εντοπίσει τουλάχιστον ένα τέτοιο περιστατικό: «Ένας μαθητής μοιράστηκε με την εκπαιδευτική ομάδα της EI ότι ένα αγόρι της τάξης του, δημοφιλές και φίλος πολλών κοριτσιών, έγινε στόχος όταν άλλο αγόρι δημιούργησε AI-generated σεξουαλική εικόνα του. Η εικόνα αυτή κυκλοφόρησε στο σχολείο, προκαλώντας σοβαρή δυσφορία και τραύμα».

Η EI επισημαίνει επίσης πώς τα εργαλεία αυτά χρησιμοποιούνται με ελαφρότητα και με ανησυχητικό τρόπο, όπως το φίλτρο «μεταμόρφωσε τη φίλη σου σε αγόρι σου». «Σε πλατφόρμες όπως TikTok και Snapchat, γίνονται όλο και πιο προσιτά και κανονικοποιημένα. Αν και για μερικούς μπορεί να φαίνεται αθώο ή παιχνιδιάρικο, αντανακλά και ενισχύει μια κουλτούρα όπου η συγκατάθεση και ο σεβασμός στα προσωπικά όρια υπονομεύονται».

Ειδήσεις Σήμερα: