ΗΠΑ: Αστυνομικοί περάσαν χειροπέδες σε μαθητή αφού σύστημα AI μπέρδεψε για όπλο μία… σακούλα πατατάκια
Τα σχολεία στις ΗΠΑ επινοούν δημιουργικούς τρόπους για να αποτρέψουν τους μαζικούς πυροβολισμούς. Ωστόσο, το λάθος ενός συστήματος AI προκάλεσε σοβαρό ψυχικό τραύμα σε έναν μαθητή στην Βαλτιμόρη
Ένοπλοι αστυνομικοί έβαλαν χειροπέδες σε έναν μαύρο μαθητή σε ένα γυμνάσιο στην κομητεία της Βαλτιμόρης του Μέριλαντ στις ΗΠΑ, αφού ένα σύστημα ασφαλείας τεχνητής νοημοσύνης εντόπισε την άδεια σακούλα με πατατάκια του εφήβου ως πιθανό πυροβόλο όπλο.
Οι αρχές της κομητείας της Βαλτιμόρης ζητούν τώρα να εξεταστεί ο τρόπος με τον οποίο το γυμνάσιο Κενγουντ χρησιμοποιεί το σύστημα ανίχνευσης όπλων με τεχνητή νοημοσύνη και ο λόγος για τον οποίο ο έφηβος κατέληξε με χειροπέδες, παρά το γεγονός ότι οι υπεύθυνοι ασφαλείας του σχολείου διαπίστωσαν γρήγορα ότι δεν υπήρχε όπλο.
Το πρώτο πράγμα που αναρωτήθηκα ήταν αν επρόκειτο να πεθάνω
«Με ανάγκασαν να γονατίσω, έβαλαν τα χέρια μου πίσω από την πλάτη και μου έβαλαν χειροπέδες», είπε ο μαθητής του Κένγουντ, Τάκι Άλεν, στο WBAL, συνεργάτη του CNN, περιγράφοντας τι συνέβη το βράδυ της Δευτέρας, όταν η αστυνομία έφτασε στο σχολείο ενώ περίμενε με τους φίλους του να τον πάρουν για να τον πάνε σπίτι μετά την προπόνηση ποδοσφαίρου.
«Με έψαξαν και κατάλαβαν ότι δεν είχα τίποτα. Στη συνέχεια, πήγαν εκεί που στεκόμουν και βρήκαν μια τσάντα με πατατάκια στο πάτωμα», είπε ο Άλεν.
Περιέγραψε μια οδυνηρή σκηνή με έντονη αντίδραση της αστυνομίας.
«Το πρώτο πράγμα που αναρωτήθηκα ήταν αν επρόκειτο να πεθάνω. Επειδή με σημάδευαν με όπλο», είπε ο Άλεν στο WBAL, αναφέροντας ότι «οκτώ περιπολικά» σταμάτησαν στο σχολείο.
«Κρατούσα απλώς μια σακούλα Doritos – με τα δύο χέρια και ένα δάχτυλο έξω, και είπαν ότι έμοιαζε με όπλο», είπε ο Άλεν στο WBAL.
Νέα τεχνολογία στην ασφάλεια
Το σύστημα ασφαλείας με τεχνητή νοημοσύνη στο σχολείο είναι μόνο ένα παράδειγμα του τρόπου με τον οποίο τα σχολεία αντιμετωπίζουν την ασφάλεια στην εποχή της μαζικής βίας με όπλα.
Τα εργαλεία τεχνητής νοημοσύνης έχουν γνωρίσει τεράστια αύξηση της δημοτικότητάς τους τα τελευταία χρόνια, συμπεριλαμβανομένων των εργαλείων που βοηθούν στην παρακολούθηση των βίντεο επιτήρησης.
«Κατανοούμε πόσο ενοχλητικό ήταν αυτό για το άτομο που υποβλήθηκε σε έρευνα, καθώς και για τους άλλους μαθητές που ήταν μάρτυρες του συμβάντος», δήλωσε η διευθύντρια του σχολείου.
«Θα θέλαμε να γνωρίζετε ότι η ασφάλεια των μαθητών και της σχολικής κοινότητας είναι μία από τις υψηλότερες προτεραιότητές μας».
Η Omnilert, η εταιρεία που διαχειρίζεται το σύστημα ανίχνευσης όπλων με τεχνητή νοημοσύνη, εξέφρασε τη λύπη της για το περιστατικό και τόνισε ότι το σύστημά της έχει σχεδιαστεί για να εντοπίζει πιθανές απειλές και να τις υποβάλλει σε ανθρώπινη αξιολόγηση.
«Λυπούμαστε για το περιστατικό αυτό και επιθυμούμε να εκφράσουμε την ανησυχία μας στον μαθητή και στην ευρύτερη κοινότητα που επηρεάστηκε από τα γεγονότα που ακολούθησαν», δήλωσε η εταιρεία στο CNN.
«Αν και το αντικείμενο αργότερα αποδείχθηκε ότι δεν ήταν όπλο, η διαδικασία λειτούργησε όπως έπρεπε: να δώσει προτεραιότητα στην ασφάλεια και την ευαισθητοποίηση μέσω της ταχείας ανθρώπινης επαλήθευσης», πρόσθεσε η εταιρεία.
Η σκληρή αντίδραση στον ψευδή συναγερμό προκάλεσε την οργή της κοινότητας, με τον παππού του Άλεν να απαιτεί λογοδοσία.
«Κάτι πρέπει να γίνει», δήλωσε στο WBAL. «Πρέπει να γίνουν αλλαγές και οι υπεύθυνοι να λογοδοτήσουν».
Baltimore County Public Schools Superintendent Dr. Myriam Rogers defended the school system’s use of an AI program that led officers to mistakenly detain a student on Monday over a bag of chips.
After football practice Monday evening, 16-year-old Taki Allen was eating a bag of… pic.twitter.com/Jl5T8z2ycI
Σε αυτό το σημείο αξίζει να αναρωτηθούμε γιατί ένα περιστατικό όπως αυτό στο γυμνάσιο Κενγουντ συνέβη και πώς η φυλή του μαθητή επηρεάζει την αντίδραση των αρχών.
Το γεγονός ότι ο Τάκι Άλεν είναι ένας έγχρωμος μαθητής δεν είναι ασήμαντο.
Στις ΗΠΑ, οι μαύροι άντρες συχνά αντιμετωπίζουν υπερβολική αστυνομική βία και μεγαλύτερη καχυποψία ακόμα και για μικρές παραβάσεις, σε σύγκριση με λευκούς.
Η υπόθεση του Τζορτζ Φλόιντ και η διεθνής κατακραυγή για τη δολοφονία του από την αστυνομία το 2020 υπογραμμίζουν πόσο βαθιά ριζωμένο είναι αυτό το πρόβλημα και πώς οι φυλετικές ανισότητες μπορούν να οδηγήσουν σε σοβαρές συνέπειες.
Αυτή η πραγματικότητα εντείνει την ανάγκη για κριτική αξιολόγηση των συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούνται για την ασφάλεια στα σχολεία, καθώς και για διασφάλιση δίκαιης και ίσης μεταχείρισης όλων των μαθητών.