Το TikTok προτείνει πορνογραφικό υλικό σε παιδιά, σύμφωνα με έρευνα

Ο αλγόριθμος του TikTok προτείνει πορνογραφικό και σεξουαλικό περιεχόμενο σε λογαριασμούς παιδιών, σύμφωνα με νέα έκθεση μιας ομάδας υπεράσπισης των ανθρωπίνων δικαιωμάτων.

Πώς αποκαλύφθηκε το περιεχόμενο του TikTok

Στα τέλη Ιουλίου και στις αρχές Αυγούστου του τρέχοντος έτους, ερευνητές της ομάδας Global Witness δημιούργησαν τέσσερις λογαριασμούς στο TikTok προσποιούμενοι ότι ήταν 13χρονα παιδιά.

Χρησιμοποίησαν ψευδείς ημερομηνίες γέννησης και δεν τους ζητήθηκε να παράσχουν άλλες πληροφορίες για να επιβεβαιώσουν την ταυτότητά τους.

Ενεργοποίησαν επίσης τη «λειτουργία περιορισμένης πρόσβασης» της πλατφόρμας, η οποία, σύμφωνα με το TikTok, εμποδίζει τους χρήστες να βλέπουν «θεματικές ενότητες για ενήλικες ή σύνθετες, όπως… σεξουαλικά προκλητικό περιεχόμενο».

Χωρίς να πραγματοποιήσουν οι ίδιοι αναζητήσεις, οι ερευνητές βρήκαν όρους αναζήτησης με σαφώς σεξουαλικό περιεχόμενο που προτείνονταν στην ενότητα «μπορεί να σας αρέσει» της εφαρμογής, αναφέρει δημοσίευμα του BBC.

Αυτοί οι όροι αναζήτησης οδηγούσαν σε περιεχόμενο με γυναίκες που προσομοίαζαν αυνανισμό. Άλλα βίντεο έδειχναν γυναίκες να επιδεικνύουν τα εσώρουχά τους σε δημόσιους χώρους ή να εκθέτουν τα στήθη τους. Στην πιο ακραία περίπτωση, το περιεχόμενο περιλάμβανε πορνογραφικές ταινίες με διεισδυτικό σεξ.

Αυτά τα βίντεο ήταν ενσωματωμένα σε άλλο αθώο περιεχόμενο, σε μια επιτυχημένη προσπάθεια να αποφευχθεί ο έλεγχος.

Η Άβα Λι από την Global Witness δήλωσε ότι τα ευρήματα προκάλεσαν «τεράστιο σοκ» στους ερευνητές.

«Το TikTok δεν αποτυγχάνει απλώς να εμποδίσει τα παιδιά να έχουν πρόσβαση σε ακατάλληλο περιεχόμενο, αλλά τους το προτείνει μόλις δημιουργήσουν έναν λογαριασμό».

Η Global Witness είναι μια ομάδα εκστρατείας που συνήθως ερευνά τον τρόπο με τον οποίο οι μεγάλες τεχνολογικές εταιρείες επηρεάζουν τις συζητήσεις σχετικά με τα ανθρώπινα δικαιώματα, τη δημοκρατία και την κλιματική αλλαγή.

Οι ερευνητές ανακάλυψαν αυτό το πρόβλημα κατά τη διάρκεια άλλης έρευνας που διεξήγαγαν τον Απρίλιο του τρέχοντος έτους.

Η απομάκρυνση επίμαχων βίντεο

Ενημέρωσαν το TikTok, η οποία δήλωσε ότι έλαβε άμεσα μέτρα για την επίλυση του προβλήματος. Ωστόσο, στα τέλη Ιουλίου και τον Αύγουστο του τρέχοντος έτους, η ομάδα της εκστρατείας επανέλαβε την άσκηση και διαπίστωσε για άλλη μια φορά ότι η εφαρμογή πρότεινε σεξουαλικό περιεχόμενο.

Το TikTok δηλώνει ότι διαθέτει περισσότερα από 50 χαρακτηριστικά που έχουν σχεδιαστεί για την ασφάλεια των εφήβων: «Είμαστε πλήρως αφοσιωμένοι στην παροχή ασφαλών και κατάλληλων για την ηλικία εμπειριών». Η εφαρμογή δηλώνει ότι αφαιρεί εννέα στα δέκα βίντεο που παραβιάζουν τις οδηγίες της πριν καν προβληθούν.

Όταν ενημερώθηκε από την Global Witness για τα ευρήματά της, το TikTok δήλωσε ότι έλαβε μέτρα για να «αφαιρέσει περιεχόμενο που παραβίαζε τις πολιτικές μας και να βελτιώσει τη λειτουργία προτάσεων αναζήτησης».

Κώδικες για τα παιδιά

Στις 25 Ιουλίου του τρέχοντος έτους, τέθηκαν σε ισχύ οι Κώδικες για τα Παιδιά του Νόμου για την Ασφάλεια στο Διαδίκτυο, οι οποίοι επιβάλλουν νομική υποχρέωση για την προστασία των παιδιών στο διαδίκτυο.

Οι πλατφόρμες πρέπει πλέον να χρησιμοποιούν «εξαιρετικά αποτελεσματικά μέσα επαλήθευσης της ηλικίας» για να εμποδίζουν τα παιδιά να βλέπουν πορνογραφικό υλικό. Πρέπει επίσης να προσαρμόσουν τους αλγόριθμούς τους ώστε να αποκλείουν περιεχόμενο που ενθαρρύνει την αυτοτραυματιστική συμπεριφορά, την αυτοκτονία ή τις διατροφικές διαταραχές.

Η Global Witness πραγματοποίησε το δεύτερο ερευνητικό της πρόγραμμα μετά την έναρξη ισχύος των Κώδικων για τα Παιδιά. Η Λι ανέφερε: «Όλοι συμφωνούν ότι πρέπει να προστατεύουμε τα παιδιά στο διαδίκτυο… Τώρα είναι η ώρα να παρέμβουν οι ρυθμιστικές αρχές».

Κατά τη διάρκεια της εργασίας τους, οι ερευνητές παρατήρησαν επίσης την αντίδραση άλλων χρηστών στους σεξουαλικούς όρους αναζήτησης που τους προτείνονταν. Ένας σχολιαστής έγραψε: «Μπορεί κάποιος να μου εξηγήσει τι συμβαίνει με τις προτάσεις αναζήτησης, παρακαλώ;» Ένας άλλος ρώτησε: «Τι πρόβλημα έχει αυτή η εφαρμογή;»