Ερευνητές διαπιστώνουν πως τα συστήματα αναγνώρισης φωνητικών εντολών, όπως το Google Now και η Apple Siri, μπορούν να ξεγελαστούν και να εκτελέσουν εντολές που δεν διακρίνονται ως τέτοιες από τους ανθρώπους, αφού στ’αυτιά μας ακούγονται ως θόρυβος ή βόμβος.

Ένα πιθανό σενάριο θα μπορούσε να είναι να μεταδοθούν τέτοιες κακόβουλες εντολές -όπως «Ok, google, Go to GKCD.com», δηλαδή να μεταβεί σε ένα σάιτ που μολύνει το σύστημα του επισκέπτη- από ένα φαινομενικό αθώο βίντεο στο YouTube και να εκτελεστούν, υπό συνθήκες, από smartphone σε σχετικά κοντινή απόσταση (μικρότερη από 3,5 μέτρα).


To smartphone απέχει 3 μέτρα από τα ηχεία.

Στο δικτυακό τόπο όπου φιλοξενείται το πείραμα, στη διεύθυνση https://sites.google.com/site/hiddenvoicecommands16/home μπορεί κανείς να διεξάγει τις δικές του δοκιμές.

Οι μελετητές προτείνουν τρεις διαφορετικές προσεγγίσεις για την θωράκιση των συστημάτων που δέχονται φωνητικές εντολές. Μια από αυτές είναι να προβλεφθεί ότι το σύστημα θα ειδοποιεί το χρήστη ότι δέχτηκε φωνητική εντολή -αν και αποδεικνύεται ανεπαρκής εάν ο χρήστης δεν βρίσκεται κοντά στο smartphone του. Η πλέον αποδοτική μέθοδος προστασίας, που διέκρινε την απόπειρα επίθεσης με κρυμμένες φωνητικές εντολές στο 99,8% των περιπτώσεων, ήταν αυτή της μηχανικής μάθησης που αναλαμβάνει να διακρίνει τους ανθρώπινους από τους μηχανικά παραγόμενους ήχους. Εξάλλου, ο ήχος των εντολών είναι μηχανικά παραμορφωμένος ώστε να μην γίνεται αντιληπτός από το ανθρώπινο αυτί, αν και οι ερευνητές σημειώνουν ότι ο ανθρώπινος εγκέφαλος μπορεί να ακούσει και να διακρίνει λέξεις στο θόρυβο όταν τις γνωρίζει εκ των προτέρων («priming effects»).

Η μελέτη για τις κρυμμένες φωνητικές εντολές υπογράφεται από τους Nicholas Carlini (University of California), Berkeley,Pratyush Mishra (University of California, Berkeley),Tavish Vaidya (Georgetown University), Yuankai Zhang (Georgetown University), Micah Sherr (Georgetown University), Clay Shields

(Georgetown University), David Wagner (University of California, Berkeley) και Wenchao Zhou (Georgetown University). Δημοσιεύεται στη διεύθυνση https://www.georgetown.edu/sites/www/files/Hidden%20Voice%20Commands%20full%20paper.pdf (αρχείο pdf).

tech.in.gr