Η Google παραβίασε τις δικές της πολιτικές που απαγόρευαν τη χρήση τεχνητής νοημοσύνης για όπλα ή παρακολούθηση το 2024, βοηθώντας έναν ισραηλινό στρατιωτικό εργολάβο να αναλύσει βίντεο από drones, αποκάλυψε ένας πρώην υπάλληλος της Google σε μια εμπιστευτική καταγγελία ομοσπονδιακού πληροφοριοδότη που εξέτασε η Washington Post.

Η τεχνολογία τεχνητής νοημοσύνης Gemini της Google χρησιμοποιούνταν από τον αμυντικό μηχανισμό του Ισραήλ σε μια περίοδο που η εταιρεία αποστασιοποιούνταν δημοσίως από τον στρατό της χώρας μετά από διαμαρτυρίες των υπαλλήλων της για μια σύμβαση με την ισραηλινή κυβέρνηση, σύμφωνα με εσωτερικά έγγραφα που περιλαμβάνονται στην καταγγελία.

Gemini: Ανάλυση υλικού για λογαριασμό των IDF

Τον Ιούλιο του 2024, το τμήμα cloud computing της Google έλαβε ένα αίτημα υποστήριξης πελατών από ένα άτομο που χρησιμοποιούσε μια διεύθυνση ηλεκτρονικού ταχυδρομείου των Ισραηλινών Αμυντικών Δυνάμεων.

Το όνομα στο αίτημα υποστήριξης πελατών ταιριάζει με έναν δημόσια καταχωρημένο υπάλληλο της ισραηλινής εταιρείας τεχνολογίας CloudEx, η οποία, σύμφωνα με την καταγγελία προς την Επιτροπή Κεφαλαιαγοράς (SEC), είναι εργολάβος των Ισραηλινών Αμυντικών Δυνάμεων.

Το αίτημα από τη διεύθυνση ηλεκτρονικού ταχυδρομείου των IDF ζητούσε βοήθεια για να καταστεί το Gemini της Google πιο αποτελεσματικό στην αναγνώριση αντικειμένων όπως drones, θωρακισμένα οχήματα και στρατιώτες σε αεροφωτογραφίες.

Το προσωπικό της μονάδας cloud της Google ανταποκρίθηκε με προτάσεις και εσωτερικές δοκιμές, σύμφωνα με τα έγγραφα.

Καταπάτηση νόμων

Εκείνη την εποχή, οι δημόσιες «αρχές τεχνητής νοημοσύνης» της Google ανέφεραν ότι η εταιρεία δεν θα χρησιμοποιούσε τεχνολογία τεχνητής νοημοσύνης σε σχέση με όπλα ή παρακολούθηση «που παραβιάζει διεθνώς αποδεκτούς κανόνες».

Η καταγγελία του πληροφοριοδότη ισχυρίζεται ότι η χρήση από τον συνεργάτη των IDF ήταν αντίθετη και με τις δύο πολιτικές.

Η καταγγελία προς την SEC ισχυρίζεται ότι η Google παραβίασε τους νόμους περί κινητών αξιών (μετοχές, ομόλογα) , διότι, αντιβαίνοντας στις δικές της δημόσια δηλωμένες πολιτικές, οι οποίες είχαν επίσης συμπεριληφθεί σε ομοσπονδιακά έγγραφα, η εταιρεία παραπλάνησε τους επενδυτές και τις ρυθμιστικές αρχές.

«Πολλά από τα έργα μου στη Google έχουν περάσει από την εσωτερική διαδικασία ελέγχου δεοντολογίας της τεχνητής νοημοσύνης», δήλωσε ο πρώην υπάλληλος που υπέβαλε την καταγγελία σε δήλωση προς την εφημερίδα The Post, υπό τον όρο της ανωνυμίας, λόγω φόβου για αντίποινα από την εταιρεία.

«Η διαδικασία αυτή είναι αυστηρή και ως υπάλληλοι μας υπενθυμίζουν τακτικά πόσο σημαντικές είναι οι αρχές της εταιρείας για την τεχνητή νοημοσύνη. Όμως, όσον αφορά το Ισραήλ και τη Γάζα, ίσχυε το αντίθετο. … Υπέβαλα καταγγελία στην SEC επειδή θεώρησα ότι η εταιρεία έπρεπε να λογοδοτήσει για αυτά τα δύο μέτρα κα δύο σταθμά».

Η απάντηση της Google

Ένας εκπρόσωπος της Google αμφισβήτησε τους ισχυρισμούς του καταγγέλλοντος και δήλωσε ότι η εταιρεία δεν παραβίασε τις αρχές της για την τεχνητή νοημοσύνη, επειδή η χρήση των υπηρεσιών τεχνητής νοημοσύνης από τον λογαριασμό ήταν πολύ μικρή για να είναι «σημαντική».

Το προϊόν τεχνητής νοημοσύνης που χρησιμοποιήθηκε είναι ευρέως διαθέσιμο σε όλους τους πελάτες, δήλωσε ο εκπρόσωπος.

«Απαντήσαμε σε μια γενική ερώτηση χρήσης, όπως θα κάναμε για οποιονδήποτε πελάτη, με τυπικές πληροφορίες υποστήριξης και δεν παρέχουμε περαιτέρω τεχνική βοήθεια», ανέφερε σε δήλωση ο εκπρόσωπος.

«Το αίτημα προήλθε από έναν λογαριασμό με μηνιαία δαπάνη μικρότερη από 200 δολάρια για προϊόντα τεχνητής νοημοσύνης, γεγονός που καθιστά αδύνατη οποιαδήποτε σημαντική χρήση της τεχνητής νοημοσύνης».

Η τεκμηρίωση της Google για την υπηρεσία «cloud video intelligence» αναφέρει ότι η παρακολούθηση αντικειμένων σε βίντεο είναι δωρεάν για τα πρώτα 1.000 λεπτά και στη συνέχεια κοστίζει 15 σεντς ανά λεπτό.

Εκπρόσωποι του IDF και της CloudEx δεν απάντησαν σε αιτήματα για σχόλια.

«Don’t be evil»: Η είσοδος στον τομέα της άμυνας

Το 2024, η CloudEx ήταν μεταξύ των χορηγών μιας τεχνολογικής διάσκεψης που πραγματοποιήθηκε νότια του Τελ Αβίβ με τίτλο «IT for IDF», στην οποία ισραηλινοί στρατιωτικοί αξιωματούχοι εξήραν τη σημασία του cloud computing για τις επιχειρήσεις τους στη Γάζα, σύμφωνα με τον ιστότοπο της εκδήλωσης.

Η καταγγελία προς την SEC ισχυρίζεται ότι η χρήση του Gemini που περιγράφεται στα εσωτερικά έγγραφα της Google σχετίζεται με τις επιχειρήσεις του Ισραήλ στη Γάζα, χωρίς να παραθέτει συγκεκριμένα στοιχεία.

Η Google είχε δηλώσει προηγουμένως ότι η συνεργασία της με την ισραηλινή κυβέρνηση «δεν αφορούσε εξαιρετικά ευαίσθητα, απόρρητα ή στρατιωτικά θέματα που σχετίζονται με όπλα ή υπηρεσίες πληροφοριών».

Η Google, η οποία χρησιμοποίησε το σύνθημα «Don’t be evil» (Μην είσαι κακός) όταν εισήχθη στο χρηματιστήριο το 2004, από την ίδρυσή της έχει επικεντρωθεί στην εξυπηρέτηση καταναλωτών και επιχειρήσεων. Πιο πρόσφατα, οι ηγέτες της εταιρείας έχουν επιδιώξει επίσης συμβάσεις στον τομέα της άμυνας, προκαλώντας διαμαρτυρίες από ορισμένους υπαλλήλους.

Η εταιρεία εισήγαγε τις πολιτικές της για την τεχνητή νοημοσύνη που απαγόρευαν χρήσεις σχετικές με όπλα ή παρακολούθηση το 2018, αφού η αντίδραση των υπαλλήλων οδήγησε την εταιρεία να αρνηθεί την ανανέωση μιας σύμβασης με το Πεντάγωνο που αφορούσε την ανάλυση βίντεο από drones.

Το 2021, η Google και η Amazon κέρδισαν μια σύμβαση cloud αξίας 1,2 δισεκατομμυρίων δολαρίων με την ισραηλινή κυβέρνηση, γνωστή ως Project Nimbus.

Ορισμένοι υπάλληλοι της Google, της Amazon και της Microsoft διαμαρτυρήθηκαν για τη συνεργασία των εταιρειών με το Ισραήλ.

Η Google απέλυσε περισσότερους από 50 υπαλλήλους τον Απρίλιο του 2024, σύμφωνα με μια ομάδα που εκπροσωπεί τους εργαζομένους, μετά από διαμαρτυρίες ορισμένων από αυτούς στα γραφεία της εταιρείας και απαιτήσεις να σταματήσει η συνεργασία με την ισραηλινή κυβέρνηση.

Η Microsoft απέλυσε επίσης υπαλλήλους, μετά από διαμαρτυρίες στο campus της κοντά στο Σιάτλ.

Η εποχή της στρατιωτικής τεχνολογίας

Τον Δεκέμβριο, το Πεντάγωνο ανακοίνωσε ότι το Gemini της Google ήταν η πρώτη προσφορά τεχνητής νοημοσύνης που παρέχεται στους υπαλλήλους του Υπουργείου Άμυνας στη νέα πλατφόρμα GenAI.mil, στο πλαίσιο μιας νέας προσπάθειας για την αύξηση της στρατιωτικής χρήσης της τεχνολογίας.

Η αναφορά του πληροφοριοδότη προστίθεται στις ισχυρισμούς ότι μεγάλες αμερικανικές εταιρείες τεχνολογίας έχουν εμπλακεί στην παροχή βοήθειας στο Ισραήλ στον πόλεμο στη Γάζα, ακόμη και καθώς η δημόσια αντίθεση στον πόλεμο στις Ηνωμένες Πολιτείες έχει αυξηθεί.

Το Ισραήλ έχει δηλώσει ότι περίπου 1.200 άτομα, τα περισσότερα από τα οποία ήταν άμαχοι, έχασαν τη ζωή τους στις επιθέσεις της Χαμάς στις 7 Οκτωβρίου 2023, που πυροδότησαν τον πόλεμο.

Το Υπουργείο Υγείας της Γάζας, το οποίο δεν κάνει διάκριση μεταξύ αμάχων και μαχητών, αναφέρει ότι περισσότεροι από 71.000 Παλαιστίνιοι έχουν σκοτωθεί στον πόλεμο μεταξύ Ισραήλ και Γάζας.

Αναφορές της The Post και άλλων ειδησεογραφικών οργανισμών έχουν δείξει ότι η Google και άλλοι τεχνολογικοί γίγαντες των ΗΠΑ έχουν εργαστεί σε στρατιωτικά έργα για το Ισραήλ.

Η συνενοχή των τεχνολογικών γιγάντων

Τον Ιανουάριο του 2025, η εφημερίδα The Post ανέφερε ότι οι υπάλληλοι της Google έσπευσαν να παρέχουν στον ισραηλινό στρατό μεγαλύτερη πρόσβαση σε εργαλεία τεχνητής νοημοσύνης τις εβδομάδες μετά την επίθεση της 7ης Οκτωβρίου.

Ένα εσωτερικό έγγραφο έδειξε ότι ένας υπάλληλος της Google είχε προειδοποιήσει τους συναδέλφους του ότι, εάν δεν εγκρίνονταν τα αιτήματα του Υπουργείου Άμυνας του Ισραήλ για περισσότερη χωρητικότητα τεχνητής νοημοσύνης, η χώρα θα μπορούσε να στραφεί στην Amazon.

Τον Αύγουστο, η Microsoft, η οποία έχει επίσης συμβάσεις με την ισραηλινή κυβέρνηση, δήλωσε ότι είχε ξεκινήσει εσωτερική έρευνα μετά την αναφορά της εφημερίδας Guardian ότι οι υπηρεσίες cloud της εταιρείας χρησιμοποιούνταν για την αποθήκευση δεδομένων τηλεφωνικών κλήσεων που είχαν ληφθεί μέσω μεγάλης κλίμακας παρακολούθησης πολιτών στη Γάζα και τη Δυτική Όχθη.

Τον Σεπτέμβριο, η Microsoft δήλωσε ότι η έρευνα την οδήγησε να αποκλείσει μια μονάδα του Υπουργείου Άμυνας του Ισραήλ από την πρόσβαση σε ορισμένες υπηρεσίες cloud, σύμφωνα με τους όρους παροχής υπηρεσιών της που απαγορεύουν τη μαζική παρακολούθηση πολιτών.

Ειδήσεις Σήμερα: