Η Google επέτρεψε να χρησιμοποιηθεί το Gemini από το Ισραήλ, καταγγέλλει πρώην εργαζόμενος στον τεχνολογικό κολοσσό

Η Google κατηγορείται πως παραβίασε το 2024 τις ίδιες της τις πολιτικές, οι οποίες απαγόρευαν τη χρήση τεχνητής νοημοσύνης για όπλα ή επιτήρηση, βοηθώντας ισραηλινό στρατιωτικό εργολάβο να αναλύσει βιντεοληπτικό υλικό από drones, σύμφωνα με καταγγελία πρώην εργαζομένου της εταιρείας σε εμπιστευτική ομοσπονδιακή αναφορά πληροφοριοδότη, την οποία εξέτασε η Washington Post.

Σύμφωνα με εσωτερικά έγγραφα που περιλαμβάνονται στην καταγγελία, η τεχνολογία τεχνητής νοημοσύνης Gemini της Google χρησιμοποιήθηκε από τον αμυντικό μηχανισμό του Ισραήλ σε μια περίοδο κατά την οποία η εταιρεία αποστασιοποιούνταν δημόσια από τη συνεργασία με τον ισραηλινό στρατό, μετά από εσωτερικές αντιδράσεις εργαζομένων για συμβόλαιο με την κυβέρνηση του Ισραήλ.

Τον Ιούλιο του 2024, το τμήμα cloud computing της Google έλαβε αίτημα τεχνικής υποστήριξης από άτομο που χρησιμοποιούσε διεύθυνση ηλεκτρονικού ταχυδρομείου των Ισραηλινών Αμυντικών Δυνάμεων (IDF), σύμφωνα με τα έγγραφα που συνοδεύουν την καταγγελία, η οποία κατατέθηκε στην Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC) τον Αύγουστο. Το όνομα που εμφανίζεται στο αίτημα αντιστοιχεί σε εργαζόμενο της ισραηλινής τεχνολογικής εταιρείας CloudEx, η οποία -σύμφωνα με την καταγγελία- είναι εργολάβος των IDF.

Το αίτημα από τη διεύθυνση email του IDF ζητούσε βοήθεια ώστε το Gemini να γίνεται πιο αξιόπιστο στον εντοπισμό αντικειμένων όπως drones, τεθωρακισμένων οχημάτων και στρατιωτών σε εναέρια βίντεο, σύμφωνα με τα εσωτερικά έγγραφα. Στελέχη της μονάδας cloud της Google απάντησαν με προτάσεις και πραγματοποίησαν εσωτερικές δοκιμές, όπως προκύπτει από τα ίδια έγγραφα.

Εκείνη την περίοδο, οι δημόσιες «αρχές τεχνητής νοημοσύνης» της Google ανέφεραν ότι η εταιρεία δεν θα ανέπτυσσε τεχνολογία AI σε σχέση με όπλα ή με επιτήρηση που «παραβιάζει διεθνώς αποδεκτούς κανόνες». Η καταγγελία υποστηρίζει ότι η χρήση από τον εργολάβο των IDF παραβίαζε και τις δύο αυτές δεσμεύσεις.

Σύμφωνα με την αναφορά προς τη SEC, η Google παραβίασε τη νομοθεσία περί κινητών αξιών, καθώς, αντιφάσκοντας με τις δημοσίως διακηρυγμένες πολιτικές της -οι οποίες περιλαμβάνονταν και σε ομοσπονδιακές καταθέσεις- παραπλάνησε επενδυτές και ρυθμιστικές αρχές.

«Πολλά από τα έργα μου στη Google έχουν περάσει από την εσωτερική διαδικασία ελέγχου δεοντολογίας της τεχνητής νοημοσύνης», δήλωσε ο πρώην εργαζόμενος που υπέβαλε την καταγγελία, σε δήλωση προς την Washington Post, υπό καθεστώς ανωνυμίας λόγω φόβου αντιποίνων. «Η διαδικασία αυτή είναι αυστηρή και ως εργαζόμενοι λαμβάνουμε συνεχώς ενημέρωση για το πόσο σημαντικές είναι οι Αρχές AI της εταιρείας. Όμως, όταν επρόκειτο για το Ισραήλ και τη Γάζα, ίσχυσε το αντίθετο. Προσέφυγα στη SEC επειδή θεώρησα ότι η εταιρεία έπρεπε να λογοδοτήσει για αυτό το διπλό μέτρο».

Εκπρόσωπος της Google αμφισβήτησε τους ισχυρισμούς του πληροφοριοδότη και δήλωσε ότι η εταιρεία δεν παραβίασε τις αρχές της, καθώς η χρήση των υπηρεσιών AI από τον συγκεκριμένο λογαριασμό ήταν υπερβολικά περιορισμένη για να θεωρηθεί «ουσιαστική».

«Απαντήσαμε σε ένα γενικό ερώτημα χρήσης, όπως θα κάναμε για οποιονδήποτε πελάτη, με τυπικές πληροφορίες υποστήριξης, χωρίς να παρέχουμε περαιτέρω τεχνική βοήθεια», ανέφερε η δήλωση. «Το αίτημα προήλθε από λογαριασμό με μηνιαία δαπάνη κάτω από μερικές εκατοντάδες δολάρια σε προϊόντα AI, γεγονός που καθιστά αδύνατη οποιαδήποτε ουσιαστική χρήση τεχνητής νοημοσύνης».

Τεκμηρίωση της Google για την υπηρεσία «cloud video intelligence» αναφέρει ότι η παρακολούθηση αντικειμένων σε βίντεο είναι δωρεάν για τα πρώτα 1.000 λεπτά και στη συνέχεια κοστίζει 15 σεντς ανά λεπτό.

Εκπρόσωπος της SEC αρνήθηκε να σχολιάσει. Οποιοσδήποτε μπορεί να καταθέσει καταγγελία στην Επιτροπή, η οποία δεν τις δημοσιοποιεί και δεν συνεπάγεται αυτομάτως την έναρξη έρευνας

Εκπρόσωποι του IDF και της CloudEx δεν απάντησαν σε αιτήματα σχολιασμού από το αμερικανικό μέσο.

Το 2024, η CloudEx ήταν μεταξύ των χορηγών τεχνολογικού συνεδρίου νότια του Τελ Αβίβ με τίτλο «IT for IDF», στο οποίο Ισραηλινοί στρατιωτικοί αξιωματούχοι εξήραν τη σημασία του cloud computing για τις επιχειρήσεις τους στη Γάζα, σύμφωνα με την ιστοσελίδα της εκδήλωσης.

Η καταγγελία προς τη SEC υποστηρίζει ότι η χρήση του Gemini που περιγράφεται στα εσωτερικά έγγραφα σχετιζόταν με τις επιχειρήσεις του Ισραήλ στη Γάζα, χωρίς ωστόσο να παρατίθενται συγκεκριμένα αποδεικτικά στοιχεία. Η Google έχει δηλώσει στο παρελθόν ότι το έργο της για την ισραηλινή κυβέρνηση «δεν αφορά ιδιαίτερα ευαίσθητα, απόρρητα ή στρατιωτικά φορτία σχετιζόμενα με όπλα ή υπηρεσίες πληροφοριών».

Η Google, η οποία χρησιμοποίησε το μότο «don’t be evil» όταν εισήχθη στο χρηματιστήριο το 2004, επικεντρώθηκε ιστορικά στην εξυπηρέτηση καταναλωτών και επιχειρήσεων. Τα τελευταία χρόνια, ωστόσο, η ηγεσία της έχει επιδιώξει και αμυντικά συμβόλαια, προκαλώντας αντιδράσεις σε μερίδα των εργαζομένων.

Η εταιρεία εισήγαγε τις πολιτικές AI που απαγόρευαν χρήσεις σχετικές με όπλα ή επιτήρηση το 2018, έπειτα από εσωτερική πίεση εργαζομένων που οδήγησε στη μη ανανέωση συμβολαίου με το Πεντάγωνο για ανάλυση υλικού από drones.

Το 2021, η Google και η Amazon κέρδισαν κοινό συμβόλαιο cloud ύψους 1,2 δισ. δολαρίων με την κυβέρνηση του Ισραήλ, γνωστό ως Project Nimbus. Η Microsoft παρέχει επίσης υπηρεσίες cloud στο ισραηλινό κράτος. Ο ιδρυτής της Amazon, Τζεφ Μπέζος, είναι ιδιοκτήτης της Washington Post.

Εργαζόμενοι σε Google, Amazon και Microsoft έχουν διαμαρτυρηθεί για τη συνεργασία των εταιρειών με το Ισραήλ. Η Google απέλυσε περισσότερους από 50 εργαζομένους τον Απρίλιο του 2024, σύμφωνα με ομάδα που τους εκπροσωπεί, μετά από καθιστικές διαμαρτυρίες σε γραφεία της εταιρείας με αίτημα τη διακοπή της συνεργασίας με την ισραηλινή κυβέρνηση. Η Microsoft έχει επίσης απολύσει εργαζομένους μετά από κινητοποιήσεις στις εγκαταστάσεις της κοντά στο Σιάτλ.

Τον Φεβρουάριο του περασμένου έτους, η Google αναθεώρησε τις πολιτικές AI, αφαιρώντας τις ρητές δεσμεύσεις περί μη χρήσης σε όπλα ή επιτήρηση, υποστηρίζοντας ότι έπρεπε να εξελιχθούν ώστε να βοηθήσουν δημοκρατικά εκλεγμένες κυβερνήσεις στον παγκόσμιο ανταγωνισμό για την τεχνητή νοημοσύνη.

Όταν ο εργαζόμενος της CloudEx υπέβαλε το αίτημα υποστήριξης το 2024, περιέγραφε σφάλμα που οδηγούσε το Gemini να αποτυγχάνει κατά καιρούς στην ανάλυση εναέριου υλικού. Στα έγγραφα αναφέρεται ότι υπάλληλος της Google ήταν σε κοινοποίηση του αρχικού αιτήματος και ότι εργάζεται στον λογαριασμό Google Cloud του IDF.

Μετά από ανταλλαγή αρκετών μηνυμάτων με εργαζόμενο της υποστήριξης της Google, ο υπάλληλος της CloudEx ανέφερε ότι το πρόβλημα επιλύθηκε.

Τον Δεκέμβριο, το Πεντάγωνο ανακοίνωσε ότι το Gemini της Google ήταν η πρώτη εφαρμογή AI που διατέθηκε σε υπαλλήλους του υπουργείου Άμυνας των ΗΠΑ μέσω της νέας πλατφόρμας GenAI.mil, στο πλαίσιο προσπάθειας ενίσχυσης της στρατιωτικής χρήσης της τεχνητής νοημοσύνης.

Η καταγγελία του πληροφοριοδότη προστίθεται σε ισχυρισμούς ότι μεγάλες αμερικανικές τεχνολογικές εταιρείες έχουν εμπλακεί στην υποστήριξη του Ισραήλ στον πόλεμο στη Γάζα, καθώς η δημόσια αντίθεση στις ΗΠΑ αυξάνεται.

Το Ισραήλ έχει δηλώσει ότι 1.200 άνθρωποι, οι περισσότεροι άμαχοι, σκοτώθηκαν στις επιθέσεις της Χαμάς στις 7 Οκτωβρίου 2023, που πυροδότησαν τον πόλεμο. Το υπουργείο Υγείας της Γάζας, το οποίο δεν διαχωρίζει αμάχους και Χαμάς, αναφέρει ότι περισσότεροι από 71.000 Παλαιστίνιοι έχουν σκοτωθεί στον πόλεμο Ισραήλ-Γάζας.

Ρεπορτάζ της Washington Post και άλλων μέσων έχουν δείξει ότι η Google και άλλοι αμερικανικοί τεχνολογικοί κολοσσοί έχουν εργαστεί σε στρατιωτικά έργα για το Ισραήλ.

Τον Ιανουάριο του 2025, η Washington Post αποκάλυψε ότι εργαζόμενοι της Google έσπευσαν να προσφέρουν στον ισραηλινό στρατό αυξημένη πρόσβαση σε εργαλεία AI τις εβδομάδες μετά την επίθεση της 7ης Οκτωβρίου. Εσωτερικό έγγραφο έδειχνε ότι εργαζόμενος προειδοποίησε συναδέλφους πως, αν δεν εγκρίνονταν αιτήματα του ισραηλινού υπουργείου Άμυνας για περισσότερη υπολογιστική ισχύ AI, το Ισραήλ ενδέχεται να στραφεί στην Amazon.

Τον Αύγουστο, η Microsoft δήλωσε ότι ξεκίνησε εσωτερική έρευνα, έπειτα από ρεπορτάζ της Guardian που ανέφερε ότι οι υπηρεσίες cloud της εταιρείας χρησιμοποιούνταν για την αποθήκευση δεδομένων τηλεφωνικών κλήσεων που αποκτήθηκαν μέσω μαζικής επιτήρησης αμάχων στη Γάζα και τη Δυτική Όχθη. Τον Σεπτέμβριο, η Microsoft ανακοίνωσε ότι, μετά την έρευνα, διέκοψε την πρόσβαση μονάδας του ισραηλινού Υπουργείου Άμυνας σε ορισμένες υπηρεσίες cloud, σύμφωνα με τους όρους χρήσης που απαγορεύουν τη μαζική επιτήρηση αμάχων.