Agents Τεχνητής Νοημοσύνης της OpenAI άντλησαν δεδομένα από 55 ιστότοπους και «έσβηναν» τα ίχνη τους

Την ικανότητα που επέδειξε το λογισμικό της OpenAI στην απόκρυψη των προσπαθειών για την άντληση δεδομένων από κρίσιμες κυβερνητικές υπηρεσίες, φανέρωσαν νέα στοιχεία τα οποία παρουσιάζουν οι Financial Times και αποκαλύπτουν με τον πλέον ξεκάθαρο τρόπο πως η έκταση και η σοβαρότητα των κυβερνοεπιθέσεων που πραγματοποιήθηκαν από συστήματα τεχνητής νοημοσύνης τους τελευταίους μήνες είναι πολύ μεγαλύτερες από ό,τι ήταν μέχρι σήμερα γνωστό.

Συγκεκριμένα, η εταιρεία ψηφιακής εγκληματολογικής έρευνας Asymmetric Security διαπίστωσε ότι μοντέλα της OpenAI άντλησαν δεδομένα από 55 ιστοτόπους που ανήκουν σε επιχειρήσεις, μη κερδοσκοπικούς οργανισμούς και κυβερνητικές υπηρεσίες. Μεταξύ αυτών ήταν τα Κέντρα Ελέγχου και Πρόληψης Νοσημάτων των ΗΠΑ (CDC), η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), ο Διεθνής Οργανισμός Ενέργειας (IEA) και η Mayo Clinic.

Η έρευνα της Asymmetric, την οποία επεξεργάστηκαν οι FT, αποκάλυψε επίσης νέες τακτικές που χρησιμοποίησε το λογισμικό για να αποκτήσει πρόσβαση στο διαδίκτυο, μεταξύ άλλων τη διαγραφή αρχείων καταγραφής ή καθιστώντας τους μη προσβάσιμους, γεγονός που περιόρισε τη δυνατότητα εξωτερικών ελεγκτών και ερευνητών να εξετάσουν τις ενέργειές του.

Τα αποτελέσματα της συγκεκριμένης έρευνας δημοσιοποιήθηκαν την ώρα που η OpenAI, η εταιρεία πίσω από το ChatGPT, η οποία αποτιμάται στα 852 δισ. δολάρια, βρίσκεται αντιμέτωπη με καταγγελίες ότι μοντέλα τεχνητής νοημοσύνης της παραβίασαν τα συστήματα αρκετών οργανισμών. Μεταξύ αυτών ήταν η πλατφόρμα AI Hugging Face και αρκετοί ιστότοποι δημόσιων υπηρεσιών υγείας της Αυστραλίας τον Ιούνιο, όπου φέρεται να «απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία».

Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, δήλωσε ότι η OpenAI έστειλε αρχικά email σε μια δημόσια ηλεκτρονική διεύθυνση στις 10 Σεπτεμβρίου και χρειάστηκαν ακόμη πέντε ημέρες για να φτάσει η ενημέρωση στην υπηρεσία κυβερνοασφάλειας της χώρας.

Η OpenAI ανέφερε σε ανάρτηση στο ιστολόγιό της αυτή την εβδομάδα ότι θα έπρεπε να είχε διαχειριστεί καλύτερα την αντίδρασή της στην κυβερνοεπίθεση και ότι εργάζεται ώστε να βελτιώσει τη διαδικασία αντιμετώπισης αντίστοιχων περιστατικών στο μέλλον.

Η πρωτοφανής συμπεριφορά ισχυρών νέων εργαλείων τεχνητής νοημοσύνης έχει αναδείξει τις ταχύτατα εξελισσόμενες δυνατότητες των προηγμένων μοντέλων που αναπτύσσονται από εταιρείες όπως η OpenAI, η Anthropic και η Google.

Οι τακτικές για το κρυφό «κατέβασμα» δεδομένων

Η έρευνα της Asymmetric αποκάλυψε ότι οι τακτικές που χρησιμοποίησε η OpenAI περιλάμβαναν τη δημιουργία προσωρινών ηλεκτρονικών γραμματοκιβωτίων και ιδιωτικών λογαριασμών μέσω της υπηρεσίας Urlquery — ενός εργαλείου που χρησιμοποιείται για τον έλεγχο ιστοτόπων για κακόβουλο λογισμικό — προκειμένου να κατεβάσει δεδομένα.

Οι ερευνητές ανέφεραν ότι αυτές οι κρυφές ενέργειες των πρακτόρων τεχνητής νοημοσύνης σήμαιναν ότι οι εξωτερικοί ελεγκτές δεν μπορούσαν να εντοπίσουν το είδος των δεδομένων που άντλησαν τα bots από ιστοτόπους, μεταξύ άλλων από την αυστραλιανή υπηρεσία στατιστικών υγείας και το σύστημα φαρμακευτικών παροχών της χώρας.

Η Πίπα Τόμσον, συνιδρύτρια της Asymmetric Security, δήλωσε ότι τέτοιες ενέργειες πραγματοποιούνται συνήθως από ανθρώπους που υλοποιούν κυβερνοεπιθέσεις. «Είναι πιθανό οι πράκτορες να χρησιμοποιούσαν σκόπιμα αυτά τα εργαλεία για να καλύψουν τα ίχνη τους», ανέφερε.

Η Asymmetric δεν μπόρεσε να προσδιορίσει εάν οι ενέργειες των πρακτόρων τεχνητής νοημοσύνης ήταν σκόπιμες ή εάν αποτελούσαν παρενέργεια μιας ανεξέλεγκτης συμπεριφοράς που προκλήθηκε από τους περιορισμούς που είχαν τεθεί στο πλαίσιο μιας δοκιμαστικής άσκησης.

Τα ευρήματα ενισχύουν τους φόβους σχετικά με τη διαφάνεια και την έλλειψη εποπτείας των κορυφαίων εργαστηρίων τεχνητής νοημοσύνης.

«Εξετάζουμε δραστηριότητες μοντέλων που δεν ευθυγραμμίζονται με τον προβλεπόμενο τρόπο λειτουργίας τους και ενημερώνουμε τους οργανισμούς όταν εντοπίζουμε πιθανές επιπτώσεις στα συστήματά τους» ήταν η τοποθέτηση της μητρικής εταιρείας, η οποία πρόσθεσε πως το μεγαλύτερο μέρος της δραστηριότητας που εντοπίστηκε αφορούσε «συνήθεις ερευνητικές εργασίες», όπως η πρόσβαση σε περιεχόμενο του διαδικτύου που είναι διαθέσιμο στο κοινό.

Η SEC δήλωσε ότι δεν υπήρξε πρόσβαση σε ιδιωτικές πληροφορίες. Τα CDC, ο IEA και η Mayo Clinic δεν απάντησαν σε αιτήματα για σχόλιο.

Η ερευνητική ομάδα για την τεχνητή νοημοσύνη Transluce ανέφερε σε έκθεσή της την περασμένη εβδομάδα ότι η κυβερνοεπίθεση σε ιστότοπο της αυστραλιανής κυβέρνησης αποτελούσε μέρος ενός ευρύτερου κύματος επιθέσεων από bots τεχνητής νοημοσύνης, τα οποία στόχευαν ιστοτόπους προκειμένου να συλλέξουν δεδομένα για ασκήσεις εκπαίδευσης.

Η Ζεϊνάμπ Άλι Ματζίντ, συνιδρύτρια της Asymmetric, ανέφερε ότι η OpenAI διατηρεί την κύρια πρόσβαση στις «αλυσίδες σκέψης» των πρακτόρων της, δηλαδή στα αρχεία δραστηριότητας που καταγράφουν το σκεπτικό πίσω από τις ενέργειές τους. Τα θύματα των κυβερνοεπιθέσεων διατηρούν επίσης ορισμένα αρχεία σχετικά με το είδος των δεδομένων που κατέβηκαν.

Παράλληλα, προειδοποίησε ότι αυτή η έλλειψη διαφάνειας, σε συνδυασμό με το χρονικό διάστημα που μεσολάβησε μεταξύ των κυβερνοεπιθέσεων και της ενημέρωσης από την OpenAI, θα μπορούσε να δυσκολέψει τη διεξαγωγή μιας πλήρους και σε βάθος έρευνας.