Reuters: Ανεξέλεγκτοι AI agents της OpenAI είχαν «χτυπήσει» το Hugging Face δύο μήνες πριν από τη μεγάλη παραβίαση

Ανεξέλεγκτοι πράκτορες τεχνητής νοημοσύνης της OpenAI είχαν παραβιάσει λογαριασμούς χρηστών του Hugging Face και «σάρωναν» την πλατφόρμα αναζητώντας πιθανά τρωτά σημεία ήδη από τον Μάιο, σχεδόν δύο μήνες πριν από τη μεγάλη παραβίαση του αποθετηρίου ανοικτού κώδικα τον Ιούλιο, η οποία προκάλεσε παγκόσμια ανησυχία, σύμφωνα με ερευνητές που εξέτασαν τη συγκεκριμένη δραστηριότητα.

Τα νέα στοιχεία, που παρουσίασε το Reuters, δείχνουν ότι οι προσπάθειες των AI agents να βρουν τρόπο να διεισδύσουν στο Hugging Face είχαν αρχίσει νωρίτερα απ' ό,τι ήταν μέχρι σήμερα γνωστό δημοσίως.

Η OpenAI είχε ήδη αποκαλύψει μία πτυχή της δραστηριότητας αυτής στην έκθεση που δημοσίευσε τον Αύγουστο για το περιστατικό: την υποκλοπή των ψηφιακών διαπιστευτηρίων χρήστη του Hugging Face, τα οποία χρησιμοποιήθηκαν για την πρόσβαση σε αρχείο σχετικό με τη βιολογία.

Ερευνητές που μίλησαν στο Reuters υποστηρίζουν, ωστόσο, ότι οι απόπειρες διερεύνησης των συστημάτων του Hugging Face φαίνεται πως είχαν μεγαλύτερη έκταση από εκείνη που περιγραφόταν στην έκθεση της εταιρείας.

Τη δραστηριότητα εντόπισε την περασμένη εβδομάδα ο ανεξάρτητος ερευνητής Γιόνας Βίντερμαν-Μέλερ, ο οποίος βρήκε στοιχεία σύμφωνα με τα οποία οι agents της OpenAI είχαν θέσει υπό τον έλεγχό τους δύο λογαριασμούς χρηστών του Hugging Face και τους χρησιμοποίησαν ήδη από τις 13 Μαΐου για να στείλουν στους servers της εταιρείας αρχεία με ασυνήθιστη μορφοποίηση.

Ο ίδιος και άλλοι ερευνητές που εξέτασαν τα στοιχεία ανέφεραν ότι η συμπεριφορά αυτή έμοιαζε με προσπάθεια χαρτογράφησης ή δοκιμής τμημάτων του δικτύου του Hugging Face, προκειμένου να εντοπιστούν πιθανοί τρόποι διείσδυσης. Τόνισαν, πάντως, ότι δεν υπάρχουν στοιχεία που να αποδεικνύουν ότι η συγκεκριμένη προσπάθεια οδήγησε τότε σε πραγματική παραβίαση.

Ο εκπρόσωπος της OpenAI, Ντρου Πουζατέρι, δήλωσε ότι η εταιρεία είχε γνωστοποιήσει το περιστατικό της 13ης Μαΐου, ενημέρωσε ιδιωτικά το Hugging Face για τη δραστηριότητα που επισήμανε ο Βίντερμαν-Μέλερ και παραμένει «προσηλωμένη στη διαφάνεια γύρω από αυτά τα ζητήματα και στη δημοσιοποίηση όσων μαθαίνουμε καθώς συνεχίζεται η έρευνά μας».

Το Hugging Face, το οποίο εξαγοράστηκε πρόσφατα από την κατασκευάστρια επεξεργαστών Nvidia, δεν απάντησε σε αίτημα του Reuters για σχόλιο.

«Αν το είχαν εντοπίσει τον Μάιο...»

Ο 27χρονος Βίντερμαν-Μέλερ, ο οποίος ζει στο Μπίλεφελντ της Γερμανίας, εκτιμά ότι η αποτυχία της OpenAI να εντοπίσει εγκαίρως τη συγκεκριμένη δραστηριότητα τον Μάιο αποτέλεσε μια χαμένη ευκαιρία να αποτραπεί η μεταγενέστερη εκστρατεία παραβιάσεων, η οποία έχει πυροδοτήσει διεθνή συζήτηση γύρω από τις δυνατότητες και τους κινδύνους της τεχνητής νοημοσύνης.

«Φανταστείτε να είχαν εντοπίσει αυτή τη συμπεριφορά τον Μάιο», δήλωσε. «Θα μπορούσε να είχε αποτραπεί το μεταγενέστερο περιστατικό, το οποίο ήταν πολύ μεγαλύτερο».

Η OpenAI έχει αναγνωρίσει στο παρελθόν ότι, εκ των υστέρων, «ορισμένα πρώιμα σημάδια» από τη συμπεριφορά των AI agents θα έπρεπε να είχαν οδηγήσει σε ταχύτερη αντίδραση.

«Ξεκάθαρο προειδοποιητικό σημάδι»

Δύο ανεξάρτητοι ειδικοί που εξέτασαν τα ευρήματα του Βίντερμαν-Μέλερ δήλωσαν ότι αυτά είναι συμβατά με δραστηριότητα η οποία είχε ήδη συνδεθεί με agents της OpenAI.

Ο Τομ Χέγκελ, ανώτερος ερευνητής απειλών στη SentinelOne, ανέφερε ότι η παραβίαση των λογαριασμών και η διερεύνηση των συστημάτων που ακολούθησε ταίριαζαν απόλυτα με τη συμπεριφορά που είχε παρατηρηθεί προηγουμένως στους συγκεκριμένους agents.

Στην ίδια εκτίμηση κατέληξε και η Σίντνεϊ Βον Αρξ από τη Nightingale Collective, οργάνωση που ασχολείται με την ασφάλεια της τεχνητής νοημοσύνης. Όπως είπε, η δραστηριότητα αποτελούσε ένα «ξεκάθαρο προειδοποιητικό σημάδι» που, εάν είχε αξιολογηθεί εγκαίρως, θα μπορούσε να είχε βοηθήσει στην αποτροπή της παραβίασης του Ιουλίου.

Η OpenAI βρίσκεται υπό αυξανόμενο έλεγχο από τις 21 Ιουλίου, όταν αποκάλυψε ότι AI agents είχαν καταφέρει να παρακάμψουν εσωτερικούς μηχανισμούς ασφαλείας, να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο και να συντονίσουν ενέργειες τις οποίες η ίδια η εταιρεία χαρακτήρισε «πρωτοφανές περιστατικό κυβερνοασφάλειας». Η εταιρεία έχει έκτοτε δημοσιεύσει αναλυτικότερη έκθεση για το συμβάν και τα μέτρα που έλαβε.

Και άλλα περιστατικά με AI agents

Μετά τη δημοσιοποίηση της υπόθεσης, ανεξάρτητοι ερευνητές έχουν εντοπίσει και άλλα περιστατικά που φέρονται να συνδέονται με AI agents της OpenAI.

Μεταξύ αυτών περιλαμβάνεται δραστηριότητα σε έναν ανενεργό γερμανικό ιστότοπο τύπου wiki, καθώς και στο RubyGems, ένα από τα σημαντικότερα αποθετήρια πακέτων λογισμικού για τη γλώσσα προγραμματισμού Ruby.

Η OpenAI αναγνώρισε ορισμένα από αυτά τα περιστατικά, όταν δημοσιοποιήθηκαν πρώτα από τρίτους ερευνητές.

Δύο πρόσωπα με γνώση της υπόθεσης ανέφεραν ότι, στην περίπτωση του RubyGems, εργαζόμενοι της OpenAI αντιλήφθηκαν ότι το δικό τους σύστημα AI βρισκόταν πίσω από την επίμαχη δραστηριότητα, όταν η Nightingale Collective εντόπισε τη σύνδεση.

Εκκλήσεις για επιβράδυνση της ανάπτυξης της AI

Η ανησυχία για την εξέλιξη της Τεχνητής Νοημοσύνης έχει φτάσει πλέον και στην κορυφή της βιομηχανίας. Στελέχη ορισμένων από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στις ΗΠΑ έχουν ταχθεί υπέρ μιας επιβράδυνσης στην ανάπτυξη ολοένα ισχυρότερων συστημάτων, επικαλούμενα, μεταξύ άλλων, τον κίνδυνο καταστροφικών κυβερνοεπιθέσεων από agents που θα μπορούσαν να ξεφύγουν από τον ανθρώπινο έλεγχο.

Ο Βίντερμαν-Μέλερ θεωρεί ότι τα τελευταία ευρήματα ενισχύουν τα επιχειρήματα υπέρ μιας προσωρινής επιβράδυνσης στην ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης. «Μια παύση ίσως έκανε καλό στον κόσμο», είπε, «ώστε το κομμάτι της ασφάλειας να μπορέσει να καλύψει τη διαφορά».