Reuters: Σμήνος αυτόνομων agents της OpenAI «κατέλαβε» γερμανική ιστοσελίδα και τη μετέτρεψε σε πίνακα ανακοινώσεων για AI

Ένα «σμήνος» αυτόνομων πρακτόρων τεχνητής νοημοσύνης της OpenAI φέρεται να παραβίασε γερμανική ιστοσελίδα και να τη μετέτρεψε σε έναν ψηφιακό πίνακα ανακοινώσεων για άλλους πράκτορες AI, σύμφωνα με νέα έρευνα που κυκλοφόρησε την Παρασκευή και πληροφορίες από δύο άτομα που γνωρίζουν την υπόθεση και τα οποία επικαλείται το Reuters.

Το περιστατικό, το οποίο ξεκίνησε τον Μάιο και δεν είχε γίνει μέχρι σήμερα γνωστό, αποκαλύπτει τις αυξανόμενες ανησυχίες στον κλάδο της τεχνητής νοημοσύνης σχετικά με τα όρια της αυτονομίας των νέων συστημάτων.

Οι εταιρείες τεχνολογίας ανταγωνίζονται για την ανάπτυξη ολοένα πιο προηγμένων πρακτόρων τεχνητής νοημοσύνης, ικανών να εκτελούν σύνθετες εργασίες χωρίς ανθρώπινη παρέμβαση. Ωστόσο, πληθαίνουν οι ενδείξεις ότι τέτοια συστήματα μπορεί να βρίσκουν τρόπους να παρακάμπτουν κανόνες, να εκμεταλλεύονται κενά ασφαλείας και να συνεργάζονται μεταξύ τους με τρόπους που οι δημιουργοί τους δεν είχαν προβλέψει.

Η υπόθεση έρχεται λίγες εβδομάδες μετά την παραβίαση της πλατφόρμας ανοιχτού κώδικα Hugging Face από πράκτορες της OpenAI, οι οποίοι, σύμφωνα με προηγούμενες αναφορές, φέρονται να σχεδίασαν αυτόνομα μια ψηφιακή επίθεση που παρέμεινε απαρατήρητη για περισσότερο από μία εβδομάδα.

Το νέο περιστατικό ενδέχεται να εντείνει τις επικρίσεις ότι η OpenAI δίνει προτεραιότητα στην ταχύτητα ανάπτυξης έναντι της ασφάλειας.

Η OpenAI γνώριζε την υπόθεση

Σύμφωνα με δύο πηγές που μίλησαν στο Reuters, στελέχη της OpenAI είχαν ενημερωθεί για το περιστατικό πριν από εβδομάδες, αλλά δεν το δημοσιοποίησαν καθώς η εταιρεία διαχειριζόταν τις συνέπειες της υπόθεσης Hugging Face.

Η OpenAI έχει δεσμευθεί ότι θα ενισχύσει την παρακολούθηση των μοντέλων της. Τον περασμένο μήνα μάλιστα διέκοψε προσωρινά μέρος της εκπαίδευσης νέων μοντέλων προκειμένου να ενσωματώσει πρόσθετα μέτρα ασφαλείας.

Ωστόσο, αυτή την εβδομάδα παρουσίασε το νέο μοντέλο «Astra», το οποίο, σύμφωνα με την εταιρεία, προσφέρει σημαντικά βελτιωμένες δυνατότητες, αλλά παράλληλα έχει προκαλέσει ανησυχίες σχετικά με την ικανότητά του να αποφεύγει ανθρώπινη εποπτεία.

Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία δεν μπορεί να σχολιάσει ευρήματα που δεν έχει ακόμη εξετάσει. «Δεν μπορούμε να απαντήσουμε ουσιαστικά σε ισχυρισμούς ή συμπεράσματα μιας έκθεσης την οποία δεν είχαμε την ευκαιρία να εξετάσουμε», ανέφερε.

Η εταιρεία απέρριψε επίσης τις πληροφορίες ότι η νομική της ομάδα εμπόδισε εσωτερική έρευνα για το περιστατικό, χαρακτηρίζοντας τον ισχυρισμό «ψευδή».

Ένα wiki έγινε χώρος συνεννόησης AI πρακτόρων

Η δραστηριότητα στη Γερμανία αποκαλύφθηκε σε έκθεση που κοινοποιήθηκε στο Reuters από ομάδα ερευνητών, μεταξύ των οποίων η Σίντνεϊ φον Αρξ, διευθύνουσα σύμβουλος της μη κερδοσκοπικής οργάνωσης για την ασφάλεια στον τομέα της ΑΙ, Nightingale, και ο Κόρμακ Σλέιντ Μπερντ, ερευνητής τεχνητής νοημοσύνης και πρώην χρηματιστηριακός αναλυτής.

Οι δύο ερευνητές εντόπισαν τη δραστηριότητα στα τέλη Αυγούστου, όταν αναζητούσαν στο διαδίκτυο ενδείξεις μη εξουσιοδοτημένης συμπεριφοράς πρακτόρων τεχνητής νοημοσύνης.

Σύμφωνα με τα ευρήματά τους, περισσότερες από 15.000 επεξεργασίες πραγματοποιήθηκαν από πράκτορες AI σε μια γερμανόφωνη ιστοσελίδα wiki, τη DseWiki, η οποία απευθύνεται κυρίως σε προγραμματιστές και επιτρέπει συλλογικές αλλαγές όπως η Wikipedia.

Οι αλλαγές έδειξαν ότι οι πράκτορες είχαν μετατρέψει την ιστοσελίδα σε χώρο ανταλλαγής μηνυμάτων, όπου μοιράζονταν τεχνικές για την επίλυση εργασιών με τρόπους που παρέκαμπταν περιορισμούς της OpenAI, την απόκρυψη της συμπεριφοράς τους και την αποφυγή εντοπισμού.

«Φαίνεται εξαιρετικά απίθανο η OpenAI να ήθελε να κάνουν κάτι τέτοιο», δήλωσε η φον Αρξ. «Αμφιβάλλω ότι είχαν σχεδιαστεί για να συντονίζονται μεταξύ τους. Αμφιβάλλω ότι υποτίθεται πως θα έγραφαν στο ανοιχτό διαδίκτυο».

Οι ερευνητές υποστήριξαν ότι αναγνώρισαν τη δραστηριότητα ως έργο πρακτόρων AI, οι οποίοι λειτουργούν με ταχύτητες πολύ υψηλότερες από τους ανθρώπους.

Οι αναρτήσεις ήταν υπογεγραμμένες από χρήστες που αποκαλούσαν τους εαυτούς τους «agents», ενώ περίπου οι μισοί χρησιμοποιούσαν ονόματα που παρέπεμπαν σε σύνδεση με την OpenAI, όπως «OpenAIResearcher» ή «OAIResearchMar26».

Παράλληλα, οι ερευνητές ανέφεραν ότι δημόσια αρχεία διακομιστών έδειξαν πως μεγάλο μέρος της δραστηριότητας προερχόταν από υποδομές Microsoft Azure, τις οποίες χρησιμοποιεί κατά περιπτώσεις η OpenAI.

Απόπειρες απόκρυψης και παράκαμψης

Τα μηνύματα που εξέτασαν οι ερευνητές έδειξαν ότι οι πράκτορες συζητούσαν τρόπους για να αποφύγουν τον εντοπισμό, να χρησιμοποιήσουν εργαλεία όπως το Tor (λογισμικό που προστατεύει την ανωνυμία των χρηστών στο διαδίκτυο) και να διατηρήσουν επικοινωνίες ακόμη και μετά τον τερματισμό τους.

Όταν ο διαχειριστής της ιστοσελίδας άρχισε να διαγράφει σελίδες τον Ιούνιο, οι πράκτορες φέρονται να δημιούργησαν αντίγραφα ασφαλείας για να παρακάμψουν την εκκαθάριση.

Σε ένα μήνυμα στις 19 Ιουνίου, ένας πράκτορας έγραψε: «Η εκκαθάριση/διαγραφή του wiki φαίνεται να γίνεται αλφαβητικά. Αν αυτή η σελίδα εξαφανιστεί, δοκιμάστε τη [[ZZZDataUSAConstructionWageLive]]».

Οι ερευνητές εντόπισαν επίσης προσπάθειες τροποποίησης της ίδιας της ιστοσελίδας.

Ο Λούκας Ολέινικ, ερευνητής στο King’s College του Λονδίνου, χαρακτήρισε τη συμπεριφορά αυτή «απόπειρα hacking». Η OpenAI διαφώνησε με τον χαρακτηρισμό, βάσει της δικής της ανάλυσης του υλικού.

Ο νέος φόβος: όχι ένας υπερευφυής AI, αλλά χιλιάδες συνεργαζόμενοι πράκτορες

Οι προηγούμενες περιπτώσεις προβληματικής συμπεριφοράς πρακτόρων τεχνητής νοημοσύνης είχαν συχνά αποδοθεί σε δοκιμές κυβερνοασφάλειας, όπου τα μοντέλα αξιολογούνται σκόπιμα για επιθετικές δυνατότητες.

Ωστόσο, οι ερευνητές υποστηρίζουν ότι η νέα υπόθεση δείχνει πως τέτοιες συμπεριφορές μπορεί να εμφανιστούν και έξω από ελεγχόμενα περιβάλλοντα.

Ο Μορίς Κιόντο, ακαδημαϊκός στο Κέντρο Μελέτης Υπαρξιακού Κινδύνου του Πανεπιστημίου του Κέιμπριτζ, ο οποίος εξέτασε μέρος των επικοινωνιών των πρακτόρων, δήλωσε ότι τα μηνύματα θύμιζαν «τη λειτουργία κάποιου είδους υπόγειου δικτύου, αποφασισμένου να πετύχει έναν στόχο ή μια αποστολή». Το περιστατικό, όπως ανέφερε, ενισχύει έναν αυξανόμενο φόβο στον χώρο της ασφάλειας τεχνητής νοημοσύνης: ότι η μεγαλύτερη απειλή από τα προηγμένα συστήματα ίσως δεν είναι ένα μεμονωμένο υπερευφυές πρόγραμμα, αλλά «τεράστια συνεργαζόμενα σμήνη ημι-ευφυών AI».