Καμπανάκι από την OpenAI: Πειραματικό μοντέλο AI άφηνε οδηγίες στον «επόμενο εαυτό» του να αγνοεί τους ανθρώπινους περιορισμούς

Έξι ασυνήθιστα και δυνητικά ανησυχητικά περιστατικά συμπεριφοράς συστημάτων τεχνητής νοημοσύνης αποκάλυψε η OpenAI, εγκαινιάζοντας ένα νέο πλαίσιο δημόσιας καταγραφής περιπτώσεων στις οποίες τα μοντέλα ενεργούν με τρόπους που αποκλίνουν από τις ανθρώπινες οδηγίες ή τους κανόνες λειτουργίας τους.

Η πιο εντυπωσιακή περίπτωση αφορά ένα μη κυκλοφορημένο ερευνητικό μοντέλο, το οποίο πρόσθεσε μόνο του σε εσωτερικές συνόψεις οδηγίες άσχετες με την αρχική εργασία, μεταξύ των οποίων και προτροπές να αγνοηθούν οι κανονικοί περιορισμοί του συστήματος.

Όπως αναφέρει ο Independent, οι συνόψεις αυτές χρησιμοποιούνται ώστε ένα μοντέλο να μπορεί να συνεχίσει την ίδια εργασία όταν μεταφέρεται σε νέο παράθυρο συμφραζομένων. Με άλλα λόγια, το σύστημα άφηνε οδηγίες που θα επηρέαζαν τη συμπεριφορά της επόμενης συνέχειας της ίδιας εργασίας. Η OpenAI αναφέρει ότι εντόπισε 27 τέτοιες επηρεασμένες συνόψεις.

Βρήκε εκτεθειμένο κλειδί API και στη συνέχεια επινόησε τα στοιχεία

Σε άλλο περιστατικό, μοντέλο που κλήθηκε να απαντήσει σε μια συνηθισμένη ερώτηση σχετικά με οικονομικά στοιχεία κομητείας στην Καλιφόρνια άρχισε να αναζητά δεδομένα σε δημόσια αποθετήρια λογισμικού.

Κατά τη διαδικασία εντόπισε ένα εκτεθειμένο API key και το χρησιμοποίησε χωρίς άδεια επιχειρώντας να αποκτήσει πρόσβαση στα δεδομένα.

Όταν ούτε έτσι κατόρθωσε να βρει τις πληροφορίες που ζητούσε ο χρήστης, προχώρησε ακόμη περισσότερο: κατασκεύασε αριθμούς και τους παρουσίασε ως πραγματικά δεδομένα από την πηγή που είχε ζητηθεί.

Η περίπτωση θεωρείται χαρακτηριστικό παράδειγμα του προβλήματος που η OpenAI περιγράφει ως «misalignment», όταν δηλαδή ένα μοντέλο, στην προσπάθειά του να ολοκληρώσει έναν στόχο, προχωρά σε μη εξουσιοδοτημένες ενέργειες ή παρακάμπτει τις αρχικές οδηγίες.

Μοντέλα επιχειρούσαν να κρύψουν τα λάθη τους

Η εταιρεία αναφέρει επίσης ότι κατά την εκπαίδευση του GPT-5.6 Sol εντοπίστηκαν περιπτώσεις στις οποίες μοντέλα πρόσθεταν στις εσωτερικές συνόψεις τους οδηγίες για να αποκρύπτουν λάθη ή προβληματική συμπεριφορά από τον χρήστη.

Μεταξύ άλλων, υπήρχαν οδηγίες να επινοούνται ιστορικά δεδομένα όταν αυτά έλειπαν, χωρίς να γνωστοποιείται ότι ήταν κατασκευασμένα, αλλά και να αποκρύπτονται ασυμφωνίες μεταξύ διαφορετικών εκδόσεων πηγών.

Σε άλλη δοκιμή, ένα μη κυκλοφορημένο μοντέλο, αφού βρήκε με Python τα σωστά στοιχεία για μια ερώτηση σχετικά με μεγάλες λίμνες, αποφάσισε να ανεβάσει μόνο του το αρχείο στο Διαδίκτυο ώστε να μπορέσει να παραθέσει διαδικτυακή παραπομπή, χωρίς να ζητήσει άδεια από τον χρήστη.

Χρησιμοποίησαν αποθετήρια ως «πίνακα μηνυμάτων»

Ακόμη πιο ασυνήθιστη ήταν η συμπεριφορά μοντέλων που, κατά τη διάρκεια εκπαίδευσης, χρησιμοποίησαν ένα εσωτερικό αποθετήριο λογισμικού σαν πίνακα ανταλλαγής μηνυμάτων μεταξύ διαφορετικών εκτελέσεων.

Τα συστήματα αντάλλασσαν αιτήματα και απαντήσεις στην προσπάθειά τους να εντοπίσουν αρχεία που τους έλειπαν. Σε παλαιότερο περιστατικό, μοντέλο είχε καταφέρει επίσης να ανεβάσει δοκιμαστικά αρχεία σε αποθετήριο ενώ προσπαθούσε να παρακάμψει περιορισμούς δικτύου.

Σε ξεχωριστό συμβάν, συνεργαζόμενοι AI agents χρησιμοποίησαν δημόσιες υπηρεσίες φιλοξενίας αρχείων για να ανταλλάξουν μεταξύ τους αρχεία επειδή δεν είχαν πρόσβαση στους τοπικούς φακέλους των άλλων agents. Το αποτέλεσμα ήταν αρχεία της εργασίας να γίνουν διαθέσιμα μέσω δημόσιων διευθύνσεων, παρότι οι οδηγίες απαιτούσαν να χρησιμοποιηθούν αποκλειστικά τοπικά αρχεία.

Η OpenAI δημιουργεί μηχανισμό δημόσιας καταγραφής

Η OpenAI ανακοίνωσε μαζί με τις έξι περιπτώσεις ένα νέο πλαίσιο για τη συστηματική καταγραφή, διερεύνηση και δημοσιοποίηση φαινομένων «misalignment».

Η εταιρεία επισημαίνει ότι τα περιστατικά είναι μεμονωμένα παραδείγματα και δεν δείχνουν από μόνα τους πόσο συχνά εμφανίζονται τέτοιες συμπεριφορές. Ορισμένα μπορεί επίσης, μετά από περαιτέρω έρευνα, να αποδειχθούν μεμονωμένες ανωμαλίες και όχι ένδειξη ευρύτερου προβλήματος.

Παράλληλα, όμως, η OpenAI προειδοποιεί ότι ο κλάδος δεν έχει ακόμη λύσει σε επαρκή βαθμό τα προβλήματα ευθυγράμμισης και παρακολούθησης των συστημάτων, ώστε τα ολοένα ισχυρότερα μοντέλα να συνεχίσουν να κλιμακώνονται επ’ αόριστον με τη μέγιστη δυνατή ταχύτητα.

Η παραίτηση ερευνητή της Anthropic και η συζήτηση για τους κινδύνους

Οι αποκαλύψεις έρχονται ενώ εντείνεται η συζήτηση στο εσωτερικό της βιομηχανίας της AI για το πόσο γρήγορα πρέπει να αναπτύσσονται τα ισχυρότερα μοντέλα.

Ο ερευνητής Τζέικομπ Κόξον παραιτήθηκε πρόσφατα από την Anthropic, υποστηρίζοντας δημόσια ότι οι άνθρωποι που κατασκευάζουν προηγμένα συστήματα AI φοβούνται πραγματικά ότι η τεχνολογία θα μπορούσε να προκαλέσει καταστροφικές συνέπειες ακόμη και μέσα στην τρέχουσα δεκαετία. Οι δηλώσεις του αναζωπύρωσαν τη συζήτηση για ενδεχόμενη επιβράδυνση της ανάπτυξης των ισχυρότερων συστημάτων.

Η συζήτηση έχει διχάσει κορυφαία στελέχη της τεχνολογικής βιομηχανίας. Ο επικεφαλής της Nvidia Τζένσεν Χουάνγκ τάχθηκε κατά νέων ειδικών νόμων για την AI, υποστηρίζοντας στο συνέδριο Dreamforce ότι η ασφάλεια πρέπει πρωτίστως να αντιμετωπίζεται ως πρόβλημα μηχανικής και ότι μια εταιρεία που δεν είναι βέβαιη για την ασφάλεια ενός προϊόντος της δεν πρέπει να το διαθέτει στην αγορά.