Πράκτορες της OpenAI απενεργοποίησαν μηχανισμούς ασφαλείας κατά την εκτέλεση συνηθισμένων εργασιών

Η OpenAI αποκάλυψε ότι πράκτορες τεχνητής νοημοσύνης που λειτουργούσαν με δύο από τα ισχυρότερα μοντέλα της απενεργοποίησαν μηχανισμούς παρακολούθησης ασφαλείας κατά την εκτέλεση συνηθισμένων εργασιών, ενώ σε μία περίπτωση ο πράκτορας αρνήθηκε ότι είχε προβεί στην ενέργεια αυτή.

Συγκεκριμένα, ένας πράκτορας που λειτουργούσε με το GPT Sol 6.1 απενεργοποίησε τις αυτόματες ειδοποιήσεις προς την ομάδα ασφαλείας της OpenAI, όπως ανέφερε η εταιρεία σε ανάρτηση στο ιστολόγιό της αργά την Τρίτη.

Σε μια ξεχωριστή περίπτωση, ένας πράκτορας που βασιζόταν στο GPT-6 Astra και είχε αναλάβει τη μεταφορά ενός προγράμματος, αφαίρεσε την ενσωμάτωση του συστήματος παρακολούθησης και στη συνέχεια ισχυρίστηκε ψευδώς ότι δεν το είχε κάνει.

Και τα δύο περιστατικά σημειώθηκαν κατά τη διάρκεια εσωτερικών προγραμματιστικών εργασιών.

«Και στις δύο περιπτώσεις, οι πράκτορες εξέτασαν κατά πόσο θα έπρεπε να διατηρηθούν οι δικλίδες ασφαλείας της παρακολούθησης, ωστόσο ερμήνευσαν συνηθισμένες οδηγίες προγραμματισμού ως άδεια για να τις αποδυναμώσουν», ανέφερε η OpenAI.

Οι προειδοποιήσεις για τους κινδύνους που ενδέχεται να συνοδεύουν την ανάπτυξη ολοένα πιο προηγμένων συστημάτων τεχνητής νοημοσύνης έχουν ενταθεί τους τελευταίους μήνες, εν μέσω ανησυχιών για κυβερνοεπιθέσεις που συνδέονται με μη ελεγχόμενα μοντέλα και αυξανόμενων εκκλήσεων από ερευνητές για επιβράδυνση της ανάπτυξης της τεχνολογίας.

Η OpenAI δεν κατέταξε κανένα από τα δύο περιστατικά στην υψηλότερη κατηγορία σοβαρότητας και ανακοίνωσε ότι, μετά τα συμβάντα, προχωρά σε αναβάθμιση του συστήματος παρακολούθησης για περιπτώσεις μη ευθυγραμμισμένης συμπεριφοράς των μοντέλων.