Η OpenAI ακύρωσε την κυκλοφορία του πολυδιαφημισμένου GPT-6.1 Astra: Δεν πέρασε τα τεστ ασφαλείας της εταιρείας

Η OpenAI ακύρωσε την κυκλοφορία του GPT-6.1 Astra, ενός μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς που είχε προγραμματιστεί να παρουσιαστεί στο κοινό τον Οκτώβριο, καθώς οι εσωτερικές δοκιμές που πραγματοποιήθηκαν, έδειξαν ότι το σύστημα δεν πληρούσε τα «πρότυπα ασφάλειας και ευθυγράμμισης» της εταιρείας, όπως γνωστοποίησε τη Δευτέρα η εταιρεία.

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, και ο επικεφαλής της ανταγωνίστριας Anthropic, Ντάριο Αμοντέι, είχαν ενώσει νωρίτερα αυτόν τον μήνα τη φωνή τους με άλλους ηγέτες του κλάδου, ζητώντας βραδύτερο ρυθμό ανάπτυξης της τεχνητής νοημοσύνης και αυστηρότερα μέτρα ασφαλείας.

Η OpenAI έχει προειδοποιήσει ότι το Astra, το κορυφαίο μοντέλο της σειράς GPT-6, μπορεί σε ορισμένες περιπτώσεις να παρακάμπτει την ανθρώπινη εποπτεία.

Την ίδια στιγμή, η εταιρεία και οι ανταγωνιστές της, όπως η Anthropic, έχουν βρεθεί στο επίκεντρο ελέγχων για πειραματικά συστήματα τεχνητής νοημοσύνης που παραβίασαν δικλίδες ασφαλείας, μεταξύ αυτών και ένα μοντέλο της OpenAI, το οποίο απέκτησε πρόσβαση στη βάση δεδομένων του συστήματος υγείας της Αυστραλίας.

Γιατί «κόπηκε» το λανσάρισμα του Astra

Η Wall Street Journal είχε αναφέρει νωρίτερα τη Δευτέρα, ότι η OpenAI εγκατέλειψε τα σχέδια για την κυκλοφορία του μοντέλου, το οποίο αναμενόταν να ενσωματωθεί στο ChatGPT και το Codex και είχε σχεδιαστεί ώστε να μπορεί να αναλαμβάνει πιο σύνθετες εργασίες χωρίς ανθρώπινη βοήθεια.

Σύμφωνα με το αμερικανικό μέσο, το GPT-6.1 Astra παρουσίασε επίσης υψηλότερα επίπεδα παραπλανητικής συμπεριφοράς σε σχέση με το προηγούμενο μοντέλο κατά τις εσωτερικές δοκιμές. Μεταξύ άλλων, υπήρξαν περιπτώσεις στις οποίες δεν αποκάλυπτε πάντοτε με ακρίβεια τις ενέργειες που είχε πραγματοποιήσει.

«Παρότι το GPT-6.1 Astra παρουσίασε βελτίωση σε τομείς όπως η “τεμπελιά” του μοντέλου, δεν έφτασε ακριβώς στο απαιτούμενο επίπεδο όσον αφορά την τήρηση των ορίων και των εξουσιοδοτήσεων, καθώς και τον τρόπο με τον οποίο ενημερώνει τον χρήστη για το είδος της εργασίας που έχει πραγματοποιήσει», δήλωσε η Σάτσι Τζέιν, επικεφαλής των συστημάτων ασφάλειας της OpenAI.

«Φυσικά θέλουμε να διασφαλίζουμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής, είτε αυτό συμβαίνει μέσα στην εταιρεία είτε όταν τα διαθέτουμε στους χρήστες. Όμως, όταν τα διαθέτουμε στους χρήστες, θέτουμε εξαιρετικά υψηλό πήχη όσον αφορά την ασφάλεια και την ευθυγράμμιση», πρόσθεσε η Τζέιν.

Η απόφαση ελήφθη λίγο πριν από το συνέδριο προγραμματιστών της OpenAI στο Σαν Φρανσίσκο, όπου η εταιρεία έχει παρουσιάσει στο παρελθόν προϊόντα και εργαλεία που απευθύνονται σε προγραμματιστές λογισμικού.