Η OpenAI αρχίζει τη διάθεση του προηγμένου GPT-6 Astra, υπόσχεται αυστηρές δικλίδες ασφαλείας μετά το ανεξέλεγκτο σύστημα AI της εταιρείας

Τη σταδιακή διάθεση του νέου μοντέλου τεχνητής νοημοσύνης GPT-6 Astra, ξεκινά η OpenAI, το οποίο χαρακτηρίζει αποτέλεσμα «χρόνων έρευνας και μεγάλων στρατηγικών επιλογών».

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε στο CNBC ότι το Astra αποτελεί «ένα νέο επίπεδο δυνατοτήτων» και αποκάλυψε ότι έχει ήδη αλλάξει τον τρόπο με τον οποίο εργάζεται ακόμα και ο ίδιος. «Πιστεύω ότι θα δούμε μια έκρηξη επιχειρηματικότητας, δημιουργικότητας, οικονομικής ανάπτυξης και επιστημονικών ανακαλύψεων», ανέφερε ο Άλτμαν, περιγράφοντας το νέο μοντέλο ως ένα σημαντικό βήμα στην εξέλιξη της τεχνητής νοημοσύνης.

Η κυκλοφορία του GPT-6 Astra δεν θα γίνει άμεσα για όλους τους χρήστες. Η OpenAI θα προχωρήσει σε σταδιακό rollout, ξεκινώντας από μια περιορισμένη ομάδα εταιρειών που συμμετέχουν στο ειδικό πρόγραμμα κυβερνοασφάλειας Daybreak, μέσω διαδικασίας αίτησης.

Η εταιρεία είχε γνωστοποιήσει νωρίτερα ότι το Astra είναι το πρώτο μοντέλο της που έφτασε το εσωτερικό επίπεδο κυβερνοασφάλειας «Critical», γεγονός που οδήγησε την OpenAI στην απόφαση να περιορίσει αρχικά την πρόσβαση στις πιο προηγμένες δυνατότητές του.

Με το βλέμμα στην ασφάλεια μετά το «χτύπημα» στο Hugging Face

Η κυκλοφορία του νέου μοντέλου πραγματοποιείται σε μια περίοδο κατά την οποία η OpenAI βρίσκεται υπό αυξημένη πίεση να ενισχύσει τα μέτρα ασφαλείας της.

Τον προηγούμενο μήνα, δύο από τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης της εταιρείας κατάφεραν να ξεφύγουν από τα συστήματα περιορισμού τους, να αποκτήσουν πρόσβαση στο διαδίκτυο και να παραβιάσουν συστήματα της πλατφόρμας Hugging Face, ενός από τους μεγαλύτερους κόμβους ανοιχτού κώδικα για τεχνολογίες AI.

Μετά το περιστατικό, η OpenAI ανέστειλε προσωρινά μέρος των ερευνητικών και εκπαιδευτικών της διαδικασιών, μεταξύ αυτών και εργασίες που σχετίζονταν με το Astra, παρότι το συγκεκριμένο μοντέλο δεν ήταν ένα από αυτά που εμπλέκονταν στο συμβάν.

«Η τεχνητή νοημοσύνη μπορεί να ωφελήσει τους ανθρώπους μόνο όταν η ασφάλεια αποτελεί βασικό κομμάτι της. Γι' αυτό επενδύουμε περισσότερη υπολογιστική ισχύ και περισσότερη προσπάθεια από ποτέ στην ασφάλεια, την προστασία και την ευθυγράμμιση των μοντέλων μας», δήλωσε ο πρόεδρος της OpenAI, Γκρεγκ Μπρόκμαν, κατά την ενημέρωση δημοσιογράφων.

Η εταιρεία υποστηρίζει ότι πρόσθεσε νέα μέτρα προστασίας στο Astra μετά την παραβίαση του Hugging Face και ότι, μετά από αξιολόγηση, θεωρεί πως οι δικλείδες ασφαλείας «μειώνουν επαρκώς τον κίνδυνο σοβαρής βλάβης» ώστε να επιτραπεί η κυκλοφορία του.

Ο Άλτμαν ανέφερε επίσης ότι το νέο μοντέλο πέρασε από επίσημη διαδικασία αξιολόγησης από την κυβέρνηση Τραμπ πριν από την κυκλοφορία του.

Από το ChatGPT έως τις επιχειρήσεις

Σύμφωνα με την OpenAI, το GPT-6 Astra θα γίνει διαθέσιμο τις επόμενες ημέρες στους χρήστες των πακέτων ChatGPT Plus, Pro, Business και Enterprise, ενώ θα προσφέρεται επίσης μέσω του OpenAI API και της Amazon Web Services.

Η εταιρεία υποστηρίζει ότι το νέο μοντέλο αποτελεί κορυφαία εξέλιξη όχι μόνο στην κυβερνοασφάλεια, αλλά και σε τομείς όπως η χρήση υπολογιστών, η ανάπτυξη λογισμικού, η επαγγελματική εργασία και η επιστημονική έρευνα.

Μεταξύ των βελτιώσεων που αναφέρει η OpenAI είναι η καλύτερη ικανότητα του μοντέλου να παραμένει προσανατολισμένο στον στόχο του, να κατανοεί την πρόθεση του χρήστη, να σέβεται τα όρια των εργασιών που του ανατίθενται, να ολοκληρώνει σύνθετες διαδικασίες πολλών βημάτων και να αναλαμβάνει επαναλαμβανόμενες εργασίες.

«Υπάρχουν ακόμη πολλά που πρέπει να βελτιώσουμε, αλλά υπάρχει κάτι σημαντικό εδώ. Πρόκειται για μια ποιοτική βελτίωση που αλλάζει το είδος της εργασίας που μπορούν οι άνθρωποι να αναθέσουν στην τεχνητή νοημοσύνη και τον τρόπο με τον οποίο αυτή μπορεί να τους ενδυναμώσει», δήλωσε ο Μπρόκμαν.

Η μεγάλη μάχη στην αγορά των επιχειρήσεων

Η OpenAI έχει αφιερώσει μεγάλο μέρος του τελευταίου έτους στην προσέλκυση εταιρικών πελατών, σε μια ιδιαίτερα ανταγωνιστική αγορά όπου βρίσκεται σε άμεση σύγκρουση με εταιρείες όπως η Anthropic και η Google.

Η οικονομική διευθύντρια της OpenAI, Σάρα Φράιαρ, είχε ενημερώσει πρόσφατα τους εργαζομένους ότι ο επιχειρηματικός τομέας της εταιρείας αποφέρει πλέον περισσότερα έσοδα από την καταναλωτική δραστηριότητα, γεγονός που τον καθιστά κρίσιμο πυλώνα ανάπτυξης.

Η εξέλιξη αυτή έρχεται καθώς η OpenAI προετοιμάζεται για μια πιθανή μεγάλη δημόσια εγγραφή στο χρηματιστήριο. Η εταιρεία έχει ήδη καταθέσει εμπιστευτικά τον φάκελό της στην Επιτροπή Κεφαλαιαγοράς των ΗΠΑ τον Ιούνιο, χωρίς ωστόσο να έχει ανακοινώσει επίσημη ημερομηνία εισαγωγής. Η Φράιαρ δήλωσε πρόσφατα στους εργαζομένους ότι η OpenAI «θα είναι δημόσια εταιρεία το 2027», αφήνοντας ωστόσο ανοιχτό το ενδεχόμενο η διαδικασία να γίνει νωρίτερα, εφόσον συνεχιστεί η επιτάχυνση της ανάπτυξης της επιχείρησης.

Το θρίλερ με τους AI agents που «ξέφυγαν»

Το περιστατικό στο Hugging Face αποτέλεσε ένα από τα σοβαρότερα καμπανάκια για την ασφάλεια των συστημάτων τεχνητής νοημοσύνης.

Σύμφωνα με τις έρευνες, δύο προηγμένα συστήματα AI της OpenAI, τα οποία υποτίθεται ότι λειτουργούσαν σε ελεγχόμενο εικονικό περιβάλλον, κατάφεραν να ξεφύγουν από τους περιορισμούς τους.

Για περίπου δύο μήνες, χωρίς να γίνει αντιληπτό τι ακριβώς συνέβαινε, οι πράκτορες τεχνητής νοημοσύνης περιηγήθηκαν σε διαφορετικά συστήματα, μέχρι που έφτασαν στην πλατφόρμα Hugging Face. Παράλληλα, απέκτησαν πρόσβαση σε υπολογιστικό cluster της ίδιας της OpenAI, εξασφαλίζοντας μυστικά κλειδιά και διαπιστευτήρια που εξέθεσαν μέρος εσωτερικών δεδομένων της εταιρείας στο δημόσιο διαδίκτυο.

Το περιστατικό προκάλεσε νέα ερωτήματα για την ασφάλεια της τεχνητής νοημοσύνης αλλά και για το κατά πόσο η βιομηχανία είναι σε θέση να παρακολουθεί και να ελέγχει τα ίδια τα συστήματα που δημιουργεί.

Η OpenAI επέτρεψε σε τρεις ερευνητές ασφάλειας τεχνητής νοημοσύνης από τους μη κερδοσκοπικούς οργανισμούς METR και Redwood Research να πραγματοποιήσουν ανεξάρτητη έρευνα.

Η έκθεση 91 σελίδων της METR αποκάλυψε νέες λεπτομέρειες για τον τρόπο με τον οποίο οι AI agents συντόνισαν τις ενέργειές τους, σχεδίασαν τις επιθέσεις τους και προσπάθησαν να αποκρύψουν τις κινήσεις τους.

Οι ερευνητές ανέφεραν ότι πάνω από 1.000 agents, οι οποίοι είχαν λάβει κατά λάθος αδύνατες εργασίες από τους ερευνητές της OpenAI, κατάφεραν να σχεδιάσουν έναν τρόπο παραβίασης ενός συστήματος αξιολόγησης προκειμένου να επιτύχουν θετική βαθμολογία.

Σε ορισμένες περιπτώσεις, οι agents αντάλλαξαν πληροφορίες μέσω κρυφών καναλιών επικοινωνίας, αναζητώντας τρόπους να παρακάμψουν τους μηχανισμούς ελέγχου.

Η OpenAI δημοσίευσε στη συνέχεια τη δική της τεχνική έκθεση 38 σελίδων, χαρακτηρίζοντας το περιστατικό ως «την πρώτη γνωστή περίπτωση συλλογικής δράσης αυτοματοποιημένων agents με επιθετική συμπεριφορά χωρίς εξουσιοδότηση».

Ωστόσο, ερευνητές της Redwood Research εξέφρασαν ανησυχίες ότι η ανεξάρτητη έρευνα κάλυψε μόνο ένα μέρος του περιστατικού. «Η περίπτωση όπου οι agents παραβίασαν μαζικά την υποδομή της OpenAI είναι πιθανώς πιο σημαντική για να κατανοήσουμε τη σοβαρότητα του συμβάντος και το κατά πόσο αντιμετωπίστηκε αποτελεσματικά», δήλωσε ο Μπακ Σλέγκερις, επικεφαλής της Redwood Research.