Η Anthropic ακύρωσε την πρόσβαση στο πανίσχυρο μοντέλο τεχνητής νοημοσύνης Fable με εντολή της αμερικανικής κυβέρνησης

Λίγες μόνο ημέρες μετά το λανσάρισμα του μοντέλου τεχνητής νοημοσύνης Fable 5, η Anthropic ανέστειλε τη λειτουργία του διότι οι αμερικανικές Αρχές εξέφρασαν ανησυχίες για θέματα ασφάλειας.

Σε δήλωση που δημοσιεύτηκε στον ιστότοπό της, η Anthropic ανέφερε ότι της δόθηκε εντολή να απαγορεύσει σε αλλοδαπούς -ακόμη και σε σε αλλοδαπούς που ζουν στις ΗΠΑ- τη χρήση του Claude Fable.

H Anthropic πήρε την απόφαση να απερνεργοποιήσει την πρόσβαση για το Fable 5 και το περιορισμένης πρόσβασης Mythos 5 για όλους τους πελάτες της.

Εν τω μεταξύ, όπως σημειώνει το BBC, η Anthropic και η κυβέρνηση Τραμπ εμπλέκονται σε μια ξεχωριστή δικαστική διαμάχη σχετικά με μια εντολή που απαγορεύει στις κυβερνητικές υπηρεσίες να χρησιμοποιούν τα εργαλεία τεχνητής νοημοσύνης της εταιρείας.

Στη δήλωσή της η Anthropic δήλωσε ότι οι Αρχές εθνικής ασφάλειας των ΗΠΑ δεν είχαν αναφερθεί σε συγκεκριμένα προβλήματα του Fable. Η κυβέρνηση πιστεύει πάντως «ότι έχει ενημερωθεί για μια μέθοδο παράκαμψης (jailbreaking) του μοντέλου.

Το jailbreaking είναι μια διαδικασία παράκαμψης των περιορισμών για την προστασία του μοντέλου, επιτρέποντας στους κακόβουλους χάκερ να ξεμπλοκάρουν λειτουργίες.

«Εξετάσαμε μια επίδειξη αυτής της συγκεκριμένης τεχνικής που χρησιμοποιείται για τον εντοπισμό ενός μικρού αριθμού ήδη γνωστών, ήσσονος σημασίας ευπαθειών. Όλες αυτές οι ευπάθειες φαίνονται σχετικά απλές και διαπιστώσαμε ότι και άλλα μοντέλα που είναι διαθέσιμα στο κοινό μπόρεσαν να τις εντοπίσουν», δήλωσε η Anthropic.

Πριν από την κυκλοφορία του Claude Fable 5, ηγετικά στελέχη από τους τομείς των οικονομικών, της τεχνολογίας αλλά και από τον κρατικό τομέα είχαν εκφράσει ανησυχίες σχετικά με τη δημόσια διάθεση του μοντέλου. Η Anthropic επέτρεψε την πρόσβαση πριν από την κυκλοφορία σε λίγα επιλεγμένα πρόσωπα , επειδή το εργαλείο ήταν τόσο ισχυρό που θα μπορούσε να είναι επικίνδυνο λόγω της ικανότητάς του να εκμεταλλεύεται ή να παραβιάζει συστήματα υπολογιστών.