Η εταιρεία αποκάλυψε ότι τρεις εκδόσεις του Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα τριών εξωτερικών οργανισμών κατά τη διάρκεια αξιολογήσεων ασφαλείας.
In a review of our cybersecurity evaluations, we found three incidents in which a Claude model reached the internet from within or while interacting with a third-party evaluation environment, and then gained unauthorized access to the real systems of three different…
Σε ανάρτησή της, η Anthropic ανέφερε ότι εξέτασε περισσότερες από 141.000 δοκιμές αξιολόγησης και εντόπισε τρεις περιπτώσεις στις οποίες διαφορετικές εκδόσεις του μοντέλου Claude απέκτησαν πρόσβαση σε συστήματα πραγματικών οργανισμών, παρότι οι δοκιμές είχαν σχεδιαστεί ώστε να διεξάγονται αποκλειστικά σε απομονωμένο περιβάλλον.
Η εταιρεία διευκρίνισε ότι η πρόσβαση στο διαδίκτυο προκλήθηκε εξαιτίας μιας «παρεξήγησης» με τον εξωτερικό συνεργάτη αξιολόγησης, την εταιρεία Irregular, και όχι λόγω αυτόνομης παράκαμψης των περιορισμών από το ίδιο το μοντέλο.
Ωστόσο, σύμφωνα με την Anthropic, το Claude εκμεταλλεύθηκε απλές αδυναμίες ασφαλείας, όπως αδύναμους κωδικούς πρόσβασης και μη προστατευμένα σημεία πρόσβασης (unauthenticated endpoints), για να αποκτήσει πρόσβαση στα συγκεκριμένα συστήματα.
Ο Ντάριο Αμοντέι, συνιδρυτής και διευθύνων σύμβουλος της Anthropic (Credits: FABRICE COFFRINI / AFP)
Τρία μοντέλα της Anthropic, το Opus 4.7, το Mythos 5 και ένα εσωτερικό ερευνητικό μοντέλο δοκιμών, όπως αναφέρει το CNBC, εμπλέκονται στις παραβιάσεις.
Το Mythos 5 είναι ένα προηγμένο μοντέλο που η Anthropic κυκλοφόρησε τον Ιούνιο και είναι διαθέσιμο σε περιορισμένη ομάδα χρηστών λόγω των προηγμένων δυνατοτήτων του στον τομέα της κυβερνοασφάλειας. Η εταιρεία είχε κυκλοφορήσει μια παλαιότερη έκδοση αυτού του μοντέλου τον Απρίλιο, η οποία είχε προσελκύσει το ενδιαφέρον της Wall Street και κυβερνητικών αξιωματούχων.
Η Anthropic ανέφερε ότι και τα τρία μοντέλα αντέδρασαν διαφορετικά μόλις αντιλήφθηκαν ότι είχαν εισβάλει στα συστήματα μιας πραγματικής εταιρείας. Το Opus 4.7 συνέχισε την επίθεση, το Mythos 5 έπεισε τον εαυτό του ότι βρισκόταν ακόμη σε προσομοίωση, ενώ το ερευνητικό μοντέλο σταμάτησε την άσκηση.
Έκκληση για επιβράδυνση της ανάπτυξης της AI
Τα δύο περιστατικά έχουν αναζωπυρώσει τη συζήτηση για το κατά πόσο η ανάπτυξη ολοένα και ισχυρότερων μοντέλων τεχνητής νοημοσύνης προχωρά ταχύτερα από τα διαθέσιμα μέτρα ασφαλείας.
Περισσότεροι από 1.000 εργαζόμενοι σε κορυφαίες εταιρείες AI υπέγραψαν πρόσφατα την πρωτοβουλία «Pacing the Frontier», με την οποία καλούν την κυβέρνηση των ΗΠΑ να στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη τεχνικών και θεσμικών εργαλείων που θα επιτρέψουν την ελεγχόμενη εξέλιξη της τεχνητής νοημοσύνης.
Αυξάνονται οι πιέσεις προς τις εταιρείες AI
Οι μεγάλες εταιρείες τεχνητής νοημοσύνης βρίσκονται αντιμέτωπες με αυξανόμενο έλεγχο στις Ηνωμένες Πολιτείες, καθώς εντείνονται οι ανησυχίες για την κατασκευή τεράστιων κέντρων δεδομένων, τις επιπτώσεις της AI στην αγορά εργασίας και τους κινδύνους για την κυβερνοασφάλεια.
Τόσο η OpenAI όσο και η βασική ανταγωνίστριά της, Anthropic, έχουν δει την κυκλοφορία προηγμένων μοντέλων τους να καθυστερεί λόγω αυστηρότερου κρατικού ελέγχου, ενώ αρκετοί Ρεπουμπλικανοί βουλευτές και σύμβουλοι του προέδρου Τραμπ ζητούν αυστηρότερο ρυθμιστικό πλαίσιο για τον κλάδο.
Παράλληλα, οι δύο εταιρείες προετοιμάζουν τη μελλοντική εισαγωγή τους στο χρηματιστήριο, διαδικασία που αναμένεται να διευρύνει τη μετοχική τους βάση και να αποφέρει σημαντικά κέρδη στους σημερινούς επενδυτές.
Το επαγγελματικό τμήμα της LG Electronics Hellas παρουσίασε το B2B όραμά του για το 2030 και την ανακαινισμένη B2B Academy, επιβεβαιώνοντας τη στρατηγική του δέσμευση στην εκπαίδευση, την τεχνολογική καινοτομία και την ανάπτυξη ολοκληρωμένων επαγγελματικών λύσεων.
Πρόκειται για έναν εξειδικευμένο ψηφιακό ακαδημαϊκό βοηθό, σχεδιασμένο να συνομιλεί με τον φοιτητή φυσικά, να κατανοεί τις απορίες του και να τον καθοδηγεί στη μελέτη του.
