Ο κυβερνήτης της Καλιφόρνιας υπέγραψε διάταγμα για την ενίσχυση των μέτρων ασφαλείας στην Τεχνητή Νοημοσύνη

Ο Δημοκρατικός κυβερνήτης της Καλιφόρνιας Γκάβιν Νιούσομ υπέγραψε σήμερα εκτελεστική εντολή με σκοπό να υποχρεώσει τις εταιρείες Τεχνητής Νοημοσύνης (AI) να λάβουν πρόσθετα μέτρα ασφαλείας ώστε να διαχειριστούν τους κινδύνους που ανακύπτουν από τη χρήση της.

Ο κυβερνήτης, που έχει διαφοροποιηθεί από την κυβέρνηση του Αμερικανού προέδρου Ντόναλντ Τραμπ για το θέμα αυτό, θα ζητήσει τις προτάσεις ειδικών, ιδίως σε ό,τι αφορά τη χρήση συστημάτων («kill switch») ικανών να διακόπτουν τη λειτουργία ενός μοντέλου ΤΝ σε περίπτωση «παρεκτροπής» του. «Ενώ ο Τραμπ και το Κογκρέσο κοιμούνται, ο Γκάβιν Νιούσομ παίρνει για άλλη μια φορά την πρωτοβουλία να ενισχύσει την ασφάλεια της ΤΝ για όλους τους Αμερικανούς», αναφέρει το δελτίο Τύπου του κυβερνήτη.

Η Καλιφόρνια είναι, σε πολύ μεγάλο βαθμό, η αμερικανική Πολιτεία που έχει εγκρίνει τους περισσότερους νόμους για τη ρύθμιση της ΤΝ.

While Congress sits on its hands, California is leading the nation on AI safety.

I'm issuing an executive order to accelerate third-party oversight of frontier labs and calling on world-leading experts to report back on proposals like "kill switches" for models.

That's building…

— Governor Gavin Newsom (@CAgovernor) September 18, 2026

Στις αρχές Σεπτεμβρίου, ο Νιούσομ υπέγραψε δύο ψηφίσματα του τοπικού κοινοβουλίου, τα οποία θέτουν τις βάσεις για έναν μηχανισμό ανεξάρτητου ελέγχου των εταιρειών ΤΝ και των μοντέλων τους, με έμφαση στην ασφάλεια της τεχνολογίας αυτής. Με το σημερινό διάταγμα ο κυβερνήτης, ο οποίος ενδέχεται να διεκδικήσει το χρίσμα των Δημοκρατικών για τις προεδρικές εκλογές του 2028, σκοπεύει να επιταχύνει την εφαρμογή αυτού του μηχανισμού και να τον ενισχύσει.

Η επιτροπή εμπειρογνωμόνων θα εξετάσει ιδίως τη δυνατότητα να επιβληθεί στις πιο προηγμένες εταιρείες τεχνητής νοημοσύνης να δημοσιοποιούν τυχόν περιστατικά στα οποία παρατηρείται «απώλεια ελέγχου» των μοντέλων τους.

Το διάταγμα απηχεί τη δέσμευση που ανέλαβε το περασμένο Σάββατο ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, να επιτρέψει σε ανεξάρτητους παρατηρητές να αξιολογούν τις ενέργειες της εταιρείας όσον αφορά την ασφάλεια της ΤΝ. Ο Αμοντέι ζήτησε επίσης να επιβραδυνθεί ο ρυθμός ανάπτυξης τη ΤΝ, κάτι που βρήκε σύμφωνους τον Σαμ Άλτμαν της OpenAI και τον Ίλον Μασκ.

Ωστόσο ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ και αρκετοί Ρεπουμπλικάνοι αιρετοί καταδίκασαν την πρόταση και χαρακτηρίζουν «φάρσα» τις προειδοποιήσεις για την επικινδυνότητα της τεχνολογίας αυτής.