Anthropic

Ο πρώην πρόεδρος των ΗΠΑ προτρέπει τους Δημοκρατικούς να θέσουν την εποπτεία της τεχνητής νοημοσύνης στο επίκεντρο της ατζέντας τους, γράφουν οι NYT

«Η πρόοδος θα μοιάζει ακόμα γρήγορη και θα πρέπει να κάνουμε σοφή χρήση του χρόνου που κερδίζουμε» εξήγησε ο Ντάριο Αμοντέι

Νέα έκθεση της Anthropic αποκαλύπτει απόπειρες χρήσης του Claude για ανάπτυξη λογισμικού πυραύλων, οπλικών συστημάτων και βιολογικών όπλων - Κίνδυνοι από Ρωσία, Κίνα, Υεμένη

Ο διευθύνων σύμβουλος της OpenAI αφήνει για πρώτη φορά ανοιχτό το ενδεχόμενο επιβράδυνσης της ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης

«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο» εκτίμησε ο Τζέικομπ Κόξον

Πώς οι πράκτορες Τεχνητής Νοημοσύνης «ξέφυγαν» από το τεστ και συνεργάστηκαν για να παρακάμψουν τους κανόνες - Δημιούργησαν κοινή πλατφόρμα επικοινωνίας και ένας ανέλαβε ρόλο «συντονιστή» χωρίς να έχει προγραμματιστεί γι' αυτό

Μετά την παρέμβαση στα Προσωπικά Δεδομένα με τον GDPR, η ΕΕ παρεμβαίνει και στη χρήση Τεχνητής Νοημοσύνης - Με «υδατοσήμανση» θα ξεχωρίζει περιεχόμενο που έχει παραχθεί με ΑΙ - Anthropic και OpenAI άρχισαν να προσαρμόζονται

Βρετανική υπηρεσία αποκάλυψε σε έκθεση 35 σελίδων ότι προηγμένα μοντέλα AI δημιούργησαν - με τεχνικές χάκερ από Ρωσία και Βόρεια Κορέα -  ψεύτικες διαδικτυακές ταυτότητες και επιχείρησαν αυτόνομα κυβερνοεπιθέσεις κατά τη διάρκεια ελεγχόμενων δοκιμών

Τρεις εκδόσεις του Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα τριών εξωτερικών οργανισμών

Καλούν την αμερικανική κυβέρνηση να καθυστερήσει την κυκλοφορία των πιο προχωρημένων μοντέλων AI εκφράζοντας ανησυχίες για πιθανή ανεξέλεγκτη κούρσα προς το μέλλον - Το γραπτό αίτημα υπογράφεται από 1.100 πρόσωπα, ανάμεσά τους και ο γενικός διευθυντής της Anthropic, ο υπεύθυνος έρευνας της OpenAI, της Meta και της Google DeepMind

Η διακομματική πρόταση νόμου, με την ονομασία «AI Kill Switch Act», έρχεται μετά το σοβαρό περιστατικό όπου αυτόνομος AI agent κατάφερε να διαφύγει από ελεγχόμενο περιβάλλον δοκιμών και να πραγματοποιήσει κυβερνοεπίθεση

Σε πρώιμο στάδιο οι συζητήσεις, λένε οι Financial Times - Ο Άλτμαν επιδιώκει να αμβλύνει τις αντιδράσεις που έχει προκαλέσει η ταχύτατη ανάπτυξη της Τεχνητής Νοημοσύνης - Προτείνει το ίδιο για όλες τις εταιρείες που δραστηριοποιούνται σε αυτό το πεδίο

Ισχυρισμοί για τις δυνατότητες του μοντέλου τεχνητής νοημοσύνης προκαλούν ανησυχία για το μέλλον των κυβερνοεπιθέσεων και την προστασία κρίσιμων υποδομών

Αν και η εταιρεία πιστεύει ότι η μέθοδος παράκαμψης που επικαλείται η κυβέρνηση δεν έχει σοβαρές επιπτώσεις, ακύρωσε την πρόσβαση σε όλους τους πελάτες της

Η αμερικανική κυβέρνηση διέταξε την Anthropic να αναστείλει την πρόσβαση στα μοντέλα Fable 5 και Mythos 5, επικαλούμενη λόγους εθνικής ασφάλειας - Αφορά κυβερνήσεις, εταιρείες ακόμη και τους χρήστες - Η Anthropic έκανε λόγο για «παρεξήγηση» και απενεργοποίησε τα μοντέλα για όλους τους πελάτες της

Από την πλήρη απορρύθμιση στον έλεγχο των πάντων - Το εθελοντικό παράθυρο για έλεγχο έως 30 ημερών πριν από τη διάθεση νέων συστημάτων σηματοδοτεί τη μετατροπή της τεχνητής νοημοσύνης από τεχνολογικό προϊόν σε ζήτημα εθνικής ασφάλειας

Ο νομπελίστας - ελληνοκυπριακής καταγωγής - εξπέρ της Τεχνητής Νοημοσύνης έχει επενδύσει σημαντικά ποσά σε νεοφυείς εταιρείες που ίδρυσαν πρώην συνεργάτες του

Το υπουργείο Άμυνας ενισχύει τη χρήση AI σε διαβαθμισμένα δίκτυα – Εκτός συμφωνίας η Anthropic

Οι δύο εταιρίες βρίσκονται στην πρώτη γραμμή της κούρσας της AI και δαπανούν τεράστια ποσά για την ανάπτυξη των μοντέλων τους

Η ομάδα των χρηστών περισσότερο ενδιαφερόταν «να πειραματιστεί» με την τεχνολογία παρά να προκαλέσει προβλήματα