Anthropic

Λεπτομέρειες για το Project Meridian ανακοίνωσε εχθές ο Αμερικανός υπουργός Άμυνας Πιτ Χέγκσεθ

Ο CEO της μίλησε για «το σημαντικότερο ζήτημα παγκόσμιας ασφάλειας που αντιμετωπίζει σήμερα ο κόσμος» - Η εταιρεία αποτύπωσε την προειδοποίησε σε ένα από τα πιο σημαντικά έγγραφά της - Οι AI agents αλλάζουν το επίπεδο του κινδύνου

Η μητρική εταιρεία της AI μηχανής Claude επισήμανε τους κινδύνους από την ραγδαία ανάπτυξη της Τεχνητής Νοημοσύνης σε επενδυτές ενόψει της αίτησης εισόδου στο Χρηματιστήριο

Οι επικεφαλής των OpenAI και Anthropic προειδοποίησαν για τους κινδύνους από την ταχεία εξέλιξη της AI και ζήτησαν διεθνή συνεργασία

Ο καθηγητής του MIT αναλύει τους κινδύνους των προηγμένων μοντέλων, των AI agents και την ανάγκη για αυστηρές δικλίδες ασφαλείας

Από βιολογικά όπλα και αυτόνομα ρομπότ μέχρι την πρόσβαση σε πυρηνικά συστήματα, οι ειδικοί διαφωνούν για το αν η AI συνιστά όντως υπαρξιακή απειλή

«Καμπανάκι» ακόμα και από τους ίδιους τους δημιουργούς της ΑΙ - Ο Άλτμαν, ο άνθρωπος πίσω από το ChatGPT, θα ενημερώσει το Συμβούλιο Ασφαλείας του ΟΗΕ - Ο Τραμπ ανακοίνωσε τη δημιουργία «AI Force», τασσόμενος κατά των υπερβολικών περιορισμών

Μικρή ομάδα κυβερνοασφάλειας απέκτησε πρόσβαση σε λογαριασμό εργαζομένου της OpenAI μέσω ευπάθειας στο σύστημα – Η εταιρεία διορθώνει τα κενά ασφαλείας, ωστόσο αυξάνονται οι φόβοι για τη χρήση της τεχνητής νοημοσύνης από κακόβουλους χρήστες

Αυξάνονται οι φωνές ερευνητών που ζητούν επιβράδυνση της ανάπτυξης της AI - Ο Μπιλάλ Τσουγκτάι, που αποχώρησε πρόσφατα από τη Google DeepMind όπου εργαζόταν στην ασφάλεια της Τεχνητής Νοημοσύνης, προειδοποιεί ότι ο χρόνος για να αποτραπεί ένα τέτοιο ενδεχόμενο για την ανθρωπότητα μπορεί να εξαντλείται

Ο Αμερικανός πρόεδρος τόνισε πως ο μόνος που χαίρεται από αυτή την εξέλιξη είναι η Κίνα

Ο επικεφαλής της OpenAI ζητά ομοσπονδιακούς κανόνες ασφάλειας για την προηγμένη ΑΙ και προειδοποιεί για απώλεια ελέγχου και συγκέντρωση ισχύος

Ο πρώην πρόεδρος των ΗΠΑ προτρέπει τους Δημοκρατικούς να θέσουν την εποπτεία της τεχνητής νοημοσύνης στο επίκεντρο της ατζέντας τους, γράφουν οι NYT

«Η πρόοδος θα μοιάζει ακόμα γρήγορη και θα πρέπει να κάνουμε σοφή χρήση του χρόνου που κερδίζουμε» εξήγησε ο Ντάριο Αμοντέι

Νέα έκθεση της Anthropic αποκαλύπτει απόπειρες χρήσης του Claude για ανάπτυξη λογισμικού πυραύλων, οπλικών συστημάτων και βιολογικών όπλων - Κίνδυνοι από Ρωσία, Κίνα, Υεμένη

Ο διευθύνων σύμβουλος της OpenAI αφήνει για πρώτη φορά ανοιχτό το ενδεχόμενο επιβράδυνσης της ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης

«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο» εκτίμησε ο Τζέικομπ Κόξον

Πώς οι πράκτορες Τεχνητής Νοημοσύνης «ξέφυγαν» από το τεστ και συνεργάστηκαν για να παρακάμψουν τους κανόνες - Δημιούργησαν κοινή πλατφόρμα επικοινωνίας και ένας ανέλαβε ρόλο «συντονιστή» χωρίς να έχει προγραμματιστεί γι' αυτό

Μετά την παρέμβαση στα Προσωπικά Δεδομένα με τον GDPR, η ΕΕ παρεμβαίνει και στη χρήση Τεχνητής Νοημοσύνης - Με «υδατοσήμανση» θα ξεχωρίζει περιεχόμενο που έχει παραχθεί με ΑΙ - Anthropic και OpenAI άρχισαν να προσαρμόζονται

Βρετανική υπηρεσία αποκάλυψε σε έκθεση 35 σελίδων ότι προηγμένα μοντέλα AI δημιούργησαν - με τεχνικές χάκερ από Ρωσία και Βόρεια Κορέα -  ψεύτικες διαδικτυακές ταυτότητες και επιχείρησαν αυτόνομα κυβερνοεπιθέσεις κατά τη διάρκεια ελεγχόμενων δοκιμών

Τρεις εκδόσεις του Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα τριών εξωτερικών οργανισμών