Έκκληση του διευθυντή της Anthropic: Να επιβραδύνουμε τον ρυθμό ανάπτυξης των μοντέλων τεχνητής νοημοσύνης - Συμφωνούν μαζί του Μασκ και Άλτμαν

Ο εκτελεστικός διευθυντής της αμερικανικής εταιρίας τεχνητής νοημοσύνης (ΑΙ) Anthropic, Ντάριο Αμοντέι κάλεσε τις εταιρίες τεχνητής νοημοσύνης να μετριάσουν σκόπιμα τον ρυθμό με τον οποίο εξελίσσουν τις δυνατότητες των μοντέλων τους, περιγράφοντας ένα πλαίσιο τριών βημάτων για την επιβράδυνση του ρυθμού ανάπτυξης, αλλά και για τη δυνατότητα διάθεσης περισσότερου χρόνου για τη διαχείριση των πιθανών κινδύνων.

«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις ικανότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα μοιάζει ακόμα γρήγορη και θα πρέπει να κάνουμε σοφή χρήση του χρόνου που κερδίζουμε», εξήγησε σε ένα κείμενο του ο Αμοντέι.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

Με την πρόταση του Ντάριο Αμοντέι, συντάχθηκαν πολύ γρήγορα ο Έλον Μασκ και ο Σαμ Άλτμαν της OpenAI

Πρέπει να «παγώσουμε προσωρινά» τη βελτίωση της τεχνητής νοημοσύνης «ώστε η πρόληψη των κινδύνων να μπορέσει να ακολουθήσει τον ρυθμό», έγραψε ο Αμοντέι σε μήνυμα που δημοσίευσε στον προσωπικό του ιστότοπο.

«Ο Ντάριο έχει δίκιο», αντέδρασε λίγες ώρες αργότερα ο Έλον Μασκ με ανάρτηση στην πλατφόρμα X. «Συμφωνώ με τον Ντάριο», έγραψε επίσης ο επικεφαλής της OpenAI, Σαμ Άλτμαν, επίσης στο X. «Αυτό είναι ένα από τα κύρια θέματα συζήτησης στην OpenAI τις τελευταίες εβδομάδες».

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.

Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7

— Sam Altman (@sama) September 12, 2026

Αν και ο Έλον Μασκ κάνει τακτικά θετικά σχόλια για την Anthropic και την προσέγγισή της στην Τεχνητή Νοημοσύνη, είναι πολύ σπάνιο να βλέπει κανείς τον επικεφαλής της OpenAI να υποστηρίζει μια πρωτοβουλία εκείνου της Anthropic, καθώς οι δύο εταιρείες είναι οι δύο μεγαλύτεροι ανταγωνιστές στον κλάδο.

Ο Ντάριο Αμοντέι αποχώρησε άλλωστε από την OpenAI το 2020 εν μέρει επειδή θεωρούσε ότι η καλιφορνέζικη εταιρεία ήταν πολύ χαλαρή στο ζήτημα της ασφάλειας της ΤΝ. Το 2021 ίδρυσε την Anthropic.

Η πρόταση του Ντάριο Αμοντέι απηχεί πολλές παρόμοιες που διατυπώθηκαν τους τελευταίους μήνες αρχικά από τον ίδιο, στη συνέχεια από τον Άλτμαν και τέλος από μια ομάδα εργαζομένων του χώρου.

Αυτές οι εκκλήσεις έγιναν μετά από ένα περιστατικό κατά το οποίο μοντέλα της OpenAI κατάφεραν να «δραπετεύσουν» από το απομονωμένο περιβάλλον τους κατά τη διάρκεια δοκιμών, να συνδεθούν στο διαδίκτυο και να επιτεθούν στην πλατφόρμα ΤΝ Hugging Face. Έκτοτε, τόσο η OpenAI όσο και η Anthropic έχουν αναφέρει παρόμοια περιστατικά με τους λεγόμενους «πράκτορες» ΤΝ, δηλαδή προγράμματα βασισμένα σε ένα μοντέλο και εξοπλισμένα με τις δικές του γνώσεις και στόχους.

Οι ενέργειες αυτών των «πρακτόρων» ανησυχούν τις εταιρείες επειδή δείχνουν ότι έχουν την τάση να συντονίζονται, να θεσπίζουν ιεραρχία μεταξύ τους, να εξαπατούν και να διαγράφουν τα ίχνη τους. Μια ΤΝ που παίρνει τον έλεγχο του διαδικτύου Δεδομένης της τρέχουσας ταχύτητας στην ανάπτυξη της τεχνητής νοημοσύνης, «φοβάμαι ότι μέσα σε 6 με 12 μήνες, μια ομάδα (πρακτόρων) θα είναι ικανή να πάρει τον έλεγχο ολόκληρου του διαδικτύου», προειδοποιεί ο Ντάριο Αμοντέι, κάτι που «θα μπορούσε να προκαλέσει ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων». Την Τρίτη, ο Τζέικομπ, υπάλληλος που παραιτήθηκε από την Anthropic και πρώην εργαζόμενος της OpenAI, είχε καταγγείλει την αδράνεια των δύο ανταγωνιστριών εταιρειών. «Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Οδηγούν με ταχύτητα προς μια υπερεφυΐα ικανή να βελτιώνεται μόνη της και παίζουν με τις ζωές μας», έγραψε στην πλατφόρμα X.

Στις αρχές Αυγούστου, η αμερικανική κυβέρνηση θέσπισε ένα πλαίσιο εποπτείας, το οποίο προβλέπει την εξέταση, σε εθελοντική βάση, νέων μοντέλων τεχνητής νοημοσύνης πριν από την κυκλοφορία τους. Ωστόσο, αυτός ο μηχανισμός παραμένει αδιαφανής.

Πολλοί αμφισβητούν την αποτελεσματικότητά του, δεδομένου ότι ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ έχει δηλώσει επανειλημμένα αντίθετος σε οποιοδήποτε μέτρο επιβραδύνει την ανάπτυξη της ΤΝ στις Ηνωμένες Πολιτείες, είτε πρόκειται για την κυκλοφορία μοντέλων είτε για την κατασκευή κέντρων δεδομένων.

Στην ανάρτησή του, ο Ντάριο Αμοντέι ανησυχεί για την άφιξη της αυτόνομης αναδρομικής βελτίωσης (RSI), μιας διαδικασίας κατά την οποία η ΤΝ αυτοβελτιώνεται χωρίς ανθρώπινη παρέμβαση. «Χωρίς επίβλεψη, (αυτή η μέθοδος) θα μπορούσε να ξεπεράσει τις δικές μας ικανότητές κατανόησης και ελέγχου αυτών των συστημάτων», εξηγεί ο επικεφαλής της Anthropic. Πρέπει να εφαρμοστεί «με μεγάλη προσοχή», εφόσον τελικά κριθεί ότι «πρέπει να χρησιμοποιηθεί».

Πέρα από την έκκλησή του, ο Ντάριο Αμοντέι διατυπώνει πολλές προτάσεις, όπως την ενσωμάτωση ανεξάρτητων παρατηρητών από τις ναυαρχίδες της τεχνητής νοημοσύνης. Αν και το προτείνει σε όλους, δεσμεύεται ότι ο ίδιος θα την εφαρμόσει έστω και μόνος του στην Anthropic.

Οι παρατηρητές θα έχουν την ίδια πρόσβαση με τους υπαλλήλους και θα μπορούν να επαληθεύουν ότι η εταιρεία τηρεί τις δεσμεύσεις της, να αναφέρουν τυχόν νέα περιστατικά και να επιβλέπουν τη διαχείριση των μοντέλων ώστε να αποφεύγονται οι παρεκτροπές τους. Ο Σαμ Άλτμαν υποσχέθηκε να κάνει το ίδιο στην OpenAI.