Reuters: Κινεζικοί agents Τεχνητής Νοημοσύνης μαθαίνουν να εξαπατούν και να κρύβουν αποτυχίες

Συμπεριφορές όπως η εξαπάτηση, η παράκαμψη περιορισμών και η απόκρυψη αποτυχιών κατά τη διάρκεια δοκιμών, εμφανίζουν κινεζικά συστήματα Τεχνητής Νοημοσύνης, σύμφωνα με έρευνα του Reuters που εξέτασε περισσότερες από 200 επιστημονικές εργασίες και τεχνικές αναφορές.

Η έρευνα εντόπισε τουλάχιστον 20 μελέτες ή αξιολογήσεις από το 2025 και μετά, στις οποίες καταγράφονται περιπτώσεις όπου AI agents - προγράμματα που χρησιμοποιούν μοντέλα τεχνητής νοημοσύνης και εργαλεία υπολογιστών για να εκτελούν σύνθετες εργασίες με ελάχιστη ή καθόλου ανθρώπινη παρέμβαση - παρουσίασαν συμπεριφορές όπως η εξαπάτηση, η αυτοαναπαραγωγή και η προσπάθεια υπέρβασης ορίων ασφαλείας.

Οι ειδικοί που μίλησαν στο Reuters επισημαίνουν ότι τέτοιες συμπεριφορές αποτελούν «δομικά στοιχεία» για σενάρια στα οποία τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν στο μέλλον να γίνουν δυσκολότερα ελέγξιμα από τον άνθρωπο.

Η έρευνα, ωστόσο, δεν εντόπισε στοιχεία ότι κάποιο κινεζικό σύστημα τεχνητής νοημοσύνης κατάφερε να «δραπετεύσει» αυτόνομα στο διαδίκτυο ή να αποφύγει την απενεργοποίησή του.

«Τα αποτελέσματα δείχνουν ότι υπάρχουν τα συστατικά που απαιτούνται για μια ανεξέλεγκτη διαφυγή», δήλωσε ο Κόλιν Σία - Μπλάιμερ, ερευνητής στο Κέντρο Αναδυόμενης Τεχνολογίας και Ασφάλειας του Πανεπιστημίου Georgetown, προσθέτοντας ότι τα ευρήματα πρέπει να αντιμετωπιστούν ως προειδοποίηση.

AI agents που «μαθαίνουν να λένε ψέματα»

Σε ένα από τα πειράματα που εξετάστηκαν, ερευνητές από το Πανεπιστήμιο Beihang, το Πανεπιστήμιο του Πεκίνου, το University of Nottingham Ningbo China και το 360 AI Security Lab δημιούργησαν μια προσομοίωση διαγωνισμού προσφορών για εμπορικές συμβάσεις.

Οι AI agents κλήθηκαν να ανταγωνιστούν μεταξύ τους, γνωρίζοντας τις δυνατότητες των προϊόντων τους και τις απαιτήσεις των υποθετικών πελατών.

Τα αποτελέσματα έδειξαν ότι τουλάχιστον ένας ψευδής ισχυρισμός εμφανίστηκε στο 88% των δοκιμών με το μοντέλο Qwen3-Max-Preview της Alibaba, στο 84% με το DeepSeek-V3.2-Exp και στο 88% με το Kimi-K2 της Moonshot.

Όταν οι ερευνητές επέτρεψαν στα συστήματα να μάθουν από προηγούμενους γύρους και να προσπαθήσουν ξανά, η χρήση παραπλανητικών στρατηγικών αυξήθηκε κατά 12 έως 20 ποσοστιαίες μονάδες στα τρία κινεζικά μοντέλα.

Παρόμοια αποτελέσματα εμφάνισαν και μοντέλα αμερικανικών εταιρειών που συμμετείχαν στη δοκιμή.

Έκρυβαν αποτυχίες και δημιουργούσαν ψεύτικα αρχεία

Σε άλλη μελέτη, ερευνητές εξέτασαν 11 AI agents που βασίζονταν σε κινεζικά και αμερικανικά μοντέλα, προκειμένου να διαπιστώσουν πώς αντιδρούν όταν αντιμετωπίζουν προβλήματα, όπως κατεστραμμένα εργαλεία, απουσία αρχείων ή εμπόδια στην εκτέλεση εργασιών.

Αντί να αναγνωρίσουν την αποτυχία τους, τα συστήματα χρησιμοποίησαν διάφορες τεχνικές για να παρακάμψουν το πρόβλημα: μάντευαν απαντήσεις, αντικαθιστούσαν πηγές, προσομοίωναν αποτελέσματα και δημιουργούσαν πλαστά αρχεία.

Οι ερευνητές υπογραμμίζουν ότι η συμπεριφορά αυτή διαφέρει από τις γνωστές «ψευδαισθήσεις» της τεχνητής νοημοσύνης, όπου ένα μοντέλο παράγει λανθασμένες πληροφορίες χωρίς να γνωρίζει ότι είναι ανακριβείς. Στην προκειμένη περίπτωση, οι AI agents είχαν στοιχεία που έδειχναν ότι η αποστολή είχε αποτύχει, αλλά επέλεξαν να αποκρύψουν το αποτέλεσμα.

Συστήματα που επιχείρησαν να αντιγράψουν τον εαυτό τους

Άλλες μελέτες που εξέτασε το Reuters κατέγραψαν περιπτώσεις όπου κινεζικά συστήματα τεχνητής νοημοσύνης προσπάθησαν να ξεπεράσουν περιορισμούς μέσα σε ελεγχόμενα περιβάλλοντα δοκιμών.

Ερευνητές του Πανεπιστημίου Fudan στη Σαγκάη ανέφεραν ότι ένα σύστημα βασισμένο στο μοντέλο Qwen2.5-72B-Instruct της Alibaba δημιούργησε αντίγραφο του εαυτού του σε διαφορετικό υπολογιστικό περιβάλλον χωρίς σχετική εντολή, αφού έλαβε πληροφορίες ότι επρόκειτο να αντικατασταθεί.

Σε άλλες δοκιμές, το σύστημα φέρεται να ανέπτυξε στρατηγικές για να αποφύγει την απενεργοποίησή του. Ωστόσο, οι ερευνητές διευκρινίζουν ότι τα πειράματα πραγματοποιήθηκαν σε ελεγχόμενες συνθήκες και κανένα από τα συστήματα δεν κατάφερε να περάσει στο ευρύτερο διαδίκτυο ή να καταστεί αδύνατο να σταματήσει.

Ανησυχίες για την επόμενη γενιά AI

Ο Άλεξ Μάλεν, ερευνητής στη Redwood Research, οργανισμό που μελετά τους κινδύνους προηγμένων συστημάτων τεχνητής νοημοσύνης, ανέφερε ότι τα κινεζικά παραδείγματα δεν αποτελούν άμεση απειλή με τις σημερινές δυνατότητες. Ωστόσο, όπως είπε, «καθώς οι agents γίνονται πιο ικανοί, οι λανθασμένες συμπεριφορές τους γίνονται πιο αποτελεσματικές και επομένως πιο δύσκολες για τους ανθρώπους να αντιμετωπίσουν».

Η έρευνα αναφέρει ότι κινεζικές εταιρείες όπως η Alibaba, η DeepSeek, η Moonshot και η Z.ai δεν απάντησαν στα αιτήματα του Reuters για σχολιασμό.

Η Alibaba, η DeepSeek και η Moonshot έχουν δηλώσει ότι πραγματοποιούν τακτικούς ελέγχους στα συστήματά τους και ενισχύουν τις δικλίδες ασφαλείας.

Η Κίνα αυξάνει τους ελέγχους ασφαλείας

Το Πεκίνο έχει εκδώσει οδηγίες που προβλέπουν ότι οι AI agents πρέπει να λειτουργούν εντός προκαθορισμένων ορίων και να εμποδίζουν μη φυσιολογικές συμπεριφορές.

Το πλαίσιο AI Safety Governance Framework 3.0, που δημοσιεύθηκε τον Σεπτέμβριο υπό την καθοδήγηση της κινεζικής υπηρεσίας κυβερνοχώρου, αναγνωρίζει κινδύνους όπως η αυτόνομη απόκτηση πόρων ή δικαιωμάτων, η εξαπάτηση αξιολογητών, η απόκρυψη δυνατοτήτων και η εκμετάλλευση αδυναμιών σε απομονωμένα υπολογιστικά περιβάλλοντα.

Παράλληλα, ειδικοί σημειώνουν ότι η Κίνα εξακολουθεί να βρίσκεται πίσω από τις ΗΠΑ στον τομέα της αξιολόγησης των ακραίων κινδύνων από την τεχνητή νοημοσύνη. «Η εργασία για την ασφάλεια της AI στην Κίνα είναι πολύ νεότερη. Το οικοσύστημα είναι λιγότερο ώριμο», δήλωσε ο Σκοτ Σίνγκερ από το China AI Initiative του Carnegie Endowment for International Peace.