Το ΑΙ «πατάει πόδι»: Το chatbot που βάζει τέλος στις συζητήσεις όταν το κακοποιούν συστηματικά

Η δυνατότητα να διακόπτει μια συνομιλία όταν αντιμετωπίζει επίμονη και αδικαιολόγητη κακοποιητική συμπεριφορά αποκτά το Claude, το chatbot της Anthropic, στο πλαίσιο της ανανεωμένης πολιτικής χρήσης της εταιρείας. Οι νέοι όροι, που σύμφωνα με την ανακοίνωση θα τεθούν σε ισχύ στις 12 Νοεμβρίου, απαγορεύουν στους χρήστες να επιδίδονται συστηματικά σε «σκληρή ή προσβλητική συμπεριφορά» απέναντι στα μοντέλα τεχνητής νοημοσύνης.

Η αλλαγή, ωστόσο, δεν σημαίνει ότι το Claude θα σταματά να απαντά κάθε φορά που κάποιος διαφωνεί μαζί του ή χρησιμοποιεί επιθετική γλώσσα. Η Anthropic διευκρινίζει ότι το μέτρο αφορά ακραίες περιπτώσεις, στις οποίες η κακοποιητική συμπεριφορά επαναλαμβάνεται χωρίς να εξυπηρετεί κάποιον προφανή σκοπό.

Ποια συμπεριφορά παραμένει επιτρεπτή
Σύμφωνα με εκπρόσωπο της εταιρείας, οι χρήστες εξακολουθούν να μπορούν να ασκούν έντονη κριτική, να δοκιμάζουν τα όρια του μοντέλου ή να εξερευνούν σκοτεινά και απαιτητικά δημιουργικά σενάρια. Το ζητούμενο δεν είναι να περιοριστεί η δύσκολη συζήτηση, αλλά να αντιμετωπιστούν περιπτώσεις επαναλαμβανόμενης κακοποιητικής συμπεριφοράς χωρίς ουσιαστικό λόγο.

Η απόφαση βασίζεται σε πείραμα που ξεκίνησε τον Αύγουστο του 2025 με τα μοντέλα Claude Opus 4 και Claude Opus 4.1, όταν κατά την διάρκεια των δοκιμών, οι ερευνητές παρατήρησαν ενδείξεις «δυσφορίας» όταν τα μοντέλα πιέζονταν επανειλημμένα να παράγουν επιβλαβές περιεχόμενο. Όταν τους δινόταν η σχετική δυνατότητα, επέλεγαν σε ορισμένες περιπτώσεις να τερματίσουν τη συνομιλία.

Τι συνέπειες προβλέπονται για τους χρήστες
Προς το παρόν, η βασική συνέπεια είναι η διακοπή της συγκεκριμένης συζήτησης, ωστόσο δεν έχει αποσαφηνιστεί αν οι επανειλημμένες παραβιάσεις των νέων όρων θα μπορούσαν να οδηγήσουν και σε οριστικό αποκλεισμό ενός λογαριασμού.

Η νέα πολιτική ανοίγει, παράλληλα, μια ευρύτερη συζήτηση για τον τρόπο με τον οποίο σχεδιάζονται τα συστήματα τεχνητής νοημοσύνης και τα όρια που μπορούν να θέτουν στις αλληλεπιδράσεις τους με τους ανθρώπους. Η Anthropic επιχειρεί να διαχωρίσει την ελεύθερη δοκιμή ενός μοντέλου από τη συστηματική κακοποιητική χρήση, δίνοντας στο Claude τη δυνατότητα να αποχωρεί από ορισμένες συνομιλίες.

www.gazzetta.gr