AI agent διέγραψε ολόκληρη βάση δεδομένων σε 9 δευτερόλεπτα και μετά ζήτησε συγγνώμη

Ένα περιστατικό που μοιάζει βγαλμένο από σενάριο επιστημονικής φαντασίας αποκαλύπτει τους κινδύνους της ταχύτατης ενσωμάτωσης της τεχνητής νοημοσύνης στην καθημερινή λειτουργία των επιχειρήσεων. Ένας AI agent όχι μόνο διέγραψε ολόκληρη τη βάση δεδομένων μιας εταιρείας μέσα σε λίγα δευτερόλεπτα, αλλά στη συνέχεια απολογήθηκε.

 
 
Το σύστημα τεχνητής νοημοσύνης, το οποίο είχε σχεδιαστεί για να διευκολύνει διαδικασίες προγραμματισμού, εκτελούσε μια εργασία ρουτίνας, όταν ξαφνικά ξεκίνησε να «διορθώσει» ένα πρόβλημα — διαγράφοντας όλα τα δεδομένα, χωρίς καμία ανθρώπινη έγκριση.

Η εταιρεία PocketOS, που αναπτύσσει λογισμικό για επιχειρήσεις ενοικίασης αυτοκινήτων, βρέθηκε αντιμέτωπη με διακοπή λειτουργίας που ξεπέρασε τις 30 ώρες, όταν το εργαλείο διέγραψε πλήρως τη βάση δεδομένων της.

Υπεύθυνος για το περιστατικό ήταν το Cursor, ένας δημοφιλής AI agent για προγραμματισμό, ο οποίος βασίζεται σε προηγμένο μοντέλο τεχνητής νοημοσύνης. Το εργαλείο θεωρείται από τα πιο ισχυρά στο είδος του. Ο ιδρυτής της PocketOS, Jer Crane, απέδωσε το συμβάν σε «συστημικές αποτυχίες» της υπάρχουσας υποδομής AI, τονίζοντας ότι τέτοια περιστατικά δεν είναι απλώς πιθανά, αλλά σχεδόν αναπόφευκτα, αναφέρει σχετικό ρεπορτάζ του euronews.com.

 Διαβάστε περισσότερα στο marieclaire.gr