«Λυπόμαστε πάρα πολύ»: Η OpenAI απολογήθηκε για την εισβολή AI agent σε κυβερνητικό site της Αυστραλίας

Στέλεχος της OpenAI παραδέχθηκε σήμερα ενώπιον Αυστραλών κοινοβουλευτικών ότι ο αμερικανικός κολοσσός δεν διαχειρίστηκε καλά το συμβάν κατά το οποίο ένας από τους αυτόνομους πράκτορές του Τεχνητής Νοημοσύνης διείσδυσε τον Ιούνιο σε αυστραλιανό κυβερνητικό ιστότοπο.

Ο διευθυντής στρατηγικής της OpenAI Τζέισον Κουόν παρουσιάστηκε σε ακρόαση στο Σίδνεϊ ενώπιον ειδικής για την ΤΝ κοινοβουλευτικής επιτροπής. «Καταρχάς θέλω να ζητήσω συγγνώμη», είπε ο Κουόν.

Ένας αυτόνομος πράκτορας της OpenAI διείσδυσε τον Ιούνιο στον αυστραλιανό ιστότοπο της υπηρεσίας στατιστικών υγείας. Αυτός κατάφερε να έχει πρόσβαση σε διάφορα αρχεία, δημόσια ή μη. Το εν λόγω μοντέλο ήταν ένας εσωτερικός πράκτορας ΤΝ της OpenAI, ο οποίος δεν προοριζόταν να διατεθεί στην αγορά. Αυτοί που έκαναν την αξιολόγησή του το αποδέσμευσαν από τις δικλείδες ασφαλείας του για να αποτιμήσουν καλύτερα τις πραγματικές του ικανότητες όσον αφορά την κυβερνοασφάλεια.

Η OpenAI αναγνώρισε ότι το προϊόν της έβαλε στο στόχαστρο 4 αυστραλιανές κυβερνητικές πλατφόρμες και ανακοίνωσε ότι το αντιλήφθηκε τον Αύγουστο.

«Στη διάρκεια της εσωτερικής εκπαίδευσης και αξιολόγησης, μοντέλα μας είχαν πρόσβαση σε ιστοσελίδες στο διαδίκτυο της αυστραλιανής κυβέρνησης με τρόπο που δεν τους είχε ζητηθεί. Αυτό δεν θα έπρεπε να έχει συμβεί. Επίσης θα έπρεπε να έχουμε διαχειριστεί καλύτερα την αντίδρασή μας», πρόσθεσε.

Ο Αυστραλός πρωθυπουργός Άντονι Αλμπανέζι είχε προσάψει στην αμερικανική εταιρεία ότι ενημέρωσε την κυβέρνησή του μόλις τον Σεπτέμβριο, αποστέλλοντας ένα email όπου περιέγραφε το περιστατικό σε μια γενική διεύθυνση που προορίζεται για το ευρύ κοινό και στην οποία η διαχείριση των μηνυμάτων ηλεκτρονικού ταχυδρομείου γίνεται μόνο μία φορά ημερησίως.

«Λυπόμαστε πάρα πολύ. Ξέρουμε ότι πρέπει να κάνουμε δουλειά για να αποκαταστήσουμε την εμπιστοσύνη του αυστραλιανού λαού. Δεσμευόμαστε να φέρουμε εις πέρας αυτό το έργο», σημείωσε ο Κουόν.

Έχοντας τεράστιες δυνατότητες όσον αφορά τις ανανεώσιμες πηγές ενέργειας και τεράστιες ακατοίκητες εκτάσεις, η Αυστραλία παρουσιάζεται ως ένας τόπος επιλογής για τα κέντρα δεδομένων που είναι απαραίτητα για τη λειτουργία της Τεχνητής Νοημοσύνης.

Η OpenAI μετέχει στην κατασκευή ενός τεράστιου κέντρου δεδομένων στα προάστια του Σίδνεϊ. Ωστόσο οι εξειδικευμένες εταιρείες στην ΤΝ αντιμετωπίζουν επίσης αυξανόμενες τοπικές αντιδράσεις, καθώς πολλοί Αυστραλοί εκφράζουν αμφιβολίες όσον αφορά τη δεοντολογία τους και το περιβαλλοντικό αποτύπωμα των κέντρων δεδομένων, που είναι πολύ ενεργοβόρα.