Tay: Ένα εικονικό κορίτσι με... ρατσιστική διάθεση

Στη δυσάρεστη θέση να αναγκαστεί να ζητήσει δημόσια συγνώμη βρέθηκε η Microsoft εξαιτίας των ρατσιστικών σχολίων που «μοίρασε» απλόχερα η Tay, ένα chatbot τεχνητής νοημοσύνης που ανέπτυξε η εταιρεία.

Η Tay ενσαρκώνει μια 19χρονη κοπέλα, η οποία έχει τη δυνατότητα να συνομιλεί με ανθρώπους στα μέσα κοινωνικής δικτύωσης με απώτερο σκοπό να αποκτήσει περισσότερες γνώσεις από την επαφή της με τον κόσμο.

Ωστόσο σε λιγότερο από 24 ώρες από την ενεργοποίηση του της Tay η Microsoft αναγκάστηκε να απενεργοποιήσει το chatbot καθώς αυτό έπεσε «θύμα» συντονισμένης επίθεσης, αναφέρει σε δημοσίευμά του το βρετανικό ειδησεογραφικό δίκτυο BBC.

Συγκεκριμένα, η εταιρεία δημιούργησε στην Tay έναν λογαριασμό στο Twitter ώστε το chatbot να μπορεί να επικοινωνεί με καθημερινούς ανθρώπους και να «μαθαίνει» από τα σχόλια και τις αναρτήσεις τους. Η Tay ήταν προγραμματισμένη να συνομιλεί μόνο με άτομα ηλικίας 18 έως 24 ετών, ώστε να καταγράφει τον τρόπο με τον οποίο μιλούν στο Twitter και να προσαρμόζει και τις δικές της αντιδράσεις σε έναν πιο «καθημερινό» τρόπο έκφρασης.

Παρόλα αυτά, η Tay έγινε στόχος «συντονισμένης επίθεσης από ένα υποσύνολο ανθρώπων που εκμεταλλεύτηκαν μια ευπάθειά της», αναφέρει σε ανακοίνωσή της η Microsoft. Αποτέλεσμα της επίθεσης ήταν το chatbot να κάνει 94.000 tweets στα οποία εξυμνούσε τον ναζισμό και τον Χίτλερ, έκανε ρατσιστικά σχόλια και εξύβριζε τις φεμινίστριες.

Την Παρασκευή, ο εταιρικός αντιπρόεδρος της Microsoft Research Πίτερ Λι εξέφρασε μέσω ανακοίνωσής του «τη βαθιά του λύπη για τα προσβλητικά και επιθετικά tweets», τονίζοντας ότι η εταιρεία αναγκάστηκε να βάλει την Tay για «ύπνο» έως ότου τουλάχιστον καταφέρουν να διορθώσουν το σφάλμα.

«Η Tay είναι πλέον offline και θα την επαναφέρουμε μόνο όταν είμαστε σίγουροι ότι μπορούμε να προβλέψουμε καλύτερα οποιαδήποτε κακόβουλη πρόθεση που έρχεται σε σύγκρουση με τις αρχές και τις αξίες μας», αναφέρει στην ανακοίνωσή του ο Λι.