Εκατομμύρια σεξουαλικές εικόνες δημιούργησε η AI του Μασκ μέσα λίγες ημέρες, πολλές ήταν παιδιών

Το Grok AI, το σύστημα τεχνητής νοημοσύνης μαζί με το X του Έλον Μάσκ, δημιούργησε περίπου 3 εκατομμύρια σεξουαλικές εικόνες σε λιγότερο από δύο εβδομάδες, εκτιμούν ερευνητές που προσθέτουν ότι από αυτές 23.000 φαίνεται να απεικονίζουν παιδιά.

Η πλατφόρμα τεχνητής νοημοσύνης «έγινε βιομηχανικής κλίμακας μηχανή για την παραγωγή υλικού σεξουαλικής κακοποίησης», αναφέρουν από το Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους (CCDH).

Πολλοί χρήστες χρησιμοποιούσαν το Grok AI για να «γδύσουν» ψηφιακά άλλα πρόσωπα, διασημότητες και μη, ή τα βάλουν σε προκλητικές πόζες προκαλώντας διεθνή κατακραυγή.

Η λειτουργία του εργαλείου κράτησε μόνο 11 ημέρες (29 Δεκεμβρίου – 9 Ιανουαρίου).

Η κορύφωση της χρήσης ήταν περίπου την Πρωτοχρονιά, αναφέρει ο Guardian. Μόνο στις 2 Ιανουαρίου έγιναν στο Grok AI σχεδόν 200.000 μεμονωμένα αιτήματα, δηλαδή δύο με τρία το δευτερόλεπτο.

Το πρόβλημα ήταν τόσο έντονο ώστε χώρες όπως η Ινδονησία και η Μαλαισία απαγόρευσαν τη χρήση του εργαλείου.

Το CCDH υπολόγισε ότι κατά τη διάρκεια της 11ήμερης περιόδου, το Grok συνέβαλε στη δημιουργία σεξουαλικών εικόνων παιδιών κάθε 41 δευτερόλεπτα. Μεταξύ άλλων, μια selfie που ανέβασε μια μαθήτρια, την οποία το Grok «έγδυσε» κάνοντάς τη να φορά μπικίνι.

«Το να γδύνεις μια γυναίκα χωρίς την άδειά της αποτελεί σεξουαλική κακοποίηση. Καθ' όλη τη διάρκεια αυτής της περιόδου, ο Μασκ προωθούσε το προϊόν, ακόμη και όταν ήταν σαφές σε όλους ότι χρησιμοποιούνταν με αυτόν τον τρόπο. Αυτό που προσπαθούσε να προκαλέσει ήταν αντιπαραθέσεις, προσοχή, αφοσίωση και χρήστες», λένε οι ερευνητές.

Μετά τον σάλο, η λειτουργία διατέθηκε μόνο για τους επί πληρωμή συνδρομητές στις 9 Ιανουαρίου ενώ ακολούθησαν και άλλοι περιορισμοί.

Τελικά στις 14 Ιανουαρίου η X ανακοίνωσε ότι σταμάτησε τη λειτουργία Grok για την επεξεργασία φωτογραφιών πραγματικών προσώπων ώστε να τα εμφανίζει με αποκαλυπτικά ρούχα, ακόμη και για τους συνδρομητές premium.