Deepfakes και πολιτικοί: Η κλωνοποίηση φωνής και εικόνας είναι το νέο όπλο της προπαγάνδας

«Δεν είμαι εγώ στη φωτογραφία», έλεγε ο υπουργός Υγείας Αδωνις Γεωργιάδης σχετικά με τη φωτογραφία που φαινόταν -υποτίθεται- σε τρυφερές στιγμές με μια γυναίκα. Οπως αποδείχθηκε, επρόκειτο για μια φωτογραφία από σερβικό περιοδικό, η οποία περάστηκε από εφαρμογή Τεχνητής Νοημοσύνης με την εντολή να μοιάζει με τον Ελληνα υπουργό και μετά τοποθετήθηκε ψεύτικη «αράχνη». Ο πρωθυπουργός Κυριάκος Μητσοτάκης, που λίγο καιρό πριν εμφανιζόταν σε fake φωτογραφία (υποτίθεται) να ποζάρει δίπλα σε επιχειρηματία, ο οποίος φέρεται ως υπαρχηγός κυκλώματος με επενδύσεις-μαϊμού σε καζίνο, το είχε πει: «Θα δούμε, δυστυχώς, την Τεχνητή Νοημοσύνη να εισβάλει στη ζωή μας και στην πολιτική μας δραστηριότητα και θα χρειαστεί μεγάλη εγρήγορση και μεγάλη ταχύτητα για να απονομιμοποιούμε αμέσως τα λεγόμενα deepfakes».

Αυτό που προέβλεπε ο Ελληνας πρωθυπουργός πέρυσι δεν θα αργούσε να μετατραπεί σε μια εφιαλτική πραγματικότητα, η οποία θα είναι το next big thing της (και ελληνικής) πολιτικής σκηνής. Με την Τεχνητή Νοημοσύνη να εξελίσσεται ταχύτατα και τα deepfake βίντεο να γίνονται όλο και δυσκολότερο να τα ξεχωρίσει κανείς, η παραπληροφόρηση και η προπαγάνδα περνούν σε νέο, επικίνδυνο επίπεδο.

Στον πόλεμο των fake news ακόμα δεν έχετε δει τίποτα! Μέσω deepfake εικόνων και βίντεο στήνονται ολόκληρες ιστορίες. Για παράδειγμα, πρόσφατα επιλύθηκε περιστατικό με μαθήτριες Λυκείου της Αθήνας οι οποίες είδαν τους εαυτούς τους να πρωταγωνιστούν σε σκληρό πορνό και αποδείχθηκε ότι ήταν deepfake που είχαν φτιάξει συμμαθητές τους.

Εργαλείο χειραγώγησης

Η τεχνολογία έχει δείξει τα δόντια της από νωρίς. Από τα πρώτα deepfake βίντεο, τα οποία χρησιμοποιούσαν κινούμενες εικόνες και δεν ήταν σύνθεση βίντεο με βάση εικόνες υπαρχόντων προσώπων, ήταν αυτό του Βολοντίμιρ Ζελένσκι. Ηταν 2022 και ο πρόεδρος της Ουκρανίας εμφανίστηκε σε βίντεο να καλεί τους στρατιώτες του να παραδώσουν τα όπλα τους και να παραδοθούν στους Ρώσους. Ο πόλεμος δεν τελείωσε λόγω αυτού του βίντεο, όμως είδαμε πώς θα μπορούσε να ξεκινήσει ένας, όταν το ρωσικό τηλεοπτικό δίκτυο NTV μετέδωσε βίντεο στο οποίο Ουκρανός αξιωματούχος «παραδεχόταν» ότι η χώρα του είχε οργανώσει το μακελειό του Crocus City Hall στη Μόσχα, το 2024. Φυσικά τέτοιο βίντεο δεν υπήρχε στην πραγματικότητα.

Εναν χρόνο νωρίτερα, ο κόσμος είχε σοκαριστεί βλέποντας τον Ντόναλντ Τραμπ να οδηγείται σιδηροδέσμιος στη… φυλακή για την υπόθεση Στόρμι Ντάνιελς, τον Μπαράκ Ομπάμα να παραδέχεται ότι είναι… εξωγήινος, τον Βλαντιμίρ Πούτιν να φορά την πορτοκαλί στολή του βαρυποινίτη και να κατευθύνεται προς το Γκουαντάναμο και την Τζόρτζια Μελόνι να πρωταγωνιστεί σε πορνό. Κάποια από αυτά τα βίντεο είχαν δεκάδες εκατομμύρια προβολές. Στις ΗΠΑ, σε μια προσπάθεια να επηρεαστεί η εκλογική διαδικασία, χιλιάδες Δημοκρατικοί έλαβαν κλήση με τη φωνή του Τζο Μπάιντεν να τους παραινεί να απέχουν από τις εκλογές.

Το πόσο εύκολο θα ήταν να χειραγωγήσουν την κοινή γνώμη τέτοια βίντεο και να την κατευθύνουν στη διάρκεια μιας εκλογικής αναμέτρησης, για παράδειγμα, δεν είναι δύσκολο να διαπιστωθεί. Σε σατιρικά deepfake βίντεο που έχουν ανεβάσει Ελληνες δημιουργοί, παρά το γεγονός ότι υπήρχε εμφανές disclaimer (ότι το παρόν βίντεο είναι υλικό Τεχνητής Νοημοσύνης για ψυχαγωγικούς σκοπούς και δεν ανταποκρίνεται στην πραγματικότητα) και παρότι αυτά που (υποτίθεται ότι) έλεγαν οι πρωταγωνιστές ήταν πολύ ακραία για να τα πιστέψει κανείς, υπήρχαν εκατοντάδες σχόλια συμπολιτών μας που είχαν πιστέψει ότι επρόκειτο για σοβαρό, πραγματικό βίντεο. Σε έναν κόσμο που είναι εν πολλοίς ψηφιακά αναλφάβητος και ανυποψίαστος, τα deepfake θα μπορούσαν να επιτελέσουν καταστροφικό έργο. Σκεφτείτε τώρα τι πανικό θα μπορούσε να προκαλέσει σε εκατομμύρια κόσμου ένα deepfake βίντεο του Βλαντιμίρ Πούτιν ή του Ντόναλντ Τραμπ να ανακοινώνει ότι έχει εξαπολύσει επίθεση με πυρηνικά…

Οι σελέμπριτι στο στόχαστρο

Οτι πρόκειται για πραγματικό βίντεο, καμιά φορά πιστεύουν και… τα θύματα ακόμα. Μερικές φορές, τα deepfake βίντεο είναι τόσο καλά που δεν υπάρχουν στοιχεία να ξεχωρίσει κανείς ότι δεν είναι αληθινά. Η παρουσιάστρια της ΕΡΤ Αντριάνα Παρασκευοπούλου, για παράδειγμα, όταν είδε τον εαυτό της να πρωταγωνιστεί σε deepfake βίντεο, αναρωτήθηκε πότε είχε διαφημίσει «επενδύσεις» μέσω του δελτίου της ΕΡΤ. «Ηταν σοκαριστικό γιατί ήμουν εγώ, το πρόσωπό μου ήταν η φωνή μου, ήταν το περιβάλλον της δουλειάς μου δηλαδή το δελτίο ειδήσεων της ΕΡΤ μέχρι που στα πρώτα δευτερόλεπτα, όταν υπήρχε και η απάντηση του συνεντευξιαζόμενου, αναρωτήθηκα αν έχω κάνει ποτέ τέτοια συνέντευξη που αποκλείεται ποτέ στη ζωή μου να είχα πει κάτι τέτοιο», εξήγησε η ίδια.

Θύματα deepfake βίντεο έχουν πέσει και δεκάδες άλλοι σελέμπριτι σε Ελλάδα και εξωτερικό. Εκτός Ελλάδας, η σούπερ σταρ Τέιλορ Σουίφτ ήταν η πρώτη που εμφανίστηκε σε τέτοιο υλικό και δεύτερος ο Τομ Κρουζ. Στη χώρα μας, ο Γιάννης Αντετοκούνμπο με όλους σχεδόν τους παρουσιαστές δελτίων ειδήσεων εμφανίζονταν να υπόσχονται πως «οι Ελληνες θα γίνουν πλούσιοι», ο Σωτήρης Τσιόδρας να προτείνει επικίνδυνες παραϊατρικές συνταγές, αλλά και επιστήμονες, όπως ο καθηγητής Παιδιατρικής και Ενδοκρινολογίας δρ Γιώργος Χρούσος, να προτείνουν «ματζούνια».

Για την προώθηση πυραμίδων και υποτιθέμενων «επενδυτικών προϊόντων» έχουν επίσης χρησιμοποιηθεί τα πρόσωπα, οι φωνές και τα ονόματα επιχειρηματιών, όπως του Στέλιου Χατζηιωάννου, που (υποτίθεται ότι) έδιναν συνεντεύξεις διαφημίζοντας τα «τρομερά προϊόντα», αλλά και της Αλκηστης Πρωτοψάλτη, του Στέφανου Τσιτσιπά, του Γρηγόρη Αρναούτογλου και πολλών ακόμα.

Το επικίνδυνο δεν είναι μόνο η χρήση εικόνων για τη δημιουργία βίντεο, αλλά και η κλωνοποίηση φωνής που δημιουργούν πιο άρτιο αποτέλεσμα. Αλλωστε τα ρομπότ, οι εφαρμογές Τεχνητής Νοημοσύνης που δημιουργούν τέτοια βίντεο, εκπαιδεύονται καθημερινά και τελειοποιούνται, με τους «πελάτες» να δημιουργούν ασταμάτητα νέα βίντεο, είτε μέσα από bots στο Telegram, είτε έναντι πενιχρού αντιτίμου (2 ευρώ ανά βίντεο) σε dedicated πλατφόρμες.

Τρία δευτερόλεπτα με τη φωνή σας να ακούγεται είναι αρκετά για μια εφαρμογή Τεχνητής Νοημοσύνης προκειμένου να την κλωνοποιήσει. Από εκεί και πέρα, για να ολοκληρωθεί το «vishing» -όπως ονομάζεται το voice fishing- χρειάζεται η υποκλοπή προσωπικών στοιχείων και επαφών και η κλωνοποίηση της κάρτας SIM και η ανάθεση στην ΑΙ εφαρμογή του μηνύματος που θα εκφωνηθεί, στον κατάλληλο τόνο, φυσικά. Η απάτη τώρα έχει γίνει τόσο πειστική που μπορεί να παρασύρει ακόμα και τον πλέον ενημερωμένο.

Φυσικά, όλα μπορούν να γίνουν πολύ ευκολότερα με τη χρήση ενός κομματιού από βίντεο και των άλλων πληροφοριών που έχουν αναρτηθεί σε κοινωνικά δίκτυα. Παρότι είναι πολύ καινούριος, αυτός ο τύπος τηλεφωνικής απάτης έχει γίνει πολύ δημοφιλής στις ΗΠΑ και την Ασία και τώρα έρχεται και στην Ευρώπη. Η βρετανική τράπεζα Starling Bank εξέδωσε ανακοίνωση, προειδοποιώντας ότι «εκατομμύρια άνθρωποι μπορούν να πέσουν θύματα απάτης που χρησιμοποιεί προγράμματα ΑΙ για κλωνοποίηση της φωνής τους». Στην Κορέα, σοκ προκάλεσε η περίπτωση ενός επιχειρηματία που πείστηκε ότι συμμετείχε σε βιντεοκλήση με τα διευθυντικά στελέχη της εταιρείας του, που στην πραγματικότητα ήταν εγκληματίες οι οποίοι του απέσπασαν 25 εκατομμύρια δολάρια.

Οι μιμητές φωνής με Τεχνητή Νοημοσύνη κάνουν πλέον τις τηλεφωνικές απάτες πιο πιστευτές και πιο επικίνδυνες από ποτέ, λέει ο διευθυντής Τεχνολογίας της εταιρείας κυβερνοασφάλειας McAfee Στιβ Γκρόμπμαν. Παγκοσμίως, περίπου ένας στους τέσσερις ανθρώπους έχει είτε πέσει θύμα είτε γνωρίζει κάποιον που έπεσε θύμα απάτης με Τεχνητή Νοημοσύνη, σύμφωνα με έκθεση της εταιρείας Beware the Artificial Imposter, με το 77% των θυμάτων να χάνει χρήματα.

Η χρήση της Τεχνητής Νοημοσύνης από κακόβουλους χρήστες για σκοπούς εξαπάτησης πολιτών είναι ένα πράγμα, η χρήση της για χειραγώγηση των μαζών είναι ένα άλλο. Το εφιαλτικό σενάριο στο οποίο θα είναι σχεδόν αδύνατο να διαπιστώσει κανείς τι είναι αλήθεια και τι ψέματα είναι εδώ. Σε συνδυασμό με τη δημιουργία ΑΙ trolls, οι φόβοι που θέλουν την τεχνολογία της Τεχνητής Νοημοσύνης να επηρεάζει εκλογικές αναμετρήσεις και να κρίνει το αποτέλεσμά τους δεν είναι μακρινοί.

Πορνό και ανήλικοι

Παρά το γεγονός ότι υπάρχουν κίνδυνοι από τη χρήση deepfake βίντεο ως εργαλείων προπαγάνδας, η κύρια χρήση έχει αλλάξει. Αποδεικνύοντας ότι ανήκει στη σκοτεινή πλευρά του Διαδικτύου, η εταιρεία κυβερνοασφάλειας Deeptrace διαπιστώνει ότι το 96% όλων των deepfakes είναι μη συναινετικό πορνό. Καθόλου τυχαία, υπάρχει ιστοσελίδα με 20.000 βίντεο deepfake πορνό με σελέμπιτι, που προσελκύει περίπου 13 εκατομμύρια επισκέπτες τον μήνα.

Στη χώρα μας, το πρώτο deepfake βίντεο που ασχολήθηκαν οι Αρχές ήταν ένα ψεύτικο βίντεο ανήλικης. Οι αστυνομικοί που το ερεύνησαν και έφτασαν στον δημιουργό διαπίστωσαν έκπληκτοι ότι ήταν ένας 13χρονος συμμαθητής της.

Για την προστασία των παιδιών, αλλά και με σκοπό η τεχνολογία να λειτουργεί ως εργαλείο υποστήριξης της μάθησης και όχι ως υποκατάστατο της προσωπικής προσπάθειας, της κριτικής σκέψης και του ρόλου του εκπαιδευτικού, η Ελλάδα απέκτησε σαφείς κανόνες για τη χρήση της Τεχνητής Νοημοσύνης στα σχολεία.

Μέσα από την κοινή πρωτοβουλία της υπουργού Παιδείας, Θρησκευμάτων και Αθλητισμού Σοφίας Ζαχαράκη και του υπουργού Ψηφιακής Διακυβέρνησης και Τεχνητής Νοημοσύνης Δημήτρη Παπαστεργίου θεσπίζονται αυστηρές δικλίδες προστασίας για τους μαθητές και τη σχολική κοινότητα απέναντι σε φαινόμενα παραπληροφόρησης, αλγοριθμικών στρεβλώσεων, επιβλαβούς περιεχομένου ή καταχρηστικής αξιοποίησης της τεχνολογίας.

Για πρώτη φορά εισάγονται ρητές απαγορεύσεις για πρακτικές, όπως η δημιουργία και διάδοση deepfake περιεχομένου χωρίς συναίνεση, η παραγωγή ψευδών βιβλιογραφικών αναφορών ή ανύπαρκτων πηγών, η μη εξουσιοδοτημένη ανάπτυξη ή χρήση εφαρμογών ΑΙ, καθώς και η πλήρως αυτοματοποιημένη αξιολόγηση μαθητών ή εκπαιδευτικών.

Ιδιαίτερη έμφαση δίνεται στην προστασία προσωπικών δεδομένων ανηλίκων. Απαγορεύεται ρητά η δημιουργία προφίλ μαθητών και εκπαιδευτικών, η επεξεργασία στοιχείων προσωπικότητας ή συμπεριφοράς, καθώς και η εισαγωγή ευαίσθητων προσωπικών δεδομένων σε συστήματα Τεχνητής Νοημοσύνης. Ετσι, δεν επιτρέπεται η καταχώριση ονοματεπωνύμων, φωτογραφιών, φωνητικών δειγμάτων, βαθμολογιών, δεδομένων υγείας ή οποιουδήποτε άλλου στοιχείου μπορεί να οδηγήσει στην ταυτοποίηση μαθητών και εκπαιδευτικών.