Η Meta «ξήλωσε» ιρανικό δίκτυο προπαγάνδας που χρησιμοποιούσε AI: Στόχευε πολιτικούς και δημοσιογράφους στις ΗΠΑ

Ένα δίκτυο λογαριασμών στο Facebook και το Instagram, το οποίο συνδεόταν με επιχείρηση που είχε έδρα στο Ιράν και χρησιμοποιούσε τεχνητή νοημοσύνη για να στοχεύει το αμερικανικό κοινό με αναρτήσεις γύρω από την πολιτική επικαιρότητα στις ΗΠΑ, αφαίρεσε η Meta, σύμφωνα με στοιχεία που κοινοποίησε η εταιρεία και τα οποία επικαλείται το Axios.

Η συγκεκριμένη επιχείρηση είχε καταφέρει να προσελκύσει χιλιάδες ακολούθους, ενώ στο δίκτυο περιλαμβάνονταν λογαριασμοί που εμφανίζονταν ως απλοί Αμερικανοί πολίτες, προκειμένου το περιεχόμενο που δημοσίευαν να φαίνεται περισσότερο αυθεντικό.

Στο πλαίσιο ευρύτερης έκθεσης για απειλές που δημοσιοποιήθηκε τις προηγούμενες ώρες, η Meta ανακοίνωσε ότι εξάρθρωσε ένα δίκτυο αποτελούμενο από τέσσερις λογαριασμούς στο Facebook και 31 λογαριασμούς στο Instagram, οι οποίοι συνδέονταν με άτομα που δραστηριοποιούνταν με βάση στο Ιράν.

Μέσω των συγκεκριμένων λογαριασμών, οι διαχειριστές δημοσίευαν, μεταξύ άλλων, memes με μηνύματα κατά των Ρεπουμπλικανών, καθώς και περιεχόμενο σχετικά με την ισραηλινοπαλαιστινιακή σύγκρουση και το μεταναστευτικό, σύμφωνα με τη Meta. Η εταιρεία ανέφερε επίσης ότι οι διαχειριστές χρησιμοποίησαν εργαλεία τεχνητής νοημοσύνης για τη δημιουργία μέρους του υλικού που αναρτούσαν, συμπεριλαμβανομένων memes.

Εκπρόσωπος της Meta δήλωσε στο Axios ότι η εταιρεία κοινοποίησε στις αμερικανικές διωκτικές αρχές πληροφορίες σχετικά με την επιχείρηση.

Παρίσταναν Αμερικανούς ακτιβιστές, φοιτητές και γραφίστες

Κατά τη διάρκεια της εκστρατείας, οι διαχειριστές του δικτύου εμφανίζονταν επίσης ως πρόσωπα που ζούσαν στις Ηνωμένες Πολιτείες, μεταξύ των οποίων ακτιβιστές, φοιτητές και γραφίστες.

Οι συγκεκριμένοι λογαριασμοί ισχυρίζονταν ότι οι χρήστες τους ζούσαν σε μεγάλες αμερικανικές πόλεις, όπως η Ουάσινγκτον, το Σαν Ντιέγκο και η Ατλάντα.

Οι διαχειριστές έκαναν tag πραγματικούς δημοσιογράφους και πολιτικούς στις αναρτήσεις τους, ενώ έστειλαν και προσωπικά μηνύματα σε γνωστά πολιτικά πρόσωπα και μέσα ενημέρωσης, επιδιώκοντας συνεργασίες για τη δημιουργία περιεχομένου. Ωστόσο, καμία από αυτές τις προσπάθειες συνεργασίας δεν είχε αποτέλεσμα, σύμφωνα με εκπρόσωπο της Meta.

Ιδιαίτερο ενδιαφέρον παρουσιάζει το μέγεθος του κοινού που κατάφερε να συγκεντρώσει το δίκτυο. Σύμφωνα με τα στοιχεία της εταιρείας, περίπου 79.400 λογαριασμοί ακολουθούσαν έναν ή περισσότερους από τους ψεύτικους λογαριασμούς με memes στο Instagram.

Η τεχνητή νοημοσύνη στις επιχειρήσεις επιρροής

Το περιεχόμενο που δημιουργείται με τεχνητή νοημοσύνη έχει πλέον μετατραπεί σε συνηθισμένο εργαλείο των διαδικτυακών επιχειρήσεων επιρροής.

Η Meta αναφέρει ότι εντοπίζει χρήση της συγκεκριμένης τεχνολογίας σχεδόν σε κάθε δίκτυο επιρροής που ανακαλύπτει και εξαρθρώνει.

Παρότι οι τακτικές που χρησιμοποιήθηκαν στη νέα επιχείρηση με σύνδεση στο Ιράν δεν θεωρούνται ιδιαίτερα πρωτότυπες, αυτό που ξεχωρίζει είναι η έκταση της αλληλεπίδρασης που κατάφερε να προκαλέσει το δίκτυο, καθώς και ο αριθμός των ακολούθων που συγκέντρωσε.

Η Meta εκτιμά ότι η συγκεκριμένη εκστρατεία είχε «μέτρια» απήχηση.

Εκπρόσωπος της εταιρείας ανέφερε στο Axios ότι το δίκτυο πέτυχε «ουσιαστική αλλά περιορισμένη» αλληλεπίδραση με τους χρήστες. Συνήθως, σύμφωνα με την εταιρεία, οι εκστρατείες επιρροής που υποστηρίζονται από κρατικούς φορείς καταγράφουν χαμηλή απήχηση και περιορισμένη αλληλεπίδραση.

Πώς προσπάθησαν να κρύψουν τα ίχνη τους

Οι άνθρωποι πίσω από το δίκτυο είχαν λάβει μέτρα για να καταστήσουν δυσκολότερο τον εντοπισμό της πραγματικής προέλευσης της επιχείρησης.

Σύμφωνα με τη Meta, όλη η διαδικτυακή κίνησή τους δρομολογούνταν αποκλειστικά μέσω υπηρεσιών proxy και hosting στις Ηνωμένες Πολιτείες και τον Καναδά. Με αυτόν τον τρόπο γινόταν δυσκολότερο να διαπιστωθεί ότι η δραστηριότητα των λογαριασμών προερχόταν στην πραγματικότητα από το Ιράν.

Η Meta επενδύει πλέον σε τεχνολογίες τεχνητής νοημοσύνης προκειμένου να εντοπίζει ταχύτερα συμπεριφορές που συνδέονται με μη αυθεντικούς λογαριασμούς και να μπορεί να τους αφαιρεί από τις πλατφόρμες της σε μικρότερο χρονικό διάστημα.