Νέοι κανόνες στη χρήση Τεχνητής Νοημοσύνης από την ΕΕ: Πώς θα διακρίνονται εικόνες και κείμενα που έχουν φτιαχτεί με ΑΙ

Σημαντικές αλλαγές στον τρόπο με τον οποίο οι χρήστες του διαδικτύου βλέπουν και αλληλεπιδρούν με εικόνες, βίντεο και κείμενα που έχουν δημιουργηθεί από τεχνητή νοημοσύνη, μπορούν να προκαλέσουν οι νέες απαιτήσεις της Ευρωπαϊκής Ένωσης για «υδατοσήμανση» (watermarking), οι οποίες τέθηκαν σε ισχύ αυτόν τον μήνα, με στόχο να ενισχύσουν τα εργαλεία ανίχνευσης περιεχομένου που έχει παραχθεί από AI, είτε αυτοματοποιημένα είτε όχι.

Από την «έκρηξη» της παραγωγικής τεχνητής νοημοσύνης στα τέλη του 2022, υπήρχαν φόβοι ότι η κυριαρχία της θα μπορούσε να σημάνει το τέλος της «φωτογραφικής αλήθειας» – της παραδοχής, δηλαδή, ότι αυτό που βλέπουμε σε μια φωτογραφία είναι εξ ορισμού πραγματικό.

Οι μεγαλύτερες εταιρείες AI έχουν δηλώσει ότι θέλουν να αντιμετωπίσουν αυτόν τον κίνδυνο, επιτρέποντας να εξακριβώνεται η προέλευση του περιεχομένου που παράγουν τα μοντέλα τους. Μέχρι σήμερα, ωστόσο, οι σχετικές πρωτοβουλίες ήταν σε μεγάλο βαθμό εθελοντικές.

Πλέον, οι νομοθέτες της Ευρωπαϊκής Ένωσης απαιτούν από τους χρήστες του διαδικτύου να μπορούν να γνωρίζουν εάν αλληλεπιδρούν με σύστημα AI και εάν το περιεχόμενο που βλέπουν έχει παραχθεί από μηχανή ή από άνθρωπο.

Τη Δευτέρα, η αμερικανική Anthropic ανακοίνωσε ότι όλα τα μελλοντικά μοντέλα της θα υποστηρίζουν τεχνολογίες υδατοσήμανσης, προκειμένου να συμμορφωθούν με τους ευρωπαϊκούς κανόνες.

«Δεν νομίζω ότι ο κόσμος αντιλαμβάνεται το μέγεθος της αλλαγής», δήλωσε η Άσλεϊ Κάσοβαν, διευθύνουσα σύμβουλος του κέντρου διακυβέρνησης AI του IAPP, οργανισμού που ειδικεύεται σε θέματα ιδιωτικότητας και τεχνητής νοημοσύνης. Όπως εξήγησε, περνάμε από έναν κόσμο στον οποίο ο χρήστης έπρεπε να κάνει μια «τεκμηριωμένη εκτίμηση» για το αν κάτι δημιουργήθηκε από AI, σε έναν κόσμο όπου το συγκεκριμένο περιεχόμενο θα μπορεί να συνοδεύεται από επαληθευμένο σύμβολο ή σχετική ένδειξη.

Οι Βρυξέλλες βάζουν τους κανόνες και πέρα από την Ευρώπη

Παρότι η Ευρώπη δεν διαθέτει κάποια από τις κορυφαίες παγκόσμιες πλατφόρμες τεχνητής νοημοσύνης (ΗΠΑ και Κίνα «παίζουν μόνες τους μπάλα» μέχρι τώρα), επηρεάζει σημαντικά τον τρόπο με τον οποίο η τεχνολογία αναπτύσσεται και διατίθεται σε ολόκληρο τον κόσμο.

Ο ευρωπαϊκός AI Act έχει ήδη αρχίσει να αναγκάζει τις μεγαλύτερες πλατφόρμες του πλανήτη να λαμβάνουν κρίσιμες αποφάσεις για ζητήματα που εκτείνονται από την ασφάλεια έως τη διαφάνεια.

Οι Βρυξέλλες αναλαμβάνουν έτσι για ακόμη μία φορά τον ρόλο ενός ιδιότυπου παγκόσμιου ρυθμιστή απέναντι στη Big Tech. Το ίδιο είχε συμβεί στο παρελθόν με την προστασία των προσωπικών δεδομένων μέσω του GDPR και με τους κανόνες για τον τρόπο με τον οποίο οι ψηφιακές πλατφόρμες αντιμετωπίζουν το επιβλαβές περιεχόμενο – παρεμβάσεις που είχαν αντίκτυπο πολύ πέρα από τα ευρωπαϊκά σύνορα.

Από τις 2 Αυγούστου, οι πάροχοι των πλέον προηγμένων μοντέλων παραγωγικής AI, όπως η Anthropic και η OpenAI, υποχρεούνται να διασφαλίζουν ότι οι χρήστες γνωρίζουν πως αλληλεπιδρούν με τεχνητή νοημοσύνη και ότι το παραγόμενο περιεχόμενο επισημαίνεται ως προϊόν AI.

Οι υποχρεώσεις διαφάνειας του νόμου αποτελούν αυτή τη στιγμή «το βασικό αντικείμενο συζήτησης», σύμφωνα με τη Φραντσέσκα Πολ, δικηγόρο της DLA Piper με ειδίκευση στα δεδομένα, την ιδιωτικότητα και την κυβερνοασφάλεια.

Τα «αόρατα» σημάδια μέσα σε εικόνες και κείμενα

Οι μεγαλύτερες εταιρείες του κλάδου έχουν ήδη δηλώσει ότι θα συμμορφωθούν, τόσο υπογράφοντας ευρωπαϊκό κώδικα βέλτιστων πρακτικών όσο και προχωρώντας σε τεχνικές αλλαγές στα προϊόντα τους.

Η OpenAI ανέφερε στα τέλη Ιουλίου ότι «οι άνθρωποι θα πρέπει να έχουν καλύτερη εικόνα για το περιεχόμενο που βλέπουν στο διαδίκτυο, συμπεριλαμβανομένου του εάν δημιουργήθηκε ή τροποποιήθηκε από AI». Η εταιρεία χρησιμοποιεί το SynthID, εργαλείο υδατοσήμανσης που αναπτύχθηκε από την DeepMind της Google, προκειμένου να προσθέτει ένα «αόρατο» υδατογράφημα σε εικόνες που έχουν δημιουργηθεί με AI. Στα τέλη Ιουλίου, η τεχνολογία επεκτάθηκε και στον ήχο.

Η Anthropic ακολούθησε, ανακοινώνοντας τη Δευτέρα ότι όλα τα μοντέλα Claude που κυκλοφόρησαν από τις 2 Αυγούστου και μετά θα προσθέτουν «ενσωματωμένα υδατογραφήματα στα κείμενα».

Σύμφωνα με την εταιρεία, το υδατογράφημα ενσωματώνεται στο ίδιο το κείμενο. «Δεν θα το βλέπετε και δεν αλλάζει το νόημα, την ποιότητα ή την αναγνωσιμότητα της απάντησης του Claude», ανέφερε η Anthropic. «Επειδή το υδατογράφημα αποτελεί μέρος του κειμένου, θα το συνοδεύει όταν αυτό αντιγράφεται και επικολλάται αλλού».

Παράλληλα, οι δύο εταιρείες έχουν υιοθετήσει το βιομηχανικό πρότυπο C2PA (Coalition for Content Provenance and Authenticity), το οποίο έχει σχεδιαστεί ώστε να αποθηκεύει και να μεταφέρει μεταδεδομένα σχετικά με την προέλευση του περιεχομένου.

Τι θα βλέπουμε στα social media

Η προσθήκη του υδατογραφήματος είναι μόνο το πρώτο βήμα. Το δεύτερο - και εξίσου κρίσιμο - είναι η ανίχνευσή του και η μετατροπή του σε ορατή πληροφορία για τον χρήστη.

Εταιρείες όπως η Anthropic θα πρέπει να συνεργαστούν με τις πλατφόρμες στις οποίες κυκλοφορεί το περιεχόμενο που παράγεται από AI, ώστε η σχετική πληροφορία να γίνεται ορατή, εξήγησε ο Γουόλτερ Πασκουαρέλι, ερευνητής συνθετικού περιεχομένου στο Πανεπιστήμιο του Κέιμπριτζ και σύμβουλος του ΟΟΣΑ.

Ο ίδιος περιέγραψε πώς θα μπορούσε να λειτουργεί το σύστημα στην πράξη: ένας χρήστης δημιουργεί κάτι στο Claude, το μεταφέρει σε μια πλατφόρμα κοινωνικής δικτύωσης και, όταν επιχειρεί να το δημοσιεύσει, η πλατφόρμα ανιχνεύει το υδατογράφημα και μπορεί να επισημάνει ότι το περιεχόμενο δημιουργήθηκε από AI.

Οι συνέπειες μπορεί να είναι σημαντικές. Σύμφωνα με τον Πασκουαρέλι, υπάρχουν ήδη αρκετά στοιχεία που δείχνουν ότι, όταν οι χρήστες γνωρίζουν πως ένα δημοσίευμα έχει δημιουργηθεί από τεχνητή νοημοσύνη, η αλληλεπίδρασή τους με αυτό μειώνεται αισθητά.

Με όρους του σημερινού διαδικτύου, όπως σχολίασε, οι ευρωπαϊκοί κανόνες θα μπορούσαν να περιορίσουν το λεγόμενο «AI slop», δηλαδή το μαζικά παραγόμενο, χαμηλής ποιότητας περιεχόμενο τεχνητής νοημοσύνης.

Οι πλατφόρμες έχουν ήδη αρχίσει να αντιδρούν στην εξάπλωσή του. Το LinkedIn, για παράδειγμα, πρόσθεσε πρόσφατα τη δυνατότητα στους χρήστες να επισημαίνουν μια ανάρτηση ως περιεχόμενο που «μοιάζει με AI slop».

Η συζήτηση, έτσι, φαίνεται να έχει ξεπεράσει τον αρχικό στόχο των Βρυξελλών, που ήταν κυρίως η αποτροπή της εξαπάτησης μέσω περιεχομένου τεχνητής νοημοσύνης και, σύμφωνα με τον Πασκουαρέλι, έχει μετατοπιστεί από το παραπλανητικό περιεχόμενο που παράγεται από AI στο σύνολο του περιεχομένου που δημιουργείται με τεχνητή νοημοσύνη.