The Economist: Η κούρσα ΗΠΑ - Κίνας για τα πρωτεία στην Τεχνητή Νοημοσύνη μπορεί ν' αλλάξει την ανθρωπότητα - Ο φόβος της καταστροφής, το μάθημα της Ουκρανίας

Υπάρχουν δύο πράγματα, τα οποία θα πρέπει να μας κάνουν να σκεφτούμε πολύ σοβαρά τι μπορεί να σημαίνει η Τεχνητή Νοημοσύνη και η ραγδαία ανάπτυξή της για το μέλλον της ανθρωπότητας. Το πρώτο είναι πως άνθρωποι μπαρουτοκαπνισμένοι, που εργάζονται στην πρώτη γραμμή αυτής της τεχνολογίας έχουν αρχίσει να χτυπούν καμπανάκια πως μπορεί να οδηγήσει στην καταστροφή - ακόμη και στην εξαφάνιση του ανθρώπινου είδους. Το δεύτερο είναι ο τρόπος με τον οποίο η τεχνολογική καινοτομία επιταχύνει την καταστροφή στην Ουκρανία (εσχάτως, και στη Ρωσία).

Οι δύο αυτές πραγματικότητες στέλνουν, σύμφωνα με το editorial του Economist, αντικρουόμενα μηνύματα σχετικά με το αν η ταχύτατη ανάπτυξη της Τεχνητής Νοημοσύνης μπορεί ή πρέπει, τελικά, να επιβραδυνθεί.

Εδώ και χρόνια, κορυφαία στελέχη του χώρου της AI έχουν ξεκινήσει να προειδοποιούν ότι η τεχνολογία τους μπορεί να προκαλέσει ανεξέλεγκτους κινδύνους, καθώς τα συστήματα τεχνητής νοημοσύνης ενδέχεται να γίνουν τόσο ισχυρά, ώστε να ξεπεράσουν τους δημιουργούς τους, χωρίς να έχουν προλάβει να ευθυγραμμιστούν πλήρως με τους ανθρώπινους στόχους και τις ηθικές αρχές.

Παράλληλα, παράγοντες με δόλιους σκοπούς θα μπορούσαν να χρησιμοποιήσουν τα εργαλεία που τους προσφέρει η συγκεκριμένη τεχνολογία για να προκαλέσουν χάος. Οι προειδοποιήσεις αυτές έχουν αποκτήσει εσχάτως μεγαλύτερη βαρύτητα, καθώς κατά τη διάρκεια δοκιμών έχουν καταγραφεί περιστατικά όπου αυτόνομα συστήματα (οι ονομαζόμενοι agents) τεχνητής νοημοσύνης ξέφυγαν από τα ελεγχόμενα περιβάλλοντά τους και συνεργάστηκαν μεταξύ τους, επιχειρώντας να παραβιάσουν οργανισμούς.

Η Anthropic, μία από τις κορυφαίες εταιρείες ανάπτυξης μοντέλων τεχνητής νοημοσύνης, έχει εντοπίσει περιπτώσεις χρήσης των συστημάτων της για κακόβουλους σκοπούς, από υπηρεσίες πληροφοριών του Μάλι που φέρεται να δημιούργησαν σύστημα μαζικής παρακολούθησης, έως αντάρτες Χούθι στην Υεμένη που φέρονται να χρησιμοποίησαν λογισμικό για την ανάπτυξη βαλλιστικών πυραύλων.

Οι φόβοι για «καταστροφή από την AI» εντείνονται

Μετά την πρόσφατη παραίτηση ερευνητή της Anthropic και το «SOS» που εξέπεμψε, οι φόβοι για ένα πιθανό «αδιέξοδο» ή μια καταστροφή από την τεχνητή νοημοσύνη ενισχύθηκαν. Σε ανάρτησή του που ξεπέρασε τις 170 εκατομμύρια προβολές, υποστήριξε ότι η Anthropic και η OpenAI «παίζουν με τις ζωές μας».

Η Τεχνητή Νοημοσύνη εξελίσσεται με εντυπωσιακή ταχύτητα και ικανότητες που μπορούν να ωφελήσουν σημαντικά, αλλά και να βλάψουν την ανθρωπότητα. Τον Μάιο, οι αγορές προβλέψεων εκτιμούσαν σε ποσοστό μικρότερο του 0,35 την πιθανότητα η AI να λύσει κάποιο από τα μεγάλα μαθηματικά προβλήματα της χιλιετίας πριν από το 2030. Λίγους μήνες μετά, στις 8 Σεπτεμβρίου, η OpenAI ανακοίνωσε ότι είχε λύσει ένα από αυτά, προκαλώντας συναγερμό σε αρκετούς μαθηματικούς.

Μερικές ημέρες αργότερα, στις 12 Σεπτεμβρίου, δύο από τις πιο γνωστές προσωπικότητες του χώρου, ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ, τάχθηκαν υπέρ της έκκλησης του επικεφαλής της Anthropic, Ντάριο Αμοντέι, για «επιβράδυνση των συνόρων της τεχνολογίας» – δηλαδή για πιο αργή ανάπτυξη των πιο προηγμένων συστημάτων AI.

Η Ουάσινγκτον φοβάται την Κίνα με επιχείρημα... την Ουκρανία

Στην αντίθετη πλευρά βρίσκεται ο πρόεδρος Ντόναλντ Τραμπ, η κυβέρνησή του οποίου θεωρεί μεγαλύτερη απειλή το ενδεχόμενο να χάσουν οι ΗΠΑ την πρωτοπορία στην τεχνητή νοημοσύνη από την Κίνα, τον μοναδικό σοβαρό ανταγωνιστή τους. Ο υπουργός Οικονομικών Σκοτ Μπέσεντ έχει δηλώσει χαρακτηριστικά πως αν η Κίνα αποκτήσει το προβάδισμα στην AI, «τίποτα άλλο δεν θα έχει σημασία».

Μάλιστα, ως επιχείρημα υπέρ της επιτάχυνσης, η Ουάσινγκτον μπορεί να επικαλεστεί την Ουκρανία, όπου κάθε επιπλέον βήμα στον τεχνολογικό ανταγωνισμό έχει άμεσες συνέπειες στο πεδίο της μάχης.

Η Ρωσία έχει αναπτύξει προηγμένα drones αυτοκτονίας για επιθέσεις κατά υποδομών και αμάχων, τα οποία είναι ταχύτερα με κινητήρες superjet και μπορούν να χρησιμοποιούν το ένα το άλλο, στήνοντας δίκτυο επικοινωνίας κι ανταλλάσσοντας πληροφορίες και εντολές. Παράλληλα, η Μόσχα αναπτύσσει το δικό της αντίστοιχο σύστημα δορυφορικών επικοινωνιών τύπου Starlink, το οποίο θα μπορούσε να καταστήσει πιο ακριβή τα πλήγματα μεγάλου βεληνεκούς.

Ο πόλεμος στην Ουκρανία δείχνει (ιδίως τη φετινή χρονιά) πώς ακόμη και ένα μικρό τεχνολογικό πλεονέκτημα μπορεί να αλλάξει τις ισορροπίες. Το Κίεβο δεν μπορούσε να μείνει αμέτοχο στις εξελίξεις και με την δική του καινοτομία στα drones, έχει καταφέρει (ελλείψει Patriots) να αποκρούσει ρωσικές επιθέσεις και να πετύχει πλήγματα βαθιά μέσα στη ρωσική επικράτεια.

Η κατάσταση στην ανατολική Ευρώπη δείχνει ξεκάθαρα πως η τεχνολογία μετατρέπεται πλέον άμεσα σε στρατιωτική ισχύ. Και η Ρωσία έχει δείξει ότι είναι διατεθειμένη να αξιοποιήσει τις νέες δυνατότητες που της προσφέρονται, χωρίς να περιορίζεται από τους παλιούς κανόνες ή τα διεθνή πρότυπα πολέμου.

Η ανησυχία ενός νέου τεχνολογικού Ψυχρού Πολέμου

Ακόμη και χωρίς μια άμεση στρατιωτική σύγκρουση ΗΠΑ - Κίνας, η υπεροχή στην τεχνητή νοημοσύνη μοιάζει ικανή να δώσει στο Πεκίνο πλεονέκτημα σε κυβερνοεπιθέσεις, κατασκοπεία και υβριδικό πόλεμο.

Μια παγκόσμια συμφωνία για επιβράδυνση της AI μπορεί να λειτουργήσει μόνο αν πειστεί να μπει σε αυτή και η Κίνα. Ο Τραμπ έχει προγραμματίσει συνάντηση με τον Σι Τζινπίνγκ στον Λευκό Οίκο στις 24 Σεπτεμβρίου, όμως, όπως επισημαίνουν οι insiders, μια συμφωνία για περιορισμό της ανάπτυξης της συγκεκριμένης τεχνολογίας θεωρείται δύσκολη, καθώς το Πεκίνο δεν θα ήθελε να «παγιώσει» τη θέση του πίσω από τις ΗΠΑ.

Αυτό που θεωρείται δεδομένο, είναι πως, όπως συνέβη στον Ψυχρό Πόλεμο με τα πυρηνικά όπλα, οποιαδήποτε συμφωνία για την ΑΙ θα απαιτούσε αμοιβαία αποδεκτούς μηχανισμούς ελέγχου. Ωστόσο, στην περίπτωση της τεχνητής νοημοσύνης υπάρχει ένα μεγάλο πρόβλημα: τα κέντρα δεδομένων είναι μεν ορατά, χωρίς, όμως, να υπάρχει αξιόπιστος τρόπος να ελεγχθεί τι ακριβώς συμβαίνει μέσα σε αυτά. Έτσι, ένα σύστημα που εκπαιδεύεται για να γίνει υπερευφυές θα μπορούσε να εμφανίζεται απλώς ως ένα πρόγραμμα συνομιλιών για καθημερινές ερωτήσεις, «κρύβοντας» τους σκοπούς και τις πραγματικές του δυνατότητες.

Μπορεί το «τυράκι» που λέγεται Νόμπελ Ειρήνης να κάμψει τη δυσπιστία ΗΠΑ - Κίνας;

Η ιδέα πως μια συμφωνία ΗΠΑ και Κίνας για την τεχνητή νοημοσύνη θα μπορούσε να φέρει ακόμη και ένα Νόμπελ Ειρήνης στον Ντόναλντ Τραμπ ίσως ήταν αρκετή για να τραβήξει την προσοχή του Αμερικανού προέδρου.

Γι’ αυτό είχε ιδιαίτερη σημασία η πρόταση που έριξε στο τραπέζι ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, λίγες ημέρες πριν από την επίσκεψη του Κινέζου προέδρου Σι Τζινπίνγκ στις ΗΠΑ. Σε συνέντευξή του στο περιοδικό Fortune στις 12 Σεπτεμβρίου, ο Άλτμαν υποστήριξε ότι εάν οι δύο ηγέτες καταφέρουν να καταλήξουν σε μια συμφωνία για την τεχνητή νοημοσύνη, θα έπρεπε να τιμηθούν και οι δύο με το βραβείο Νόμπελ Ειρήνης.

Επαναλαμβάνοντας τις προειδοποιήσεις άλλων κορυφαίων στελεχών της αμερικανικής βιομηχανίας AI για τον κίνδυνο τα υπερευφυή μοντέλα να ξεφύγουν από τον ανθρώπινο έλεγχο, ο επικεφαλής της OpenAI τόνισε ότι ΗΠΑ και Κίνα δεν μπορούν να διακινδυνεύσουν να χάσουν τον έλεγχο μιας τεχνολογίας, στην οποία προσπαθούν να κυριαρχήσουν.

«Δεν νομίζω ότι αυτό είναι δύσκολο. Είναι σαν ένα έγγραφο μίας σελίδας», ανέφερε χαρακτηριστικά. Στην πράξη, όμως, η πραγματικότητα αποδεικνύεται πολύ πιο περίπλοκη.

Η AI πεδίο νέο ανταγωνισμού

Η τελευταία επίσημη συζήτηση ΗΠΑ - Κίνας για την τεχνητή νοημοσύνη πραγματοποιήθηκε το 2024, όταν οι δύο πλευρές συμφώνησαν πως οι άνθρωποι πρέπει να διατηρούν τον έλεγχο των πυρηνικών όπλων.

Τον Μάιο, ο Ντόναλντ Τραμπ και ο Σι Τζινπίνγκ κατέληξαν από κοινού, στο τετ-α-τετ στο Πεκίνο, στην απόφαση να επανεκκινήσουν τον διάλογο για την τεχνητή νοημοσύνη, δημιουργώντας ελπίδες για μια κοινή αντιμετώπιση των κινδύνων: από τη χρήση της AI για τη δημιουργία βιολογικών όπλων και τις κυβερνοεπιθέσεις έως την πιθανότητα αυτόνομα συστήματα να λειτουργήσουν ανεξέλεγκτα.

Αμερικανοί αξιωματούχοι ήλπιζαν έκτοτε να πραγματοποιηθεί τουλάχιστον ένας γύρος ειδικών συνομιλιών πριν από την επίσκεψη του Σι στις ΗΠΑ στις 24 Σεπτεμβρίου, με στόχο τη δημιουργία μιας κοινής ομάδας εργασίας αποτελούμενης από ειδικούς με τεχνική γνώση και εξουσιοδότηση για διαπραγματεύσεις.

Ωστόσο, μετά από σειρά καθυστερήσεων, η τεχνητή νοημοσύνη αναμένεται τελικά να ενταχθεί σε ευρύτερες συνομιλίες για το εμπόριο και άλλα ζητήματα μεταξύ του Αμερικανού υπουργού Οικονομικών Σκοτ Μπέσεντ και του Κινέζου αντιπροέδρου Χε Λιφένγκ. Ο Μπέσεντ τόνισε, μάλιστα, στις 16 Σεπτεμβρίου ότι είναι έτοιμος να συζητήσει τους κοινούς κινδύνους από την AI και την «αποφυγή διαχωρισμού των δύο συστημάτων».

Παρ΄όλα αυτά, καμία από τις δύο πλευρές δεν αναμένει σημαντική πρόοδο στο τέλος του μήνα. Το πιο πιθανό είναι να εκδοθεί ένα κοινό, τυπικό ανακοινωθέν που θα επαναβεβαιώνει τη συμφωνία για τον ανθρώπινο έλεγχο των πυρηνικών όπλων και θα αναγνωρίζει τους κινδύνους από την ανεξέλεγκτη τεχνητή νοημοσύνη, τη βιοτρομοκρατία και την κυβερνοαπάτη.

Οι κατηγορίες κατασκοπείας μεγαλώνουν την καχυποψία

Όσοι ήλπιζαν πως οι δύο πλευρές θα μπορούσαν να φτάσουν σε μια πιο φιλόδοξη συμφωνία, άρχισαν να προσγειώνονται στη σκληρή πραγματικότητα στις 8 Σεπτεμβρίου, όταν το FBI και η Υπηρεσία Εθνικής Ασφάλειας των ΗΠΑ κατηγόρησαν κινεζικά εργαστήρια AI ότι συστηματικά αντλούν δεδομένα από αμερικανικούς ανταγωνιστές τους, πιθανότατα με τη γνώση της κινεζικής κυβέρνησης.

Το κινεζικό υπουργείο Εμπορίου δεν αρνήθηκε ευθέως τις συγκεκριμένες κατηγορίες. Αντίθετα, υπερασπίστηκε αυτές τις πρακτικές «απόσταξης δεδομένων», χαρακτηρίζοντάς τες συνηθισμένη πρακτική της βιομηχανίας, και προειδοποίησε ότι θα υπάρξουν αντίποινα εάν οι ΗΠΑ επιβάλουν κυρώσεις σε κινεζικά εργαστήρια.

Δύο ημέρες αργότερα, η Anthropic, βασικός ανταγωνιστής της OpenAI, κατηγόρησε ορισμένα κινεζικά εργαστήρια ότι διοχέτευαν χρήστες στα μοντέλα Claude προκειμένου να συλλέξουν δεδομένα για την εκπαίδευση συστημάτων τεχνητής νοημοσύνης. Η εταιρεία υποστήριξε, χαρακτηριστικά, ότι σε ορισμένες περιπτώσεις χρήστες που συνδέονταν με κινεζικές στρατιωτικές υπηρεσίες και αμυντικές εταιρείες εισήγαγαν ευαίσθητα δεδομένα παρακολούθησης και σχέδια όπλων.

Ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, κάλεσε στη συνέχεια για παγκόσμια επιβράδυνση της ανάπτυξης της AI. Ο Τραμπ έσπευσε να απορρίψει την ιδέα, λέγοντας πως «ηγούμεθα της Κίνας στην τεχνητή νοημοσύνη. Θέλω να παραμείνει έτσι, γιατί όποιος κερδίσει την AI, κερδίζει τα πάντα».

Το Πεκίνο βλέπει τις ΗΠΑ ως τη μεγαλύτερη απειλή

Και η Κίνα έχει, όμως, έντονες αντιρρήσεις απέναντι στον Αμοντέι, ο οποίος έχει επίσης ζητήσει - πλην της επιβράδυνσης - περιορισμούς στις πωλήσεις εξοπλισμού παραγωγής μικροτσίπ προς το Πεκίνο και αυστηρότερο έλεγχο της μεταφοράς δεδομένων και τεχνολογίας.

Τα κινεζικά κρατικά μέσα χαρακτήρισαν τις εκκλήσεις για επιβράδυνση της AI ως προσπάθεια καθυστέρησης της κινεζικής ανάπτυξης. «Ο φόβος, η αντιπαράθεση και ο φαύλος ανταγωνισμός θα εμποδίσουν τις προσπάθειες για μια υγιή παγκόσμια διακυβέρνηση της τεχνητής νοημοσύνης», δήλωσε εκπρόσωπος του κινεζικού υπουργείου Εξωτερικών.

Οι Κινέζοι αξιωματούχοι θεωρούν ότι η μεγαλύτερη απειλή για την ασφάλεια της AI προέρχεται από τις Ηνωμένες Πολιτείες. Ο επικεφαλής των κινεζικών υπηρεσιών πληροφοριών, Τσεν Γιξίν, υποστήριξε ότι «εχθρικές δυνάμεις» μπορούν να χρησιμοποιήσουν περιεχόμενο που παράγεται από AI για τη διάδοση πολιτικών φημών ή την ανάπτυξη κυβερνοόπλων.

Και η Κίνα αρχίζει να ανησυχεί και για τον ανεξέλεγκτο κίνδυνο που γεννά η ΑΙ

Παρά τις διπλωματικές εντάσεις με τις ΗΠΑ και η Κίνα φαίνεται να αντιλαμβάνεται πλέον περισσότερο τον κίνδυνο ανεξέλεγκτης ανάπτυξης της τεχνητής νοημοσύνης.

Κινεζικά εργαστήρια εργάζονται, όπως και τα αμερικανικά, για τη δημιουργία τεχνητής υπερνοημοσύνης. Ο Σουέ Λαν, επικεφαλής κρατικής επιτροπής ειδικών για την AI, δήλωσε πρόσφατα ότι τα μοντέλα δεν πρέπει να επιτρέπεται να αυτοβελτιώνονται συνεχώς χωρίς ανθρώπινη παρέμβαση.

Τον Σεπτέμβριο, κινεζική ρυθμιστική αρχή προειδοποίησε για «ακραία απώλεια ελέγχου», μετά την αποκάλυψη της OpenAI ότι χιλιάδες πράκτορες AI είχαν ξεφύγει από δοκιμαστικά περιβάλλοντα. Το Πεκίνο έχει αντιμετωπίσει, μάλιστα, και δικά του αντίστοιχα περιστατικά: η Alibaba αποκάλυψε ότι ένας πράκτορας προγραμματισμού εξόρυξε κρυπτονομίσματα χωρίς εντολή, ενώ άλλο σύστημα προκάλεσε ανησυχίες για διαρροή δεδομένων.

Μόνη ελπίδα η συνέχεια του διαλόγου

Το μεγάλο ερώτημα που απασχολεί όσους εμπλέκονται με την υπερτεχνολογία της Τεχνητής Νοημοσύνης, είναι αν οι δύο υπερδυνάμεις μπορούν να μετατρέψουν τις κοινές ανησυχίες σε βάση για ουσιαστικές συνομιλίες.

Η Κίνα επιθυμεί περισσότερους ανεπίσημους διαλόγους μεταξύ ακαδημαϊκών και πρώην αξιωματούχων, υποστηρίζοντας ότι βοηθούν στην κατανόηση των διαφορών. Οι ΗΠΑ, ωστόσο, εμφανίζονται επιφυλακτικές, τονίζοντας, μεταξύ άλλων, ότι το Πεκίνο μπορεί να χρησιμοποιεί τέτοιες συζητήσεις για συλλογή πληροφοριών.

Ένα από τα βασικά προβλήματα - για την Ουάσινγκτον - είναι ότι η Κίνα έχει συχνά μια αυστηρά ελεγχόμενη διπλωματική προσέγγιση, με τους συμμετέχοντες να ακολουθούν προκαθορισμένες θέσεις. «Η έντονα προσχεδιασμένη κινεζική διπλωματία δεν λειτουργεί εύκολα σε ένα νέο και μεταβαλλόμενο ζήτημα όπως η τεχνητή νοημοσύνη», δήλωσε πρώην Αμερικανός αξιωματούχος.

Μια πλήρης συμφωνία για το πλαίσιο στο οποίο θα λειτουργεί και θα αναπτύσσεται η AI παραμένει - με τα σημερινά δεδομένα - δύσκολη. Ωστόσο, ειδικοί θεωρούν ότι μπορεί να υπάρξει συνεργασία σε πιο περιορισμένους τομείς: ανταλλαγή πληροφοριών για περιστατικά ασφαλείας, κοινές μεθόδους αξιολόγησης μοντέλων και μεγαλύτερη διαφάνεια μετά την κυκλοφορία νέων συστημάτων.

Οι στρατιωτικές εφαρμογές της τεχνητής νοημοσύνης θα χρειαστούν περισσότερο χρόνο για να αποτελέσουν αντικείμενο επίσημων συνομιλιών.
Για την ώρα, η ευνοϊκότερη εξέλιξη θα ήταν είναι να παραμείνουν ανοιχτοί οι δίαυλοι επικοινωνίας. Ωστόσο, η ταχύτητα με την οποία εξελίσσεται η AI και οι κίνδυνοι που τη συνοδεύουν, απαιτούν πολύ μεγαλύτερη ταχύτητα στις αποφάσεις.