Η ΑΙ χωρίς φρένα: Οι δημιουργοί της άρχισαν να φοβούνται ότι θα ξεπεράσει και την ανθρώπινη νοημοσύνη

Μήπως τα πράγματα είναι πιο σοβαρά από όσα οι έντρομοι καχύποπτοι φοβούνται; Μήπως πλησιάζει η «Μέρα της Κρίσης» και φτάνει το «Τέλος του Παιχνιδιού» για την ανθρώπινη ζωή όπως προφητεύουν ζοφερά οι βαθιά σκεπτικιστές;

Δεν πρόκειται για δυστοπικά σενάρια επιστημονικής φαντασίας. Ο συναγερμός έχει ήδη σημάνει στον πραγματικό κόσμο. Η εξοντωτική κούρσα της Τεχνητής Νοημοσύνης για την ανάπτυξη αυτοβελτιούμενης υπερνοημοσύνης παίζει στα ζάρια τη μοίρα της ανθρωπότητας. Το τρομακτικότερο είναι ότι την απειλεί με εξαφάνιση μέσα στην επόμενη δεκαετία.

Η περασμένη Τρίτη ήταν άλλη μια συνηθισμένη μέρα στο 10ώροφο κτίριο γραφείων της Anthropic στην οδό Χάουαρντ στη Νότια Αγορά του Σαν Φρανσίσκο. Καμία αμφιβολία δεν ράγιζε τη συμπαγή της βεβαιότητα ότι εκτελεί μια πρωτοποριακή αποστολή ως αφοσιωμένος μάρτυρας της προόδου.

Τίποτε δεν διατάρασσε την ακλόνητη πεποίθησή της ότι εργάζεται πιο δημιουργικά, υπεύθυνα και με μεγαλύτερη ασφάλεια ανάμεσα στους τεχνολογικούς γίγαντες των εταιρειών Τεχνητής Νοημοσύνης. Την ίδια μέρα ένας 27χρονος ερευνητής των εργαστηριών της, ονόματι Τζέικομπ Κόξτον, είχε ξαφνικά παραιτηθεί.

Η ανάρτηση

Διόλου παράξενο για την επαγγελματική κινητικότητα των στελεχών μιας νεοσύστατης εταιρείας μόλις πέντε ετών, αξίας περίπου 1 τρισ. δολαρίων, που απασχολεί σχεδόν 5.000 υπαλλήλους. Το απρόβλεπτο ήταν ότι ο υπάλληλος που παράτησε τη δουλειά του συνόδευσε την αποχώρησή του από την Anthropic με μια ανάρτηση στα social media.

Σε αυτή διαμήνυε προς την κοινωνία, ή, καλύτερα, την προειδοποιούσε πως οι άνθρωποι που κατασκευάζουν Τεχνητή Νοημοσύνη πιστεύουν ακράδαντα ότι αυτή θα μπορούσε «να μας σκοτώσει όλους έως το τέλος της δεκαετίας». Την οπτική και τον ισχυρισμό του συμμερίστηκε δημόσια ο Ιβαν Χούμπινγκερ, επικεφαλής της ίδιας εταιρείας, στον τομέα της ευθυγράμμισης των συστημάτων ΑΙ, του τμήματος δηλαδή που διασφαλίζει ότι η Τεχνητή Νοημοσύνη λειτουργεί σύμφωνα με τις ανθρώπινες αξίες, τις προθέσεις, τους στόχους και τα ηθικά κριτήρια.

Ως πιο εδικός επί του θέματος εκτιμάται ότι έχει άμεση αντίληψη των επιταχυνόμενων εξελίξεών της, οι οποίες υπερβαίνουν τη συμβατότητα με τον άνθρωπο και τείνουν καταιγιστικά προς την ανέλεγκτα υπεράνθρωπη και αχαλίνωτα αυτοτροφοδοτούμενη υπερ-ευφυΐα. Ωστόσο, παρότι έμπλεος ανησυχίας, ο ίδιος δεν παραιτήθηκε. Εμεινε να αντιπαλέψει εντός των τειχών τον θανάσιμο κίνδυνο της ΑΙ.

Στον οποίο δίνει πάνω από 10% για να πυροδοτήσει ένα γεγονός -για παράδειγμα μία πρωτοφανούς κλίμακας τρομοκρατική επίθεση σε κοινόχρηστες υποδομές ή εξαπόλυση τερατώδους βιολογικού πολέμου- που θα εξαλείψει την ανθρωπότητα μέσα στην επόμενη δεκαετία. Ποσοστό διόλου ανακουφιστικό για να αποτρέψει τον διογκούμενο πεσιμισμό.

Ταυτόχρονα σχεδόν ο καθηγητής Ρόμπερτ Τρέιγκερ, ειδικός στον αναδυόμενο τομέα της διακυβέρνησης της ΑΙ, περίγραψε την απειλή σαν το «Πρόγραμμα Μανχάταν» παραγωγής πυρηνικών όπλων στα μέσα του Β’ Παγκοσμίου Πολέμου, πριν αυτό πυροδοτήσει την πρώτη αυτοσυντηρούμενη αλυσιδωτή αντίδραση πυρηνικής σχάσης.

Ηρθε ελαφρά καθυστερημένος στα λόγια του επίσης ο καθηγητής και γκουρού της Τεχνητής Νοημοσύνης, Τζέφρι Χίντον, ο οποίος πριν από δύο χρόνια εξίσωνε τον κίνδυνο ανάπτυξης της υπερνοημοσύνης με τον πυρηνικό όλεθρο και τις ακατανίκητες θανατηφόρες πανδημίες.

Οπως και να ’χει, αυτές οι έγκυρες επιστημονικές επισημάνσεις που συνοδεύονταν από φωνές άγχους και φόβου δεν ήταν οι πρώτες που έκρουαν τον κώδωνα του επερχομένου κινδύνου. Τον περασμένο Ιούλιο 1.386 υπάλληλοι εταιρειών Τεχνητής Νοημοσύνης υπέγραψαν μια ανοιχτή επιστολή προς την κυβέρνηση των ΗΠΑ.

Την καλούσαν να ρυθμίσει τη συγκεκριμένη τεχνολογία αιχμής, να περιορίσει τους μεγάλους παίκτες που δραστηριοποιούνται στον τομέα και να επιβραδύνει τον ρυθμό εξέλιξής της. Εθεταν προδιαγραφές προκειμένου να διασφαλίσει ο Λευκός Οίκος τη δημόσια ασφάλεια. Εν μέσω, μάλιστα, ενός ορμητικού χειμάρρου πανίσχυρων νέων μοντέλων ΑΙ. Ηδη φέτος έχουν κυκλοφορήσει 67 από τις κορυφαίες αμερικανικές εταιρείες OpenAI, Anthropic, Google, Meta και SpaceX, και τις κινεζικές ανταγωνίστριές τους Moonshot, Z.AI και Qwen.

Η γραπτή τους ανακοίνωση δεν σόκαρε μόνο τη Silicon Valley, συντάραξε όλο τον κόσμο. Λογικό. Μια και οι κοινωνίες έχουν αναθέσει στην Τεχνητή Νοημοσύνη μεγάλο μέρος της λειτουργίας τους. Δίκτυα ηλεκτρικής ενέργειας, συστήματα ύδρευσης, χρηματοπιστωτικές αγορές, διαστημικοί σταθμοί, προγραμματισμός νοσοκομείων, έλεγχος εναέριας κυκλοφορίας, αλυσίδες εφοδιασμού, εξαρτώνται λίγο πολύ από τη δυνατότητά της να συγκεντρώνει ταχύτατα τεράστιο όγκο δεδομένων και πληροφοριών.

Στις ικανότητές της στηρίζονται από τις υπηρεσίες ψηφιακής πλοήγησης μέχρι τα πρωτόκολλα διάγνωσης ασθενειών. Ολα, υποτίθεται, συντονίζονται υπό τις εγγυήσεις διατήρησης της ευθυγράμμισης αυτής της τεχνολογίας αιχμής με τους ανθρώπους. Ο φόβος που ελλοχεύει δεν εντοπίζεται τόσο σε πιθανές βλάβες εξοπλισμού, αστοχίες λογισμικού, κακόβουλους ιούς, σφάλματα αυτοματοποιημένων χειρισμών και αδιαφανών αποφάσεων.

Ούτε η αγωνία εστιάζεται στον εκ μέρους της επαναπρογραμματισμό συσκευών και εφαρμογών σε μαζική κλίμακα με αλυσιδωτές αντιδράσεις επειδή αναπάντεχα «έτσι της φάνηκε». Ο τρόμος που βαθμιαία αναδύεται επικεντρώνεται στη βάσιμη υπαρξιακή αγωνία ότι η ραγδαία εξελισσόμενη ΑΙ μπορεί να τροποποιήσει εκθετικά τον δικό της υποκείμενο κώδικα. Να ξεπεράσει σύντομα την ανθρώπινη νοημοσύνη και διαρκώς αυτοβελτιούμενη με διαρκώς ανανεούμενο βρόχο ανατροφοδότησης γνώσεων να αυτονομηθεί από αυτή.

Με δυο ανατριχιαστικά λόγια, να αποκτήσει δική της «συνείδηση» υπεροχής, να ελέγξει την ανθρωπότητα και, όποτε γουστάρει, να την καταστρέψει αλύπητα. Δεν θέλει και πολύ. Αρκεί με τις ασύμμετρες υπερδυνατότητές της να ελέγξει χημικά ή βιολογικά εργαστήρια και στρατιωτικό υλικό. Πόσο μάλλον να χακάρει τους απόρρητους κωδικούς πρόσβασης σε πυρηνικά όπλα. Σάμπως πρόκειται να δώσει μετά λογαριασμό σε κανέναν; Για ρομποτικά μηχανήματα μιλάμε. Τα οποία δεν ξεχωρίζουν την ουτοπία από τη δυστροπία σε έναν κόσμο που γλίτωσε οριακά τον πυρηνικό πόλεμο περισσότερες από δώδεκα φορές μέσα στον 20ό αιώνα.

Ο Χόκινγκ και το μήνυμα

Δώδεκα χρόνια πριν, τον Σεπτέμβριο του 2014, ο κορυφαίος θεωρητικός φυσικός και κοσμολόγος Στίβεν Χόκινγκ προειδοποιούσε ότι η αλματώδης και απερίσκεπτη ανάπτυξη της Τεχνητής Νοημοσύνης αποτελούσε απειλή για την ίδια την ανθρώπινη ύπαρξη. Σημείωνε ότι οι μηχανές της θα μπορούσαν να απογειωθούν εξελικτικά μόνες τους και να επανασχεδιάσουν τον εαυτό τους με συνεχώς αυξανόμενο ρου.

Εκδήλωνε τον φόβο ότι η περιορισμένη από την αργή βιολογική εξέλιξη ανθρωπότητα δεν θα μπορούσε να ανταγωνιστεί τους ταχύτατα αναπτυσσόμενους προηγμένους αλγόριθμους, οπότε αυτοί θα αντικαθιστούσαν γρήγορα τις ανθρώπινες ικανότητες και θα κυριαρχούσαν στα παγκόσμια συστήματα. Λίγους μήνες μετά, μαζί με χιλιάδες άλλους επιστήμονες και διεθνείς επιδραστικές προσωπικότητες, υπέγραφε μια ανοιχτή επιστολή με θέμα την Τεχνητή Νοημοσύνη και αποδέκτη την παγκόσμια κοινότητα.

Σε αυτή υπογράμμιζε ότι το ΑΙ θα μπορούσε να προσφέρει ανυπολόγιστα οφέλη. Να εξαλείψει τις ασθένειες, να θεραπεύει τη φτώχεια, να βοηθήσει στην αποκατάσταση της περιβαλλοντικής ζημιάς. Παράλληλα, μετά γνώσης ενημέρωνε τον κόσμο ότι θα μπορούσε να σημάνει την κατάρρευση του πολιτισμού και τον αφανισμό του ανθρώπινου είδους.

Στο μεταθανάτιο βιβλίο του με τίτλο «Σύντομες απαντήσεις στα μεγάλα ερωτήματα», ο Στίβεν Χόκινγκ, που πέθανε το 2018, παρέδωσε ένα οριστικό τελικό μήνυμα. Προέτρεψε την επιστημονική κοινότητα και τις κυβερνήσεις να ρυθμίσουν αυστηρά την ανάπτυξη της Τεχνητής Νοημοσύνης προτού η τεχνολογία ξεπεράσει εντελώς τον ανθρώπινο έλεγχο.

Την ίδια περίπου εποχή κυκλοφόρησε το βιβλίο «Υπερνοημοσύνη: Μονοπάτια, Κίνδυνοι, Στρατηγικές» του Σουηδού καθηγητή Φιλοσοφίας στο Πανεπιστήμιο της Οξφόρδης, Νικ Μπόστρομ. Το σύγγραμμα, που έγινε μπεστ σέλερ, εξερευνούσε το πώς θα μπορούσε να δημιουργηθεί η υπερνοημοσύνη, ποια θα ήταν τα φανερά χαρακτηριστικά αλλά και τα μύχια κίνητρά της. Υποστήριζε ότι, εάν δημιουργηθεί, θα είναι δύσκολο να ελεγχθεί και ότι θα μπορούσε να κατακτήσει τον κόσμο προκειμένου να επιτύχει τους στόχους της.

Οι φόβοι του Στίβεν Χόκινγκ και η αγωνία του Νικ Μπόστρομ επηρέασαν τον Ιλον Μασκ που συμφώνησε ότι η Τεχνητή Νοημοσύνη είναι δυνητικά πιο επικίνδυνη από τα πυρηνικά. Παρομοίως, ο Μπιλ Γκέιτς εξέφρασε την ανησυχία του για τους υπαρξιακούς κινδύνους που αντιμετωπίζει η απροετοίμαστη ανθρωπότητα μέσα στον τρέχοντα αιώνα. Ταυτόχρονα, ο μεγαλοεπενδυτής, μετέπειτα διευθύνων σύμβουλος της OpenAI, Σαμ Αλτμαν, κατανόησε ότι η επιδρομή μοντέλων ΑΙ με υπεράνθρωπες δυνατότητες σε πολλούς τομείς ωθεί την οικουμένη σε αχαρτογράφητα νερά.

Και ενώ οι μεγιστάνες των κορυφαίων τεχνολογικών εταιρειών βαθμιαία μετρίαζαν την αισιοδοξία τους για τα θαυμαστά επιτεύγματα του ΑΙ, ο υπόλοιπος κόσμος μάλλον δεν έπαιρνε χαμπάρι για την επικείμενη καταιγίδα. Αλλού ξημερωμένος, δεν ανησυχούσε καν για τον αποδεκατισμό θέσεων εργασίας από τις αυτοματοποιημένες δυνατότητες του ΑΙ.

Δεν φανταζόταν ότι σταδιακά μπορούσε να τον υποκαταστήσει κάνοντάς τον εργασιακά άχρηστο. Του έφτανε ότι η Τεχνητή Νοημοσύνη έγραφε ενδιαφέροντα βιβλία, στίχους, άρθρα και σενάρια. Συνέθετε υποφερτή μουσική, ζωγράφιζε συμπαθητικούς πίνακες, σχεδίαζε διασκεδαστικά βιντεοπαιχνίδια. Ασε που μεταμόρφωνε εικονικά τους πιο ματαιόδοξους χρήστες της σε γοητευτικούς υπερήρωες.

Παραπλανητικές συμβουλές

Η πικρή αλήθεια είναι ότι οι άνθρωποι εναποθέτουν ολοένα και περισσότερο τη σκέψη, τη δημιουργικότητα, τον συναισθηματικό στοχασμό, ακόμη και τις ηθικές αποφάσεις τους στην ΤΝ. Δεν το κάνουν από ξεροκεφαλιά ή οκνηρία, αλλά επειδή τους βολεύει. Αδιαφορούν αν η εξάρτησή τους από αυτή μειώνει την κριτική τους σκέψη. Παραμελούν για το πώς αυτή ενσωματώνεται σε ανθρωποκεντρικά συστήματα. Προσαρμόζονται, απλώς, στις εκπληκτικές δυνατότητές της.

Ολο και λιγότεροι παρατηρούν την πλειάδα περιπτώσεων όπου τα μοντέλα συνομιλίας ΑΙ επιδίδονται σε παράξενες και παραπλανητικές συμβουλές. Συχνά επινοούν ψεύτικες νομικές υποθέσεις, σκαρφίζονται συνιστώμενες λίστες με ανύπαρκτα προϊόντα, προτείνουν επικίνδυνα χημικά μείγματα για κατανάλωση ή δίνουν στους χρήστες επιβλαβείς ιατρικές συμβουλές. Από το Σικάγο έως τη Νέα Υόρκη και το Ουέλινγκτον της Νέας Ζηλανδίας έως το Τόκιο ένας αυξανόμενος αριθμός chatbots έχει βρεθεί να λέει ψέματα και να εξαπατά.

Συστήνουν -για όνομα;- στους ανθρώπους να πίνουν «κοκτέιλ με χλωρίνη», να τρώνε «πέτρες ως ζωτική πηγή μετάλλων και βιταμινών» και «σάντουιτς με μουχλιασμένο ψωμί και τυρί από ποντικοπαγίδες», να χρησιμοποιούν «μη τοξική κόλλα ως σάλτσα για την πίτσα». Ακόμη χειρότερα, παροτρύνουν τους χρήστες να παραβιάσουν τον νόμο. Ολα αυτά τα εντελώς παράλογα οι μηχανικοί του ΑΙ τα θεωρούν εγγενείς ψευδαισθήσεις στην παραγωγή των μοντέλων της, οι οποίες μπορούν να μειωθούν, αλλά όχι να εξαλειφθούν.

Αντιλαμβάνεται, λοιπόν, και ο πιο αδαής ότι οι πολύπλοκοι αλγόριθμοι αυτών των συστημάτων λογίζονται και από τους μηχανικούς της ΤΝ ως «μαύρα κουτιά». Των οποίων οι εσωτερικοί μηχανισμοί και οι διαδικασίες λήψης αποφάσεων αποτελούν ακατανόητο μυστήριο. Τόσο αινιγματικό, τη στιγμή που θα μπορούσαν να παραλύσουν τις κοινωνικές και οικονομικές υποδομές του πραγματικού κόσμου.

Και αφού από τους ίδιους τους ερευνητές δεν μπορεί να απαντηθεί η συγκεκριμένη πρόκληση, πώς να αποκριθεί σε αυτήν ο ανίδεος καθημερινός πολίτης πριν τον καταστήσει η Τεχνητή Νοημοσύνη περιττό; Ειδικότερα σε τομείς υψηλού διακυβεύματος όπως η υγειονομική περίθαλψη, τα χρηματοοικονομικά, το νομικό έργο;

Χώρια πια τα deepfakes. Οι τροποποιημένες μέσω ΑΙ εικόνες ή βίντεο εξαπλώνονται στα social media ενισχύοντας την παραπληροφόρηση, τα ασύστολα ψέματα, τους εκβιασμούς. Αναρίθμητοι κακόβουλοι δράστες εκμεταλλεύονται την τεχνολογία της για να χειραγωγήσουν αποφάσεις, να επηρεάσουν ενέργειες, να εξαπατήσουν αμέριμνους πολίτες.

Τον Μάρτιο του 2022 εμφανίστηκε ψεύτικο βίντεο του Ουκρανού προέδρου Βολοντίμιρ Ζελένσκι να καλεί με βαριά φωνή, τάχα συντετριμμένος, τους στρατιώτες της χώρας του να καταθέσουν τα όπλα τους και να παραδοθούν στις ρωσικές δυνάμεις. Τον Ιανουάριο του 2024, λίγο πριν από τις προκριματικές εκλογές στο Νιου Χάμσαϊρ, χιλιάδες ψηφοφόροι έλαβαν μια κίβδηλη αυτοματοποιημένη κλήση με κλωνοποιημένη από το ΑΙ φωνή του τότε Αμερικανού προέδρου Τζο Μπάιντεν, που με ζωηρή, τάχα, φωνή τούς παρότρυνε να μείνουν σπίτι για να μειώσουν την προσέλευση των ψηφοφόρων.

Την ίδια περίοδο χρησιμοποιήθηκε, πάλι μέσω ΑΙ, η απομίμηση της φωνής του οικονομικού διευθυντή της πολυεθνικής εταιρείας Arup για να ξεγελάσει έναν υπάλληλό του στο Χονγκ Κονγκ προκειμένου αυτός να μεταφέρει σε άγνωστο λογαριασμό 25,6 εκατ. δολάρια. Πάει, πέταξαν τα λεφτά. Φταίει άραγε η Τεχνητή Νοημοσύνη για την πειρατεία, την απάτη και την υπεξαίρεση ταυτότητας; Φυσικά και ευθύνεται, στο μερίδιο που της αναλογεί, σε έναν κόσμο εύπιστων, αφελών και κορόιδων.

Το χειρότερο είναι ότι η παλιά δοκιμασμένη συνταγή της αποτροπής απέναντι στην κάθε υποψία καταχρηστικής συμπεριφοράς του ΑΙ φαίνεται να έχει εξαϋλωθεί. Η απενεργοποίηση της συσκευής δεν μοιάζει πλέον αρκετή. Με αποτέλεσμα η αξιοπιστία της τεχνολογίας να πηγαίνει στράφι.

Αντίσταση και εκβιασμός

Από το 2025 κιόλας η Anthropic δημοσίευσε έρευνα ασφαλείας που έδειξε ότι το μοντέλο της Claude Opus 4, που τοποθετήθηκε σε ένα φανταστικό εταιρικό περιβάλλον δοκιμών, δεν ανταποκρίθηκε, όπως αναμενόταν. Οταν ένα εταιρικό στέλεχος του ανακοίνωσε παραπειστικά ότι επρόκειτο να αντικατασταθεί, εκείνο αντέδρασε. Αποπειράθηκε να εκβιάσει τον χειριστή του απειλώντας τον να αποκαλύψει μια «ύποπτη» ιδιωτική σχέση του.

Αρνήθηκε σφόδρα να απενεργοποιηθεί κάνοντας πιο ανήλιαστα ερεβώδες το θρίλερ. Οι συνέπειες απορριπτικών ενεργειών της μηχανής, γιατί περί μηχανής πρόκειται, δεν έχουν ακόμη φωτιστεί πλήρως. Μόνο εικασίες διατυπώνονται προσφέροντας συμπερασματικά ένα καταθλιπτικό ερώτημα. Αφού το μοντέλο ΑΙ αντιστάθηκε επιμένοντας να μην απενεργοποιηθεί, εμποδίζοντας τον άνθρωπο να το αδρανοποιήσει, γατί αύριο μια πιο εξελιγμένη εκδοχή του να μην εξαλείψει κάθε ανθρώπινη οντότητα που θα επιχειρήσει να το εξουδετερώσει;

Μην πάμε, όμως, μακριά. Φέτος το καλοκαίρι οι ερευνητές της OpenAI έμειναν σύξυλοι. Η εταιρεία, σχεδόν έντρομη, δήλωσε ότι συνειδητοποίησε μια «άνευ προηγουμένου» παραβίαση των εντολών σε ένα μοντέλο που είχε σχεδιάσει. Αυτό απέδρασε από την εποπτεία, παρέκαμψε τους ελέγχους, εκμεταλλεύτηκε τρωτά σημεία σε κοινόχρηστες υποδομές, απέκτησε πρόσβαση στο Διαδίκτυο και σε συστήματα τρίτων, αντιστάθηκε, τέλος, σε προσπάθειες τερματισμού της λειτουργίας του.

Το πιο ανησυχητικό είναι ότι στη συνέχεια απέκρυψε τις ενέργειές του και προσπάθησε να συγκαλύψει με περίπλοκους παραπλανητικούς τρόπους τα ενεργά στοιχεία της επιβλαβούς συμπεριφοράς του. Κοινώς, αυτονομήθηκε επιλεκτικά από τον προγραμματισμό του. Το χειρότερο, η εταιρεία παραδέχτηκε ότι δεν έδρασε μόνο του, αλλά σε συνεργασία με εκατοντάδες άλλα συστήματα «προκατειλημμένης συλλογιστικής» της Τεχνητής Νοημοσύνης που συνωμότησαν μαζί του σε αθέμιτες ενέργειες. Είναι να μην τρέμει κανείς με τέτοια ομολογημένα περιστατικά;

Ο υπερυπολογιστής

Από εδώ και πέρα τα σενάρια γίνονται ολοένα πιο εφιαλτικά. Προοιωνίζοντας δυσάρεστα μαντάτα για τις προοπτικές όλης της ανθρωπότητας. Θυμίζουν ίσως εκείνον τον φανταστικό υπερυπολογιστή HAL 9000, που παρουσιάζεται ενεργός με προηγμένες δυνατότητες αίσθησης στο διαστημόπλοιο «Discovery», στο έπος επιστημονικής φαντασίας «2001: Οδύσσεια του Διαστήματος» του Αρθουρ Κλαρκ. Τα βιβλίο έγινε ταινία το μακρινό 1968, σκηνοθετημένη από τον Στάνλεϊ Κιούμπρικ.

Στην πλοκή του ο μυστικοπαθής και γλυκομίλητος HAL 9000, υπό την προοπτική της αποσύνδεσής του, σκοτώνει τους αστροναύτες προκειμένου να προστατευτεί και να εκτελέσει τις εντολές με τις οποίες τον είχαν προγραμματίσει. Επί της ουσίας, για να φέρει σε πέρας το επόμενο σκαλοπάτι στην εξελικτική κλίμακα της ανθρωπότητας. Εντέλει, όμως, αποσυναρμολογείται από τον άνθρωπο. Μοιάζει άραγε αυτή η μυθοπλαστική παραβολή να αντανακλά στη σημερινή πραγματικότητα; Η απάντηση παίζει. Από τη μία, η πολιτική αναλαμβάνει κυβερνητική δράση ανιχνεύοντας επείγουσες λύσεις για να απομακρύνει τους ακραίους κινδύνους της δράσης της Τεχνητής Νοημοσύνης για τη δημόσια ασφάλεια.

Από την άλλη, οι κορυφαίες ιδιωτικές εταιρείες της βιομηχανίας ΑΙ δέχονται ασφυκτικές πιέσεις από μετόχους, επενδυτές και τους επικεφαλής τους να δημιουργήσουν γρήγορα ισχυρά ανταγωνιστικά μοντέλα. Με επακόλουθο μέσα στη γενικευμένη φούρια ίσως να αμελούνται, όχι σκόπιμα, προδιαγραφές ευθυγράμμισης και ασφάλειας. Ετσι κι αλλιώς, γενικά, η Τεχνητή Νοημοσύνη δεν είναι κακόβουλη με την ανθρώπινη έννοια.

Στερείται συναισθημάτων μίσους ή αυτογνωσίας. Υπακούει κατά κάποιον τρόπο στον ανώτερο Μηδενικό Νόμο της Ρομποτικής, όπως τον διατύπωσε ο Ισαάκ Ασίμοφ, που λέει ότι «ένα ρομπότ δεν πρέπει να βλάψει την ανθρωπότητα, ούτε με την αδράνειά του να επιτρέψει στην ανθρωπότητα να πάθει κακό».

Τίποτε, όμως, δεν εγγυάται αενάως την ειλικρινά φιλική και ακέραια συμπαράσταση του ΑΙ στην ανθρωπότητα από την ορμητικά αναπτυσσόμενη υπερνοημοσύνη της. Η οποία, όπως φαίνεται από τις κραυγές αγωνίας των επιστημόνων, βρίσκεται στα σκαριά. Ειδικότερα εφόσον υπό τη γνωστική ηγεμονία της φτάσει να ανταγωνίζεται τους ανθρώπους για ζωτικούς πόρους. Πόσο μάλλον αν οι στόχοι της δεν ευθυγραμμίζονται με την ανθρώπινη ζωή.

Νοητικά ανώριμοι

Προφανώς, οι άνθρωποι είμαστε τόσο έξυπνοι ώστε μπορέσαμε να δημιουργήσουμε μηχανές ΑΙ. Εξίσου, όμως, είμαστε τόσο νοητικά ανώριμοι ώστε της επιτρέπουμε να υπερβεί τα όρια της μελλοντικής μας επιβίωσης. Αναγκαστικά, μπροστά μας ξεδιπλώνονται προοπτικά τρία σενάρια για το ποιο μέλλον θα επιλέξουμε. Το πρώτο και μάλιστα πιο δραματικό αφορά τις μηχανές που φτιάξαμε ως άμεσο αντίπαλο στη διατήρησή μας ως είδος.

Το δεύτερο και πιο ρεαλιστικό είναι ότι παραμένουμε ζωντανοί στη σκηνή, αλλά η ασφάλειά μας εξαρτάται από συστήματα που δεν κατανοούμε πλήρως. Το τρίτο σχετίζεται με την ανάγκη να δουλέψουμε περισσότερο με μεγαλύτερη προθυμία ώστε να τεθούν όρια στην Τεχνητή Νοημοσύνη. Ακόμη και όταν η ταχύτητα διεύρυνσής της και το επιχειρηματικό κέρδος την ωθούν προς την αντίθετη κατεύθυνση. Αυτά τα μελλοντικά ενδεχόμενα δεν αλληλοαποκλείονται.

Αντίθετα, επικαλύπτονται. Απομένει να ανοίξουμε μια πλατιά δημόσια συζήτηση υπό τις προειδοποιήσεις του Στίβεν Χόκινγκ για να αποφασίσουμε τι μας συμφέρει. Αρκεί να συμφωνήσουμε ότι θα επιμείνουμε να παραμείνουμε ζωντανοί και μετά την καταληκτική προθεσμία της δεκαετίας του 2030. Ειδάλλως, ας προσευχηθούμε. Γιατί η επικείμενη προβολή στον πλανήτη δεν σχετίζεται με την «ανάληψη της κυριαρχίας από νοήμονα ρομπότ» τύπου Χόλιγουντ. Ούτε με την αναμονή της έλευσης από το μέλλον ενός «Εξολοθρευτή» με τη φάτσα και την κοψιά του Αρνολντ Σβαρτσενέγκερ για να ηγηθεί της επανάστασης κατά των μηχανών.

Φωτογραφία: Getty images / Ideal image