Γιώργος Γιαννακόπουλος: «Οι πολωμένες συζητήσεις περί Τεχνητής Νοημοσύνης συντηρούν ένα πνεύμα πανικού που μας αποπροσανατολίζει»

Σε ό,τι αφορά την Τεχνητή Νοημοσύνη είναι από τους πλέον αρμόδιους για να εκφέρουν γνώμη, στη χώρα μας. Ο Δρ. Γιώργος Γιαννακόπουλος είναι συνεργαζόμενος ερευνητής Τεχνητής Νοημοσύνης (ΤΝ) στο ΕΚΕΦΕ «Δημόκριτος», αλλά και συνιδρυτής της SciFY, μιας βραβευμένης μη-κερδοσκοπικής εταιρείας που εφαρμόζει ΤΝ για κοινή ωφέλεια. Έχει περισσότερα από δεκαπέντε χρόνια εμπειρίας σε εθνικά και ευρωπαϊκά έργα ΤΝ, σε τομείς όπως η ανάλυση φυσικής γλώσσας, η μηχανική μάθηση και άλλοι. Συνεισέφερε στην πρόταση ελληνικής εθνικής στρατηγικής για την ΤΝ, αλλά και σε πλήθος άλλων ομάδων εργασίας για την Πολιτική Δεδομένων, την ΤΝ και την Κοινωνική Καινοτομία. Έχει επίσης συγγράψει το πρώτο ελληνικό βιβλίο ΤΝ που απευθύνεται σε μη-ειδικό αλλά και ειδικό κοινό, με τίτλο «Τεχνητή Νοημοσύνη: μια διακριτική απομυθοποίηση», που κυκλοφορεί από τις εκδόσεις Ροπή. Με αφορμή το βιβλίο του είχαμε κάνει μια πρώτη συνέντευξη, αλλά οι ραγδαίες εξελίξεις μας ανάγκασαν να επανέλθουμε. 

Έχετε βγάλει ένα ψύχραιμο βιβλίο για την Τεχνητή Νοημοσύνη, που μας καλείτε να την δούμε ως ένα δημιούργημα του ανθρώπου, που υπακούει σε κάποιους κανόνες (συνοψίζω, όσο γίνεται). Από την εμφάνιση του ChatGpt και μετά, έχει αλλάξει κάτι στη θεώρησή σας για την ΤΝ; Σημειώνω, ότι έκτοτε (από τον Νοέμβριο του 2022, αν θυμάμαι καλά), πολλοί επιστήμονες κρούουν τον κώδωνα του κινδύνου…

Η πολύχρονη ενασχόληση των επιστημόνων της ΤΝ με το αντικείμενο μας κάνει αρκετά ανθεκτικούς σε συναρπαστικές εξελίξεις, καθώς επιτρέπει να ξεχωρίσουμε τον εντυπωσιασμό από την ουσία.

Το ChatGPT και οι συναφείς τεχνολογίες όπως τα λεγόμενα “μεγάλα μοντέλα γλώσσας” (Large Language Models - LLMs) ήταν μια πραγματικά εντυπωσιακή εξέλιξη ως προς την ικανότητα των συστημάτων να παράξουν αληθοφανή, ποιοτικό λόγο, σε ένα διάλογο. Το ακόμη πιο συναρπαστικό είναι ότι άρκεσε η αξιοποίηση ενός μεγάλου όγκου κειμένων ως πηγής, για να μπορέσουν αυτά τα συστήματα να μιμηθούν την ανθρώπινη επίδοση στη γλώσσα (τουλάχιστον σε ένα ρηχό επίπεδο). Για τους ανθρώπους, όμως, που ασχολούμαστε με το χώρο δεν ήταν κάτι ριζικά καινούργιο, αλλά μια φυσική συνέχεια της μέχρι τότε έρευνας. Η ΤΝ σε αυτά τα συστήματα δε χρειάστηκε κάτι ιδιαίτερα καινοτόμο για να βελτιωθεί. Κυρίως χρειάστηκε πάρα πολλά δεδομένα και επαρκή υπολογιστική ισχύ για να τα αναλύσει.

Με τις πολυάριθμες συνομιλίες που κάναμε με τα διαλογικά συστήματα, αλλά και όλες τις κριτικές που δημοσιεύτηκαν για αυτά, δώσαμε στις εταιρείες τα δεδομένα που χρειάζονται για να βελτιώσουν τα συστήματά τους.

Συναρπαστικό ήταν και το γεγονός ότι οι εταιρείες εξέθεσαν δοκιμαστικά συστήματα στο ευρύ κοινό. Επί της ουσίας, αυτή ήταν η επανάσταση. Αλλά είχε πολύ έξυπνο και ουσιαστικό στόχο: επιστρατεύτηκε όλος ο κόσμος που είχε διάθεση να αφιερώσει χρόνο, χωρίς να πληρωθεί, για να ανακαλυφθούν οι ατέλειες αυτών των συστημάτων. Με τις πολυάριθμες συνομιλίες που κάναμε με τα διαλογικά συστήματα, αλλά και όλες τις κριτικές που δημοσιεύτηκαν για αυτά, δώσαμε στις εταιρείες τα δεδομένα που χρειάζονται για να βελτιώσουν τα συστήματά τους. Επίσης, μοιραστήκαμε συναρπαστικές ιδέες για νέα προϊόντα, υπηρεσίες και, εν γένει, συμμετείχαμε ουσιαστικά στη μελλοντική στόχευση αυτών των εταιρειών.

Ελπίζω από τα παραπάνω να διαφαίνεται γιατί δεν έχω κανένα λόγο να κρούσω κανένα κώδωνα κινδύνου. Από την άλλη, μάλλον ένας κώδωνας θα πρέπει να ενεργοποιηθεί για τις πολωμένες συζητήσεις περί ΤΝ, που -αν και έχουν τη χρησιμότητά τους- συντηρούν ένα πνεύμα πανικού για το αύριο που ίσως μας αποπροσανατολίζει από το σήμερα.

Έχουμε εσχάτως εξοικειωθεί με τον όρο «παραγωγική τεχνητή νοημοσύνη» (generative AI), που περιγράφει μια μορφή ΤΝ που μπορεί και η ίδια να δημιουργεί, περιεχόμενο, ιδέες, συνομιλίες, καλλιτεχνικά έργα όπως ζωγραφική και μουσική. Ποιες είναι οι δυνατότητές της, αλλά και οι περιορισμοί της;

Θα δοκιμάσω πριν απαντήσω να φέρω στο προσκήνιο μια εκφραστική απλούστευση που μας οδηγεί στο να προσωποποιούμε την ΤΝ. Η ΤΝ δεν είναι πρόσωπο. Όταν περιγράφουμε ”μια ΤΝ”, αναφερόμαστε επί της ουσίας σε ένα πρόγραμμα που εκτελούμε. Άρα όταν μιλάμε για “ΤΝ που μπορεί να παράξει περιεχόμενο”, αναφερόμαστε επί της ουσίας σε ένα πρόγραμμα που, όταν του δώσουμε τις σωστές εντολές, θα μας δώσει ως αποτέλεσμα περιεχόμενο. Ας μην το ξεχνούμε αυτό.

Για να περιγράψω τις δυνατότητες της παραγωγικής ΤΝ (γνωστής και με τη συντομογραφία GenAI), θα εξηγήσω πολύ απλοποιημένα τον βασικό τρόπο λειτουργίας της. Για να εκπαιδεύσουμε ένα GenAI σύστημα κάνουμε τα εξής: (α) συλλέγουμε πολλά πολλά δεδομένα (π.χ. κείμενα, εικόνες, βίντεο), (β) τροφοδοτούμε την ΤΝ με αυτά τα δεδομένα, (γ) η ΤΝ συνάγει πρότυπα που αυτά εμφανίζουν. Είναι εντυπωσιακό ότι, αν δώσεις πραγματικά πολλά δεδομένα -π.χ. κείμενα που αθροίζουν σε τρισεκατομμύρια λέξεις- ο αλγόριθμος της ΤΝ μαθαίνει τόσο καλά ποια λέξη είναι πιθανό να ακολουθεί μίαν άλλη (στατιστική συνεμφάνισης λέξεων), ώστε μπορεί να παράξει πολύ ρεαλιστικό και ορθό λόγο. Επί της ουσίας, χωρίς να έχει καθόλου γνώση για τη γλώσσα, το σύστημα παράγει διαδοχικές λέξεις που θα ήταν πολύ πιθανό να εμφανιστούν με αυτή τη σειρά σε ένα πραγματικό κείμενο. Με την ίδια λογική, αν σε ένα ανάλογο σύστημα, εξειδικευμένο σε εικόνες, δώσουμε δισεκατομμύρια εικόνες, τότε μπορεί να συμπεράνει πώς γειτονεύουν τα χρώματα. Και έτσι να ζωγραφίσει, κουκκίδα-κουκκίδα (ή pixel-pixel, αν προτιμάτε) υπέροχες εικόνες. Το ίδιο επεκτείνεται σε ήχους (συνεμφάνιση από νότες/ήχους), βίντεο, κλπ.

Μας φέρνει σε αμηχανία πόσο βαθιά φαίνεται να “σκέφτεται” αυτή η ΤΝ -που επιμένω ότι δεν είναι πρόσωπο- σε ευαίσθητα θέματα, ενώ από πίσω στηρίζεται σε απλή στατιστική λέξεων, χρωμάτων, κλπ. Αν όμως σκεφτεί κανείς ότι το μόνο που κάνει (εξαιρετικά καλά!) είναι να μεταφέρει, τον εκφρασμένο σε κείμενο, βαθύ στοχασμό ανθρώπων, τότε όλα βγάζουν νόημα.

Για να συνοψίσω: τα συστήματα GenAI αναπαράγουν και παραλλάσσουν -με βάση πιθανότητες- αυτό που “ανακάλυψαν” σε δικά μας έργα. Συνεπώς τα δεδομένα (π.χ. κείμενα) με τα οποία εκπαιδεύσαμε ένα τέτοιο σύστημα είναι καθοριστικά για το πώς θα απαντά. Αν είμαστε κυνικοί, θα φαίνεται κυνική η απάντηση. Αν είμαστε ρατσιστές, ομοίως.

Όταν ζήτησα σε δημοφιλές chatbot να μου γράψει ένα βιογραφικό, έγραψε ένα αληθοφανές, πολύ τιμητικό, αλλά παντελώς ανακριβές βιογραφικό για μένα. Με άλλα λόγια, είπε ψέματα, απλά και μόνο γιατί αυτό θα μπορούσε να είναι ένα πιθανό βιογραφικό κάποιου (ανύπαρκτου) ερευνητή στο ΕΚΕΦΕ “Δημόκριτος”.

Μια άλλη, μη τετριμμένη, διάσταση των περιορισμών αυτών των συστημάτων είναι ότι δεν είναι πάντα ενήμερα. Όταν κάνουμε μια ερώτηση, δεν αναζητούν εκείνη την ώρα απαντήσεις. Απλά παράγουν μια ακολουθία από λέξεις που θα ήταν πιθανό να βρεθούν μετά την ερώτησή μας, με βάση ό,τι έχουν ήδη “διαβάσει”. Άρα, ένα μοντέλο που εκπαιδεύεται σήμερα, δε θα έχει ιδέα για τα συγκλονιστικά γεγονότα που θα συντελεστούν αύριο, ή σε έναν χρόνο, αν δεν εκπαιδευτεί ξανά. Και η εκπαίδευση ενός μοντέλου είναι μια εξαιρετικά ακριβή διαδικασία, τόσο ενεργειακά, όσο και χρονικά.

Τέλος, υπάρχει μια πολύ περιοριστική διάσταση στα GenAI αποτελέσματα: μπορεί να περιέχουν ψευδείς δηλώσεις (τα λέμε και “παραισθήσεις” - hallucinations, αν και απλά είναι στατιστικές αστοχίες). Αυτό δεν είναι μια σκόπιμη τάση των συστημάτων, μη γελιόμαστε, αλλά απλά στηρίζεται στο ότι δεν έχουν ουσιαστική γνώση αλλά απλά μαθηματικές συναρτήσεις.

Όταν ζήτησα σε δημοφιλές chatbot να μου γράψει ένα βιογραφικό, έγραψε ένα αληθοφανές, πολύ τιμητικό, αλλά παντελώς ανακριβές βιογραφικό για μένα. Με άλλα λόγια, είπε ψέματα, απλά και μόνο γιατί αυτό θα μπορούσε να είναι ένα πιθανό βιογραφικό κάποιου (ανύπαρκτου) ερευνητή στο ΕΚΕΦΕ “Δημόκριτος”.

Αλλά ας δούμε και τα καλά. Τα GenAI μοντέλα είναι εξαιρετικά για έμπνευση, ή για να σου δώσουν μια πρώτη απάντηση ως βάση σε μια αναζήτηση για νέα γνώση. Μπορεί να βοηθήσουν να αρχικοποιηθεί μια παρουσίαση, να συνοψιστεί ένα κείμενο (προσοχή στις “παραισθήσεις”!), να γραφεί πιο απλά μια σύνθετη παράγραφος, να ακούσεις ένα (αμφίβολης επιτυχίας) ανέκδοτο, να φτιάξεις μια συναρπαστική εικόνα για τον ιστοχώρο σου, να μιμηθούν το ύφος γραφής ενός αρχαίου συγγραφέα, να προτείνουν ένα motto για μια διαφημιστική καμπάνια, να απαντήσουν σε συνήθεις ερωτήσεις, ή να συνομιλήσουν μαζί σου σε μια φωνητική πύλη, και πολλά άλλα.

Τα παραπάνω είναι απλά δείγματα των συναρπαστικών δυνατότητων, αλλά οι τρέχοντες περιορισμοί μας λένε ένα πράγμα: ό,τι φτιαχτεί από GenAI θέλει διασφάλιση ποιότητας από τον άνθρωπο. Οπότε, μπορούμε να θεωρήσουμε ότι αυτά τα συστήματα είναι άλλος ένας τρόπος να υποβοηθήσουμε την ανθρώπινη εργασία, όπως άλλοτε έγινε με τους επεξεργαστές κειμένου, τα προγράμματα ζωγραφικής και άλλα αντίστοιχα εργαλεία.

Ήδη, σχεδόν όλα τα κράτη του κόσμου έχουν μια εθνική στρατηγική για την ΤΝ που υποδεικνύει τι κατευθύνσεις θα επιδιώξουν στην ανάπτυξή της: ανθρωποκεντρική ΤΝ, νομοταγή, για την κοινή ωφέλεια.

Πιστεύετε ότι πρέπει να υπάρξουν συγκεκριμένες νομοθετικές πρωτοβουλίες αναφορικά με τη χρήση της ΤΝ και σε ποια κατεύθυνση. Το τρένο μοιάζει να τρέχει με χίλια και τα κράτη και οι θεσμοί να ακολουθούν με ρυθμούς πιο παραδοσιακούς...

Ίσως, παραδόξως, τα πράγματα στην τεχνητή νοημοσύνη είναι καλύτερα από ό,τι νομίζουμε. Ήδη, σχεδόν όλα τα κράτη του κόσμου έχουν μια εθνική στρατηγική για την ΤΝ που υποδεικνύει τι κατευθύνσεις θα επιδιώξουν στην ανάπτυξή της: ανθρωποκεντρική ΤΝ, νομοταγή, για την κοινή ωφέλεια, κλπ. Η πράξη μένει να αποδείξει κατά πόσο πραγματικά θα υλοποιήσουν αυτά τα οράματα σε βάθος χρόνου, υπό την πίεση και των πολιτών, αλλά και η δήλωση πρόθεσης είναι μια αρχή.

Από την άλλη, η Ευρωπαϊκή Ένωση έχει ήδη στηρίξει τη σχετική στρατηγική της με πληθώρα τρόπων, από ανοικτές διαβουλεύσεις μέχρι και το πρώτο νομικό κείμενο για το ποια ΤΝ επιτρέπει να αξιοποιηθεί στο χώρο της και πώς (EU AI Act). Έτσι, ήδη η ΤΝ έχει ξεκινήσει να περιορίζεται νομικά. Πλέον, οι νέοι νομοθέτες, δικαστικοί και δικηγόροι, καλούνται να διασφαλίσουν ότι τα συστήματα ΤΝ συνάδουν με την ηθική της κοινωνίας.

Από την άλλη, αν [ο διάλογος] πολωθεί ακραία, απλά συντελεί είτε στην τεχνοφοβία είτε στην τεχνολατρεία, χωρίς ουσιαστικό θετικό αντίκτυπο.

Μια άλλη ευοίωνη συνθήκη είναι η ύπαρξη έντονου κοινωνικού διαλόγου για τα δεινά που μπορεί να φέρει η ασύδοτη και ανήθικη χρήση συστημάτων ΤΝ. Αυτός ο διάλογος μας επιτρέπει να δούμε προς τα πού θέλουμε να κινηθούμε. Από την άλλη, αν πολωθεί ακραία, απλά συντελεί είτε στην τεχνοφοβία είτε στην τεχνολατρεία, χωρίς ουσιαστικό θετικό αντίκτυπο.

Με τα παραπάνω θέλω να πω ότι μάλλον δεν είναι το τρένο που τρέχει με χίλια, αλλά φαίνεται να τρέχουν ένα ή δύο βαγόνια: η επικοινωνία περί της ΤΝ και οι σχετικές επενδύσεις. Δεδομένου του ότι οι πολιτικο-οικονομικές τάσεις και αντιδράσεις συνθέτουν το περιβάλλον μέσα στο οποίο οι τεχνολογικές επιδόσεις συνδιαμορφώνονται, νομίζω ότι η υιοθέτηση ή μη διαφόρων συστημάτων ΤΝ θα είναι το προϊόν κοινωνικής ζύμωσης, και όχι προϊόν απόφασης “σκοτεινών κέντρων εξουσίας” (που αποτελούν εξαιρετικό αποδιοπομπαίο τράγο, όταν μεμψιμοιρούμε…).

Σε αυτόν τον δρόμο είμαστε όλοι συνδιαμορφωτές, εφόσον έχουμε καταναλωτική συνείδηση, πολιτική θέση και εγρήγορση, ο κάθε άνθρωπος στο χώρο δράσης του. Η ΤΝ διαμορφώνεται σήμερα, βήμα βήμα, από τις επιλογές μας.

Ο Γιώργος Γιαννακόπουλος είναι διδάκτορας τεχνητής νοημοσύνης (ΤΝ) με περισσότερα από 15 χρόνια σχετικής ενασχόλησης. Είναι συνεργαζόμενος ερευνητής στο ΕΚΕΦΕ "Δημόκριτος", ενώ έχει συνιδρύσει τη μη-κερδοσκοπική εταιρεία ανοικτής καινοτομίας SciFY (Επιστήμη για σένα), που ασχολείται με την αξιοποίηση επιστημονικής γνώσης για την κοινωνία. Διδάσκει, από το 2017, σε μεταπτυχιακά μαθήματα σχετικά με την ΤΝ και την επιστήμη δεδομένων. Συμμετέχει σε επιστημονικές κοινότητες ανά τον κόσμο (EACL, EurAI, EETN), αλλά και σε εθνικά επιστημονικά όργανα (ΤΕΣ-ΕΣΕΤΕΚ), ενώ έχει συνεισφέρει στην εθνική στρατηγική για την ΤΝ.

Κράτη, τεχνολογικοί κολοσσοί, και πολλοί άλλοι παίκτες έχουν ριχτεί σε έναν αγώνα δρόμου που μοιάζει με φρενήρη κούρσα. Οι επενδύσεις είναι τεράστιες. Υπάρχει λόγος να μπει κάποιο φρένο σε αυτήν την κούρσα; Κι αν ναι, υπάρχει τρόπος; Δίνεται η εντύπωση ότι η ανθρωπότητα παρακολουθεί με ανοικτό το στόμα, άλλοτε τρομαγμένη και άλλοτε έκθαμβη, κάτι για το οποίο δεν γνωρίζουμε ποιος αποφασίζει.

Οι επενδύσεις ακολουθούν συχνά τα (υπερ)προβαλλόμενα τεχνολογικά αποτελέσματα. Για αυτό το λόγο, εξίσου συχνά, καταλήγουν σε προσωρινά υπερκέρδη αλλά μεσοπρόθεσμες διαψεύσεις των προσδοκιών: από το Διαδίκτυο των Πραγμάτων (Internet of Things), το Blockchain, μέχρι παλαιότερα τη φούσκα του “dot com”, το έχουμε δει επανειλημμένα. Στην ΤΝ, συγκεκριμένα, είναι η πολλοστή φορά που οι προσδοκίες και οι υποσχέσεις μας είναι υπερβολικές (αναζητήστε τον όρο “AI Winter” για περισσότερα).

Η ΤΝ αντικατοπτρίζει με πάρα πολλούς τρόπους τον άνθρωπο: μέσα από τα δεδομένα που την τροφοδοτούμε, από τα πρότυπα που μαθαίνει, από το ποια συστήματα ΤΝ δεχόμαστε να χρησιμοποιούμε και να καταναλώνουμε.

Η δοκιμή συστημάτων ΤΝ σε διαφόρους τομείς απλά μας επιτρέπει, αν γίνει δομημένα και ρεαλιστικά, να ανακαλύψουμε νωρίς τις αδυναμίες και τα σημεία βελτίωσης. Οπότε, δεν υπάρχει καμία ανάγκη για επιβράδυνση. Τουναντίον, είναι η στιγμή που πληθώρα επιστημών έρχεται να μελετήσει την ΤΝ και τις εφαρμογές της, για να βοηθήσουν να ορίσουμε τα συστήματα που εμείς θέλουμε ως πολιτισμός.

Η ΤΝ αντικατοπτρίζει με πάρα πολλούς τρόπους τον άνθρωπο: μέσα από τα δεδομένα που την τροφοδοτούμε, από τα πρότυπα που μαθαίνει, από το ποια συστήματα ΤΝ δεχόμαστε να χρησιμοποιούμε και να καταναλώνουμε, από το ποια απορρίπτουμε, από το ποιες πλευρές του ανθρώπου και της ανθρωπιάς δεν ακουμπάει καθόλου. Η μελέτη της ΤΝ, τόσο ως τεχνική αλλά και ως φαινόμενο, είναι η μελέτη του ανθρώπου από μια νέα οπτική. Για αυτό είναι υπερπολύτιμη.

Υπάρχει κάποιο έλλειμμα στη σκέψη μας γύρω από την ΤΝ. Μήπως παράλληλα με την τεχνολογία θέλουμε και μια σκέψη που να μας βοηθάει να την κατανοούμε και να αποφασίζουμε προς τα πού θα κινηθεί και ποιες επιπτώσεις της θέλουμε και ποιες όχι. Μήπως οι κοινωνικές επιστήμες έχουν αργήσει να στραφούν στα θέματα της τεχνολογίας και πιανόμαστε εξαπίνης;

Οι κοινωνικές επιστήμες αλλά και οι τέχνες έχουν ασχοληθεί με αυτά τα θέματα από δεκαετίες, μέχρι αιώνες. Το θέμα της σχέσης τεχνολογίας και κοινωνίας, το θέμα της σχέσης της τεχνικής και των τεχνουργημάτων με την ιστορία, και πολλά άλλα θέματα έχουν πολλαπλά συζητηθεί. Απλά η κοινωνία ξεχνά τη σημασία ακριβώς αυτής της σχέσης μεταξύ των όντων -τεχνικών και μη- γιατί εδώ και πολλά χρόνια επιμένουμε στη Δύση σε ένα τεχνο-οικονομο-κεντρικό μοντέλο ατομιστικής θέασης του κόσμου. Συνεπώς, δεν μπορώ παρά να αναρωτηθώ μήπως τείνουμε να χάσουμε την αναγκαία προϋπάρχουσα σκέψη, ή καλύτερα σοφία.

Συχνά υποβαθμίζουμε τη χρηματοδότηση σε κοινωνικές, πολιτικές, ανθρωπιστικές επιστήμες, τις περιγράφουμε ως άχρηστες, επιδιώκουμε να τις μαθηματικοποιούμε στεγνά και να τις γυμνώνουμε από θεμελιώδεις τους αξίες και τον πλούτο τους.

Συχνά υποβαθμίζουμε τη χρηματοδότηση σε κοινωνικές, πολιτικές, ανθρωπιστικές επιστήμες, τις περιγράφουμε ως άχρηστες, επιδιώκουμε να τις μαθηματικοποιούμε στεγνά και να τις γυμνώνουμε από θεμελιώδεις τους αξίες και τον πλούτο τους. Και όλα αυτά, επειδή τείνουμε χρησιμοποιούμε για όλα το πρίσμα της τεχνολογίας. Το λάθος αυτό το πληρώνουμε ως κοινωνία από πολλές μεριές, μια από τις οποίες είναι η έλλειψη πολιτικής συνείδησης -και σαφώς δεν εννοώ την κομματική συνείδηση- που θα επιτρέψει συμμετοχικότητα και συνδιαμόρφωση και της ΤΝ.

Παρ’ όλα αυτά, η κοινωνία -και οι σχετικές επιστημονικές κοινότητες- ήδη αντιδρούν. Από την απεργία των εργαζομένων στη βιομηχανία του κινηματογράφου, που έληξε με τίτλους όπως “How Hollywood writers triumphed over AI – and why it matters”, μέχρι τη συστηματική υιοθέτηση μεθόδων για ηθική ΤΝ (π.χ. CertifAIed), αλλά και τη διαμόρφωση πολιτικά επιβαλλόμενων απαιτήσεων για την ΤΝ (AI Act, Ethics guidelines for trustworthy AI), φαίνεται μια διαφορετική απάντηση στο ερώτημά σας: μάλλον εμείς, οι υπόλοιποι, δε ρωτήσαμε ποτέ τις κοινωνικές επιστήμες τι πιστεύουν, τι γνώμη φέρουν. Κι έτσι μας φαίνονται να κωφεύουν και να σωπαίνουν. Όπως πάντα “ο έχων ώτα ακούειν, ακουέτω”.

Πόσο πιθανό θεωρείτε η ανθρωπότητα να βρεθεί μπροστά σε κάτι που, από ένα σημείο και μετά, δεν θα μπορεί να ελέγξει; Η πιθανότητα μιας νοημοσύνης που μας ξεπερνά, και την οποία ούτε κι εμείς οι ίδιοι θα κατανοούμε από ένα σημείο και μετά, πόσο μεγάλη και πόσο ορατή είναι;

Η ΤΝ είναι απλά άλλη μια συναρπαστική τεχνολογία. Τη βλέπουμε να αναπτύσσεται με φρενήρεις ρυθμούς, πολύ απλά γιατί έτσι προβάλλεται. Σημειώνω ότι ως επιστήμη “επισημοποιήθηκε” γύρω στο 1950. Ήδη από τότε θεωρούσαν ότι στα επόμενα λίγα χρόνια θα είχαν φτιάξει ένα ον ισάξιο με τον άνθρωπο. Οι επιστήμονες κάθε λίγα χρόνια εμφανίζουμε τον ίδιο ισχυρισμό, πάντα με ορίζοντα “σε λίγα χρόνια”. Φαίνεται ότι είμαστε κάκιστοι προφήτες… εξαιτίας της έπαρσής μας.

Η πιθανότητα που περιγράφετε δεν μπορεί να υπολογιστεί. Ο ισχυρισμός για μια νοημοσύνη πέρα από τη δική μας, δεν μπορεί να επαληθευτεί ή να καταρριφθεί.

Θα δώσω ξεκάθαρα την απάντηση που δίνω πολλά χρόνια τώρα στην παραπάνω ερώτηση. Η πιθανότητα που περιγράφετε δεν μπορεί να υπολογιστεί. Ο ισχυρισμός για μια νοημοσύνη πέρα από τη δική μας δεν μπορεί να επαληθευτεί ή να καταρριφθεί. Συνεπώς, επιστημολογικά δεν μπορούμε να την προσεγγίσουμε. Απλά δεν ξέρουμε να απαντήσουμε για το τι μπορεί να γίνει στο μέλλον.

Από την άλλη, για το παρόν είναι σαφές το ακόλουθο: δεν φαίνεται τίποτε στον ορίζοντα που να μπορεί να μας υποδείξει ότι κάποτε θα πλησιάσουμε το βάθος του ανθρώπου. Το πιο συναρπαστικό είναι ότι ο βασικός λόγος μας είναι ο εξής: δε γνωρίζουμε τον άνθρωπο στο βάθος του. Απλά, προσπαθούμε με διαδοχικές προσπάθειες και αλλαγές οπτικής να τον προσεγγίσουμε περισσότερο. Μια τέτοια οπτική δίνει και η ΤΝ. Ας μην την υπερεκτιμούμε.

Η ΤΝ, ως μη πρόσωπο, δεν μπορεί μόνη της τίποτε. Αλλά ο άνθρωπος μπορεί και να προκαλέσει και να αντιμετωπίσει προβλήματα. Η δημοκρατία δεν αποτελεί εξαίρεση.

Τέλος, πιστεύετε ότι η ΤΝ μπορεί να προκαλέσει ακόμη περισσότερα προβλήματα στις εύθραυστες δημοκρατίες μας; (deep fakes, χρήση της στον στρατό, σε λήψη πολιτικών αποφάσεων κ.ά.)

Η ΤΝ, ως μη πρόσωπο, δεν μπορεί μόνη της τίποτε. Αλλά ο άνθρωπος μπορεί και να προκαλέσει και να αντιμετωπίσει προβλήματα. Η δημοκρατία δεν αποτελεί εξαίρεση. Σε ένα παιγνίδι κλέφτη και αστυνόμου, κακόβουλοι χρήστες της ΤΝ προσπαθούν να επηρεάσουν αποφάσεις, ενώ οι καλοπροαίρετοι προσπαθούν να τη χρησιμοποιήσουν ακριβώς για να αντιμετωπίσουν αυτές τις επιθέσεις. Όλα εν κινήσει και στη μέση ο καθένας άνθρωπος με τις προσωπικές του διεκδικήσεις, τις προσωπικές του ηθικές επιλογές και πράξεις. Αυτό ο άνθρωπος, εκπροσωπούμενος από τον καθένα και την καθεμιά μας, καλείται να είναι σε εγρήγορση και να αντιταχθεί -μέσα από τον καθημερινό χώρο δράσης του- σε ό,τι εντός της ΤΝ θεωρεί ότι είναι ανήθικο, αντιδημοκρατικό, απάνθρωπο.

Όλα αυτά τα εργαλεία αλλοίωσης των δημοκρατικών θεσμών, για να μπορέσουν να μας κατευθύνουν, να καταφέρουν ακρότητες και να υπονομεύσουν την ειρήνη χρειάζονται μία ακριβώς προϋπόθεση. Χρειάζονται απαίδευτους, πικραμένους, βιαστικούς και επιφανειακούς ανθρώπους.

Θα ήθελα όμως εδώ να υποδείξω κάτι που διαφαίνεται στα δικά μου μάτια: όλα αυτά τα εργαλεία αλλοίωσης των δημοκρατικών θεσμών, για να μπορέσουν να μας κατευθύνουν, να καταφέρουν ακρότητες και να υπονομεύσουν την ειρήνη χρειάζονται μία ακριβώς προϋπόθεση. Χρειάζονται απαίδευτους, πικραμένους, βιαστικούς και επιφανειακούς ανθρώπους. Χρειάζονται ανθρώπους έτοιμους για μίσος, για φανατισμό, για καταλαλιά και κατάκριση, χωρίς επιθυμία για προσωπική συνάντηση με τον συνάνθρωπο, συναναζήτηση και συγχώρεση, χωρίς βάθος σχέσης. Όλα τα παραπάνω είναι αναγκαία για να ευοδωθούν κακόβουλα σχέδια, γιατί οδηγούν σε εύκολη χειραγώγηση, σε εύκολη διάχυση ψευδών ειδήσεων που στοχοποιούν δυνητικούς πολιτικούς αντιπάλους, που ποντάρουν σε μεροληψία απέναντι σε ανθρώπους και ιδεολογίες και σε κομμένες γέφυρες επικοινωνίας.

Η ΤΝ και οι προβληματικές της αποτελούν, λοιπόν, αφορμή για ανασκόπηση και ενδοσκόπηση, τόσο στον άνθρωπο, όσο και την πολιτεία και τη δημοκρατία της. Αυτές οι αναθεωρήσεις θα μας επιτρέψουν -σήμερα κιόλας- να μπορούμε να αντιταχθούμε σε κακόβουλους ανεξαρτήτως των εργαλείων και τεχνολογιών που χρησιμοποιούν.

^＊Ο Κ.Β. ΚΑΤΣΟΥΛΑΡΗΣ είναι δημοσιογράφος και συγγραφέας.