Τεχνητή Νοημοσύνη: Είναι το τέλος του κόσμου όπως τον γνωρίζουμε (and I don’t feel fine)

Είμαι ο Κώστας Κατσουλάρης, αλλά ίσως και να μην είμαι. Αυτά τα λόγια, τα γράφω μεν εγώ, αλλά ίσως κι όχι. Ίσως μάλιστα να μην είναι καν δικά μου. Ακόμη και η φωνή μου (για όσους ίσως ακούσετε το σχετικό podcast, βλ. στο τέλος του άρθρου), που κάποιες και κάποιοι από εσάς σίγουρα πλέον την αναγνωρίζετε, ίσως να είναι απλώς μια προσομοίωση. Πώς μπορείς να ξέρεις; Η στιγμή που θα ζητάς από ένα έξυπνο λογισμικό σαν το chatgpt να σου παράξει κείμενα όπως αυτό που γράφω τούτη τη στιγμή, και να τα εκφωνήσει με τη φωνή οποιουδήποτε σου κάνει κέφι, δεν είναι μακριά. Για την ακρίβεια, έχει ήδη έρθει.

Τέτοιες, κι άλλες πολύ πιο ανησυχητικές σκέψεις μού γέννησε η ανάγνωση ενός βιβλίου που έχει ως θέμα του, τι άλλο, την Τεχνητή Νοημοσύνη και την επίδραση που έχει και θα έχει στη ζωή μας, αλλά και στα μύχια της ψυχής μας. Συγγραφέας του, ο Γιώργος Χατζηβασιλείου και τίτλος του, Η φιλοσοφία της τεχνητής νοημοσύνης – Ένα ταξίδι στο μέλλον (εκδ. Διόπτρα)

Εν αρχή ην το βιβλίο

Μια αρχή που έχω, και που ποτέ δεν με έχει προδώσει, είναι η εξής: Αν θέλω να γνωρίσω σε βάθος ένα ζήτημα, αναζητώ ένα βιβλίο (ή και περισσότερα). Το βιβλίο παραμένει η πληρέστερη και εγκυρότερη πηγή γνώσης (κάτι που ενδεχομένως έχει ήδη αρχίσει να διακυβεύεται λόγω ακριβώς της εμπλοκής της ΤΝ στην εκδοτική βιομηχανία). Ε, λοιπόν, το καλό αυτό βιβλίο που αναζητούσα για να καταλάβω τι είναι η Τεχνητή Νοημοσύνη, τι μας κάνει και τι ενδεχομένως θα μας κάνει στο άμεσο μέλλον, το έχει γράψει στα ελληνικά ο Γιώργος Χατζηβασιλείου*. Ο Χατζηβασιλείου, με διδακτορικό στη φιλοσοφία της τεχνολογίας αλλά και σπουδές πολιτικής επιστήμης και εκπαιδευτικής πολιτικής, διαθέτει τα εργαλεία για να προσεγγίσει το πρόβλημα μέσα από θεμελιώδεις φιλοσοφικές έννοιες, αναζητώντας πίσω από τις τεχνολογικές εξελίξεις μεγάλες ανθρωπολογικές αλλαγές. Ταυτόχρονα, είναι και δημοσιογράφος με πείρα, δημιουργός εκπομπών και ντοκιμαντέρ, κι έχει μάθει να εκφράζεται απλά και μεστά για σύνθετα ζητήματα.

Να το πω εξαρχής: Η ανάγνωση του βιβλίου του, παρότι είναι γραμμένο με πνεύμα νηφαλιότητας και επιστημονικό ύφος, με τρόμαξε. Το «ταξίδι στο μέλλον», που υπόσχεται ο υπότιτλος, δεν μοιάζει καθόλου με ταξίδι αναψυχής. Είναι ένα ταξίδι προς το τέλος του ανθρώπου όπως τον γνωρίζουμε σήμερα (μετανθρωπισμός, είναι η έννοια κλειδί), ή κι ένα ταξίδι προς τον αφανισμό του, σύμφωνα με τα χειρότερα σενάρια. Το σκάφος έχει ήδη απογειωθεί…

Η εμφάνιση της «παραγωγικής» Τεχνητής Νοημοσύνης και το πρώτο σοκ

Οι τελευταίοι 18 μήνες ήταν ένα σημείο καμπής σε ό,τι αφορά την αντίληψή μας για την ΤΝ. Η εμφάνιση, τον Νοέμβριο του 2022 του συστήματος Chatgpt, της Μάικροσοφτ, προκάλεσε σοκ, ακόμη και μεταξύ των καλά ενημερωμένων για τις εξελίξεις στην τεχνολογία. Ένα άλμα είχε συντελεστεί, κι ακόμη δεν έχουμε πλήρως αντιληφθεί το μέγεθος, τη φύση και τις επιπτώσεις αυτού του άλματος.

Μερικές ειδήσεις είναι διαφωτιστικές:
Πρώτη είδηση: Το 2022 ρωτήθηκαν εκατοντάδες κορυφαίοι επιστήμονες της ΤΝ για τους κινδύνους που εγκυμονεί η ανάπτυξή της: Το 50% από αυτούς απάντησαν ότι υπάρχει «τουλάχιστον 10% πιθανότητα» η ανθρωπότητα να υποστεί ένα πολύ μεγάλο πλήγμα ή και να αφανιστεί εξαιτίας της ΤΝ – 10%, ας το παραδεχτούμε, είναι ένα τεράστιο ποσοστό, όταν πρόκειται για τόσο μεγάλους κινδύνους.

Άλλη είδηση: Τον Μάρτιο του 2023, ορισμένοι από τους σημαντικότερους «παίκτες» γύρω από την ΤΝ, όπως ο συνιδρυτής της Απλ Στιβ Βόζνιακ, ο φιλόσοφος Γιούβαλ Χαράρι, ο Έλον Μασκ αλλά και στελέχη της Γκουγκλ και της Μάικροσοφτ συμμετείχαν σε μια διεθνή έκκληση να σταματήσει για τουλάχιστον 6 μήνες η ανάπτυξη της ΤΝ, ώστε να ζυγιστούν και να ρυθμιστούν τα ρίσκα που απορρέουν από αυτήν.

Ακολούθησε ανάλογη έκκληση από την Ουνέσκο, ενώ μια ακόμη «καμπάνα», πολύ ηχηρή, ήχησε στη συνέχεια: Ο Τζέφρι Χίντον, κορυφαίος επιστήμονας γύρω από την ΤΝ, ανακοίνωσε την παραίτησή του από την Γκουγκλ...

Ακολούθησε ανάλογη έκκληση από την Ουνέσκο, ενώ μια ακόμη «καμπάνα», πολύ ηχηρή, ήχησε στη συνέχεια: Ο Τζέφρι Χίντον, κορυφαίος επιστήμονας γύρω από την ΤΝ, ανακοίνωσε την παραίτησή του από την Γκουγκλ, όπου ήταν στέλεχος, για να μπορεί να μιλά ελεύθερα για τους κινδύνους που απορρέουν από την ΤΝ. Είπε: «Μετανιώνω πλέον για τη δουλειά μου».

Ακολούθησε, πάντα μέσα στο 2023, μια ακόμη ηχηρή προειδοποίηση από ειδικούς στην ΤΝ, μεταξύ των οποίων αυτή τη φορά και ο επικεφαλής του ChatGPT Σαμ Άλτμαν. Αυτοί σημείωναν:

«Ο μετριασμός της απειλής αφανισμού μας από την ΤΝ θα πρέπει να αποτελεί παγκόσμια προτεραιότητα, μαζί με άλλους κινδύνους, όπως οι πανδημίες και ο πυρηνικός πόλεμος».

Ο Γιώργος Χατζηβασιλείου

Θα μπορέσει ο άνθρωπος να ελέγξει κάτι πιο ευφυές από τον ίδιο;

Το πρόβλημα, με απλά λόγια, τίθεται ως εξής, και έτσι ακριβώς το θέτει ο Γιώργος Χατζηβασιλείου: Θα μπορέσει ο άνθρωπος να ελέγξει κάτι πιο ευφυές από τον ίδιο; Με άλλα λόγια, μήπως, αν αφήσουμε την ΤΝ ανεξέλεγκτη, κι αυτό συμβαίνει τώρα, η ΤΝ θα αποκτήσει δυνατότητες αυτοαναπαραγωγής, αυτοβελτίωσης (κι αυτό, σε κάποιο επίπεδο συμβαίνει ήδη), έτσι ώστε η στιγμή που θα μας ξεπεράσει σε ευφυία και ικανότητες να είναι πολύ πιο κοντά απ’ όσο νομίζουμε; Και τι θα συμβεί τότε; Ποιοι θα είναι οι σκοποί αυτής της νέας μορφής Υπερευφυίας; Κι ακόμη χειρότερα: Θα είμαστε σε θέση να τους κατανοήσουμε;

Μα, θα αναρωτηθεί κανείς: Γίνεται να αφανιστεί η ανθρωπότητα από μερικά λογισμικά; Σε τελευταία ανάλυση, αν κάτι πάει στραβά, θα «τραβήξουμε την πρίζα». Αυτή η κάπως πρωτόγονη αντίληψη για το τι συμβαίνει σήμερα με την τεχνολογία και τα δίκτυα δεν μπορεί και δεν πρέπει να μας εφησυχάζει. Μπορεί κάποιος ή κάποιοι να «κατεβάσουν» το διαδίκτυο; Να το «κλείσουν»; Όχι, βέβαια. Πόσο μάλλον που δεν ζούμε σε έναν κόσμο όπου όλες οι δυνάμεις ομονοούν και συνεννοούνται: Αυτό που θα αποφάσιζε, παραδείγματος χάριν, η Ευρώπη για τον εαυτό της, δεν θα δέσμευε τις ΗΠΑ, τη Ρωσία, την Κίνα ή την Ινδία, πόσο μάλλον χώρες όπως η Βόρεια Κορέα ή άλλα κράτη-παρίες.

Η πρωτοφανής δυνατότητα της τεχνολογίας να αναπαράγει και να ανασχεδιάζει τον εαυτό της, από κάποια στιγμή και μετά με ταχύτητες αδιανόητες για τα ανθρώπινα μέτρα, είναι ο κίνδυνος που συμπυκνώνει όλους τους άλλους...

Η πρωτοφανής δυνατότητα της τεχνολογίας να αναπαράγει και να ανασχεδιάζει τον εαυτό της, από κάποια στιγμή και μετά με ταχύτητες αδιανόητες για τα ανθρώπινα μέτρα, είναι ο κίνδυνος που συμπυκνώνει όλους τους άλλους κινδύνους γύρω από την ΤΝ. Ήδη τα συστήματα που γράφουν μόνα τους τους αλγόριθμους με βάση τους οποίους λειτουργούν είναι πραγματικότητα.

Παρά τις προειδοποιήσεις στις οποίες αναφερθήκαμε: Μετά την εμφάνιση του ChatGPT, η ανάπτυξη νέων συστημάτων ΤΝ έχει πάρει τη μορφή φρενίτιδας, καθώς όλες οι μεγάλες εταιρείες, η Γκουγκλ, η Απλ, ο Έλον Μασκ και άλλοι, αλλά και ολόκληρα κράτη ανά τον κόσμο, έχουν μπει σε έναν αγώνα δρόμου και επικράτησης. Σε αυτόν τον αγώνα, ξεκάθαρο προβάδισμα έχουν οι εταιρείες εκείνες οι οποίες, συχνά σιωπηλά, χρόνια τώρα, σωρεύουν κάθε μορφή ανθρώπινης γνώσης (ανησύχησε κανείς όταν έγινε σαφές ότι η Γκουγκλ σκανάρει ολόκληρες βιβλιοθήκες;) μα και την τεράστια γνώση (big data) που έχει σωρευτεί την τελευταία 15ετία για τον καθένα από εμάς.

Δεν θα ήταν υπερβολή να πούμε ότι κανείς, ούτε ο ψυχαναλυτής μας, δεν μας ξέρει καλύτερα από εκείνους που συλλέγουν τις επιλογές μας, τις προτιμήσεις μας (ακόμη και τις πιο κρύφιες) και τις απόψεις μας για χίλια δύο θέματα, εδώ και χρόνια. Η Ευφυία που έχει πρόσβαση σε όλα αυτά και μαζί την τεχνολογική δομή και τον σχεδιασμό για να τα επεξεργαστεί και να παράξει κρίσεις βασισμένες σε αυτά, πάντα για «το καλό μας», βρίσκεται ήδη ανάμεσά μας. 

Απειλή στην αγορά εργασίας, στην ποιότητα της δημοκρατίας, στην ανθρώπινη φύση

Ο Γιώργος Χατζηβασιλείου, στο νηφάλιο και χαμηλών τόνων βιβλίο του, χωρίζει σε διαδοχικά «κύματα» τις αλλαγές που θα επιφέρει στο άμεσο μέλλον η ανάπτυξη της ΤΝ και οι εφαρμογές της. Μία από αυτές, η περισσότερο κατανοητή σε όλους μας, είναι οι ραγδαίες επιπτώσεις που θα έχει στην αγορά εργασίας. Αλλά κι εδώ, τα πράγματα είναι χειρότερα απ’ ό,τι συζητιέται, αφού σύμφωνα με μελέτες το 50% των επαγγελμάτων θα επηρεαστούν (και ορισμένα θα εξαφανιστούν) από την ΤΝ. Και νέα θα δημιουργηθούν, βεβαίως, αλλά σε απόλυτους αριθμούς οι θέσεις εργασίας που θα χαθούν θα είναι ασύγκριτα περισσότερες. Ήδη οι επιπτώσεις έγιναν ορατές σε επαγγέλματα όπως αυτά του μεταφραστή και του εικονογράφου. 

Τόσο η χρήση της ΤΝ για τον έλεγχο το πληθυσμού, όσο και η τεχνοκρατική χρήση της, να βλέπουμε δηλαδή την ΤΝ να παίρνει πολιτικές αποφάσεις που θα μας αφορούν, είναι δύο σημαντικές συνιστώσες που μπορούν να επιφέρουν μεγάλα πλήγματα στη Δημοκρατία.

Ένα ακόμη πιο επικίνδυνο «κύμα αλλαγών» αφορά τις επιπτώσεις της ΤΝ στην ποιότητα της Δημοκρατίας – τουλάχιστον στις χώρες της Δύσης όπου τέτοια ζητήματα ακόμη μας απασχολούν. Τόσο η χρήση της ΤΝ για τον έλεγχο το πληθυσμού (κάτι που ήδη συμβαίνει με πολλούς τρόπους στην Κίνα, για παράδειγμα), όσο και η τεχνοκρατική χρήση της, να βλέπουμε δηλαδή την ΤΝ να παίρνει πολιτικές αποφάσεις που θα μας αφορούν, είναι δύο σημαντικές συνιστώσες που μπορούν να επιφέρουν μεγάλα πλήγματα στη Δημοκρατία. Προσθέστε σε αυτά τα fake news και τα λεγόμενα deepfakes, δηλαδή εικόνες και βίντεο που δείχνουν αληθινά πρόσωπα να λένε ή να κάνουν ψεύτικα πράγματα. Πρόσφατα, ο Ντόναλντ Τραμπ χρησιμοποίησε τέτοιες εικόνες, φτιαγμένες από ΤΝ, που δείχνουν το ίδιο αγκαλιά με μαύρους και μαύρες γυναίκες, με σκοπό να επηρεάσει την κοινότητα των μαύρων ψηφοφόρων υπέρ του. Υπάρχουν ήδη αναλύσεις που λένε ότι ο Τραμπ ίσως κερδίσει τις προεδρικές εκλογές χάρη σε αυτές ακριβώς τις εικόνες, και άλλες παρόμοιες, που αμβλύνουν την εικόνα του ως ρατσιστή και υπέρμαχο της λευκής υπεροχής.

Και βέβαια, οι μεγάλες αλλαγές που έρχονται από τις ραγδαίες εξελίξεις στην τεχνολογία της Τεχνητής Νοημοσύνης δεν αφορούν μόνο τα παραπάνω. Μια από τις μεγαλύτερες προκλήσεις αφορά τη χρήση της γενετικής, με τη βοήθεια της ΤΝ, για βελτιώσεις και αλλαγές της ίδιας της ανθρώπινης φύσης. Και σε αυτό το πεδίο, τα νέα είναι μεν και αισιόδοξα, καθώς πολλές αρρώστιες προβλέπεται σύντομα να καταπολεμηθούν γενετικά, μα ταυτόχρονα πολύ ανησυχητικά: Με τις τεράστιες υπολογιστικές τους ικανότητες, τα νέα συστήματα ΤΝ έχουν ήδη αρχίσει και λύνουν προβλήματα που οι βιολόγοι θεωρούσαν μέχρι πρόσφατα σχεδόν αδύνατον να επιλυθούν. Οι γενετικές αναβαθμίσεις του ανθρώπινου είδους, με σκοπό αρχικά την καταπολέμηση ασθενειών, είναι πιο κοντά απ’ ό,τι φανταζόμαστε. Οι αναβαθμίσεις στην ευφυία ή σε άλλες δεξιότητες, λίγο μακρύτερα, αλλά στο ορατό μέλλον.

Πού πάει το πράγμα; Και το κυριότερο; Είναι κάποιος στο τιμόνι αυτού του τρελού σκάφους που λέγεται ανθρωπότητα στην εποχή της ΤΝ;

Τι πρέπει να κάνουμε / τι μπορούμε να κάνουμε

Ας επιστρέψουμε και πάλι στο βιβλίο. Στο ερώτημα, τι να κάνουμε, ο Χατζηβασιλείου σκιαγραφεί κάποιες σοβαρές απαντήσεις. Αυτές έχουν να κάνουν κυρίως με αλλαγές που πρέπει να γίνουν στην εκπαίδευση, τόσο με την ένταξη μαθημάτων φιλοσοφίας για παιδιά, μαθημάτων αναγνώρισης της παραπληροφόρησης (χώρες όπως η Φιλανδία είναι πολύ μπροστά σε αυτό), μαθημάτων για την ηθική χρήση και τον ηθικό προγραμματισμό της ΤΝ και άλλα.

Το σκάφος, για να χρησιμοποιήσω την ίδια μεταφορά, έχει απογειωθεί προς άγνωστη κατεύθυνση και στο πιλοτήριο είτε δεν βρίσκεται κανείς είτε βρίσκονται τόσοι πολλοί ταυτόχρονα ώστε το σκάφος να κινείται πρακτικά ακυβέρνητο.

Δεν υπάρχει αμφιβολία ότι μια δέσμη σωστών ενεργειών βρίσκεται σε αυτήν την κατεύθυνση. Το μεγάλο πρόβλημα όμως βρίσκεται στο «πιλοτήριο». Το σκάφος, για να χρησιμοποιήσω την ίδια μεταφορά, έχει απογειωθεί προς άγνωστη κατεύθυνση και στο πιλοτήριο είτε δεν βρίσκεται κανείς είτε βρίσκονται τόσοι πολλοί ταυτόχρονα ώστε το σκάφος να κινείται πρακτικά ακυβέρνητο.

Απ’ όσα κατάλαβα διαβάζοντας το κατατοπιστικό και πληρέστατο βιβλίο του Γιώργου Χατζηβασιλείου, η ταχύτητα των αλλαγών ίσως ξεπερνά πλέον την ικανότητά μας να τις κατανοήσουμε, πόσο μάλλον να τις ελέγξουμε. Η στιγμή που η ΤΝ θα καλύψει το κενό που αφήνει η ανθρωπότητα και θα αναλάβει το πιλοτήριο θα είναι ένα σημείο καμπής δίχως προηγούμενο στην ανθρώπινη ιστορία. Κάποιοι ονομάζουν αυτήν τη στιγμή singularity, μοναδικότητα, μια έννοια-δάνειο από την αστροφυσική, ένα σημείο έπειτα από το οποίο δεν γνωρίζουμε και δεν θα μπορούμε να γνωρίζουμε τι θα συμβαίνει.

Στρουθοκαμηλισμός

Η ΤΝ και το πού μας οδηγεί είναι πιστεύω, μαζί με την κλιματική κρίση, οι μοναδικές συζητήσεις που θα έπρεπε να κάνουμε αυτήν την εποχή, πιέζοντας τις κυβερνήσεις, που περί άλλα τυρβάζουν, να πάρουν άμεσα μέτρα. Αλλά ο ανθρώπινος ψυχισμός έχει τους δικούς του μηχανισμούς άμυνας, τη δική του οικονομία, και η πρώτη αντίδραση είναι ο στρουθοκαμηλισμός: Όταν οι μεγα-απειλές σωρεύονται, τότε και η προσοχή ενός κοινού με προβλήματα συγκέντρωσης, διασπάται. Οι πολιτικές δυνάμεις, από την άλλη, έχουν τις δικές τους προτεραιότητες (εκλογή, επανεκλογή), και δυσκολεύονται να παίρνουν αποφάσεις που ξεπερνούν τον ορίζοντα του επόμενου εκλογικού κύκλου.

Αποτέλεσμα: Οι προειδοποιήσεις των ειδικών, όπως ακριβώς έγινε και με την κλιμακτική κρίση, είτε υποτιμούνται είτε σχετικοποιούνται. Η πολιτική επέμβαση έρχεται αργά και είναι λιγότερο δραστική απ' ό,τι απαιτείται. 

Για να κλείσουμε με μια προτροπή για δράση και εγρήγορση, ας θυμηθούμε μια φράση του Αλμπέρ Καμύ (από το μακρινό 1957, έχοντας την πυρηνική απειλή κατά νου), την οποία μνημονεύει ο Χατζηβασιλείου στο βιβλίο του:

«Κάθε γενιά θεωρεί τον εαυτό της προορισμένο να ξαναφτιάξει τον κόσμο […]. Ίσως η ευθύνη της δική μας γενιάς να είναι να τον εμποδίσουμε από το να καταστραφεί».

* Ο Κ.Β. Κατσουλάρης είναι συγγραφέας και δημοσιογράφος. 

* Βιβλία σχετικά με την ΤΝ γράφονται κι εκδίδονται διαρκώς τα τελευταία δυο χρόνια, και όλο και κάποιο νέο κυκλοφορεί. Έχω ξεχωρίσει το Τεχνητή Νοημοσύνη – Μια διακριτική απομυθοποίηση (εκδ. Ροπή), από τον επιστήμονα του Δημόκριτου Γιώργο Γιαννακόπουλο, μια πολύ ψύχραιμη κι εκ των έσω ματιά στο ζήτημα, αλλά γραμμένο πριν από την εποχή της εμφάνισης του ChatGpt και των νεότερων εξελίξεων (μια πρώτη κουβέντα μου μαζί του μπορείτε να διαβάσετε εδώ). Πολύ ενδιαφέρον και πολύ to the point φαίνεται το βιβλίο που έχει επιμεληθεί η Λίλιαν Μήτρου, με τον τίτλο Μπορεί ο αλγόριθμος... να είναι ηθικός, να είναι διαφανής, να δικάζει και να διοικεί (ΠΕΚ). 

Εδώ μπορείτε να ακούσετε το σχετικό podcast στο pod.gr και από κάτω να δείτε ή να ακούσετε συζήτηση του υπογράφοντα με τον συγγραφέα