Μανώλης Ανδριωτάκης: «Αν τα ρομπότ αποκτήσουν ψυχή, τότε θα έχουμε αποκτήσει έναν πιο ευκρινή καθρέφτη της δικής μας ψυχής»

Ο Μανώλης Ανδριωτάκης έχει γράψει ένα τολμηρό «what if» για το πού μπορεί να φτάσει η δημιουργικότητα της Τεχνητής Νοημοσύνης και πού μπαίνουν τα όρια ανάμεσα στο ανθρώπινο και στο πέραν αυτού. Ένα μυθιστόρημα που επιζητά την προσοχή και τη συμμετοχή του αναγνώστη, καθώς η αφήγηση αναπτύσσεται πάνω στην κινούμενη άμμο του παράξενου και άγνωστου κόσμου που ανατέλει. 

Γιατί έγραψες αυτό το βιβλίο; Ξέρουμε όλοι ότι ασχολείσαι με την τεχνολογία και τις εφαρμογές της, πέρυσι μάλιστα κυκλοφόρησε κι ένα βιβλίο σου για την Τεχνητή Νοημοσύνη, για το ευρύ κοινό, αλλά γιατί ένα μυθιστόρημα;

Ξεκίνησα την εξερεύνηση του πεδίου της τεχνητής νοημοσύνης για να γράψω ένα μυθιστόρημα, αλλά στην πορεία κατάλαβα ότι είχα ανακαλύψει έναν τόπο που θα μπορούσε να γεννήσει πολύ περισσότερα βιβλία. Έγραψα σωρεία άρθρων, έκανα δεκάδες συνεντεύξεις, κυκλοφόρησα ενδιαμέσως δύο δοκίμια, και στο τέλος ήρθε και το μυθιστόρημα. Ήρθε ακριβώς τη στιγμή που η μηχανή ξεκίνησε να παράγει αξιοπρεπή λόγο. Νομίζω ότι η μυθοπλασία, με την ελευθερία της, μπορεί να ανιχνεύσει πτυχές της τεχνητής νοημοσύνης και της εικονικής πραγματικότητας που είναι απροσπέλαστες στην επιστημονική έρευνα. Οι τεχνολογίες αυτές προκαλούν το φαντασιακό μας με πρωτόγνωρους τρόπους, και δεν νομίζω ότι υπάρχει πιο κατάλληλη φόρμα απ’ το μυθιστόρημα για να αποτυπωθεί η περιπέτεια της γνωριμίας μ’ αυτούς τους νέους κόσμους. Η διατύπωση του ερωτήματος «τι θα γινόταν αν» είναι η κατεξοχήν περιοχή του μυθιστορήματος.

Ο τίτλος του βιβλίου σου, «δάνειο» από τον Ρολάν Μπαρτ και ένα περίφημο δοκίμιό του, του 1967, του οποίου ο τίτλος θα ήταν ακριβέστερα «Ο θάνατος του δημιουργού». Με ποιο τρόπο συνομιλεί το βιβλίο σου με αυτό το κείμενο αναφοράς;

Στο εμβληματικό του δοκίμιο ο Μπαρτ μιλά ουσιαστικά για την συμβολή του αναγνώστη στο κείμενο. Ο δημιουργός είναι καταδικασμένος, έτσι κι αλλιώς, σε θάνατο. Γεννά το έργο, και πεθαίνει. Με την τεχνητή νοημοσύνη, ο δημιουργός μπορεί να μειώσει ακόμα περισσότερο τη συμβολή του. Αρκεί ένα prompt, μια εντολή, και το έργο εμφανίζεται ως δια μαγείας. Ο αναγνώστης, επίσης, συρρικνώνεται, καθώς μπορεί να ζητήσει απ’ την τεχνητή νοημοσύνη να του προσφέρει μια σύνοψη του έργου. Με την τεχνητή νοημοσύνη και την εικονική πραγματικότητα μπαίνουμε σε αχαρτογράφητα νερά. Αν θα μπορούσε ο Μπαρτ να φανταστεί ότι τόσο ο δημιουργός όσο και ο αναγνώστης, ο θεατής, είναι τεχνητές νοημοσύνες, θα άλλαζε κι εκείνος την προοπτική του. Για ‘μένα, ο «θάνατος του συγγραφέα» σηματοδοτεί τη «γέννηση της μηχανής».

Σε μεγάλο βαθμό το μυθιστόρημά σου ακολουθεί αφηγηματικές τεχνικές των βίντεο γκέιμ. Κατά κάποιον τρόπο η αφήγηση είναι δομημένη σε πίστες. Συνειδητή επιλογή, προφανώς, αλλά πού αποσκοπείς;

Ο αρχικός μου στόχος ήταν να στοχαστώ πάνω στη συνάντηση της τεχνητής νοημοσύνης με την εικονική πραγματικότητα. Νομίζω ότι αυτό το πάντρεμα θα γεννήσει έναν καινούργιο κόσμο, στον οποίο οι σχεδιαστές παιχνιδιών θα έχουν ένα ανταγωνιστικό πλεονέκτημα. Οι πίστες και οι βρόχοι ανατροφοδότησης είναι η διαρκής υπενθύμιση της τεχνικής υποδομής αυτών των κόσμων. Βρισκόμαστε σ’ ένα κατασκευασμένο περιβάλλον, με τους δικούς του αφηγηματικούς κανόνες, κι υπηρετούμε τις εκδοχές που έχει φανταστεί ένας δημιουργός, εν προκειμένω μια τεχνητή νοημοσύνη.

Μια από τις φράσεις που μου έκαναν εντύπωση στο βιβλίο σου λέει: «Η εικόνα που χαρακτηρίζει τον πολιτισμό μας είναι η εικόνα δύο μηχανών που συνεννοούνται σε μια άγνωστη γλώσσα για ανθρώπινα ζητήματα». Όχι πολύ αισιόδοξη προοπτική, έτσι δεν είναι;

Σωστά. Εδώ θέλω να τονίσω πόσο επικίνδυνη μπορεί να γίνει η αδιαφάνεια της τεχνολογίας αυτής. Δικαίως μάς τρομάζει. Γι’ αυτό και πρέπει να επιμείνουμε μέχρι τέλους στο να είναι εξηγήσιμες και διαφανείς οι αποφάσεις που παίρνουν οι τεχνητές νοημοσύνες. Να μην αποδεχτούμε ένα «μαύρο κουτί» να ορίζει τις ζωές μας.

Από την άλλη, φαίνεται να πιστεύεις (και αυτό είναι εν μέρει και το θέμα σου, εδώ) ότι συστήματα ΤΝ είναι ή θα είναι σύντομα ικανά να γράψουν ένα μυθιστόρημα «σαν κι αυτό». Πραγματικά το πιστεύεις; Κι αν ναι, δεν σε ανησυχεί, τόσο ως δημιουργό όσο και ως άνθρωπο;

Ναι, το πιστεύω. Μπορεί να μην είναι ικανές αυτή τη στιγμή να το κάνουν, αλλά σε λίγα χρόνια θα μπορούν να κάνουν ακόμα πιο εντυπωσιακά πράγματα. Φυσικά και με ανησυχεί, αυτός ήταν κι ένας απ’ τους λόγους πίσω απ’ τη συγγραφή του βιβλίου. Αν μπορώ να έχω μέσα σε λίγα λεπτά ένα έργο, ακριβώς όπως το θέλω, γιατί να καθίσω να κουραστώ; Όμως εκεί ακριβώς είναι το όλο θέμα. Να συνεχίσω να κοπιάζω και να εξερευνώ, γιατί χωρίς κόπο δεν υπάρχει ουσιαστικό όφελος. Όσο εξελίσσονται οι μηχανές, τόσο θα αυξάνονται οι απαιτήσεις για τους ανθρώπους. Όπως δεν μπορεί η μηχανή να κάνει τη γυμναστική σου, έτσι δεν μπορεί να κάνει και την αλληλουχία σκέψεων που σε καθιστούν μοναδικό. Θα χρειαστεί να εξοικειωθούμε όλοι μ’ αυτά τα εργαλεία, κι αυτό το γεγονός θα μας αλλάξει. Αν αυτό σημαίνει ότι θα πρέπει να βελτιώσουμε τις σχέσεις μας με τις μηχανές, κάνοντας τους καλύτερες ερωτήσεις, έχει καλώς. Αν, απ’ την άλλη, αυτό σημαίνει ότι θα εξαρτόμαστε όλο και περισσότερο απ’ την τεχνητή νοημοσύνη για ουσιώδεις αποφάσεις μας, τότε θα έχουμε πρόβλημα, γιατί οι αλγόριθμοι μπορούν να χρησιμοποιηθούν εξαιρετικά στην χειραγώγηση. Είναι εξαιρετικοί ως τεχνολογίες της πειθούς, όπως μας έχουν δείξει τα σόσιαλ μίντια.

Ο Μανώλης Ανδριωτάκης γεννήθηκε στην Αθήνα το 1974. Σπούδασε σκηνοθεσία κινηματογράφου και δημοσιογραφεί επαγγελματικά από το 2001. Έχει γυρίσει πέντε ντοκιμαντέρ κι έχει δημοσιεύσει ακόμα έντεκα βιβλία. Το προηγούμενο βιβλίο του, Τεχνητή νοημοσύνη για όλους, κυκλοφορεί από τις εκδόσεις Ψυχογιός.

Κάποια στιγμή ο ήρώας σου (μια εκδοχή του κεντρικού ήρωα) παρακολουθεί την κηδεία του, την οποία την έχει τρόπον τινά σκηνοθετήσει. Εκεί ζητά να ακούγεται το μουσικό κομμάτι Sentimental walk του Vladimir Cosma, από την ταινία Diva. Γιατί αυτή η αναφορά σε αυτήν την ταινία; Είναι κάτι προσωπικό, ή κάτι άλλο σημασιοδοτεί;

Στην τρομοκρατική επίθεση στο Μπατακλάν, το 2015, χάσαμε έναν φίλο μας, τον Βανσάν Ντετόκ. Το μουσικό αυτό κομμάτι ακουγόταν στο κατευόδιό του, και θα μου θυμίζει πάντα την απώλειά του. Ήταν κάτι που με συγκλόνισε. Ένας νεότατος άνθρωπος, μικρότερός μου μάλιστα, βρέθηκε στο λάθος σημείο τη λάθος στιγμή. Η ζωή του θυσιάστηκε στο βωμό της ιδεοληψίας φανατικών εξτρεμιστών. Είναι κάτι που δεν σταμάτησε να με απασχολεί έκτοτε, και προσπαθώ να το διαπραγματευτώ σ’ αυτό το βιβλίο, προς το τέλος.

Και λίγο παρακάτω, λες για ένα ρομπότ (ανθρωποειδές) που έχει κληθεί να παίξει μουσική, αντί για πιανίστας: «Η αλήθεια είναι ότι το παίξιμό του είναι άριστο. Ο άτιμος έχει ψυχή». Αν τα ρομπότ αποκτήσουν ψυχή, τι θα μείνει στον άνθρωπο;

Δεν ξέρω τι είναι η ψυχή. Όταν μιλάμε για την ψυχή, συνήθως αναφερόμαστε σε κάτι αφηρημένο που υπογραμμίζει και φωτίζει τη μοναδικότητά μας. Θα μπορούσαμε να αποδώσουμε αυτή τη μοναδικότητα σ’ ένα εξελιγμένο ρομπότ; Νομίζω πως ναι. Πιθανότατα οι μηχανές να έχουν ήδη κάποιο είδος ψυχής. Πριν από δύο χρόνια ένας ερευνητής κλώτσησε μπροστά μου ένα ρομποτικό σκύλο για να μου δείξει πόσο ανθεκτικός είναι, και το πρώτο πράγμα που ένιωσα ήταν πόνος. «Τι κάνεις;» του είπα. Αν μπορούμε να νιώσουμε ενσυναίσθηση για ένα τόσο στοιχειώδες αντικείμενο, φανταστείτε τι θα συμβεί με τα ανθρωπομορφικά ρομπότ. Η συζήτηση είναι μεγάλη. Για να επανέλθω στο ερώτημά σου, αν τα ρομπότ αποκτήσουν ψυχή, τότε θα έχουμε αποκτήσει έναν ακόμα πιο ευκρινή καθρέφτη της δικής μας ψυχής. Εμείς είμαστε οι δημιουργοί τους. Κι αυτά με κάποιο τρόπο μάς εκλιπαρούν λέγοντάς μας: τι θα κάνετε μαζί μας; Θα τα μεγαλώσουμε για να γίνουν δολοφόνοι, ανάλγητοι, ψεύτες, ή υπεύθυνα και συμπονετικά όντα;

Η ανθρωπότητα μοιάζει να έχει χωριστεί σε δύο στρατόπεδα. Τους τεχνοαισιόδοξους και στους τεχνοαπαισιόδοξους. Πώς μπορεί να σταθεί κριτικά σήμερα ο ελεύθερα σκεπτόμενος άνθρωπος ανάμεσα σε αυτούς τους δύο πόλους; Και ποιος ο ρόλος της λογοτεχνίας σε αυτήν τη διαπραγμάτευση;

Θέλω να πιστεύω ότι η ανθρωπότητα δεν θα υποπέσει στο μεγάλο μοιραίο λάθος. Είναι παραπάνω από βέβαιο ότι θα υπάρξουν λάθη, ατυχήματα, και αρκετός πόνος. Όλες οι τεχνολογικές επαναστάσεις εμπεριέχουν πόνο. Σε κάποιες περιστάσεις μάλιστα είναι αναπόφευκτο να γίνει το κακό. Στο τέλος όμως κάτι μαθαίνουμε, κι επικρατεί η σύνεση. Συμφωνούμε σε πρωτόκολλα, φτιάχνουμε θεσμούς, τηρούμε διεθνείς συμφωνίες. Η λογοτεχνία έχει σπουδαίο ρόλο, γιατί μπορεί με έναν κομψότατο, και διόλου βίαιο τρόπο να μας υπενθυμίζει όχι μόνο τι μπορεί να πάει στραβά, αλλά και το αντίθετο. Μπορεί να μας δείξει το δρόμο του καλού, τις εξόδους κινδύνου, τις υπερβάσεις που πρέπει να κάνουμε. Στην εποχή της τεχνητής νοημοσύνης και της εικονικής πραγματικότητας η λογοτεχνία μπορεί να γίνει μια υπερδύναμη κατανόησης και μια εξαιρετική άσκηση στην ταπεινοφροσύνη. Την χρειαζόμαστε όσο ποτέ άλλοτε.

* Οι εικόνες είναι στιγμιότυπα από τη συζήτηση του Κ.Β. Κατσουλάρη και του Μανώλη Ανδριωτάκη στο πλαίσιο της σειράς ζωντανών συνομιλών Βίος και Πολιτεία. Μπορείτε να τη δείτε εδώ.