Για το βιβλίο του Μουσταφά Σουλεϊμάν [Mustafa Suleyman] «Το επερχόμενο κύμα – Τεχνητή νοημοσύνη, εξουσία και το σημαντικότερο δίλημμα του 21ου αιώνα» (μτφρ. Χρήστος Καψάλης, εκδ. Key Books), που έχει γραφτεί με τη συνεργασία του Mickael Bhaskar. Προσδοκίες, φόβοι και προτάγματα, από το επερχόμενο τσουνάμι του AI, από ένα κορυφαίο στέλεχος των μεγάλων τεχνολογικών εταιρειών.
Γράφει ο Διονύσης Μαρίνος
Για τους ντετερμινιστές της τεχνολογίας, η επέλαση της Τεχνητής Νοημοσύνης (διότι περί επέλασης πρόκειται) είναι κάτι για το οποίο η ανθρωπότητα θα πρέπει να επιχαίρει, δίχως να προβάλλει κινδυνολογικές προφάσεις. Για τους ακραιφνείς της δημοκρατικής θέσμισης των κοινωνιών και των δικαιωμάτων των πολιτών, έτσι όπως αυτά αναπτύχθηκαν εδώ και τουλάχιστον δύο αιώνες από τις ανθρωπιστικές επιστήμες, η Τεχνητή Νοημοσύνη είναι ο βασικός κίνδυνος που πρέπει να αναχαιτίσουμε. Πού στέκει, άραγε, ο ειδικός σε θέματα ΑΙ και συγγραφέας του βιβλίου Επερχόμενο κύμα, Μουσταφά Σουλεϊμάν, διευθύνων σύμβουλος της Microsoft AI σήμερα; Σίγουρα όχι στη μέση, καθώς η σολομώντεια λύση δεν είναι και η πλέον πρόσφορη.
Αν και τάσσεται αναφανδόν υπέρ της τεχνολογίας, ο Σουλεϊμάν γράφει εξαρχής πως δεν θεωρεί τον εαυτό του μια μορφή τεχνολογικού ντετερμινιστή.
Αυτό που κάνει το εμβριθές βιβλίο του είναι να καταδείξει τις θετικές και τις αρνητικές επιπτώσεις της νέας τεχνολογίας, αλλά και τους τρόπους που, πιθανότατα, θα καταφέρουν να «δυσκολέψουν» την καθολική επέκτασή της. Αν και τάσσεται αναφανδόν υπέρ της τεχνολογίας, ο Σουλεϊμάν γράφει εξαρχής πως δεν θεωρεί τον εαυτό του μια μορφή τεχνολογικού ντετερμινιστή. Θεωρεί πως η τεχνολογία αναδύεται για να καλύψει τις ανθρώπινες ανάγκες. Αν είναι χρήσιμη, τότε κάποια στιγμή θα επικρατήσει.
ΑΙ και συνθετική βιολογία
Το επερχόμενο κύμα της ΑΙ δεν είναι ένα ειδυλλιακό τοπίο μιας ήσυχης ανθρωποθάλασσας. Είναι κάτι σαν τσουνάμι που μπορεί, υπό συνθήκες, να καταπνίξει κάθε ανθρώπινη δραστηριότητα. Ο Μουσταφά βλέπει την ΑΙ σε συνδυασμό με τη συνθετική βιολογία. Θεωρεί πως η σύμπλευση αυτών των δύο θα δημιουργήσει κάτι συναρπαστικό και πρωτότυπο. Τόσο πολύ, δε, που θεωρεί πως σύντομα θα μιλάμε για τη νέα αυγή της ανθρωπότητας. Τα άμεσα αποτελέσματα αυτής της «συνεργασίας» θα είναι ο πλούτος και οι νέες βιολογικές δυνατότητες.
Όσο θα στηρίξουμε το καλύτερο μέλλον μας στις τεχνολογίες, άλλο τόσο θα το υπονομεύσουμε.
Υπάρχει, όμως, και η άλλη όψη των πραγμάτων, τις οποίες το βιβλίο εκθέτει με πάσα ειλικρίνεια: ναι, η ταχεία εξάπλωση των νέων τεχνολογιών είναι σε θέση να προκαλέσει αστάθεια, αναστάτωση, ακόμη και καταστροφή ασύλληπτης κλίμακας. Όσο θα στηρίξουμε το καλύτερο μέλλον μας στις τεχνολογίες, άλλο τόσο θα το υπονομεύσουμε.
Λύση και πρόβλημα
Ο Σουλεϊμάν δεν κρύβεται: ο συνδυασμός της ΑΙ με τη συνθετική βιολογία μπορεί να αποτρέψει κάποιες ασθένειες, να βρει τη λύση σε άλλες και γενικώς να αυξήσει το προσδόκιμο ζωής. Ναι, αλλά την ίδια στιγμή ενδέχεται να επιτραπεί σε κακόβουλους παράγοντες να επινοήσουν νέα παθογόνα. Με ποσοστό μεταδοτικότητας 4% (χαμηλότερο από την ανεμοβλογιά) και 50% ποσοστό θνησιμότητας (περίπου το ίδιο με τον Έμπολα), ένας ιός σχεδιασμένος από τις νέες τεχνολογίες θα μπορούσε να «προκαλέσει περισσότερους από ένα δισεκατομμύριο θανάτους μέσα σε λίγους μήνες».
Αρκούν, άραγε, οι ρυθμίσεις που ήδη προβάλλονται ως ανάχωμα στο επερχόμενο κύμα; Ο Σουλεϊμάν λέει «όχι». Δεν διστάζει, δε, να δώσει κάποιες απαντήσεις σε ερωτήματα που ακόμη οι κοινωνίες δεν θέτουν, ίσως διότι οι απαντήσεις είναι ακόμη νεφελώδεις.
Κατά τον Σουλεϊμάν, η τεχνολογία γιγαντώνεται εκθετικά, με αποτέλεσμα να μην είμαστε σε θέση να την αντέξουμε οικονομικά. Επομένως, στο μέλλον θα πρέπει να κάνουμε κάτι όλοι μαζί.
Κατά τον Σουλεϊμάν, η τεχνολογία γιγαντώνεται εκθετικά, με αποτέλεσμα να μην είμαστε σε θέση να την αντέξουμε οικονομικά. Επομένως, στο μέλλον θα πρέπει να κάνουμε κάτι όλοι μαζί. Κάνει λόγο, δηλαδή, για να μια κοινή ανθρώπινη και δημοκρατική δράση. Αυτό δεν σημαίνει, όμως, «ρύθμιση», καθώς ο συγγραφέας τη θεωρεί ως ένα συμβατικό όπλο που στις μέρες μας δεν μπορεί να λειτουργήσει επαρκώς. Μάλιστα, σημειώνει πως η ρύθμιση είναι το τελευταίο καταφύγιο ενός εξαντλημένου από ιδέες μυαλού.
Συγκράτηση
Αντίθετα, προτείνει τη «συγκράτηση». Ένας όρος που χρησιμοποιήθηκε την περίοδο του Ψυχρού Πολέμου για τη διατήρηση της σοβιετικής υπεροχής υπό έλεγχο στη μεταπολεμική εποχή. Στο πλαίσιο της τεχνολογίας, αυτό απαιτεί μακροπρόθεσμο, υπομονετικό, σταθερό και άγρυπνο περιορισμό των επεκτατικών τάσεών της.
Μοιάζει με ουτοπικό όνειρο αυτό που προτείνει ο Σουλεϊμάν, καθώς η ισορροπία δυνάμεων που προτείνει δεν πρέπει να θεωρείται αυτονόητη από όλους. Θα ήταν απόλυτα ευκταίο να υπάρχει συνεργασία μεταξύ όλων των διεθνών παραγόντων στη λογική της κοινής προσπάθειας και όχι του ανταγωνισμού, αλλά ποιος μπορεί να εγγυηθεί κάτι τέτοιο;
Η αλήθεια είναι, πάντως, ότι οι προτάσεις του Σουλεϊμάν είναι σαφώς πιο οργανωμένες, σε σχέση με την τρέχουσα ασυντόνιστη και εν πολλοίς άναρχη αντιμετώπιση της ΑΙ από τους επίσημους φορείς...
Η αλήθεια είναι, πάντως, ότι οι προτάσεις του Σουλεϊμάν είναι σαφώς πιο οργανωμένες, σε σχέση με την τρέχουσα ασυντόνιστη και εν πολλοίς άναρχη αντιμετώπιση της ΑΙ από τους επίσημους φορείς, οι οποίοι δείχνουν να τρέχουν για να μην τους καταπιεί το κύμα. Το μόνο σίγουρο είναι ο Homo Technologicus είναι μια πραγματικότητα που δεν γίνεται (και ίσως δεν πρέπει) να αναχαιτιστεί. Το ουσιώδες, όμως, είναι αυτή η νέα κατάσταση να μας οδηγήσει σε θετική εξέλιξη και όχι σε υποδούλωση.
Παρά αυτούς τους κινδύνους, ο Σουλεϊμάν αμφιβάλλει ότι οποιοδήποτε έθνος θα καταβάλει προσπάθεια να περιορίσει αυτές τις τεχνολογίες. Τα κράτη εξαρτώνται υπερβολικά από τα οικονομικά τους οφέλη. Αυτό είναι το βασικό δίλημμα: δεν έχουμε την πολυτέλεια να μην κατασκευάσουμε την ίδια την τεχνολογία που θα μπορούσε να προκαλέσει την εξαφάνισή μας. Ακούγεται παράδοξο; Εν πολλοίς, ναι.
Η ανθρώπινη δράση
Ο Σουλεϊμάν πιστεύει ότι η «έξυπνη» Τεχνητή Νοημοσύνη ενδέχεται να προκαλέσει όλεθρο ακριβώς επειδή θα αυξήσει κατά πολύ την ανθρώπινη δράση σε πολύ σύντομο χρονικό διάστημα.
Οι θεσμοί μας δεν είναι έτοιμοι για αυτή την επίθεση της τεχνολογίας
Είτε μέσω κυβερνοεπιθέσεων που θα δημιουργούνται από την τεχνητή νοημοσύνη είτε μέσω παθογόνων παραγόντων που θα παράγονται κατ' οίκον είτε από φόβο απώλειας θέσεων εργασίας λόγω τεχνολογικών αλλαγών ή παραπληροφόρησης που επιδεινώνει την πολιτική αστάθεια, οι θεσμοί μας δεν είναι έτοιμοι για αυτή την επίθεση της τεχνολογίας.
Ως εκ τούτου, πάλι η ανθρώπινη δράση (καλή ή κακή) είναι αυτή που θα ορίσει το μέτρο της επιτυχίας ή της καταστροφής. Από μόνη της η ΑΙ δεν θα μπορούσε να μας αφανίσει, εάν εμείς δεν αφεθούμε να μας συμβεί.
＊Ο ΔΙΟΝΥΣΗΣ ΜΑΡΙΝΟΣ είναι δημοσιογράφος και συγγραφέας.
Ποιος είναι ο συγγραφέας
Ο Mustafa Suleyman είναι διευθύνων σύμβουλος της Microsoft AI. Στο παρελθόν διετέλεσε διευθύνων σύμβουλος της Inflection AI, στην ίδρυση της οποίας είχε μετάσχει. Νωρίτερα, ήταν μεταξύ των ιδρυτών της DeepMind, μίας από τις πρωτοπόρους εταιρείες τεχνητής νοημοσύνης στον πλανήτη και, μετά από μία δεκαετία εκεί, εργάστηκε ως αντιπρόεδρος, αρμόδιος για τη διαχείριση προϊόντων τεχνητής νοημοσύνης και πολιτικής τεχνητής νοημοσύνης στην Google.
Φοιτητής ακόμη στην Οξφόρδη, ο Suleyman διέκοψε τις σπουδές του προκειμένου να συμμετάσχει στην ίδρυση μιας μη κερδοσκοπικής τηλεφωνικής υπηρεσίας ψυχολογικής υποστήριξης. Ζει στο Πάλο Άλτο, στην πολιτεία της Καλιφόρνιας.
