baladeur

Σκέψεις με αφορμή τα βιβλία «Άνθρωπος 4.0 – Για μια σοφή διαχείριση της 4ης βιομηχανικής επανάστασης» του Δημήτριου Λακασά (εκδ. Κλειδάριθμος) και «Συμβατή με τον άνθρωπο; – Η Τεχνητή Νοημοσύνη και το πρόβλημα του ελέγχου» του Stuart Russell (μτφρ. Νίκος Αποστολόπουλος, εκδ. Τραυλός).

Του Μύρωνα Ζαχαράκη

Στις 11 Μαΐου 1997, ο υπολογιστής της IBM Deep blue νίκησε τον παγκόσμιο πρωταθλητή στο σκάκι, Γκάρι Κασπάροφ, σηματοδοτώντας ένα κατόρθωμα πρωτοφανές στα χρονικά. Περίπου είκοσι χρόνια μετά, στις αρχές του 2018, ένα αυτόματο αυτοκίνητο της Uber στην Αριζόνα των Η.Π.Α. προκάλεσε τροχαίο δυστύχημα, σκοτώνοντας μια άτυχη γυναίκα ενώ εκείνη προσπαθούσε να διασχίσει τη διασταύρωση. Δίχως αμφιβολία, το ζήτημα της τεχνητής νοημοσύνης είναι εξαιρετικά επίκαιρο σήμερα, μαζί του όμως έρχεται μια πλειάδα προβληματισμών ηθικής φύσεως για τις νέες τεχνολογικές δυνατότητες και τον ρόλο που αυτές θα παίξουν στη ζωή μας. Με το παρόν βιβλίο του, που έχουμε στα ελληνικά χάρη στην υποδειγματική δουλειά των εκδόσεων Τραυλός, ο Στιούαρτ Ράσελ, ένας από τους πιο καταξιωμένους ερευνητές τεχνητής νοημοσύνης διεθνώς, εξηγεί στο μη εξειδικευμένο κοινό τις κεντρικές έννοιες της τεχνητής νοημοσύνης, τις προοπτικές της, καθώς και τους πιθανούς κινδύνους που αυτή εγκυμονεί. Παράλληλα, έχουμε και το επίσης ενδιαφέρον βιβλίο του επιχειρηματία Δημητρίου Λακασά, από τις εκδόσεις Κλειδάριθμος, που επικεντρώνεται στην τέταρτη βιομηχανική επανάσταση και τις συνέπειές της στον επιχειρηματικό κόσμο και όχι μόνο.

klidarithmos lakasas 4Οι προκλήσεις της 4ης βιομηχανικής επανάστασης

Αρχικά, σύμφωνα με τον Δημήτριο Λακασά, η ιστορία έχει γίνει μάρτυρας τεσσάρων βιομηχανικών επαναστάσεων ως τώρα. Κατά την πρώτη (1760-1840), παρατηρούμε την εμφάνιση της ατμομηχανής, καθώς και την εκμηχάνιση της κλωστοϋφαντουργίας. Στη δεύτερη βιομηχανική επανάσταση (1870-1930) έχουμε τον ηλεκτρισμό και τη μαζική παραγωγή αγαθών, στην τρίτη (1970-2020) έχουμε το διαδίκτυο και την αυτοματοποίηση, και τέλος, στην τέταρτη βιομηχανική επανάσταση (2020-..) κάνει την εμφάνισή της η τεχνητή νοημοσύνη, η ρομποτική και η εικονική πραγματικότητα. Παρατηρεί κανείς ότι μεταξύ των διαφορετικών «επαναστάσεων», υπάρχει ένα χρονικό κενό περίπου τριάντα ή σαράντα ετών (εξαίρεση αποτελεί η τέταρτη, η μετάβαση στην οποία φαίνεται πως υπήρξε άμεση). Μάλιστα, η καθεμιά συνδέεται χρονικά με γεγονότα που υπήρξαν καίριας ιστορικής σημασίας: η πρώτη επανάσταση έλαβε χώρα ανάμεσα στις πανδημίες της χολέρας και της πανούκλας, η δεύτερη στο λυκαυγές του Πρώτου Παγκοσμίου Πολέμου, η τρίτη στη λήξη του Δευτέρου, ενώ η τέταρτη συντελέσθηκε μετά την παγκόσμια οικονομική κρίση του 2008, καθώς και την πρόσφατη πανδημία του κορωνοϊού. Όπως εξηγεί ο Λακασάς, όπως κάθε δυσχερής κοινωνική κατάσταση φέρνει νέες προκλήσεις και δίνει την ευκαιρία για την προώθηση τεχνολογικών καινοτομιών, έτσι και τώρα, η πανδημία του κορωνοϊού εισάγει τον κόσμο μας με απρόσμενη ταχύτητα στην τέταρτη βιομηχανική επανάσταση (ψηφιοποίηση). Χαρακτηριστικό παράδειγμα ψηφιοποίησης, είναι η εκτεταμένη χρήση που έγινε στην πλατφόρμα zoom, στο πλαίσιο της κοινωνικής αποστασιοποίησης και των lockdowns, εισάγοντας για τα καλά στην καθημερινότητά μας όρους όπως “meeting” και “webinar”. Επιπλέον, κατά την πανδημία υπήρξε επίσης εκτεταμένος συντονισμός της βιομηχανίας με τα πανεπιστήμια και τις κυβερνήσεις, δηλαδή των τριών καίριων τομέων που αποτελούν μαζί τον «τριπλό έλικα της καινοτομίας».

viomichanikes epanastaseisΟυσιαστικά, η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας. Παράλληλα, κάθε επανάσταση προϋποθέτει και αποκαλύπτει έναν νέο «τύπο» ανθρώπου. Αρχικά ο homo sapiens, η πρώτη μορφή του σύγχρονου ανθρώπινου είδους, εμφανίστηκε πριν 200.000 χρόνια στην Αφρική και βασική ενασχόλησή του ήταν το κυνήγι. Ο Λακασάς τον ονομάζει «άνθρωπο 0.0». Το επόμενο στάδιο, ο «άνθρωπος 1.0», έρχεται στη νεολιθική επανάσταση, γνωστή επίσης και ως αγροτική επανάσταση, επειδή ακριβώς τότε (δηλ. πριν 10.000 χρόνια) έλαβε χώρα η εμφάνιση της γεωργίας. Ο άνθρωπος άρχισε να επεξεργάζεται τη γη, οργανώνοντας κοινωνίες και κάνοντας ικανοποιητική χρήση των διαθέσιμων πόρων. Κατόπιν, εμφανίστηκε ο «άνθρωπος 3.0» (1945-1990), στη ζωή του οποίου κύριο ρόλο έπαιζε η κατοχή κεφαλαίου και για πρώτη φορά προέκυψε το οργανωμένο κράτος πρόνοιας και μια σειρά τεχνολογικών επιτευγμάτων, από την έγχρωμη τηλεόραση ως το διαδίκτυο και την προσσελήνωση. Το ενδιαφέρον όμως εδώ είναι ότι ο συγγραφέας δε μεταβαίνει απευθείας στον άνθρωπο της τέταρτης βιομηχανικής επανάστασης, δηλαδή του σήμερα, αλλά εισάγει και ένα ενδιάμεσο στάδιο: πρόκειται για τον «άνθρωπο 3.5» (1990- σήμερα), ο οποίος συνειδητοποίησε πως δεν αρκεί το κεφάλαιο αλλά απαιτείται κάτι ακόμη: η γνώση. Σήμερα, η γνώση (κατοχή πληροφοριών και δεδομένων) έχει ίση, αν όχι μεγαλύτερη σημασία με την κατοχή κεφαλαίου.

Η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας.

Ωστόσο, σημειώνει, δεν προχωράει όλος ο κόσμος με την ίδια ταχύτητα: υπάρχουν χώρες που μόλις τώρα βιώνουν την τρίτη, τη δεύτερη, ενώ ακόμη και η πρώτη βιομηχανική επανάσταση παραμένει για ορισμένες χώρες (π.χ. Κονγκό) κάτι μακρινό. Η αφρικάνικη ήπειρος είναι ένα χαρακτηριστικό παράδειγμα του προβλήματος που καλείται να αντιμετωπίσει σήμερα η ανθρωπότητα: αν ο πόλεμος πλέον δε θα γίνεται για την ενέργεια, αλλά για πληροφορίες-δεδομένα, τότε εμφανίζεται μια νέα πηγή παγκόσμιων ανισοτήτων μεταξύ των κρατών. Τα κράτη που θα ελέγχουν τα δεδομένα θα είναι πρωταγωνίστριες, ενώ οι άλλες απλοί «κομπάρσοι» του σύγχρονου κόσμου. Ωστόσο, και εδώ είναι το μεγάλο πλεονέκτημα της τέταρτης βιομηχανικής επανάστασης, αν οι νέες τεχνολογίες αξιοποιηθούν με πρόθεση το καλό της ανθρωπότητας, οι διαφορές μεταξύ των κρατών ανά την υφήλιο μπορεί να μειωθούν σημαντικά. Καίριο ρόλο παίζει εδώ η έννοια της τεχνητής νοημοσύνης, που κατά τον Λακασά είναι μια από τις σημαντικότερες τεχνολογίες της τέταρτης βιομηχανικής επανάστασης και οι εφαρμογές της επεκτείνονται και πέραν του επιχειρηματικού τομέα. Με την τεχνητή νοημοσύνη, όμως, τίθεται και μια πλειάδα ηθικών διλημμάτων, τα οποία αποτελούν το κύριο θέμα του βιβλίου του Στιούαρτ Ράσελ. Ας δούμε πώς τα πραγματεύεται ο καθηγητής Ράσελ.

Τεχνητή νοημοσύνη: προς έναν νέο ορισμό

Αρχικά, υποστηρίζει, προκειμένου να κατανοήσουμε τι σημαίνει τεχνητή νοημοσύνη, πρέπει να κατανοήσουμε το τι σημαίνει «νοημοσύνη». Υπάρχει βέβαια το τεστ Turing, που έλαβε το όνομά του από τον γνωστό μαθηματικό που το επινόησε, κατά το οποίο μια ευφυής μηχανή προσπαθεί τάχα να παραπλανήσει έναν άνθρωπο, κάνοντάς τον να πιστεύει πως και εκείνη είναι άνθρωπος. Αυτό το τεστ είχε προταθεί, ως ένας τρόπος να φανεί αν μια μηχανή είναι νοήμων. Ο Russell υποστηρίζει πως προϋποθέτει έναν εντελώς λειτουργικό, περιορισμένο και ασαφή ορισμό της νοημοσύνης, που περιλαμβάνει τη βιολογία και τον πολιτισμό μαζί, επομένως είναι λογικό που οι βασικοί ερευνητές της τεχνητής νοημοσύνης (ΤΝ) δεν έχουν καταβάλει καμία προσπάθεια να το «ξεπεράσουν». Αντίθετα, εστιάζουν στην ορθολογική συμπεριφορά και στο ότι ένας ορθολογικός φορέας δράσης δρα έτσι ώστε να μεγιστοποιεί την αναμενόμενη χρησιμότητα. Ως «νοήμονα» λοιπόν ορίζουν οποιαδήποτε μηχανή έχει τη δυνατότητα να επιτύχει μέσω των πράξεών της έναν στόχο της, αξιοποιώντας οτιδήποτε έχει αντιληφθεί. Μια οντότητα που ικανοποιεί αυτή την προϋπόθεση, αξίζει να χαρακτηρίζεται νοήμων. Η ΤΝ καταπιάνεται με τις λεπτομέρειες της κατασκευής ορθολογικών μηχανών, δηλαδή μηχανών που να μεγιστοποιούν την αναμενόμενη χρησιμότητα.

Παρεμπιπτόντως, η νοημοσύνη δεν ισοδυναμεί κατά κανένα τρόπο με συνείδηση. Κανένας ερευνητής δεν εργάζεται με σκοπό να δημιουργήσει μηχανές με συνείδηση και τα δημοφιλή χολιγουντιανά σενάρια με κακόβουλες μηχανές που επιχειρούν να καταστρέψουν την ανθρωπότητα, αποτυγχάνουν να κατανοήσουν την ουσία: αυτό που μετράει δεν είναι η συνείδηση αλλά η ικανότητα, λέει χαρακτηριστικά ο Ράσελ. Αν και θεωρητικά θα μπορούσε να ήταν κάτι διαφορετικό (π.χ. χημικές αντιδράσεις ή βιολογικά κύτταρα), σήμερα ξέρουμε πως μια μηχανή ΤΝ δεν μπορεί παρά να είναι ηλεκτρονικός υπολογιστής. Γενικά, αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Ιστορικά, η έννοια της καθολικότητας εισήχθη για πρώτη φορά από τον Άλαν Τιούριγκ, σε ένα άρθρο του όπου περιέγραφε μαθηματικά μιαν υπολογιστική συσκευή η οποία θα μπορούσε να δεχθεί ως δεδομένο εισόδου την περιγραφή οποιασδήποτε άλλης και να παράγει τα ίδια δεδομένα εξόδου, προσομοιώνοντας τη λειτουργία της. Το θεωρητικό έργο του Τιούριγκ έγινε στα 1936 και οι πρώτες καθολικές υπολογιστικές μηχανές προέκυψαν στη δεκαετία του 1940. Το 1956 υπήρξε επίσημα το έτος γέννησης της τεχνητής νοημοσύνης, όταν οι νεαροί μαθηματικοί Τζον Μακάρθι και Μάρβιν Μίνσκι έπεισαν τον πληροφορικό Κλοντ Σάνον και τον Ναθάνιελ Ρότσεστερ (της IBM) να συνεργαστούν στην οργάνωση ενός θερινού προγράμματος μελετών στο κολέγιο Ντάρτμουθ. Ωστόσο, στα τέλη της δεκαετίας του 1960 και ύστερα από αρκετή μελέτη, οι ανακαλύψεις υπήρξαν μάλλον πενιχρές (κάτι που έμεινε γνωστό ως ο «χειμώνας ΤΝ»). Αυτή ήταν η πρώτη «φούσκα» της ΤΝ. Η δεύτερη ήρθε στα τέλη της δεκαετίας του 1980, όταν τα συγκεκριμένα συστήματα αποδείχθηκαν ανεπαρκή για τις διαδικασίες στις οποίες εφαρμόζονταν. Με λίγα λόγια, συνεχίζει ο Ράσελ, οι μηχανές δεν ήταν ακόμη αρκετά «έξυπνες».

Πάντως, η προαναφερθείσα περίοδος δεν απέβη εντελώς άκαρπη, διότι τότε τέθηκαν τα θεμέλια της «βαθιάς μάθησης». Οι υπολογιστές μόλις τη δεκαετία του 1940 εντάχθηκαν ως κλάδος στα τμήματα Μηχανικής των περισσότερων πανεπιστημίων, με αποτέλεσμα τη μεγάλη πρόοδο που συντελέστηκε σε έννοιες και μεθόδους, κατά την τελευταία εβδομηκονταετία. Η κατασκευή νοημόνων μηχανών εξαρτάται κυρίως από το πρόβλημα που επιθυμούμε να επιλύσουμε με τη χρήση τους. Με τη σειρά του, το πρόβλημα καθορίζεται από τρία δεδομένα: το περιβάλλον, τις δράσεις που συνδέουν τη μηχανή με αυτό, και τον εκάστοτε στόχο της μηχανής. Για την επίτευξή του, οι ερευνητές εφαρμόζουν την «ενισχυτική μάθηση», δηλαδή μια μάθηση μέσω ανταμοιβών από το εξωτερικό περιβάλλον, περίπου όπως ένα βρέφος μαθαίνει να περπατάει εν μέρει χάρη στις θετικές αντιδράσεις που δέχεται όταν καταφέρνει να κάνει ένα βήμα και στις αρνητικές όταν σκοντάφτει.

Ai photoΑναγκαία είναι σε αυτό το σημείο μια διευκρίνιση: υπάρχει η «εργαλειακή/περιορισμένη» (weak) ΤΝ, που απαιτεί συγκεκριμένες παρεμβάσεις από τον χειριστή της και χρησιμοποιείται για αναγνώριση χειρόγραφων ψηφίων ή παίξιμο του παιχνιδιού Γκο και σε άλλα, μικρά και θεωρητικώς ακίνδυνα, επιμέρους προβλήματα. Από την άλλη, υπάρχει και η «ισχυρή/γενικής χρήσεως» (strong) ΤΝ, τα συστήματα της οποίας θα μπορούν να επιλύουν προβλήματα χωρίς να απαιτούνται εξειδικευμένες παρεμβάσεις από τον χειριστή τους, αλλά και να κάνουν ευρύτερες δραστηριότητες, όπως διδασκαλία μοριακής βιολογίας ή κυβέρνηση ενός ολόκληρου κράτους. Αυτή η μορφή ΤΝ δεν υφίσταται ακόμη αλλά βρισκόμαστε ολοένα πιο κοντά στο να την επιτύχουμε και, παραδόξως, έχει γίνει σημαντική πρόοδος σε αυτό, ιδίως τη δεκαετία του 1990, μέσα από πολλές επιμέρους εφαρμογές της εργαλειακής ΤΝ (π.χ. στο Γκο).

Πόσα μπορεί λοιπόν να κάνει η ισχυρή ΤΝ; Σύμφωνα με τον Ράσελ, η ισχυρή ΤΝ δίνει την εντύπωση ότι τα πάντα είναι μια υπηρεσία. Συγκεκριμένα, τα μηχανήματά της εξ ορισμού θα μπορούν να έχουν πρόσβαση σε όλες τις γνώσεις και δεξιότητες της ανθρωπότητας και θα μπορούν, λόγω της γενικότητας που εξ ορισμού χαρακτηρίζει την ισχυρή ΤΝ, να μαγειρεύουν, να κατασκευάζουν γέφυρες, να βελτιώνουν τις σοδειές και να οργανώνουν τις εκλογικές διαδικασίες. Ωστόσο, η χρήση νοημόνων μηχανών εγκυμονεί και κάποια σοβαρά προβλήματα. Ας δούμε μερικά από αυτά. Όταν δίνουμε σε έναν άνθρωπο μιαν οδηγία (π.χ. «φέρε μου ένα φλιτζάνι καφέ»), προϋποθέτουμε πως εκείνος θα λάβει υπόψη του ορισμένους ευκόλως εννοούμενους παράγοντες (όπως π.χ. να μην πάει σε άλλη πόλη και γυρίσει μέρες αργότερα). Δυστυχώς δεν συμβαίνει το ίδιο με ένα ρομπότ το οποίο εφόσον έχει προγραμματιστεί να υπακούει σε σαφώς προκαθορισμένους στόχους (π.χ. όπως το «φέρε μου καφέ»). Το ρομπότ θα τους αντιλαμβάνεται κυριολεκτικά και χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Το ρομπότ αντιλαμβάνεται τις εντολές κυριολεκτικά χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Αν τελικά γίνει εκτεταμένη χρήση της ισχυρής ΤΝ, τα μηχανήματά της θα επιχειρούν την επίτευξη προκαθορισμένων στόχων με κάθε δυνατό μέσο, κάτι που μπορεί να σημαίνει ότι τελικά θα φτάσουν να μας εμποδίζουν να τα απενεργοποιήσουμε. Ο Τιούριγκ είχε προτείνει να μπορούμε ανά πάση στιγμή να απενεργοποιήσουμε τις μηχανές, αν αυτές μας δημιουργήσουν προβλήματα. Ο Ράσελ εξηγεί ότι αυτό ενδεχομένως θα καταστεί ανέφικτο: στα νοήμονα μηχανήματα η αυτοσυντήρηση θα ήταν ένας στόχος αναγκαίος για την επίτευξη όλων των άλλων («συντελεστικός» στόχος λέγεται), με αποτέλεσμα η μηχανή να τον θέτει χωρίς καν να έχει προγραμματιστεί για κάτι τέτοιο. Αυτό είναι ακόμη πιο πιθανό, αν η μηχανή έχει ξεπεράσει το ανθρώπινο επίπεδο νοημοσύνης (υπερνοημοσύνη). Πώς μπορούμε να αποφύγουμε αυτόν τον κίνδυνο;

Αρχικά, η άποψη ότι οι μηχανές πρέπει να έχουν έναν σαφώς καθορισμένο στόχο, πρέπει να εγκαταλειφθεί, για το καλό όλων μας. Κάτι τέτοιο όμως δεν είναι απλή διαδικασία, καθώς πρέπει να αντικαταστήσουμε πρώτα ορισμένα από τα θεμέλια της ΤΝ, δηλαδή τους βασικούς ορισμούς μας σε όσα επιθυμούμε να πετύχουμε. Πιο συγκεκριμένα, η προτεινόμενη λύση του Ράσελ αποτελείται από τρεις επιμέρους αρχές, που αναμένεται από τον ίδιο να λειτουργήσουν σε συνδυασμό: μόνος στόχος της μηχανής να είναι η πραγματοποίηση των ανθρώπινων προτιμήσεων, να υπάρχει σκόπιμα αβεβαιότητα της μηχανής σχετικά με το ποιες είναι αυτές τις προτιμήσεις, και τέλος, η απόλυτη πηγή ενημέρωσης για το ποιες είναι, να είναι η έμπρακτη ανθρώπινη συμπεριφορά. Σύμφωνα με τον Ράσελ, το βασικό πρόβλημα είναι στον ορισμό της ΤΝ: θεωρώντας πως μια μηχανή είναι νοήμων εφόσον είναι ικανή να αξιοποιεί τα μέσα για να πετύχει τους στόχους της, ξεχνάμε δυστυχώς ότι ενδέχεται οι «στόχοι» της να μην ταυτίζονται με τους δικούς μας.

travlos symvati me ton anthropoΓια να είναι αληθινά ωφέλιμες, οι μηχανές πρέπει να φτάνουν με τις πράξεις τους στους δικούς μας στόχους. Εδώ εμφανίζονται δύο προβλήματα, που είναι γνωστά ως το «πρόβλημα του γορίλα» και το «πρόβλημα του Μίδα» (εδώ μπορεί κανείς να παρακολουθήσει και την κατατοπιστική ομιλία του Ράσελ στο TED). Με το πρώτο πρόβλημα δηλώνεται ο κίνδυνος να ξεπεραστεί η ανθρώπινη νοημοσύνη από εκείνη μιας μηχανής, με αποτέλεσμα ο έλεγχος της τελευταίας να χαθεί, με αρνητικές συνέπειες για εμάς (όπως η εξέλιξη της δικής μας νοημοσύνης είχε τελικά αρνητικές συνέπειες για τους γορίλλες). Όπως είναι γνωστό, ο ανθρώπινος εγκέφαλος είναι το πολυπλοκότερο πράγμα στο σύμπαν. Αν κάποια στιγμή η υπερνοημοσύνη γίνει εφικτή, τότε θα υπάρχει κάτι πολυπλοκότερο από τον εγκέφαλό μας: η μηχανή. Πιο απλά, αν φτιάξουμε μηχανές με υπερανθρώπινη νοημοσύνη, σύντομα θα αδυνατούμε να τις ελέγξουμε. Το δεύτερο πρόβλημα, που παραπέμπει στον γνωστό βασιλιά από την αρχαιοελληνική μυθολογία, εμφανίζεται όταν κάποιος παίρνει ακριβώς εκείνο που εντέλλεται με αποτέλεσμα να καταλήγει όχι στην ευτυχία, όπως ανέμενε, αλλά στην αυτοκαταστροφή. Το γεγονός ότι μέχρι σήμερα οι νοήμονες μηχανές που έχουν κατασκευαστεί είναι όχι αρκετά «νοήμονες» και έχουν συγκεκριμένες και σαφώς περιορισμένες δυνατότητες, τις καθιστά προς το παρόν ακίνδυνες. Αυτό όμως δεν θα συμβαίνει για πάντα.

Πάντως, ο Ράσελ είναι αισιόδοξος ότι η πρότασή του είναι επιτεύξιμη: υπάρχουν οικονομικοί λόγοι αφενός και πλήθος δεδομένων αφετέρου (ενν. ανθρώπινες συμπεριφορές) που ευνοούν τη μάθηση των ανθρωπίνων προτιμήσεων από τα ρομπότ. Φυσικά, δεν απουσιάζουν και οι αντίθετοι σε όλα αυτά, που θεωρούν τους παραπάνω κινδύνους μακρινούς ή/και αβάσιμους, τονίζουν πως η έρευνα τεχνητής νοημοσύνης δεν πρέπει να σταματήσει και υποτιμούν ως τεχνοφοβικούς «λουδίτες» όσους προβληματίζονται σχετικά. Ο Ράσελ απαντάει ότι μέσα στους ανήσυχους, όσον αφορά τη χρήση της ΤΝ, ήταν και επιστήμονες όπως ο Στίβεν Χόκινγκ, ο Μίνσκι, o Βίνερ και σε τελική ανάλυση ο ίδιος ο Τιούρινγκ, όπως επίσης και οι γνωστοί επενδυτές σε συστήματα τεχνητής νοημοσύνης Μπιλ Γκέιτς και Ίλον Μασκ. Το ότι ένα πρόβλημα είναι (σχετικά) μακροπρόθεσμο δεν σημαίνει πως μπορούμε να επαναπαυόμαστε. Εξάλλου, η επιτυχής απαγόρευση των προγραμμάτων γαμετικής τροποποίησης στον άνθρωπο δεν οδήγησε σε παράνομες έρευνες ούτε και σε χώρες χωρίς κανονισμούς. Το να προειδοποιείς για πιθανούς κινδύνους, δεν σημαίνει αναγκαστικά ότι είσαι τεχνοφοβικός, λέει ο συγγραφέας. Πρόσφατες μελέτες δείχνουν ότι οι περισσότεροι ερευνητές αναμένουν την εμφάνιση μιας τεχνητής νοημοσύνης ανθρώπινου επιπέδου (ισχυρή ΤΝ) ή και ανώτερου (υπερνοημοσύνη), στα μέσα αυτού του αιώνα. Ο Ράσελ παρατείνει την προθεσμία στα επόμενα ογδόντα χρόνια. Βέβαια, επισημαίνει, υπάρχει μακρά ιστορία τέτοιων προβλέψεων που έχουν αποδειχθεί εσφαλμένες. Γεγονός είναι όμως ότι η υπερνοημοσύνη είναι εγγενώς απρόβλεπτη. Ο λόγος είναι ότι απαιτεί «εννοιολογικές επαναστάσεις». Πάντως, η βιομηχανία ΤΝ παραμένει σε γενικές γραμμές δίχως έλεγχο. Ο Ράσελ θεωρεί απαραίτητες ορισμένες ρυθμίσεις, αρχής γενομένης με την επέκταση της συμφωνίας της Βουδαπέστης στην ΤΝ. Σε κάθε περίπτωση, η τέταρτη βιομηχανική επανάσταση είναι γεγονός. Θα καταφέρει άραγε ο άνθρωπος να συντονιστεί μαζί της;

Απόσπασμα από το βιβλίο του Λακασά:

«Ο άνθρωπος ήταν, είναι και θα είναι ο απόλυτος πρωταγωνιστής σε κάθε εξέλιξη. Είναι εκείνος που έχει μερίδιο για τις απειλές προς το είδος του, όπως αντίστοιχα πιστώνεται και τις επιτυχίες […] Αν από τη μια πλευρά έχουμε τους Νεολουδίτες και από την άλλη τους Μετανθρωπιστές, τότε ο Άνθρωπος 4.0 είναι- και οφείλει να αποτελεί- διαχρονική αξία. Η σοφία ήταν ανέκαθεν η οδός της αριστείας και πάνω σε αυτήν πρέπει να πορευθεί ο Άνθρωπος 4.0» (σελ. 384-385).

Απόσπασμα από το βιβλίο του Ράσελ:

«Το καθιερωμένο μοντέλο που βρίσκεται πίσω από ένα μεγάλο μέρος των τεχνολογιών του εικοστού αιώνα στηρίζεται σε μηχανισμούς που βελτιστοποιούν έναν σταθερό, εξωγενώς παρεχόμενο στόχο. Όπως έχουμε δει, το μοντέλο αυτό είναι θεμελιωδώς εσφαλμένο. Λειτουργεί μόνο αν ο στόχος είναι εγγυημένα πλήρης και ορθός ή αν ο μηχανισμός μπορεί εύκολα να επαναρυθμιστεί. Καμία συνθήκη δεν θα ισχύει καθώς η Τεχνητή Νοημοσύνη θα γίνεται ολοένα και πιο ισχυρή. Η μηχανή δεν έχει νόημα να λειτουργεί με δεδομένο ότι πάντοτε ο παρεχόμενος στόχος είναι ο σωστός, καθώς ενδέχεται ενίοτε να είναι ο λάθος. Εξ ου και η πρότασή μου για τις ωφέλιμες μηχανές: με τις δράσεις τους αναμένεται να πετυχαίνουν τους δικούς μας στόχους. Επειδή αυτοί οι στόχοι είναι οι δικοί μας, και όχι οι δικοί τους, οι μηχανές- παρατηρώντας τις επιλογές που κάνουμε καθώς κι πώς τις κάνουμε- θα πρέπει να μάθουν περισσότερα για το τι πραγματικά θέλουμε. Οι μηχανές που είναι έτσι σχεδιασμένες θα συμμορφώνονται με τους ανθρώπους: θα ζητούν άδεια θα δουν προσεκτικά όταν δεν είναι ξεκάθαρη η καθοδήγηση και τέλος, θα επιτρέπουν την απενεργοποίησή τους» (σελ. 334).

* Ο ΜΥΡΩΝ ΖΑΧΑΡΑΚΗΣ είναι υποψήφιος διδάκτωρ Φιλοσοφίας.

Ακολουθήστε την boopress.gr στο Google News και διαβάστε πρώτοι τα θέματα που σας ενδιαφέρουν.


ΣΧΕΤΙΚΑ ΑΡΘΡΑ

«Μακιαβέλλι: Η τέχνη τού να διδάσκεις στους ανθρώπους τι πρέπει να φοβούνται» του Πατρίκ Μπουσρόν (κριτική)

«Μακιαβέλλι: Η τέχνη τού να διδάσκεις στους ανθρώπους τι πρέπει να φοβούνται» του Πατρίκ Μπουσρόν (κριτική)

Για το βιβλίο του Patrick Boucheron «Μακιαβέλλι: Η τέχνη τού να διδάσκεις στους ανθρώπους τι πρέπει να φοβούνται» (μτφρ. Μήνα Πατεράκη-Γαρέφη, εκδ. Πατάκη).

Του Γιώργου Σιακαντάρη

Γνωρίζουμε πραγματικά ποιος και τι ήταν ο Μακιαβέλλι...

«Ο καρπός της ασθενείας μου» του Νικήτα Σινιόσογλου (κριτική)

«Ο καρπός της ασθενείας μου» του Νικήτα Σινιόσογλου (κριτική)

Για το δοκίμιο του Νικήτα Σινιόσογλου «Ο καρπός της ασθενείας μου – Δοκίμιο με σάρκα και οστά» (εκδ. Κίχλη). Κεντρική εικόνα: Πίνακας, λάδι σε καμβά (2016) © Clive Head.

Της Ιωάννας Κυριακίδου

Ο Νικήτας Σινιόσογλου είναι ένας αλλόκοτος συγγρα...

«Ο δρόμος προς την ανελευθερία: Ρωσία, Ευρώπη, Αμερική» του Τίμοθι Σνάιντερ (κριτική)

«Ο δρόμος προς την ανελευθερία: Ρωσία, Ευρώπη, Αμερική» του Τίμοθι Σνάιντερ (κριτική)

Για το βιβλίο του Timothy Snyder «Ο δρόμος προς την ανελευθερία: Ρωσία, Ευρώπη, Αμερική» (μτφρ. Ανδρέας Παππάς, εκδ. Παπαδόπουλος. Βιβλίο «που κυκλοφόρησε το 2018 και που διαβάζεται σαν να γράφτηκε σήμερα».

Του Γιώργου Σιακαντάρη

Ο πολύγλωσσος και...

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Χάνα Κεντ: «Με γοήτευσε η ιδέα μιας αγάπης που ήταν πέρα από τον χρόνο»

Χάνα Κεντ: «Με γοήτευσε η ιδέα μιας αγάπης που ήταν πέρα από τον χρόνο»

Η Αυστραλή Χάνα Κέντ (Hannah Kent), συγγραφέας του εξαιρετικού «Έθιμα ταφής», μιλάει για το νέο της μυθιστόρημα με τίτλο «Λατρεία» (εκδ. Ίκαρος), το οποίο περιγράφει τη βαθιά αγάπη μεταξύ δυο νεαρών μεταναστριών τον 19ο αιώνα.

Επιμέλεια: Book Press

...
Τριάντα χρόνια Καφέ Φίλιον – Το μεγάλο χωνευτήρι της Αθήνας

Τριάντα χρόνια Καφέ Φίλιον – Το μεγάλο χωνευτήρι της Αθήνας

Το Καφέ Φίλιον, το στέκι πολιτικών, καλλιτεχνών, διανοούμενων, ηθοποιών, αλλά και κάθε λογής αθηναίων, κλείνει φέτος 30 χρόνια παρουσίας στην πόλη μας, και το γιορτάζει. Ακολουθεί το Δελτίο Τύπου που εξέδωσαν οι ιδιοκτήτριες του καφενείου ενόψει της επετείου, καθώς και απόσπασμα από το διήγημα του Κ.Β. Κατσουλάρη «Φ...

Σε μυθιστόρημα εμπνευσμένο από τον πατέρα του Νετανιάχου το Πούλιτζερ λογοτεχνίας για το 2021

Σε μυθιστόρημα εμπνευσμένο από τον πατέρα του Νετανιάχου το Πούλιτζερ λογοτεχνίας για το 2021

Ο συγγραφέας Τζόσουα Κοέν (Joshua Cohen) τιμήθηκε με το φετινό Βραβείο Pulitzer στην κατηγορία της μυθοπλασίας, για το μυθιστόρημά του με τίτλο «The Netanyahus», ένα σατιρικό μυθιστόρημα εμπνευσμένο από τη ζωή του πατέρα του πρώην Ισραηλινού πρωθυπουργού Μπενιαμίν Νετανιάχου. Δείτε επίσης τα υπόλοιπα βραβεία Pulitze...

ΠΡΟΔΗΜΟΣΙΕΥΣΕΙΣ

«Ονειρεύομαι πίνακες» του Σόλωνα Παπαγεωργίου (προδημοσίευση)

«Ονειρεύομαι πίνακες» του Σόλωνα Παπαγεωργίου (προδημοσίευση)

Προδημοσίευση αποσπάσματος από τη συλλογή διηγημάτων του Σόλωνα Παπαγεωργίου «Ονειρεύομαι πίνακες», η οποία θα κυκλοφορήσει τις επόμενες μέρες από τις εκδόσεις Στίξις.

Επιμέλεια: Κώστας Αγοραστός

Ονειρεύομαι πίνακες

...
«Ο ταχυδρόμος του Νερούδα» του Αντόνιο Σκάρμετα (προδημοσίευση)

«Ο ταχυδρόμος του Νερούδα» του Αντόνιο Σκάρμετα (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το μυθιστόρημα του Antonio Skármeta «Ο ταχυδρόμος του Νερούδα» (μτφρ. Αγγελική Βασιλάκου), το οποίο θα κυκλοφορήσει στις 11 Μαΐου από τις εκδόσεις Κλειδάριθμος.

Επιμέλεια: Κώστας Αγοραστός

Μεγαλωμένος ανάμε...

«Μια τελευταία επιστολή αγάπης» της Ελιάνας Χουρμουζιάδου (προδημοσίευση)

«Μια τελευταία επιστολή αγάπης» της Ελιάνας Χουρμουζιάδου (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το μυθιστόρημα της Ελιάνας Χουρμουζιάδου «Μια τελευταία επιστολή αγάπης», που θα κυκλοφορήσει στις 11 Μαΐου από τις εκδόσεις Πατάκη.

Επιμέλεια: Κώστας Αγοραστός

Θα σου πω τι θυμάμαι από τη συνέχεια. Περπατήσαμε αργά στην ...

ΠΡΟΤΑΣΕΙΣ

«Σταυροδρόμια», «Σάγκι Μπέιν», «Η υπόσχεση»: Τρία σπουδαία σύγχρονα μυθιστορήματα

«Σταυροδρόμια», «Σάγκι Μπέιν», «Η υπόσχεση»: Τρία σπουδαία σύγχρονα μυθιστορήματα

Το μυθιστόρημα, ακόμη και την τρίτη δεκαετία του 21ου αιώνα, παραμένει το μεγάλο χωνευτήρι της πεζογραφικής φόρμας, ένας αφηγηματικός κόσμος ευρύχωρος και δεκτικός, που έχει τη μοναδική δύναμη να κινεί μεγάλους όγκους αφηγηματικού υλικού και να τους κατανέμει ομαλά μέσα στη διάρκεια μίας ή και πολλών δεκαετιών. ...

Έξι αστυνομικά μυθιστορήματα και ένα δοκίμιο του Όργουελ

Έξι αστυνομικά μυθιστορήματα και ένα δοκίμιο του Όργουελ

Έξι προσφατα αστυνομικά μυθιστορήματα και ένα δοκίμιο του George Orwell. Κλασικό και σύγχρονο βρετανικό, σκανδιναβικό αλλά και μια αυτοέκδοση ελληνικού αστυνομικού μυθιστορήματος μεταξύ των προτάσεων. Κεντρική εικόνα: Εικονογράφηση του Λιθουανού © Karolis Strautniekas.

Της Χίλντας Παπαδημητρίου ...

Πόλεμος στην Ουκρανία: Οκτώ βιβλία για το «πώς φτάσαμε ως εδώ»

Πόλεμος στην Ουκρανία: Οκτώ βιβλία για το «πώς φτάσαμε ως εδώ»

Οκτώ βιβλία που μας βοηθούν να καταλάβουμε, ακόμη και σε καταστάσεις κρίσιμες και τραγικές όπως αυτές που ζούμε σήμερα, «Πώς φτάσαμε ως εδώ». Τα έξι είναι βιβλία ιστορίας, έρευνας και γεωπολιτικής και τα δύο είναι λογοτεχνικά έργα Ουκρανών συγγραφέων. Στην κεντρική εικόνα: Από διαδήλωση στο Βερολίνο την περασμένη Κυ...

ΠΡΟΘΗΚΕΣ

ΠΡΟΘΗΚΕΣ

Newsletter

Θέλω να λαμβάνω το newsletter σας
ΕΓΓΡΑΦΗ

ΣΥΓΓΡΑΦΕΙΣ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ ΤΗΣ ΧΡΟΝΙΑΣ

14 Σεπτεμβρίου 2021 ΤΕΛΕΥΤΑΙΑ ΝΕΑ

Τα βιβλία του χειμώνα: Τι θα διαβάσουμε τους μήνες που έρχονται (ανανεωμένο)

Επιλογές βιβλίων από τις προσεχείς εκδόσεις ελληνικής και μεταφρασμένης πεζογραφίας, ποίησης, βιογραφιών και δοκιμίων από 34 εκδοτικούς οίκους. Επιμέλεια: Κώστας Αγορα

ΦΑΚΕΛΟΙ