baladeur

Σκέψεις με αφορμή τα βιβλία «Άνθρωπος 4.0 – Για μια σοφή διαχείριση της 4ης βιομηχανικής επανάστασης» του Δημήτριου Λακασά (εκδ. Κλειδάριθμος) και «Συμβατή με τον άνθρωπο; – Η Τεχνητή Νοημοσύνη και το πρόβλημα του ελέγχου» του Stuart Russell (μτφρ. Νίκος Αποστολόπουλος, εκδ. Τραυλός).

Του Μύρωνα Ζαχαράκη

Στις 11 Μαΐου 1997, ο υπολογιστής της IBM Deep blue νίκησε τον παγκόσμιο πρωταθλητή στο σκάκι, Γκάρι Κασπάροφ, σηματοδοτώντας ένα κατόρθωμα πρωτοφανές στα χρονικά. Περίπου είκοσι χρόνια μετά, στις αρχές του 2018, ένα αυτόματο αυτοκίνητο της Uber στην Αριζόνα των Η.Π.Α. προκάλεσε τροχαίο δυστύχημα, σκοτώνοντας μια άτυχη γυναίκα ενώ εκείνη προσπαθούσε να διασχίσει τη διασταύρωση. Δίχως αμφιβολία, το ζήτημα της τεχνητής νοημοσύνης είναι εξαιρετικά επίκαιρο σήμερα, μαζί του όμως έρχεται μια πλειάδα προβληματισμών ηθικής φύσεως για τις νέες τεχνολογικές δυνατότητες και τον ρόλο που αυτές θα παίξουν στη ζωή μας. Με το παρόν βιβλίο του, που έχουμε στα ελληνικά χάρη στην υποδειγματική δουλειά των εκδόσεων Τραυλός, ο Στιούαρτ Ράσελ, ένας από τους πιο καταξιωμένους ερευνητές τεχνητής νοημοσύνης διεθνώς, εξηγεί στο μη εξειδικευμένο κοινό τις κεντρικές έννοιες της τεχνητής νοημοσύνης, τις προοπτικές της, καθώς και τους πιθανούς κινδύνους που αυτή εγκυμονεί. Παράλληλα, έχουμε και το επίσης ενδιαφέρον βιβλίο του επιχειρηματία Δημητρίου Λακασά, από τις εκδόσεις Κλειδάριθμος, που επικεντρώνεται στην τέταρτη βιομηχανική επανάσταση και τις συνέπειές της στον επιχειρηματικό κόσμο και όχι μόνο.

klidarithmos lakasas 4Οι προκλήσεις της 4ης βιομηχανικής επανάστασης

Αρχικά, σύμφωνα με τον Δημήτριο Λακασά, η ιστορία έχει γίνει μάρτυρας τεσσάρων βιομηχανικών επαναστάσεων ως τώρα. Κατά την πρώτη (1760-1840), παρατηρούμε την εμφάνιση της ατμομηχανής, καθώς και την εκμηχάνιση της κλωστοϋφαντουργίας. Στη δεύτερη βιομηχανική επανάσταση (1870-1930) έχουμε τον ηλεκτρισμό και τη μαζική παραγωγή αγαθών, στην τρίτη (1970-2020) έχουμε το διαδίκτυο και την αυτοματοποίηση, και τέλος, στην τέταρτη βιομηχανική επανάσταση (2020-..) κάνει την εμφάνισή της η τεχνητή νοημοσύνη, η ρομποτική και η εικονική πραγματικότητα. Παρατηρεί κανείς ότι μεταξύ των διαφορετικών «επαναστάσεων», υπάρχει ένα χρονικό κενό περίπου τριάντα ή σαράντα ετών (εξαίρεση αποτελεί η τέταρτη, η μετάβαση στην οποία φαίνεται πως υπήρξε άμεση). Μάλιστα, η καθεμιά συνδέεται χρονικά με γεγονότα που υπήρξαν καίριας ιστορικής σημασίας: η πρώτη επανάσταση έλαβε χώρα ανάμεσα στις πανδημίες της χολέρας και της πανούκλας, η δεύτερη στο λυκαυγές του Πρώτου Παγκοσμίου Πολέμου, η τρίτη στη λήξη του Δευτέρου, ενώ η τέταρτη συντελέσθηκε μετά την παγκόσμια οικονομική κρίση του 2008, καθώς και την πρόσφατη πανδημία του κορωνοϊού. Όπως εξηγεί ο Λακασάς, όπως κάθε δυσχερής κοινωνική κατάσταση φέρνει νέες προκλήσεις και δίνει την ευκαιρία για την προώθηση τεχνολογικών καινοτομιών, έτσι και τώρα, η πανδημία του κορωνοϊού εισάγει τον κόσμο μας με απρόσμενη ταχύτητα στην τέταρτη βιομηχανική επανάσταση (ψηφιοποίηση). Χαρακτηριστικό παράδειγμα ψηφιοποίησης, είναι η εκτεταμένη χρήση που έγινε στην πλατφόρμα zoom, στο πλαίσιο της κοινωνικής αποστασιοποίησης και των lockdowns, εισάγοντας για τα καλά στην καθημερινότητά μας όρους όπως “meeting” και “webinar”. Επιπλέον, κατά την πανδημία υπήρξε επίσης εκτεταμένος συντονισμός της βιομηχανίας με τα πανεπιστήμια και τις κυβερνήσεις, δηλαδή των τριών καίριων τομέων που αποτελούν μαζί τον «τριπλό έλικα της καινοτομίας».

viomichanikes epanastaseisΟυσιαστικά, η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας. Παράλληλα, κάθε επανάσταση προϋποθέτει και αποκαλύπτει έναν νέο «τύπο» ανθρώπου. Αρχικά ο homo sapiens, η πρώτη μορφή του σύγχρονου ανθρώπινου είδους, εμφανίστηκε πριν 200.000 χρόνια στην Αφρική και βασική ενασχόλησή του ήταν το κυνήγι. Ο Λακασάς τον ονομάζει «άνθρωπο 0.0». Το επόμενο στάδιο, ο «άνθρωπος 1.0», έρχεται στη νεολιθική επανάσταση, γνωστή επίσης και ως αγροτική επανάσταση, επειδή ακριβώς τότε (δηλ. πριν 10.000 χρόνια) έλαβε χώρα η εμφάνιση της γεωργίας. Ο άνθρωπος άρχισε να επεξεργάζεται τη γη, οργανώνοντας κοινωνίες και κάνοντας ικανοποιητική χρήση των διαθέσιμων πόρων. Κατόπιν, εμφανίστηκε ο «άνθρωπος 3.0» (1945-1990), στη ζωή του οποίου κύριο ρόλο έπαιζε η κατοχή κεφαλαίου και για πρώτη φορά προέκυψε το οργανωμένο κράτος πρόνοιας και μια σειρά τεχνολογικών επιτευγμάτων, από την έγχρωμη τηλεόραση ως το διαδίκτυο και την προσσελήνωση. Το ενδιαφέρον όμως εδώ είναι ότι ο συγγραφέας δε μεταβαίνει απευθείας στον άνθρωπο της τέταρτης βιομηχανικής επανάστασης, δηλαδή του σήμερα, αλλά εισάγει και ένα ενδιάμεσο στάδιο: πρόκειται για τον «άνθρωπο 3.5» (1990- σήμερα), ο οποίος συνειδητοποίησε πως δεν αρκεί το κεφάλαιο αλλά απαιτείται κάτι ακόμη: η γνώση. Σήμερα, η γνώση (κατοχή πληροφοριών και δεδομένων) έχει ίση, αν όχι μεγαλύτερη σημασία με την κατοχή κεφαλαίου.

Η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας.

Ωστόσο, σημειώνει, δεν προχωράει όλος ο κόσμος με την ίδια ταχύτητα: υπάρχουν χώρες που μόλις τώρα βιώνουν την τρίτη, τη δεύτερη, ενώ ακόμη και η πρώτη βιομηχανική επανάσταση παραμένει για ορισμένες χώρες (π.χ. Κονγκό) κάτι μακρινό. Η αφρικάνικη ήπειρος είναι ένα χαρακτηριστικό παράδειγμα του προβλήματος που καλείται να αντιμετωπίσει σήμερα η ανθρωπότητα: αν ο πόλεμος πλέον δε θα γίνεται για την ενέργεια, αλλά για πληροφορίες-δεδομένα, τότε εμφανίζεται μια νέα πηγή παγκόσμιων ανισοτήτων μεταξύ των κρατών. Τα κράτη που θα ελέγχουν τα δεδομένα θα είναι πρωταγωνίστριες, ενώ οι άλλες απλοί «κομπάρσοι» του σύγχρονου κόσμου. Ωστόσο, και εδώ είναι το μεγάλο πλεονέκτημα της τέταρτης βιομηχανικής επανάστασης, αν οι νέες τεχνολογίες αξιοποιηθούν με πρόθεση το καλό της ανθρωπότητας, οι διαφορές μεταξύ των κρατών ανά την υφήλιο μπορεί να μειωθούν σημαντικά. Καίριο ρόλο παίζει εδώ η έννοια της τεχνητής νοημοσύνης, που κατά τον Λακασά είναι μια από τις σημαντικότερες τεχνολογίες της τέταρτης βιομηχανικής επανάστασης και οι εφαρμογές της επεκτείνονται και πέραν του επιχειρηματικού τομέα. Με την τεχνητή νοημοσύνη, όμως, τίθεται και μια πλειάδα ηθικών διλημμάτων, τα οποία αποτελούν το κύριο θέμα του βιβλίου του Στιούαρτ Ράσελ. Ας δούμε πώς τα πραγματεύεται ο καθηγητής Ράσελ.

Τεχνητή νοημοσύνη: προς έναν νέο ορισμό

Αρχικά, υποστηρίζει, προκειμένου να κατανοήσουμε τι σημαίνει τεχνητή νοημοσύνη, πρέπει να κατανοήσουμε το τι σημαίνει «νοημοσύνη». Υπάρχει βέβαια το τεστ Turing, που έλαβε το όνομά του από τον γνωστό μαθηματικό που το επινόησε, κατά το οποίο μια ευφυής μηχανή προσπαθεί τάχα να παραπλανήσει έναν άνθρωπο, κάνοντάς τον να πιστεύει πως και εκείνη είναι άνθρωπος. Αυτό το τεστ είχε προταθεί, ως ένας τρόπος να φανεί αν μια μηχανή είναι νοήμων. Ο Russell υποστηρίζει πως προϋποθέτει έναν εντελώς λειτουργικό, περιορισμένο και ασαφή ορισμό της νοημοσύνης, που περιλαμβάνει τη βιολογία και τον πολιτισμό μαζί, επομένως είναι λογικό που οι βασικοί ερευνητές της τεχνητής νοημοσύνης (ΤΝ) δεν έχουν καταβάλει καμία προσπάθεια να το «ξεπεράσουν». Αντίθετα, εστιάζουν στην ορθολογική συμπεριφορά και στο ότι ένας ορθολογικός φορέας δράσης δρα έτσι ώστε να μεγιστοποιεί την αναμενόμενη χρησιμότητα. Ως «νοήμονα» λοιπόν ορίζουν οποιαδήποτε μηχανή έχει τη δυνατότητα να επιτύχει μέσω των πράξεών της έναν στόχο της, αξιοποιώντας οτιδήποτε έχει αντιληφθεί. Μια οντότητα που ικανοποιεί αυτή την προϋπόθεση, αξίζει να χαρακτηρίζεται νοήμων. Η ΤΝ καταπιάνεται με τις λεπτομέρειες της κατασκευής ορθολογικών μηχανών, δηλαδή μηχανών που να μεγιστοποιούν την αναμενόμενη χρησιμότητα.

Παρεμπιπτόντως, η νοημοσύνη δεν ισοδυναμεί κατά κανένα τρόπο με συνείδηση. Κανένας ερευνητής δεν εργάζεται με σκοπό να δημιουργήσει μηχανές με συνείδηση και τα δημοφιλή χολιγουντιανά σενάρια με κακόβουλες μηχανές που επιχειρούν να καταστρέψουν την ανθρωπότητα, αποτυγχάνουν να κατανοήσουν την ουσία: αυτό που μετράει δεν είναι η συνείδηση αλλά η ικανότητα, λέει χαρακτηριστικά ο Ράσελ. Αν και θεωρητικά θα μπορούσε να ήταν κάτι διαφορετικό (π.χ. χημικές αντιδράσεις ή βιολογικά κύτταρα), σήμερα ξέρουμε πως μια μηχανή ΤΝ δεν μπορεί παρά να είναι ηλεκτρονικός υπολογιστής. Γενικά, αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Ιστορικά, η έννοια της καθολικότητας εισήχθη για πρώτη φορά από τον Άλαν Τιούριγκ, σε ένα άρθρο του όπου περιέγραφε μαθηματικά μιαν υπολογιστική συσκευή η οποία θα μπορούσε να δεχθεί ως δεδομένο εισόδου την περιγραφή οποιασδήποτε άλλης και να παράγει τα ίδια δεδομένα εξόδου, προσομοιώνοντας τη λειτουργία της. Το θεωρητικό έργο του Τιούριγκ έγινε στα 1936 και οι πρώτες καθολικές υπολογιστικές μηχανές προέκυψαν στη δεκαετία του 1940. Το 1956 υπήρξε επίσημα το έτος γέννησης της τεχνητής νοημοσύνης, όταν οι νεαροί μαθηματικοί Τζον Μακάρθι και Μάρβιν Μίνσκι έπεισαν τον πληροφορικό Κλοντ Σάνον και τον Ναθάνιελ Ρότσεστερ (της IBM) να συνεργαστούν στην οργάνωση ενός θερινού προγράμματος μελετών στο κολέγιο Ντάρτμουθ. Ωστόσο, στα τέλη της δεκαετίας του 1960 και ύστερα από αρκετή μελέτη, οι ανακαλύψεις υπήρξαν μάλλον πενιχρές (κάτι που έμεινε γνωστό ως ο «χειμώνας ΤΝ»). Αυτή ήταν η πρώτη «φούσκα» της ΤΝ. Η δεύτερη ήρθε στα τέλη της δεκαετίας του 1980, όταν τα συγκεκριμένα συστήματα αποδείχθηκαν ανεπαρκή για τις διαδικασίες στις οποίες εφαρμόζονταν. Με λίγα λόγια, συνεχίζει ο Ράσελ, οι μηχανές δεν ήταν ακόμη αρκετά «έξυπνες».

Πάντως, η προαναφερθείσα περίοδος δεν απέβη εντελώς άκαρπη, διότι τότε τέθηκαν τα θεμέλια της «βαθιάς μάθησης». Οι υπολογιστές μόλις τη δεκαετία του 1940 εντάχθηκαν ως κλάδος στα τμήματα Μηχανικής των περισσότερων πανεπιστημίων, με αποτέλεσμα τη μεγάλη πρόοδο που συντελέστηκε σε έννοιες και μεθόδους, κατά την τελευταία εβδομηκονταετία. Η κατασκευή νοημόνων μηχανών εξαρτάται κυρίως από το πρόβλημα που επιθυμούμε να επιλύσουμε με τη χρήση τους. Με τη σειρά του, το πρόβλημα καθορίζεται από τρία δεδομένα: το περιβάλλον, τις δράσεις που συνδέουν τη μηχανή με αυτό, και τον εκάστοτε στόχο της μηχανής. Για την επίτευξή του, οι ερευνητές εφαρμόζουν την «ενισχυτική μάθηση», δηλαδή μια μάθηση μέσω ανταμοιβών από το εξωτερικό περιβάλλον, περίπου όπως ένα βρέφος μαθαίνει να περπατάει εν μέρει χάρη στις θετικές αντιδράσεις που δέχεται όταν καταφέρνει να κάνει ένα βήμα και στις αρνητικές όταν σκοντάφτει.

Ai photoΑναγκαία είναι σε αυτό το σημείο μια διευκρίνιση: υπάρχει η «εργαλειακή/περιορισμένη» (weak) ΤΝ, που απαιτεί συγκεκριμένες παρεμβάσεις από τον χειριστή της και χρησιμοποιείται για αναγνώριση χειρόγραφων ψηφίων ή παίξιμο του παιχνιδιού Γκο και σε άλλα, μικρά και θεωρητικώς ακίνδυνα, επιμέρους προβλήματα. Από την άλλη, υπάρχει και η «ισχυρή/γενικής χρήσεως» (strong) ΤΝ, τα συστήματα της οποίας θα μπορούν να επιλύουν προβλήματα χωρίς να απαιτούνται εξειδικευμένες παρεμβάσεις από τον χειριστή τους, αλλά και να κάνουν ευρύτερες δραστηριότητες, όπως διδασκαλία μοριακής βιολογίας ή κυβέρνηση ενός ολόκληρου κράτους. Αυτή η μορφή ΤΝ δεν υφίσταται ακόμη αλλά βρισκόμαστε ολοένα πιο κοντά στο να την επιτύχουμε και, παραδόξως, έχει γίνει σημαντική πρόοδος σε αυτό, ιδίως τη δεκαετία του 1990, μέσα από πολλές επιμέρους εφαρμογές της εργαλειακής ΤΝ (π.χ. στο Γκο).

Πόσα μπορεί λοιπόν να κάνει η ισχυρή ΤΝ; Σύμφωνα με τον Ράσελ, η ισχυρή ΤΝ δίνει την εντύπωση ότι τα πάντα είναι μια υπηρεσία. Συγκεκριμένα, τα μηχανήματά της εξ ορισμού θα μπορούν να έχουν πρόσβαση σε όλες τις γνώσεις και δεξιότητες της ανθρωπότητας και θα μπορούν, λόγω της γενικότητας που εξ ορισμού χαρακτηρίζει την ισχυρή ΤΝ, να μαγειρεύουν, να κατασκευάζουν γέφυρες, να βελτιώνουν τις σοδειές και να οργανώνουν τις εκλογικές διαδικασίες. Ωστόσο, η χρήση νοημόνων μηχανών εγκυμονεί και κάποια σοβαρά προβλήματα. Ας δούμε μερικά από αυτά. Όταν δίνουμε σε έναν άνθρωπο μιαν οδηγία (π.χ. «φέρε μου ένα φλιτζάνι καφέ»), προϋποθέτουμε πως εκείνος θα λάβει υπόψη του ορισμένους ευκόλως εννοούμενους παράγοντες (όπως π.χ. να μην πάει σε άλλη πόλη και γυρίσει μέρες αργότερα). Δυστυχώς δεν συμβαίνει το ίδιο με ένα ρομπότ το οποίο εφόσον έχει προγραμματιστεί να υπακούει σε σαφώς προκαθορισμένους στόχους (π.χ. όπως το «φέρε μου καφέ»). Το ρομπότ θα τους αντιλαμβάνεται κυριολεκτικά και χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Το ρομπότ αντιλαμβάνεται τις εντολές κυριολεκτικά χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Αν τελικά γίνει εκτεταμένη χρήση της ισχυρής ΤΝ, τα μηχανήματά της θα επιχειρούν την επίτευξη προκαθορισμένων στόχων με κάθε δυνατό μέσο, κάτι που μπορεί να σημαίνει ότι τελικά θα φτάσουν να μας εμποδίζουν να τα απενεργοποιήσουμε. Ο Τιούριγκ είχε προτείνει να μπορούμε ανά πάση στιγμή να απενεργοποιήσουμε τις μηχανές, αν αυτές μας δημιουργήσουν προβλήματα. Ο Ράσελ εξηγεί ότι αυτό ενδεχομένως θα καταστεί ανέφικτο: στα νοήμονα μηχανήματα η αυτοσυντήρηση θα ήταν ένας στόχος αναγκαίος για την επίτευξη όλων των άλλων («συντελεστικός» στόχος λέγεται), με αποτέλεσμα η μηχανή να τον θέτει χωρίς καν να έχει προγραμματιστεί για κάτι τέτοιο. Αυτό είναι ακόμη πιο πιθανό, αν η μηχανή έχει ξεπεράσει το ανθρώπινο επίπεδο νοημοσύνης (υπερνοημοσύνη). Πώς μπορούμε να αποφύγουμε αυτόν τον κίνδυνο;

Αρχικά, η άποψη ότι οι μηχανές πρέπει να έχουν έναν σαφώς καθορισμένο στόχο, πρέπει να εγκαταλειφθεί, για το καλό όλων μας. Κάτι τέτοιο όμως δεν είναι απλή διαδικασία, καθώς πρέπει να αντικαταστήσουμε πρώτα ορισμένα από τα θεμέλια της ΤΝ, δηλαδή τους βασικούς ορισμούς μας σε όσα επιθυμούμε να πετύχουμε. Πιο συγκεκριμένα, η προτεινόμενη λύση του Ράσελ αποτελείται από τρεις επιμέρους αρχές, που αναμένεται από τον ίδιο να λειτουργήσουν σε συνδυασμό: μόνος στόχος της μηχανής να είναι η πραγματοποίηση των ανθρώπινων προτιμήσεων, να υπάρχει σκόπιμα αβεβαιότητα της μηχανής σχετικά με το ποιες είναι αυτές τις προτιμήσεις, και τέλος, η απόλυτη πηγή ενημέρωσης για το ποιες είναι, να είναι η έμπρακτη ανθρώπινη συμπεριφορά. Σύμφωνα με τον Ράσελ, το βασικό πρόβλημα είναι στον ορισμό της ΤΝ: θεωρώντας πως μια μηχανή είναι νοήμων εφόσον είναι ικανή να αξιοποιεί τα μέσα για να πετύχει τους στόχους της, ξεχνάμε δυστυχώς ότι ενδέχεται οι «στόχοι» της να μην ταυτίζονται με τους δικούς μας.

travlos symvati me ton anthropoΓια να είναι αληθινά ωφέλιμες, οι μηχανές πρέπει να φτάνουν με τις πράξεις τους στους δικούς μας στόχους. Εδώ εμφανίζονται δύο προβλήματα, που είναι γνωστά ως το «πρόβλημα του γορίλα» και το «πρόβλημα του Μίδα» (εδώ μπορεί κανείς να παρακολουθήσει και την κατατοπιστική ομιλία του Ράσελ στο TED). Με το πρώτο πρόβλημα δηλώνεται ο κίνδυνος να ξεπεραστεί η ανθρώπινη νοημοσύνη από εκείνη μιας μηχανής, με αποτέλεσμα ο έλεγχος της τελευταίας να χαθεί, με αρνητικές συνέπειες για εμάς (όπως η εξέλιξη της δικής μας νοημοσύνης είχε τελικά αρνητικές συνέπειες για τους γορίλλες). Όπως είναι γνωστό, ο ανθρώπινος εγκέφαλος είναι το πολυπλοκότερο πράγμα στο σύμπαν. Αν κάποια στιγμή η υπερνοημοσύνη γίνει εφικτή, τότε θα υπάρχει κάτι πολυπλοκότερο από τον εγκέφαλό μας: η μηχανή. Πιο απλά, αν φτιάξουμε μηχανές με υπερανθρώπινη νοημοσύνη, σύντομα θα αδυνατούμε να τις ελέγξουμε. Το δεύτερο πρόβλημα, που παραπέμπει στον γνωστό βασιλιά από την αρχαιοελληνική μυθολογία, εμφανίζεται όταν κάποιος παίρνει ακριβώς εκείνο που εντέλλεται με αποτέλεσμα να καταλήγει όχι στην ευτυχία, όπως ανέμενε, αλλά στην αυτοκαταστροφή. Το γεγονός ότι μέχρι σήμερα οι νοήμονες μηχανές που έχουν κατασκευαστεί είναι όχι αρκετά «νοήμονες» και έχουν συγκεκριμένες και σαφώς περιορισμένες δυνατότητες, τις καθιστά προς το παρόν ακίνδυνες. Αυτό όμως δεν θα συμβαίνει για πάντα.

Πάντως, ο Ράσελ είναι αισιόδοξος ότι η πρότασή του είναι επιτεύξιμη: υπάρχουν οικονομικοί λόγοι αφενός και πλήθος δεδομένων αφετέρου (ενν. ανθρώπινες συμπεριφορές) που ευνοούν τη μάθηση των ανθρωπίνων προτιμήσεων από τα ρομπότ. Φυσικά, δεν απουσιάζουν και οι αντίθετοι σε όλα αυτά, που θεωρούν τους παραπάνω κινδύνους μακρινούς ή/και αβάσιμους, τονίζουν πως η έρευνα τεχνητής νοημοσύνης δεν πρέπει να σταματήσει και υποτιμούν ως τεχνοφοβικούς «λουδίτες» όσους προβληματίζονται σχετικά. Ο Ράσελ απαντάει ότι μέσα στους ανήσυχους, όσον αφορά τη χρήση της ΤΝ, ήταν και επιστήμονες όπως ο Στίβεν Χόκινγκ, ο Μίνσκι, o Βίνερ και σε τελική ανάλυση ο ίδιος ο Τιούρινγκ, όπως επίσης και οι γνωστοί επενδυτές σε συστήματα τεχνητής νοημοσύνης Μπιλ Γκέιτς και Ίλον Μασκ. Το ότι ένα πρόβλημα είναι (σχετικά) μακροπρόθεσμο δεν σημαίνει πως μπορούμε να επαναπαυόμαστε. Εξάλλου, η επιτυχής απαγόρευση των προγραμμάτων γαμετικής τροποποίησης στον άνθρωπο δεν οδήγησε σε παράνομες έρευνες ούτε και σε χώρες χωρίς κανονισμούς. Το να προειδοποιείς για πιθανούς κινδύνους, δεν σημαίνει αναγκαστικά ότι είσαι τεχνοφοβικός, λέει ο συγγραφέας. Πρόσφατες μελέτες δείχνουν ότι οι περισσότεροι ερευνητές αναμένουν την εμφάνιση μιας τεχνητής νοημοσύνης ανθρώπινου επιπέδου (ισχυρή ΤΝ) ή και ανώτερου (υπερνοημοσύνη), στα μέσα αυτού του αιώνα. Ο Ράσελ παρατείνει την προθεσμία στα επόμενα ογδόντα χρόνια. Βέβαια, επισημαίνει, υπάρχει μακρά ιστορία τέτοιων προβλέψεων που έχουν αποδειχθεί εσφαλμένες. Γεγονός είναι όμως ότι η υπερνοημοσύνη είναι εγγενώς απρόβλεπτη. Ο λόγος είναι ότι απαιτεί «εννοιολογικές επαναστάσεις». Πάντως, η βιομηχανία ΤΝ παραμένει σε γενικές γραμμές δίχως έλεγχο. Ο Ράσελ θεωρεί απαραίτητες ορισμένες ρυθμίσεις, αρχής γενομένης με την επέκταση της συμφωνίας της Βουδαπέστης στην ΤΝ. Σε κάθε περίπτωση, η τέταρτη βιομηχανική επανάσταση είναι γεγονός. Θα καταφέρει άραγε ο άνθρωπος να συντονιστεί μαζί της;

Απόσπασμα από το βιβλίο του Λακασά:

«Ο άνθρωπος ήταν, είναι και θα είναι ο απόλυτος πρωταγωνιστής σε κάθε εξέλιξη. Είναι εκείνος που έχει μερίδιο για τις απειλές προς το είδος του, όπως αντίστοιχα πιστώνεται και τις επιτυχίες […] Αν από τη μια πλευρά έχουμε τους Νεολουδίτες και από την άλλη τους Μετανθρωπιστές, τότε ο Άνθρωπος 4.0 είναι- και οφείλει να αποτελεί- διαχρονική αξία. Η σοφία ήταν ανέκαθεν η οδός της αριστείας και πάνω σε αυτήν πρέπει να πορευθεί ο Άνθρωπος 4.0» (σελ. 384-385).

Απόσπασμα από το βιβλίο του Ράσελ:

«Το καθιερωμένο μοντέλο που βρίσκεται πίσω από ένα μεγάλο μέρος των τεχνολογιών του εικοστού αιώνα στηρίζεται σε μηχανισμούς που βελτιστοποιούν έναν σταθερό, εξωγενώς παρεχόμενο στόχο. Όπως έχουμε δει, το μοντέλο αυτό είναι θεμελιωδώς εσφαλμένο. Λειτουργεί μόνο αν ο στόχος είναι εγγυημένα πλήρης και ορθός ή αν ο μηχανισμός μπορεί εύκολα να επαναρυθμιστεί. Καμία συνθήκη δεν θα ισχύει καθώς η Τεχνητή Νοημοσύνη θα γίνεται ολοένα και πιο ισχυρή. Η μηχανή δεν έχει νόημα να λειτουργεί με δεδομένο ότι πάντοτε ο παρεχόμενος στόχος είναι ο σωστός, καθώς ενδέχεται ενίοτε να είναι ο λάθος. Εξ ου και η πρότασή μου για τις ωφέλιμες μηχανές: με τις δράσεις τους αναμένεται να πετυχαίνουν τους δικούς μας στόχους. Επειδή αυτοί οι στόχοι είναι οι δικοί μας, και όχι οι δικοί τους, οι μηχανές- παρατηρώντας τις επιλογές που κάνουμε καθώς κι πώς τις κάνουμε- θα πρέπει να μάθουν περισσότερα για το τι πραγματικά θέλουμε. Οι μηχανές που είναι έτσι σχεδιασμένες θα συμμορφώνονται με τους ανθρώπους: θα ζητούν άδεια θα δουν προσεκτικά όταν δεν είναι ξεκάθαρη η καθοδήγηση και τέλος, θα επιτρέπουν την απενεργοποίησή τους» (σελ. 334).

* Ο ΜΥΡΩΝ ΖΑΧΑΡΑΚΗΣ είναι υποψήφιος διδάκτωρ Φιλοσοφίας.

Ακολουθήστε την bookpress.gr στο Google News και διαβάστε πρώτοι τα θέματα που σας ενδιαφέρουν.


ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Ορθόδοξη θεολογία, ψυχοθεραπεία και βιοηθική – Δύο βιβλία, δύο χριστιανικές θεωρήσεις

Ορθόδοξη θεολογία, ψυχοθεραπεία και βιοηθική – Δύο βιβλία, δύο χριστιανικές θεωρήσεις

Για τα βιβλία «Η θεραπεία της ψυχής – Πατέρες και ψυχολόγοι σε διάλογο», του Αλέξιου Ιερομόναχου Καρακαλλινού, και «Τα θεμέλια της βιοηθικής – Μια χριστιανική θεώρηση» (μτφρ. Πολυξένη Τσαλίκη-Κιοσόγλου), του Τρίσταμ Χ. Ένγκελχαρτ (Tristam H. Engelhardt Jr), που κυκλοφορούν από τις εκδόσεις Αρμός.

Γ...

«Η ιστορία της αθεΐας» του Ζορζ Μινουά (κριτική) – Μια περιδιάβαση στις περιπέτειες του αθεϊσμού στον Δυτικό κόσμο

«Η ιστορία της αθεΐας» του Ζορζ Μινουά (κριτική) – Μια περιδιάβαση στις περιπέτειες του αθεϊσμού στον Δυτικό κόσμο

Για το βιβλίο του Ζορζ Μινουά [Georges Minois] «Η ιστορία της αθεΐας – η αθεΐα στον Δυτικό κόσμο» (μτφρ. Βάλια Σερέτη, εκδ. Νάρκισσος).

Γράφει ο Μύρων Ζαχαράκης

Ο αθεϊσμός είναι ένα ίσως από τα επιδραστικά πνευματικά κινήματα του σύγχρονου κό...

«Ο δρόμος της ομορφιάς» του Βίτο Μανκούζο – Αναζητώντας έναν τρόπο να βλέπουμε

«Ο δρόμος της ομορφιάς» του Βίτο Μανκούζο – Αναζητώντας έναν τρόπο να βλέπουμε

Για το βιβλίο του Βίτο Μανκούζο [Vito Mancuso] «Ο δρόμος της ομορφιάς» (μτφρ. Παναγιώτης Αρ. Υφαντής, εκδ. Αρμός). Κεντρική εικόνα: ο πίνακας του William Turner “Dutch Boats in a Gale” [«Ολλανδικές βάρκες σε θύελλα»], 1801 © The Capricorn Foundation.

Γράφει ο Διονύση...

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

«Γυναικεία Βραβεία non fiction 2024»: Ανακοινώθηκε η βραχεία λίστα

«Γυναικεία Βραβεία non fiction 2024»: Ανακοινώθηκε η βραχεία λίστα

Η νικήτρια του βραβείου Women's Prize για non-fiction βιβλία θα ανακοινωθεί στις 13 Ιουνίου. Κεντρική εικόνα, μια από τις υποψήφιες για το βραβείο: η συγγραφέας και αρθρογράφος Ναόμι Κλάιν © The University of British Columbia.

Επιμέλεια: Book Press

...
Τρία μυθιστορήματα με άρωμα εποχής και μυστηρίου από τα Ελληνικά Γράμματα

Τρία μυθιστορήματα με άρωμα εποχής και μυστηρίου από τα Ελληνικά Γράμματα

Για τα μυθιστορήματα «Strangers in the Night» (μτφρ. Μυρσίνη Γκανά) της Χέδερ Γουέμπ [Heather Webb], «Τα Μυστήρια της Μις Μόρτον Μόρτον» (μτφρ. Χρήστος Μπαρουξής) της Κάθριν Λόιντ [Catherine Lloyd] και «Κωδικός Coco» (μτφρ. Γιάννης Σπανδωνής) της Τζιόια Ντιλιμπέρτο [Gioia Diliberto]. Τρία μυθιστορήματα που μας μεταφ...

Ο «Νευρομάντης» του Ουίλιαμ Γκίμπσον μεταφέρεται στην οθόνη: μεγάλο συνδρομητικό κανάλι ανακοίνωσε ότι αγόρασε τα δικαιώματα

Ο «Νευρομάντης» του Ουίλιαμ Γκίμπσον μεταφέρεται στην οθόνη: μεγάλο συνδρομητικό κανάλι ανακοίνωσε ότι αγόρασε τα δικαιώματα

Το πασίγνωστο μυθιστόρημα του «πατέρα» του Cyberpunk Ουίλιαμ Γκίμπσον [William Gibson] «Νευρομάντης» αναμένεται να γίνει σειρά 10 επεισοδίων από το συνδρομητικό κανάλι Apple TV. Κεντρική εικόνα: ο συγγραφέας Ουίλιαμ Γκίμπσον © Wikipedia. 

Επιμέλεια: Book Press

...

ΠΡΟΔΗΜΟΣΙΕΥΣΕΙΣ

«Μακγκάφιν» του Βαγγέλη Γιαννίση (προδημοσίευση)

«Μακγκάφιν» του Βαγγέλη Γιαννίση (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το μυθιστόρημα του Βαγγέλη Γιαννίση «Μακγκάφιν», το οποίο θα κυκλοφορήσει στις 21 Μαρτίου από τις εκδόσεις Διόπτρα.

Επιμέλεια: Κώστας Αγοραστός

ΤΟΥΡΙΣΤΑΣ
37.947408, 23.641584

 «Αφού σου ...


«Το μποστάνι του Μποστ» του Κωνσταντίνου Κυριακού (προδημοσίευση)

«Το μποστάνι του Μποστ» του Κωνσταντίνου Κυριακού (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το βιβλίο του Κωνσταντίνου Κυριακού «Το μποστάνι του Μποστ – Μια σύνθεση / συμπλήρωση / διασκευή κειμένων του Μποστ», το οποίο κυκλοφορεί σε λίγες μέρες από τις εκδόσεις Νίκας.

Επιμέλεια: Κώστας Αγοραστός

...

«Όλα μαύρα» της Δήμητρας Παπαδήμα (προδημοσίευση)

«Όλα μαύρα» της Δήμητρας Παπαδήμα (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το βιβλίο της Δήμητρας Παπαδήμα «Όλα μαύρα», το οποίο θα κυκλοφορήσει την επόμενη εβδομάδα από τις εκδόσεις Νίκας.

Επιμέλεια: Κώστας Αγοραστός

«Τι είμαστε εμείς μπροστά σε αυτά τα κτήνη, ρε; Τι είμαστε; Άγιοι. Και φόνο να...

ΠΡΟΤΑΣΕΙΣ

Τρία μυθιστορήματα με άρωμα εποχής και μυστηρίου από τα Ελληνικά Γράμματα

Τρία μυθιστορήματα με άρωμα εποχής και μυστηρίου από τα Ελληνικά Γράμματα

Για τα μυθιστορήματα «Strangers in the Night» (μτφρ. Μυρσίνη Γκανά) της Χέδερ Γουέμπ [Heather Webb], «Τα Μυστήρια της Μις Μόρτον Μόρτον» (μτφρ. Χρήστος Μπαρουξής) της Κάθριν Λόιντ [Catherine Lloyd] και «Κωδικός Coco» (μτφρ. Γιάννης Σπανδωνής) της Τζιόια Ντιλιμπέρτο [Gioia Diliberto]. Τρία μυθιστορήματα που μας μεταφ...

Επανάσταση 1821: 11 βιβλία για τον Αγώνα των Ελλήνων

Επανάσταση 1821: 11 βιβλία για τον Αγώνα των Ελλήνων

Ενόψει της 25ης Μαρτίου, επιλέγουμε έντεκα βιβλία που μας βοηθούν να κατανοήσουμε τα περίπλοκλη όσο και μοναδική διαδοχή γεγονότων που ήταν η Ελληνική Επανάσταση. Kεντρική εικόνα: έργο του Λουντοβίκο Λιπαρίνι «Ο όρκος του λόρδου Βύρωνα στο Μεσολόγγι» (περίπου 1850), μουσείο Μπενάκη.

...
Ιστορίες από τη Χώρα των Χρυσανθέμων: 10 λογοτεχνικά έργα που κυκλοφόρησαν πρόσφατα ανοίγουν παράθυρα στον κόσμο της Ιαπωνίας

Ιστορίες από τη Χώρα των Χρυσανθέμων: 10 λογοτεχνικά έργα που κυκλοφόρησαν πρόσφατα ανοίγουν παράθυρα στον κόσμο της Ιαπωνίας

Όσο μακρινή κι αν φαντάζει η Ιαπωνία, δεν παύει να μας ελκύει, μεταξύ άλλων και για την ιδιαίτερη και τολμηρή λογοτεχνία της. Από τον κλασικό Καουαμπάτα έως τον ευφάνταστο Μουρακάμι, επιλέγουμε δέκα βιβλία που κυκλοφόρησαν σχετικά πρόσφατα και μπορούν να μας ανοίξουν νέα παράθυρα στον κόσμο του Ανατέλλοντος Ήλιου. K...

ΠΡΟΘΗΚΕΣ

ΠΡΟΘΗΚΕΣ

Newsletter

Θέλω να λαμβάνω το newsletter σας
ΕΓΓΡΑΦΗ

ΣΥΓΓΡΑΦΕΙΣ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ ΤΗΣ ΧΡΟΝΙΑΣ

02 Απριλίου 2023 ΠΡΟΤΑΣΕΙΣ

Τα μεγαλύτερα μυθιστορήματα όλων των εποχών: 20 έργα-ποταμοί από την παγκόσμια λογοτεχνία

Πολύτομα λογοτεχνικά έργα, μυθιστορήματα-ποταμοί, βιβλία που η ανάγνωσή τους μοιάζει με άθλο. Έργα-ορόσημα της παγκόσμιας πεζογραφίας, επικές αφηγήσεις από την Άπω Ανατ

ΦΑΚΕΛΟΙ