baladeur

Σκέψεις με αφορμή τα βιβλία «Άνθρωπος 4.0 – Για μια σοφή διαχείριση της 4ης βιομηχανικής επανάστασης» του Δημήτριου Λακασά (εκδ. Κλειδάριθμος) και «Συμβατή με τον άνθρωπο; – Η Τεχνητή Νοημοσύνη και το πρόβλημα του ελέγχου» του Stuart Russell (μτφρ. Νίκος Αποστολόπουλος, εκδ. Τραυλός).

Του Μύρωνα Ζαχαράκη

Στις 11 Μαΐου 1997, ο υπολογιστής της IBM Deep blue νίκησε τον παγκόσμιο πρωταθλητή στο σκάκι, Γκάρι Κασπάροφ, σηματοδοτώντας ένα κατόρθωμα πρωτοφανές στα χρονικά. Περίπου είκοσι χρόνια μετά, στις αρχές του 2018, ένα αυτόματο αυτοκίνητο της Uber στην Αριζόνα των Η.Π.Α. προκάλεσε τροχαίο δυστύχημα, σκοτώνοντας μια άτυχη γυναίκα ενώ εκείνη προσπαθούσε να διασχίσει τη διασταύρωση. Δίχως αμφιβολία, το ζήτημα της τεχνητής νοημοσύνης είναι εξαιρετικά επίκαιρο σήμερα, μαζί του όμως έρχεται μια πλειάδα προβληματισμών ηθικής φύσεως για τις νέες τεχνολογικές δυνατότητες και τον ρόλο που αυτές θα παίξουν στη ζωή μας. Με το παρόν βιβλίο του, που έχουμε στα ελληνικά χάρη στην υποδειγματική δουλειά των εκδόσεων Τραυλός, ο Στιούαρτ Ράσελ, ένας από τους πιο καταξιωμένους ερευνητές τεχνητής νοημοσύνης διεθνώς, εξηγεί στο μη εξειδικευμένο κοινό τις κεντρικές έννοιες της τεχνητής νοημοσύνης, τις προοπτικές της, καθώς και τους πιθανούς κινδύνους που αυτή εγκυμονεί. Παράλληλα, έχουμε και το επίσης ενδιαφέρον βιβλίο του επιχειρηματία Δημητρίου Λακασά, από τις εκδόσεις Κλειδάριθμος, που επικεντρώνεται στην τέταρτη βιομηχανική επανάσταση και τις συνέπειές της στον επιχειρηματικό κόσμο και όχι μόνο.

klidarithmos lakasas 4Οι προκλήσεις της 4ης βιομηχανικής επανάστασης

Αρχικά, σύμφωνα με τον Δημήτριο Λακασά, η ιστορία έχει γίνει μάρτυρας τεσσάρων βιομηχανικών επαναστάσεων ως τώρα. Κατά την πρώτη (1760-1840), παρατηρούμε την εμφάνιση της ατμομηχανής, καθώς και την εκμηχάνιση της κλωστοϋφαντουργίας. Στη δεύτερη βιομηχανική επανάσταση (1870-1930) έχουμε τον ηλεκτρισμό και τη μαζική παραγωγή αγαθών, στην τρίτη (1970-2020) έχουμε το διαδίκτυο και την αυτοματοποίηση, και τέλος, στην τέταρτη βιομηχανική επανάσταση (2020-..) κάνει την εμφάνισή της η τεχνητή νοημοσύνη, η ρομποτική και η εικονική πραγματικότητα. Παρατηρεί κανείς ότι μεταξύ των διαφορετικών «επαναστάσεων», υπάρχει ένα χρονικό κενό περίπου τριάντα ή σαράντα ετών (εξαίρεση αποτελεί η τέταρτη, η μετάβαση στην οποία φαίνεται πως υπήρξε άμεση). Μάλιστα, η καθεμιά συνδέεται χρονικά με γεγονότα που υπήρξαν καίριας ιστορικής σημασίας: η πρώτη επανάσταση έλαβε χώρα ανάμεσα στις πανδημίες της χολέρας και της πανούκλας, η δεύτερη στο λυκαυγές του Πρώτου Παγκοσμίου Πολέμου, η τρίτη στη λήξη του Δευτέρου, ενώ η τέταρτη συντελέσθηκε μετά την παγκόσμια οικονομική κρίση του 2008, καθώς και την πρόσφατη πανδημία του κορωνοϊού. Όπως εξηγεί ο Λακασάς, όπως κάθε δυσχερής κοινωνική κατάσταση φέρνει νέες προκλήσεις και δίνει την ευκαιρία για την προώθηση τεχνολογικών καινοτομιών, έτσι και τώρα, η πανδημία του κορωνοϊού εισάγει τον κόσμο μας με απρόσμενη ταχύτητα στην τέταρτη βιομηχανική επανάσταση (ψηφιοποίηση). Χαρακτηριστικό παράδειγμα ψηφιοποίησης, είναι η εκτεταμένη χρήση που έγινε στην πλατφόρμα zoom, στο πλαίσιο της κοινωνικής αποστασιοποίησης και των lockdowns, εισάγοντας για τα καλά στην καθημερινότητά μας όρους όπως “meeting” και “webinar”. Επιπλέον, κατά την πανδημία υπήρξε επίσης εκτεταμένος συντονισμός της βιομηχανίας με τα πανεπιστήμια και τις κυβερνήσεις, δηλαδή των τριών καίριων τομέων που αποτελούν μαζί τον «τριπλό έλικα της καινοτομίας».

viomichanikes epanastaseisΟυσιαστικά, η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας. Παράλληλα, κάθε επανάσταση προϋποθέτει και αποκαλύπτει έναν νέο «τύπο» ανθρώπου. Αρχικά ο homo sapiens, η πρώτη μορφή του σύγχρονου ανθρώπινου είδους, εμφανίστηκε πριν 200.000 χρόνια στην Αφρική και βασική ενασχόλησή του ήταν το κυνήγι. Ο Λακασάς τον ονομάζει «άνθρωπο 0.0». Το επόμενο στάδιο, ο «άνθρωπος 1.0», έρχεται στη νεολιθική επανάσταση, γνωστή επίσης και ως αγροτική επανάσταση, επειδή ακριβώς τότε (δηλ. πριν 10.000 χρόνια) έλαβε χώρα η εμφάνιση της γεωργίας. Ο άνθρωπος άρχισε να επεξεργάζεται τη γη, οργανώνοντας κοινωνίες και κάνοντας ικανοποιητική χρήση των διαθέσιμων πόρων. Κατόπιν, εμφανίστηκε ο «άνθρωπος 3.0» (1945-1990), στη ζωή του οποίου κύριο ρόλο έπαιζε η κατοχή κεφαλαίου και για πρώτη φορά προέκυψε το οργανωμένο κράτος πρόνοιας και μια σειρά τεχνολογικών επιτευγμάτων, από την έγχρωμη τηλεόραση ως το διαδίκτυο και την προσσελήνωση. Το ενδιαφέρον όμως εδώ είναι ότι ο συγγραφέας δε μεταβαίνει απευθείας στον άνθρωπο της τέταρτης βιομηχανικής επανάστασης, δηλαδή του σήμερα, αλλά εισάγει και ένα ενδιάμεσο στάδιο: πρόκειται για τον «άνθρωπο 3.5» (1990- σήμερα), ο οποίος συνειδητοποίησε πως δεν αρκεί το κεφάλαιο αλλά απαιτείται κάτι ακόμη: η γνώση. Σήμερα, η γνώση (κατοχή πληροφοριών και δεδομένων) έχει ίση, αν όχι μεγαλύτερη σημασία με την κατοχή κεφαλαίου.

Η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας.

Ωστόσο, σημειώνει, δεν προχωράει όλος ο κόσμος με την ίδια ταχύτητα: υπάρχουν χώρες που μόλις τώρα βιώνουν την τρίτη, τη δεύτερη, ενώ ακόμη και η πρώτη βιομηχανική επανάσταση παραμένει για ορισμένες χώρες (π.χ. Κονγκό) κάτι μακρινό. Η αφρικάνικη ήπειρος είναι ένα χαρακτηριστικό παράδειγμα του προβλήματος που καλείται να αντιμετωπίσει σήμερα η ανθρωπότητα: αν ο πόλεμος πλέον δε θα γίνεται για την ενέργεια, αλλά για πληροφορίες-δεδομένα, τότε εμφανίζεται μια νέα πηγή παγκόσμιων ανισοτήτων μεταξύ των κρατών. Τα κράτη που θα ελέγχουν τα δεδομένα θα είναι πρωταγωνίστριες, ενώ οι άλλες απλοί «κομπάρσοι» του σύγχρονου κόσμου. Ωστόσο, και εδώ είναι το μεγάλο πλεονέκτημα της τέταρτης βιομηχανικής επανάστασης, αν οι νέες τεχνολογίες αξιοποιηθούν με πρόθεση το καλό της ανθρωπότητας, οι διαφορές μεταξύ των κρατών ανά την υφήλιο μπορεί να μειωθούν σημαντικά. Καίριο ρόλο παίζει εδώ η έννοια της τεχνητής νοημοσύνης, που κατά τον Λακασά είναι μια από τις σημαντικότερες τεχνολογίες της τέταρτης βιομηχανικής επανάστασης και οι εφαρμογές της επεκτείνονται και πέραν του επιχειρηματικού τομέα. Με την τεχνητή νοημοσύνη, όμως, τίθεται και μια πλειάδα ηθικών διλημμάτων, τα οποία αποτελούν το κύριο θέμα του βιβλίου του Στιούαρτ Ράσελ. Ας δούμε πώς τα πραγματεύεται ο καθηγητής Ράσελ.

Τεχνητή νοημοσύνη: προς έναν νέο ορισμό

Αρχικά, υποστηρίζει, προκειμένου να κατανοήσουμε τι σημαίνει τεχνητή νοημοσύνη, πρέπει να κατανοήσουμε το τι σημαίνει «νοημοσύνη». Υπάρχει βέβαια το τεστ Turing, που έλαβε το όνομά του από τον γνωστό μαθηματικό που το επινόησε, κατά το οποίο μια ευφυής μηχανή προσπαθεί τάχα να παραπλανήσει έναν άνθρωπο, κάνοντάς τον να πιστεύει πως και εκείνη είναι άνθρωπος. Αυτό το τεστ είχε προταθεί, ως ένας τρόπος να φανεί αν μια μηχανή είναι νοήμων. Ο Russell υποστηρίζει πως προϋποθέτει έναν εντελώς λειτουργικό, περιορισμένο και ασαφή ορισμό της νοημοσύνης, που περιλαμβάνει τη βιολογία και τον πολιτισμό μαζί, επομένως είναι λογικό που οι βασικοί ερευνητές της τεχνητής νοημοσύνης (ΤΝ) δεν έχουν καταβάλει καμία προσπάθεια να το «ξεπεράσουν». Αντίθετα, εστιάζουν στην ορθολογική συμπεριφορά και στο ότι ένας ορθολογικός φορέας δράσης δρα έτσι ώστε να μεγιστοποιεί την αναμενόμενη χρησιμότητα. Ως «νοήμονα» λοιπόν ορίζουν οποιαδήποτε μηχανή έχει τη δυνατότητα να επιτύχει μέσω των πράξεών της έναν στόχο της, αξιοποιώντας οτιδήποτε έχει αντιληφθεί. Μια οντότητα που ικανοποιεί αυτή την προϋπόθεση, αξίζει να χαρακτηρίζεται νοήμων. Η ΤΝ καταπιάνεται με τις λεπτομέρειες της κατασκευής ορθολογικών μηχανών, δηλαδή μηχανών που να μεγιστοποιούν την αναμενόμενη χρησιμότητα.

Παρεμπιπτόντως, η νοημοσύνη δεν ισοδυναμεί κατά κανένα τρόπο με συνείδηση. Κανένας ερευνητής δεν εργάζεται με σκοπό να δημιουργήσει μηχανές με συνείδηση και τα δημοφιλή χολιγουντιανά σενάρια με κακόβουλες μηχανές που επιχειρούν να καταστρέψουν την ανθρωπότητα, αποτυγχάνουν να κατανοήσουν την ουσία: αυτό που μετράει δεν είναι η συνείδηση αλλά η ικανότητα, λέει χαρακτηριστικά ο Ράσελ. Αν και θεωρητικά θα μπορούσε να ήταν κάτι διαφορετικό (π.χ. χημικές αντιδράσεις ή βιολογικά κύτταρα), σήμερα ξέρουμε πως μια μηχανή ΤΝ δεν μπορεί παρά να είναι ηλεκτρονικός υπολογιστής. Γενικά, αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Ιστορικά, η έννοια της καθολικότητας εισήχθη για πρώτη φορά από τον Άλαν Τιούριγκ, σε ένα άρθρο του όπου περιέγραφε μαθηματικά μιαν υπολογιστική συσκευή η οποία θα μπορούσε να δεχθεί ως δεδομένο εισόδου την περιγραφή οποιασδήποτε άλλης και να παράγει τα ίδια δεδομένα εξόδου, προσομοιώνοντας τη λειτουργία της. Το θεωρητικό έργο του Τιούριγκ έγινε στα 1936 και οι πρώτες καθολικές υπολογιστικές μηχανές προέκυψαν στη δεκαετία του 1940. Το 1956 υπήρξε επίσημα το έτος γέννησης της τεχνητής νοημοσύνης, όταν οι νεαροί μαθηματικοί Τζον Μακάρθι και Μάρβιν Μίνσκι έπεισαν τον πληροφορικό Κλοντ Σάνον και τον Ναθάνιελ Ρότσεστερ (της IBM) να συνεργαστούν στην οργάνωση ενός θερινού προγράμματος μελετών στο κολέγιο Ντάρτμουθ. Ωστόσο, στα τέλη της δεκαετίας του 1960 και ύστερα από αρκετή μελέτη, οι ανακαλύψεις υπήρξαν μάλλον πενιχρές (κάτι που έμεινε γνωστό ως ο «χειμώνας ΤΝ»). Αυτή ήταν η πρώτη «φούσκα» της ΤΝ. Η δεύτερη ήρθε στα τέλη της δεκαετίας του 1980, όταν τα συγκεκριμένα συστήματα αποδείχθηκαν ανεπαρκή για τις διαδικασίες στις οποίες εφαρμόζονταν. Με λίγα λόγια, συνεχίζει ο Ράσελ, οι μηχανές δεν ήταν ακόμη αρκετά «έξυπνες».

Πάντως, η προαναφερθείσα περίοδος δεν απέβη εντελώς άκαρπη, διότι τότε τέθηκαν τα θεμέλια της «βαθιάς μάθησης». Οι υπολογιστές μόλις τη δεκαετία του 1940 εντάχθηκαν ως κλάδος στα τμήματα Μηχανικής των περισσότερων πανεπιστημίων, με αποτέλεσμα τη μεγάλη πρόοδο που συντελέστηκε σε έννοιες και μεθόδους, κατά την τελευταία εβδομηκονταετία. Η κατασκευή νοημόνων μηχανών εξαρτάται κυρίως από το πρόβλημα που επιθυμούμε να επιλύσουμε με τη χρήση τους. Με τη σειρά του, το πρόβλημα καθορίζεται από τρία δεδομένα: το περιβάλλον, τις δράσεις που συνδέουν τη μηχανή με αυτό, και τον εκάστοτε στόχο της μηχανής. Για την επίτευξή του, οι ερευνητές εφαρμόζουν την «ενισχυτική μάθηση», δηλαδή μια μάθηση μέσω ανταμοιβών από το εξωτερικό περιβάλλον, περίπου όπως ένα βρέφος μαθαίνει να περπατάει εν μέρει χάρη στις θετικές αντιδράσεις που δέχεται όταν καταφέρνει να κάνει ένα βήμα και στις αρνητικές όταν σκοντάφτει.

Ai photoΑναγκαία είναι σε αυτό το σημείο μια διευκρίνιση: υπάρχει η «εργαλειακή/περιορισμένη» (weak) ΤΝ, που απαιτεί συγκεκριμένες παρεμβάσεις από τον χειριστή της και χρησιμοποιείται για αναγνώριση χειρόγραφων ψηφίων ή παίξιμο του παιχνιδιού Γκο και σε άλλα, μικρά και θεωρητικώς ακίνδυνα, επιμέρους προβλήματα. Από την άλλη, υπάρχει και η «ισχυρή/γενικής χρήσεως» (strong) ΤΝ, τα συστήματα της οποίας θα μπορούν να επιλύουν προβλήματα χωρίς να απαιτούνται εξειδικευμένες παρεμβάσεις από τον χειριστή τους, αλλά και να κάνουν ευρύτερες δραστηριότητες, όπως διδασκαλία μοριακής βιολογίας ή κυβέρνηση ενός ολόκληρου κράτους. Αυτή η μορφή ΤΝ δεν υφίσταται ακόμη αλλά βρισκόμαστε ολοένα πιο κοντά στο να την επιτύχουμε και, παραδόξως, έχει γίνει σημαντική πρόοδος σε αυτό, ιδίως τη δεκαετία του 1990, μέσα από πολλές επιμέρους εφαρμογές της εργαλειακής ΤΝ (π.χ. στο Γκο).

Πόσα μπορεί λοιπόν να κάνει η ισχυρή ΤΝ; Σύμφωνα με τον Ράσελ, η ισχυρή ΤΝ δίνει την εντύπωση ότι τα πάντα είναι μια υπηρεσία. Συγκεκριμένα, τα μηχανήματά της εξ ορισμού θα μπορούν να έχουν πρόσβαση σε όλες τις γνώσεις και δεξιότητες της ανθρωπότητας και θα μπορούν, λόγω της γενικότητας που εξ ορισμού χαρακτηρίζει την ισχυρή ΤΝ, να μαγειρεύουν, να κατασκευάζουν γέφυρες, να βελτιώνουν τις σοδειές και να οργανώνουν τις εκλογικές διαδικασίες. Ωστόσο, η χρήση νοημόνων μηχανών εγκυμονεί και κάποια σοβαρά προβλήματα. Ας δούμε μερικά από αυτά. Όταν δίνουμε σε έναν άνθρωπο μιαν οδηγία (π.χ. «φέρε μου ένα φλιτζάνι καφέ»), προϋποθέτουμε πως εκείνος θα λάβει υπόψη του ορισμένους ευκόλως εννοούμενους παράγοντες (όπως π.χ. να μην πάει σε άλλη πόλη και γυρίσει μέρες αργότερα). Δυστυχώς δεν συμβαίνει το ίδιο με ένα ρομπότ το οποίο εφόσον έχει προγραμματιστεί να υπακούει σε σαφώς προκαθορισμένους στόχους (π.χ. όπως το «φέρε μου καφέ»). Το ρομπότ θα τους αντιλαμβάνεται κυριολεκτικά και χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Το ρομπότ αντιλαμβάνεται τις εντολές κυριολεκτικά χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Αν τελικά γίνει εκτεταμένη χρήση της ισχυρής ΤΝ, τα μηχανήματά της θα επιχειρούν την επίτευξη προκαθορισμένων στόχων με κάθε δυνατό μέσο, κάτι που μπορεί να σημαίνει ότι τελικά θα φτάσουν να μας εμποδίζουν να τα απενεργοποιήσουμε. Ο Τιούριγκ είχε προτείνει να μπορούμε ανά πάση στιγμή να απενεργοποιήσουμε τις μηχανές, αν αυτές μας δημιουργήσουν προβλήματα. Ο Ράσελ εξηγεί ότι αυτό ενδεχομένως θα καταστεί ανέφικτο: στα νοήμονα μηχανήματα η αυτοσυντήρηση θα ήταν ένας στόχος αναγκαίος για την επίτευξη όλων των άλλων («συντελεστικός» στόχος λέγεται), με αποτέλεσμα η μηχανή να τον θέτει χωρίς καν να έχει προγραμματιστεί για κάτι τέτοιο. Αυτό είναι ακόμη πιο πιθανό, αν η μηχανή έχει ξεπεράσει το ανθρώπινο επίπεδο νοημοσύνης (υπερνοημοσύνη). Πώς μπορούμε να αποφύγουμε αυτόν τον κίνδυνο;

Αρχικά, η άποψη ότι οι μηχανές πρέπει να έχουν έναν σαφώς καθορισμένο στόχο, πρέπει να εγκαταλειφθεί, για το καλό όλων μας. Κάτι τέτοιο όμως δεν είναι απλή διαδικασία, καθώς πρέπει να αντικαταστήσουμε πρώτα ορισμένα από τα θεμέλια της ΤΝ, δηλαδή τους βασικούς ορισμούς μας σε όσα επιθυμούμε να πετύχουμε. Πιο συγκεκριμένα, η προτεινόμενη λύση του Ράσελ αποτελείται από τρεις επιμέρους αρχές, που αναμένεται από τον ίδιο να λειτουργήσουν σε συνδυασμό: μόνος στόχος της μηχανής να είναι η πραγματοποίηση των ανθρώπινων προτιμήσεων, να υπάρχει σκόπιμα αβεβαιότητα της μηχανής σχετικά με το ποιες είναι αυτές τις προτιμήσεις, και τέλος, η απόλυτη πηγή ενημέρωσης για το ποιες είναι, να είναι η έμπρακτη ανθρώπινη συμπεριφορά. Σύμφωνα με τον Ράσελ, το βασικό πρόβλημα είναι στον ορισμό της ΤΝ: θεωρώντας πως μια μηχανή είναι νοήμων εφόσον είναι ικανή να αξιοποιεί τα μέσα για να πετύχει τους στόχους της, ξεχνάμε δυστυχώς ότι ενδέχεται οι «στόχοι» της να μην ταυτίζονται με τους δικούς μας.

travlos symvati me ton anthropoΓια να είναι αληθινά ωφέλιμες, οι μηχανές πρέπει να φτάνουν με τις πράξεις τους στους δικούς μας στόχους. Εδώ εμφανίζονται δύο προβλήματα, που είναι γνωστά ως το «πρόβλημα του γορίλα» και το «πρόβλημα του Μίδα» (εδώ μπορεί κανείς να παρακολουθήσει και την κατατοπιστική ομιλία του Ράσελ στο TED). Με το πρώτο πρόβλημα δηλώνεται ο κίνδυνος να ξεπεραστεί η ανθρώπινη νοημοσύνη από εκείνη μιας μηχανής, με αποτέλεσμα ο έλεγχος της τελευταίας να χαθεί, με αρνητικές συνέπειες για εμάς (όπως η εξέλιξη της δικής μας νοημοσύνης είχε τελικά αρνητικές συνέπειες για τους γορίλλες). Όπως είναι γνωστό, ο ανθρώπινος εγκέφαλος είναι το πολυπλοκότερο πράγμα στο σύμπαν. Αν κάποια στιγμή η υπερνοημοσύνη γίνει εφικτή, τότε θα υπάρχει κάτι πολυπλοκότερο από τον εγκέφαλό μας: η μηχανή. Πιο απλά, αν φτιάξουμε μηχανές με υπερανθρώπινη νοημοσύνη, σύντομα θα αδυνατούμε να τις ελέγξουμε. Το δεύτερο πρόβλημα, που παραπέμπει στον γνωστό βασιλιά από την αρχαιοελληνική μυθολογία, εμφανίζεται όταν κάποιος παίρνει ακριβώς εκείνο που εντέλλεται με αποτέλεσμα να καταλήγει όχι στην ευτυχία, όπως ανέμενε, αλλά στην αυτοκαταστροφή. Το γεγονός ότι μέχρι σήμερα οι νοήμονες μηχανές που έχουν κατασκευαστεί είναι όχι αρκετά «νοήμονες» και έχουν συγκεκριμένες και σαφώς περιορισμένες δυνατότητες, τις καθιστά προς το παρόν ακίνδυνες. Αυτό όμως δεν θα συμβαίνει για πάντα.

Πάντως, ο Ράσελ είναι αισιόδοξος ότι η πρότασή του είναι επιτεύξιμη: υπάρχουν οικονομικοί λόγοι αφενός και πλήθος δεδομένων αφετέρου (ενν. ανθρώπινες συμπεριφορές) που ευνοούν τη μάθηση των ανθρωπίνων προτιμήσεων από τα ρομπότ. Φυσικά, δεν απουσιάζουν και οι αντίθετοι σε όλα αυτά, που θεωρούν τους παραπάνω κινδύνους μακρινούς ή/και αβάσιμους, τονίζουν πως η έρευνα τεχνητής νοημοσύνης δεν πρέπει να σταματήσει και υποτιμούν ως τεχνοφοβικούς «λουδίτες» όσους προβληματίζονται σχετικά. Ο Ράσελ απαντάει ότι μέσα στους ανήσυχους, όσον αφορά τη χρήση της ΤΝ, ήταν και επιστήμονες όπως ο Στίβεν Χόκινγκ, ο Μίνσκι, o Βίνερ και σε τελική ανάλυση ο ίδιος ο Τιούρινγκ, όπως επίσης και οι γνωστοί επενδυτές σε συστήματα τεχνητής νοημοσύνης Μπιλ Γκέιτς και Ίλον Μασκ. Το ότι ένα πρόβλημα είναι (σχετικά) μακροπρόθεσμο δεν σημαίνει πως μπορούμε να επαναπαυόμαστε. Εξάλλου, η επιτυχής απαγόρευση των προγραμμάτων γαμετικής τροποποίησης στον άνθρωπο δεν οδήγησε σε παράνομες έρευνες ούτε και σε χώρες χωρίς κανονισμούς. Το να προειδοποιείς για πιθανούς κινδύνους, δεν σημαίνει αναγκαστικά ότι είσαι τεχνοφοβικός, λέει ο συγγραφέας. Πρόσφατες μελέτες δείχνουν ότι οι περισσότεροι ερευνητές αναμένουν την εμφάνιση μιας τεχνητής νοημοσύνης ανθρώπινου επιπέδου (ισχυρή ΤΝ) ή και ανώτερου (υπερνοημοσύνη), στα μέσα αυτού του αιώνα. Ο Ράσελ παρατείνει την προθεσμία στα επόμενα ογδόντα χρόνια. Βέβαια, επισημαίνει, υπάρχει μακρά ιστορία τέτοιων προβλέψεων που έχουν αποδειχθεί εσφαλμένες. Γεγονός είναι όμως ότι η υπερνοημοσύνη είναι εγγενώς απρόβλεπτη. Ο λόγος είναι ότι απαιτεί «εννοιολογικές επαναστάσεις». Πάντως, η βιομηχανία ΤΝ παραμένει σε γενικές γραμμές δίχως έλεγχο. Ο Ράσελ θεωρεί απαραίτητες ορισμένες ρυθμίσεις, αρχής γενομένης με την επέκταση της συμφωνίας της Βουδαπέστης στην ΤΝ. Σε κάθε περίπτωση, η τέταρτη βιομηχανική επανάσταση είναι γεγονός. Θα καταφέρει άραγε ο άνθρωπος να συντονιστεί μαζί της;

Απόσπασμα από το βιβλίο του Λακασά:

«Ο άνθρωπος ήταν, είναι και θα είναι ο απόλυτος πρωταγωνιστής σε κάθε εξέλιξη. Είναι εκείνος που έχει μερίδιο για τις απειλές προς το είδος του, όπως αντίστοιχα πιστώνεται και τις επιτυχίες […] Αν από τη μια πλευρά έχουμε τους Νεολουδίτες και από την άλλη τους Μετανθρωπιστές, τότε ο Άνθρωπος 4.0 είναι- και οφείλει να αποτελεί- διαχρονική αξία. Η σοφία ήταν ανέκαθεν η οδός της αριστείας και πάνω σε αυτήν πρέπει να πορευθεί ο Άνθρωπος 4.0» (σελ. 384-385).

Απόσπασμα από το βιβλίο του Ράσελ:

«Το καθιερωμένο μοντέλο που βρίσκεται πίσω από ένα μεγάλο μέρος των τεχνολογιών του εικοστού αιώνα στηρίζεται σε μηχανισμούς που βελτιστοποιούν έναν σταθερό, εξωγενώς παρεχόμενο στόχο. Όπως έχουμε δει, το μοντέλο αυτό είναι θεμελιωδώς εσφαλμένο. Λειτουργεί μόνο αν ο στόχος είναι εγγυημένα πλήρης και ορθός ή αν ο μηχανισμός μπορεί εύκολα να επαναρυθμιστεί. Καμία συνθήκη δεν θα ισχύει καθώς η Τεχνητή Νοημοσύνη θα γίνεται ολοένα και πιο ισχυρή. Η μηχανή δεν έχει νόημα να λειτουργεί με δεδομένο ότι πάντοτε ο παρεχόμενος στόχος είναι ο σωστός, καθώς ενδέχεται ενίοτε να είναι ο λάθος. Εξ ου και η πρότασή μου για τις ωφέλιμες μηχανές: με τις δράσεις τους αναμένεται να πετυχαίνουν τους δικούς μας στόχους. Επειδή αυτοί οι στόχοι είναι οι δικοί μας, και όχι οι δικοί τους, οι μηχανές- παρατηρώντας τις επιλογές που κάνουμε καθώς κι πώς τις κάνουμε- θα πρέπει να μάθουν περισσότερα για το τι πραγματικά θέλουμε. Οι μηχανές που είναι έτσι σχεδιασμένες θα συμμορφώνονται με τους ανθρώπους: θα ζητούν άδεια θα δουν προσεκτικά όταν δεν είναι ξεκάθαρη η καθοδήγηση και τέλος, θα επιτρέπουν την απενεργοποίησή τους» (σελ. 334).

* Ο ΜΥΡΩΝ ΖΑΧΑΡΑΚΗΣ είναι υποψήφιος διδάκτωρ Φιλοσοφίας.

Ακολουθήστε την boopress.gr στο Google News και διαβάστε πρώτοι τα θέματα που σας ενδιαφέρουν.


ΣΧΕΤΙΚΑ ΑΡΘΡΑ

«Για να κατανοήσουμε τον Λεβινάς» της Κορίν Πελλυσόν (κριτική)

«Για να κατανοήσουμε τον Λεβινάς» της Κορίν Πελλυσόν (κριτική)

Για το βιβλίο της Κορίν Πελλυσόν (Corine Pelluchon) «Για να κατανοήσουμε τον Λεβινάς – Ένας φιλόσοφος για την εποχή μας» (μτφρ. Γιώργος Φαράκλας, εκδ. Πόλις). Κεντρική φωτογραφία: Εμμανουέλ Λεβινάς.

Του Γεράσιμου Κακολύρη

Το βιβλίο της φ...

«Θρησκεία, Ιδεολογία, Πολιτισμός στη σύγχρονη εποχή», του Χριστόφορου Ελ. Αρβανίτη (κριτική)

«Θρησκεία, Ιδεολογία, Πολιτισμός στη σύγχρονη εποχή», του Χριστόφορου Ελ. Αρβανίτη (κριτική)

Για τη μελέτη του Χριστόφορου Ελ. Αρβανίτη «Θρησκεία, Ιδεολογία, Πολιτισμός στη σύγχρονη εποχή» (πρόλογος: Θανάσης Ν. Παπαθανασίου, εκδ. Επίκεντρο).

Του Γιώργου Σιακαντάρη

Δυστυχώς τα περισσότερα βιβλία στη χώρα μας τα σχετικά με την ανάλυση της θ...

«Η εποχή των μάγων» του Βόλφραμ Αϊλενμπέργκερ (κριτική) – Φιλόσοφοι πρώτης γραμμής, σε καιρούς κρίσης

«Η εποχή των μάγων» του Βόλφραμ Αϊλενμπέργκερ (κριτική) – Φιλόσοφοι πρώτης γραμμής, σε καιρούς κρίσης

Για το βιβλίο του Wolfram Eilenberger «Η εποχή των μάγων: Η μεγάλη δεκαετία της φιλοσοφίας, 1919-1929» (μτφρ. Γιάννης Κοιλής, εκδ. Πατάκη). Κεντρική εικόνα: Χάιντεγκερ, Κασσίρερ, Βιττγκενστάιν και Μπένγιαμιν.

Του Μύρωνα Ζαχαράκη

Πώς είναι η ζ...

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Τέσπα (διήγημα)

Τέσπα (διήγημα)

Δεν θα πάρουμε το οικογενειακό σήμερα. Ασ’ το μωρέ. Να χαρούμε λίγο το καινούργιο. Πότε θα το χαρούμε αν όχι τώρα το καλοκαίρι που πάμε και κάπου μαζί. Έστω θάλασσα. Εντάξει, σκόνη, άμμος, αλμύρα, θα μου πεις, τα τρώει τα καθίσματα η αλμύρα. Το χρώμα να δεις τι του κάνει. Αλλά, τέσπα.

Της Κατερίνας Γ...

30 από τα καλύτερα αντιπολεμικά βιβλία όλων των εποχών

30 από τα καλύτερα αντιπολεμικά βιβλία όλων των εποχών

Η ιστοσελίδα Short List δημοσίευσε πρόσφατα μια περιεκτική λίστα με τριάντα από τα σπουδαιότερα αντιπολεμικά βιβλία όλων των εποχών. Είκοσι οκτώ μυθιστορήματα, μία μαρτυρία-χρονικό από τον Τζορτζ Όργουελ, καθώς και ένα θεατρικό έργο του Ουίλιαμ Σαίξπηρ, που μας φανερώνουν τον παραλογισμό του πολέμου. Στην κεντρική ε...

«Το Ρίφι» του Μηνά Βιντιάδη

«Το Ρίφι» του Μηνά Βιντιάδη

Για το μυθιστόρημα «Το Ρίφι» του Μηνά Βιντιάδη (εκδ. Ελληνικά Γράμματα)

Της Κατερίνας Σιδέρη

Στο βιβλίο του δημοσιογράφου και συγγραφέα Μηνά Βιντιάδη θα συναντήσουμε στίχους από τραγούδια, μαντινάδες, παροιμίες και γνωμικά,...

ΠΡΟΔΗΜΟΣΙΕΥΣΕΙΣ

«Άλμπατρος» της Αν Κλιβς (προδημοσίευση)

«Άλμπατρος» της Αν Κλιβς (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το μυθιστόρημα της Ann Cleeves «Άλμπατρος» (μτφρ. Παλμύρα Ισμυρίδου), το οποίο θα κυκλοφορήσει στις 4 Ιουλίου από τις εκδόσεις Κλειδάριθμος.

Επιμέλεια: Κώστας Αγοραστός

Κεφάλαιο 3

...
«Το μόνο της ζωής τους ταξίδι» του Ηλία Μαγκλίνη (προδημοσίευση)

«Το μόνο της ζωής τους ταξίδι» του Ηλία Μαγκλίνη (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το αυτοβιογραφικό αφήγημα του Ηλία Μαγκλίνη «Το μόνο της ζωής τους ταξίδι – Μικρά Ασία. Οδοιπορικό σε πόλεμο και σε ειρήνη», που θα κυκλοφορήσει στις 23 Ιουνίου από τις εκδόσεις Μεταίχμιο.

Επιμέλεια: Κώστας Αγοραστός

Άκουσέ με.

Σε όλη μας τη ...

«Το φυλαχτό» των Στίβεν Κινγκ & Πίτερ Στράουµπ (προδημοσίευση)

«Το φυλαχτό» των Στίβεν Κινγκ & Πίτερ Στράουµπ (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το μυθιστόρημα των Stephen King & Peter Straub «Το φυλαχτό» (μτφρ. Μιχάλης Μακρόπουλος), το οποίο θα κυκλοφορήσει στις 8 Ιουνίου από τις εκδόσεις Κλειδάριθμος.

Επιμέλεια: Κώστας Αγοραστός

2

...

ΠΡΟΤΑΣΕΙΣ

30 από τα καλύτερα αντιπολεμικά βιβλία όλων των εποχών

30 από τα καλύτερα αντιπολεμικά βιβλία όλων των εποχών

Η ιστοσελίδα Short List δημοσίευσε πρόσφατα μια περιεκτική λίστα με τριάντα από τα σπουδαιότερα αντιπολεμικά βιβλία όλων των εποχών. Είκοσι οκτώ μυθιστορήματα, μία μαρτυρία-χρονικό από τον Τζορτζ Όργουελ, καθώς και ένα θεατρικό έργο του Ουίλιαμ Σαίξπηρ, που μας φανερώνουν τον παραλογισμό του πολέμου. Στην κεντρική ε...

10 σημαντικά βιβλία για άντρες, γραμμένα από γυναίκες

10 σημαντικά βιβλία για άντρες, γραμμένα από γυναίκες

Μια λίστα με 10 σημαντικά μυθιστορήματα γραμμένα από γυναίκες συγγραφείς στα αγγλικά δημοσιεύτηκε στην επίσημη ιστοσελίδα του Women’s Prize for Fiction. Τα δέκα βιβλία αναδείχθηκαν μέσω ψηφοφορίας στην οποία συμμετείχαν 20.000 αναγνώστες. Και τα 10 έχουν μεταφραστεί στη γλώσσα μας. Στη φωτογραφία, η Μέρι Σέλεϊ.

...
40 καλά λογοτεχνικά βιβλία για το καλοκαίρι (και για κάθε εποχή)

40 καλά λογοτεχνικά βιβλία για το καλοκαίρι (και για κάθε εποχή)

Σαράντα λογοτεχνικά βιβλία, ελληνικά και μεταφρασμένα, επιλέξαμε για τους αναγνώστες της bookpress.gr από τα πολλά καλά βιβλία που έφτασαν στα χέρια μας τους προηγούμενους μήνες. Δείτε τα και διαλέξτε το δικό σας αγαπημένο βιβλίο του καλοκαιριού.

Επιμέλεια: Κώστας Αγοραστός, Κ.Β. Κατσουλάρης...

ΠΡΟΘΗΚΕΣ

ΠΡΟΘΗΚΕΣ

Newsletter

Θέλω να λαμβάνω το newsletter σας
ΕΓΓΡΑΦΗ

ΣΥΓΓΡΑΦΕΙΣ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ ΤΟΥ ΜΗΝΑ

25 Ιουλίου 2022 ΠΡΟΤΑΣΕΙΣ

40 καλά λογοτεχνικά βιβλία για το καλοκαίρι (και για κάθε εποχή)

Σαράντα λογοτεχνικά βιβλία, ελληνικά και μεταφρασμένα, επιλέξαμε για τους αναγνώστες της bookpress.gr από τα πολλά καλά βιβλία που έφτασαν στα χέρια μας τους προηγούμεν

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ ΤΗΣ ΧΡΟΝΙΑΣ

14 Σεπτεμβρίου 2021 ΤΕΛΕΥΤΑΙΑ ΝΕΑ

Τα βιβλία του χειμώνα: Τι θα διαβάσουμε τους μήνες που έρχονται (ανανεωμένο)

Επιλογές βιβλίων από τις προσεχείς εκδόσεις ελληνικής και μεταφρασμένης πεζογραφίας, ποίησης, βιογραφιών και δοκιμίων από 34 εκδοτικούς οίκους. Επιμέλεια: Κώστας Αγορα

ΦΑΚΕΛΟΙ