baladeur

Σκέψεις με αφορμή τα βιβλία «Άνθρωπος 4.0 – Για μια σοφή διαχείριση της 4ης βιομηχανικής επανάστασης» του Δημήτριου Λακασά (εκδ. Κλειδάριθμος) και «Συμβατή με τον άνθρωπο; – Η Τεχνητή Νοημοσύνη και το πρόβλημα του ελέγχου» του Stuart Russell (μτφρ. Νίκος Αποστολόπουλος, εκδ. Τραυλός).

Του Μύρωνα Ζαχαράκη

Στις 11 Μαΐου 1997, ο υπολογιστής της IBM Deep blue νίκησε τον παγκόσμιο πρωταθλητή στο σκάκι, Γκάρι Κασπάροφ, σηματοδοτώντας ένα κατόρθωμα πρωτοφανές στα χρονικά. Περίπου είκοσι χρόνια μετά, στις αρχές του 2018, ένα αυτόματο αυτοκίνητο της Uber στην Αριζόνα των Η.Π.Α. προκάλεσε τροχαίο δυστύχημα, σκοτώνοντας μια άτυχη γυναίκα ενώ εκείνη προσπαθούσε να διασχίσει τη διασταύρωση. Δίχως αμφιβολία, το ζήτημα της τεχνητής νοημοσύνης είναι εξαιρετικά επίκαιρο σήμερα, μαζί του όμως έρχεται μια πλειάδα προβληματισμών ηθικής φύσεως για τις νέες τεχνολογικές δυνατότητες και τον ρόλο που αυτές θα παίξουν στη ζωή μας. Με το παρόν βιβλίο του, που έχουμε στα ελληνικά χάρη στην υποδειγματική δουλειά των εκδόσεων Τραυλός, ο Στιούαρτ Ράσελ, ένας από τους πιο καταξιωμένους ερευνητές τεχνητής νοημοσύνης διεθνώς, εξηγεί στο μη εξειδικευμένο κοινό τις κεντρικές έννοιες της τεχνητής νοημοσύνης, τις προοπτικές της, καθώς και τους πιθανούς κινδύνους που αυτή εγκυμονεί. Παράλληλα, έχουμε και το επίσης ενδιαφέρον βιβλίο του επιχειρηματία Δημητρίου Λακασά, από τις εκδόσεις Κλειδάριθμος, που επικεντρώνεται στην τέταρτη βιομηχανική επανάσταση και τις συνέπειές της στον επιχειρηματικό κόσμο και όχι μόνο.

klidarithmos lakasas 4Οι προκλήσεις της 4ης βιομηχανικής επανάστασης

Αρχικά, σύμφωνα με τον Δημήτριο Λακασά, η ιστορία έχει γίνει μάρτυρας τεσσάρων βιομηχανικών επαναστάσεων ως τώρα. Κατά την πρώτη (1760-1840), παρατηρούμε την εμφάνιση της ατμομηχανής, καθώς και την εκμηχάνιση της κλωστοϋφαντουργίας. Στη δεύτερη βιομηχανική επανάσταση (1870-1930) έχουμε τον ηλεκτρισμό και τη μαζική παραγωγή αγαθών, στην τρίτη (1970-2020) έχουμε το διαδίκτυο και την αυτοματοποίηση, και τέλος, στην τέταρτη βιομηχανική επανάσταση (2020-..) κάνει την εμφάνισή της η τεχνητή νοημοσύνη, η ρομποτική και η εικονική πραγματικότητα. Παρατηρεί κανείς ότι μεταξύ των διαφορετικών «επαναστάσεων», υπάρχει ένα χρονικό κενό περίπου τριάντα ή σαράντα ετών (εξαίρεση αποτελεί η τέταρτη, η μετάβαση στην οποία φαίνεται πως υπήρξε άμεση). Μάλιστα, η καθεμιά συνδέεται χρονικά με γεγονότα που υπήρξαν καίριας ιστορικής σημασίας: η πρώτη επανάσταση έλαβε χώρα ανάμεσα στις πανδημίες της χολέρας και της πανούκλας, η δεύτερη στο λυκαυγές του Πρώτου Παγκοσμίου Πολέμου, η τρίτη στη λήξη του Δευτέρου, ενώ η τέταρτη συντελέσθηκε μετά την παγκόσμια οικονομική κρίση του 2008, καθώς και την πρόσφατη πανδημία του κορωνοϊού. Όπως εξηγεί ο Λακασάς, όπως κάθε δυσχερής κοινωνική κατάσταση φέρνει νέες προκλήσεις και δίνει την ευκαιρία για την προώθηση τεχνολογικών καινοτομιών, έτσι και τώρα, η πανδημία του κορωνοϊού εισάγει τον κόσμο μας με απρόσμενη ταχύτητα στην τέταρτη βιομηχανική επανάσταση (ψηφιοποίηση). Χαρακτηριστικό παράδειγμα ψηφιοποίησης, είναι η εκτεταμένη χρήση που έγινε στην πλατφόρμα zoom, στο πλαίσιο της κοινωνικής αποστασιοποίησης και των lockdowns, εισάγοντας για τα καλά στην καθημερινότητά μας όρους όπως “meeting” και “webinar”. Επιπλέον, κατά την πανδημία υπήρξε επίσης εκτεταμένος συντονισμός της βιομηχανίας με τα πανεπιστήμια και τις κυβερνήσεις, δηλαδή των τριών καίριων τομέων που αποτελούν μαζί τον «τριπλό έλικα της καινοτομίας».

viomichanikes epanastaseisΟυσιαστικά, η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας. Παράλληλα, κάθε επανάσταση προϋποθέτει και αποκαλύπτει έναν νέο «τύπο» ανθρώπου. Αρχικά ο homo sapiens, η πρώτη μορφή του σύγχρονου ανθρώπινου είδους, εμφανίστηκε πριν 200.000 χρόνια στην Αφρική και βασική ενασχόλησή του ήταν το κυνήγι. Ο Λακασάς τον ονομάζει «άνθρωπο 0.0». Το επόμενο στάδιο, ο «άνθρωπος 1.0», έρχεται στη νεολιθική επανάσταση, γνωστή επίσης και ως αγροτική επανάσταση, επειδή ακριβώς τότε (δηλ. πριν 10.000 χρόνια) έλαβε χώρα η εμφάνιση της γεωργίας. Ο άνθρωπος άρχισε να επεξεργάζεται τη γη, οργανώνοντας κοινωνίες και κάνοντας ικανοποιητική χρήση των διαθέσιμων πόρων. Κατόπιν, εμφανίστηκε ο «άνθρωπος 3.0» (1945-1990), στη ζωή του οποίου κύριο ρόλο έπαιζε η κατοχή κεφαλαίου και για πρώτη φορά προέκυψε το οργανωμένο κράτος πρόνοιας και μια σειρά τεχνολογικών επιτευγμάτων, από την έγχρωμη τηλεόραση ως το διαδίκτυο και την προσσελήνωση. Το ενδιαφέρον όμως εδώ είναι ότι ο συγγραφέας δε μεταβαίνει απευθείας στον άνθρωπο της τέταρτης βιομηχανικής επανάστασης, δηλαδή του σήμερα, αλλά εισάγει και ένα ενδιάμεσο στάδιο: πρόκειται για τον «άνθρωπο 3.5» (1990- σήμερα), ο οποίος συνειδητοποίησε πως δεν αρκεί το κεφάλαιο αλλά απαιτείται κάτι ακόμη: η γνώση. Σήμερα, η γνώση (κατοχή πληροφοριών και δεδομένων) έχει ίση, αν όχι μεγαλύτερη σημασία με την κατοχή κεφαλαίου.

Η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας.

Ωστόσο, σημειώνει, δεν προχωράει όλος ο κόσμος με την ίδια ταχύτητα: υπάρχουν χώρες που μόλις τώρα βιώνουν την τρίτη, τη δεύτερη, ενώ ακόμη και η πρώτη βιομηχανική επανάσταση παραμένει για ορισμένες χώρες (π.χ. Κονγκό) κάτι μακρινό. Η αφρικάνικη ήπειρος είναι ένα χαρακτηριστικό παράδειγμα του προβλήματος που καλείται να αντιμετωπίσει σήμερα η ανθρωπότητα: αν ο πόλεμος πλέον δε θα γίνεται για την ενέργεια, αλλά για πληροφορίες-δεδομένα, τότε εμφανίζεται μια νέα πηγή παγκόσμιων ανισοτήτων μεταξύ των κρατών. Τα κράτη που θα ελέγχουν τα δεδομένα θα είναι πρωταγωνίστριες, ενώ οι άλλες απλοί «κομπάρσοι» του σύγχρονου κόσμου. Ωστόσο, και εδώ είναι το μεγάλο πλεονέκτημα της τέταρτης βιομηχανικής επανάστασης, αν οι νέες τεχνολογίες αξιοποιηθούν με πρόθεση το καλό της ανθρωπότητας, οι διαφορές μεταξύ των κρατών ανά την υφήλιο μπορεί να μειωθούν σημαντικά. Καίριο ρόλο παίζει εδώ η έννοια της τεχνητής νοημοσύνης, που κατά τον Λακασά είναι μια από τις σημαντικότερες τεχνολογίες της τέταρτης βιομηχανικής επανάστασης και οι εφαρμογές της επεκτείνονται και πέραν του επιχειρηματικού τομέα. Με την τεχνητή νοημοσύνη, όμως, τίθεται και μια πλειάδα ηθικών διλημμάτων, τα οποία αποτελούν το κύριο θέμα του βιβλίου του Στιούαρτ Ράσελ. Ας δούμε πώς τα πραγματεύεται ο καθηγητής Ράσελ.

Τεχνητή νοημοσύνη: προς έναν νέο ορισμό

Αρχικά, υποστηρίζει, προκειμένου να κατανοήσουμε τι σημαίνει τεχνητή νοημοσύνη, πρέπει να κατανοήσουμε το τι σημαίνει «νοημοσύνη». Υπάρχει βέβαια το τεστ Turing, που έλαβε το όνομά του από τον γνωστό μαθηματικό που το επινόησε, κατά το οποίο μια ευφυής μηχανή προσπαθεί τάχα να παραπλανήσει έναν άνθρωπο, κάνοντάς τον να πιστεύει πως και εκείνη είναι άνθρωπος. Αυτό το τεστ είχε προταθεί, ως ένας τρόπος να φανεί αν μια μηχανή είναι νοήμων. Ο Russell υποστηρίζει πως προϋποθέτει έναν εντελώς λειτουργικό, περιορισμένο και ασαφή ορισμό της νοημοσύνης, που περιλαμβάνει τη βιολογία και τον πολιτισμό μαζί, επομένως είναι λογικό που οι βασικοί ερευνητές της τεχνητής νοημοσύνης (ΤΝ) δεν έχουν καταβάλει καμία προσπάθεια να το «ξεπεράσουν». Αντίθετα, εστιάζουν στην ορθολογική συμπεριφορά και στο ότι ένας ορθολογικός φορέας δράσης δρα έτσι ώστε να μεγιστοποιεί την αναμενόμενη χρησιμότητα. Ως «νοήμονα» λοιπόν ορίζουν οποιαδήποτε μηχανή έχει τη δυνατότητα να επιτύχει μέσω των πράξεών της έναν στόχο της, αξιοποιώντας οτιδήποτε έχει αντιληφθεί. Μια οντότητα που ικανοποιεί αυτή την προϋπόθεση, αξίζει να χαρακτηρίζεται νοήμων. Η ΤΝ καταπιάνεται με τις λεπτομέρειες της κατασκευής ορθολογικών μηχανών, δηλαδή μηχανών που να μεγιστοποιούν την αναμενόμενη χρησιμότητα.

Παρεμπιπτόντως, η νοημοσύνη δεν ισοδυναμεί κατά κανένα τρόπο με συνείδηση. Κανένας ερευνητής δεν εργάζεται με σκοπό να δημιουργήσει μηχανές με συνείδηση και τα δημοφιλή χολιγουντιανά σενάρια με κακόβουλες μηχανές που επιχειρούν να καταστρέψουν την ανθρωπότητα, αποτυγχάνουν να κατανοήσουν την ουσία: αυτό που μετράει δεν είναι η συνείδηση αλλά η ικανότητα, λέει χαρακτηριστικά ο Ράσελ. Αν και θεωρητικά θα μπορούσε να ήταν κάτι διαφορετικό (π.χ. χημικές αντιδράσεις ή βιολογικά κύτταρα), σήμερα ξέρουμε πως μια μηχανή ΤΝ δεν μπορεί παρά να είναι ηλεκτρονικός υπολογιστής. Γενικά, αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Ιστορικά, η έννοια της καθολικότητας εισήχθη για πρώτη φορά από τον Άλαν Τιούριγκ, σε ένα άρθρο του όπου περιέγραφε μαθηματικά μιαν υπολογιστική συσκευή η οποία θα μπορούσε να δεχθεί ως δεδομένο εισόδου την περιγραφή οποιασδήποτε άλλης και να παράγει τα ίδια δεδομένα εξόδου, προσομοιώνοντας τη λειτουργία της. Το θεωρητικό έργο του Τιούριγκ έγινε στα 1936 και οι πρώτες καθολικές υπολογιστικές μηχανές προέκυψαν στη δεκαετία του 1940. Το 1956 υπήρξε επίσημα το έτος γέννησης της τεχνητής νοημοσύνης, όταν οι νεαροί μαθηματικοί Τζον Μακάρθι και Μάρβιν Μίνσκι έπεισαν τον πληροφορικό Κλοντ Σάνον και τον Ναθάνιελ Ρότσεστερ (της IBM) να συνεργαστούν στην οργάνωση ενός θερινού προγράμματος μελετών στο κολέγιο Ντάρτμουθ. Ωστόσο, στα τέλη της δεκαετίας του 1960 και ύστερα από αρκετή μελέτη, οι ανακαλύψεις υπήρξαν μάλλον πενιχρές (κάτι που έμεινε γνωστό ως ο «χειμώνας ΤΝ»). Αυτή ήταν η πρώτη «φούσκα» της ΤΝ. Η δεύτερη ήρθε στα τέλη της δεκαετίας του 1980, όταν τα συγκεκριμένα συστήματα αποδείχθηκαν ανεπαρκή για τις διαδικασίες στις οποίες εφαρμόζονταν. Με λίγα λόγια, συνεχίζει ο Ράσελ, οι μηχανές δεν ήταν ακόμη αρκετά «έξυπνες».

Πάντως, η προαναφερθείσα περίοδος δεν απέβη εντελώς άκαρπη, διότι τότε τέθηκαν τα θεμέλια της «βαθιάς μάθησης». Οι υπολογιστές μόλις τη δεκαετία του 1940 εντάχθηκαν ως κλάδος στα τμήματα Μηχανικής των περισσότερων πανεπιστημίων, με αποτέλεσμα τη μεγάλη πρόοδο που συντελέστηκε σε έννοιες και μεθόδους, κατά την τελευταία εβδομηκονταετία. Η κατασκευή νοημόνων μηχανών εξαρτάται κυρίως από το πρόβλημα που επιθυμούμε να επιλύσουμε με τη χρήση τους. Με τη σειρά του, το πρόβλημα καθορίζεται από τρία δεδομένα: το περιβάλλον, τις δράσεις που συνδέουν τη μηχανή με αυτό, και τον εκάστοτε στόχο της μηχανής. Για την επίτευξή του, οι ερευνητές εφαρμόζουν την «ενισχυτική μάθηση», δηλαδή μια μάθηση μέσω ανταμοιβών από το εξωτερικό περιβάλλον, περίπου όπως ένα βρέφος μαθαίνει να περπατάει εν μέρει χάρη στις θετικές αντιδράσεις που δέχεται όταν καταφέρνει να κάνει ένα βήμα και στις αρνητικές όταν σκοντάφτει.

Ai photoΑναγκαία είναι σε αυτό το σημείο μια διευκρίνιση: υπάρχει η «εργαλειακή/περιορισμένη» (weak) ΤΝ, που απαιτεί συγκεκριμένες παρεμβάσεις από τον χειριστή της και χρησιμοποιείται για αναγνώριση χειρόγραφων ψηφίων ή παίξιμο του παιχνιδιού Γκο και σε άλλα, μικρά και θεωρητικώς ακίνδυνα, επιμέρους προβλήματα. Από την άλλη, υπάρχει και η «ισχυρή/γενικής χρήσεως» (strong) ΤΝ, τα συστήματα της οποίας θα μπορούν να επιλύουν προβλήματα χωρίς να απαιτούνται εξειδικευμένες παρεμβάσεις από τον χειριστή τους, αλλά και να κάνουν ευρύτερες δραστηριότητες, όπως διδασκαλία μοριακής βιολογίας ή κυβέρνηση ενός ολόκληρου κράτους. Αυτή η μορφή ΤΝ δεν υφίσταται ακόμη αλλά βρισκόμαστε ολοένα πιο κοντά στο να την επιτύχουμε και, παραδόξως, έχει γίνει σημαντική πρόοδος σε αυτό, ιδίως τη δεκαετία του 1990, μέσα από πολλές επιμέρους εφαρμογές της εργαλειακής ΤΝ (π.χ. στο Γκο).

Πόσα μπορεί λοιπόν να κάνει η ισχυρή ΤΝ; Σύμφωνα με τον Ράσελ, η ισχυρή ΤΝ δίνει την εντύπωση ότι τα πάντα είναι μια υπηρεσία. Συγκεκριμένα, τα μηχανήματά της εξ ορισμού θα μπορούν να έχουν πρόσβαση σε όλες τις γνώσεις και δεξιότητες της ανθρωπότητας και θα μπορούν, λόγω της γενικότητας που εξ ορισμού χαρακτηρίζει την ισχυρή ΤΝ, να μαγειρεύουν, να κατασκευάζουν γέφυρες, να βελτιώνουν τις σοδειές και να οργανώνουν τις εκλογικές διαδικασίες. Ωστόσο, η χρήση νοημόνων μηχανών εγκυμονεί και κάποια σοβαρά προβλήματα. Ας δούμε μερικά από αυτά. Όταν δίνουμε σε έναν άνθρωπο μιαν οδηγία (π.χ. «φέρε μου ένα φλιτζάνι καφέ»), προϋποθέτουμε πως εκείνος θα λάβει υπόψη του ορισμένους ευκόλως εννοούμενους παράγοντες (όπως π.χ. να μην πάει σε άλλη πόλη και γυρίσει μέρες αργότερα). Δυστυχώς δεν συμβαίνει το ίδιο με ένα ρομπότ το οποίο εφόσον έχει προγραμματιστεί να υπακούει σε σαφώς προκαθορισμένους στόχους (π.χ. όπως το «φέρε μου καφέ»). Το ρομπότ θα τους αντιλαμβάνεται κυριολεκτικά και χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Το ρομπότ αντιλαμβάνεται τις εντολές κυριολεκτικά χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Αν τελικά γίνει εκτεταμένη χρήση της ισχυρής ΤΝ, τα μηχανήματά της θα επιχειρούν την επίτευξη προκαθορισμένων στόχων με κάθε δυνατό μέσο, κάτι που μπορεί να σημαίνει ότι τελικά θα φτάσουν να μας εμποδίζουν να τα απενεργοποιήσουμε. Ο Τιούριγκ είχε προτείνει να μπορούμε ανά πάση στιγμή να απενεργοποιήσουμε τις μηχανές, αν αυτές μας δημιουργήσουν προβλήματα. Ο Ράσελ εξηγεί ότι αυτό ενδεχομένως θα καταστεί ανέφικτο: στα νοήμονα μηχανήματα η αυτοσυντήρηση θα ήταν ένας στόχος αναγκαίος για την επίτευξη όλων των άλλων («συντελεστικός» στόχος λέγεται), με αποτέλεσμα η μηχανή να τον θέτει χωρίς καν να έχει προγραμματιστεί για κάτι τέτοιο. Αυτό είναι ακόμη πιο πιθανό, αν η μηχανή έχει ξεπεράσει το ανθρώπινο επίπεδο νοημοσύνης (υπερνοημοσύνη). Πώς μπορούμε να αποφύγουμε αυτόν τον κίνδυνο;

Αρχικά, η άποψη ότι οι μηχανές πρέπει να έχουν έναν σαφώς καθορισμένο στόχο, πρέπει να εγκαταλειφθεί, για το καλό όλων μας. Κάτι τέτοιο όμως δεν είναι απλή διαδικασία, καθώς πρέπει να αντικαταστήσουμε πρώτα ορισμένα από τα θεμέλια της ΤΝ, δηλαδή τους βασικούς ορισμούς μας σε όσα επιθυμούμε να πετύχουμε. Πιο συγκεκριμένα, η προτεινόμενη λύση του Ράσελ αποτελείται από τρεις επιμέρους αρχές, που αναμένεται από τον ίδιο να λειτουργήσουν σε συνδυασμό: μόνος στόχος της μηχανής να είναι η πραγματοποίηση των ανθρώπινων προτιμήσεων, να υπάρχει σκόπιμα αβεβαιότητα της μηχανής σχετικά με το ποιες είναι αυτές τις προτιμήσεις, και τέλος, η απόλυτη πηγή ενημέρωσης για το ποιες είναι, να είναι η έμπρακτη ανθρώπινη συμπεριφορά. Σύμφωνα με τον Ράσελ, το βασικό πρόβλημα είναι στον ορισμό της ΤΝ: θεωρώντας πως μια μηχανή είναι νοήμων εφόσον είναι ικανή να αξιοποιεί τα μέσα για να πετύχει τους στόχους της, ξεχνάμε δυστυχώς ότι ενδέχεται οι «στόχοι» της να μην ταυτίζονται με τους δικούς μας.

travlos symvati me ton anthropoΓια να είναι αληθινά ωφέλιμες, οι μηχανές πρέπει να φτάνουν με τις πράξεις τους στους δικούς μας στόχους. Εδώ εμφανίζονται δύο προβλήματα, που είναι γνωστά ως το «πρόβλημα του γορίλα» και το «πρόβλημα του Μίδα» (εδώ μπορεί κανείς να παρακολουθήσει και την κατατοπιστική ομιλία του Ράσελ στο TED). Με το πρώτο πρόβλημα δηλώνεται ο κίνδυνος να ξεπεραστεί η ανθρώπινη νοημοσύνη από εκείνη μιας μηχανής, με αποτέλεσμα ο έλεγχος της τελευταίας να χαθεί, με αρνητικές συνέπειες για εμάς (όπως η εξέλιξη της δικής μας νοημοσύνης είχε τελικά αρνητικές συνέπειες για τους γορίλλες). Όπως είναι γνωστό, ο ανθρώπινος εγκέφαλος είναι το πολυπλοκότερο πράγμα στο σύμπαν. Αν κάποια στιγμή η υπερνοημοσύνη γίνει εφικτή, τότε θα υπάρχει κάτι πολυπλοκότερο από τον εγκέφαλό μας: η μηχανή. Πιο απλά, αν φτιάξουμε μηχανές με υπερανθρώπινη νοημοσύνη, σύντομα θα αδυνατούμε να τις ελέγξουμε. Το δεύτερο πρόβλημα, που παραπέμπει στον γνωστό βασιλιά από την αρχαιοελληνική μυθολογία, εμφανίζεται όταν κάποιος παίρνει ακριβώς εκείνο που εντέλλεται με αποτέλεσμα να καταλήγει όχι στην ευτυχία, όπως ανέμενε, αλλά στην αυτοκαταστροφή. Το γεγονός ότι μέχρι σήμερα οι νοήμονες μηχανές που έχουν κατασκευαστεί είναι όχι αρκετά «νοήμονες» και έχουν συγκεκριμένες και σαφώς περιορισμένες δυνατότητες, τις καθιστά προς το παρόν ακίνδυνες. Αυτό όμως δεν θα συμβαίνει για πάντα.

Πάντως, ο Ράσελ είναι αισιόδοξος ότι η πρότασή του είναι επιτεύξιμη: υπάρχουν οικονομικοί λόγοι αφενός και πλήθος δεδομένων αφετέρου (ενν. ανθρώπινες συμπεριφορές) που ευνοούν τη μάθηση των ανθρωπίνων προτιμήσεων από τα ρομπότ. Φυσικά, δεν απουσιάζουν και οι αντίθετοι σε όλα αυτά, που θεωρούν τους παραπάνω κινδύνους μακρινούς ή/και αβάσιμους, τονίζουν πως η έρευνα τεχνητής νοημοσύνης δεν πρέπει να σταματήσει και υποτιμούν ως τεχνοφοβικούς «λουδίτες» όσους προβληματίζονται σχετικά. Ο Ράσελ απαντάει ότι μέσα στους ανήσυχους, όσον αφορά τη χρήση της ΤΝ, ήταν και επιστήμονες όπως ο Στίβεν Χόκινγκ, ο Μίνσκι, o Βίνερ και σε τελική ανάλυση ο ίδιος ο Τιούρινγκ, όπως επίσης και οι γνωστοί επενδυτές σε συστήματα τεχνητής νοημοσύνης Μπιλ Γκέιτς και Ίλον Μασκ. Το ότι ένα πρόβλημα είναι (σχετικά) μακροπρόθεσμο δεν σημαίνει πως μπορούμε να επαναπαυόμαστε. Εξάλλου, η επιτυχής απαγόρευση των προγραμμάτων γαμετικής τροποποίησης στον άνθρωπο δεν οδήγησε σε παράνομες έρευνες ούτε και σε χώρες χωρίς κανονισμούς. Το να προειδοποιείς για πιθανούς κινδύνους, δεν σημαίνει αναγκαστικά ότι είσαι τεχνοφοβικός, λέει ο συγγραφέας. Πρόσφατες μελέτες δείχνουν ότι οι περισσότεροι ερευνητές αναμένουν την εμφάνιση μιας τεχνητής νοημοσύνης ανθρώπινου επιπέδου (ισχυρή ΤΝ) ή και ανώτερου (υπερνοημοσύνη), στα μέσα αυτού του αιώνα. Ο Ράσελ παρατείνει την προθεσμία στα επόμενα ογδόντα χρόνια. Βέβαια, επισημαίνει, υπάρχει μακρά ιστορία τέτοιων προβλέψεων που έχουν αποδειχθεί εσφαλμένες. Γεγονός είναι όμως ότι η υπερνοημοσύνη είναι εγγενώς απρόβλεπτη. Ο λόγος είναι ότι απαιτεί «εννοιολογικές επαναστάσεις». Πάντως, η βιομηχανία ΤΝ παραμένει σε γενικές γραμμές δίχως έλεγχο. Ο Ράσελ θεωρεί απαραίτητες ορισμένες ρυθμίσεις, αρχής γενομένης με την επέκταση της συμφωνίας της Βουδαπέστης στην ΤΝ. Σε κάθε περίπτωση, η τέταρτη βιομηχανική επανάσταση είναι γεγονός. Θα καταφέρει άραγε ο άνθρωπος να συντονιστεί μαζί της;

Απόσπασμα από το βιβλίο του Λακασά:

«Ο άνθρωπος ήταν, είναι και θα είναι ο απόλυτος πρωταγωνιστής σε κάθε εξέλιξη. Είναι εκείνος που έχει μερίδιο για τις απειλές προς το είδος του, όπως αντίστοιχα πιστώνεται και τις επιτυχίες […] Αν από τη μια πλευρά έχουμε τους Νεολουδίτες και από την άλλη τους Μετανθρωπιστές, τότε ο Άνθρωπος 4.0 είναι- και οφείλει να αποτελεί- διαχρονική αξία. Η σοφία ήταν ανέκαθεν η οδός της αριστείας και πάνω σε αυτήν πρέπει να πορευθεί ο Άνθρωπος 4.0» (σελ. 384-385).

Απόσπασμα από το βιβλίο του Ράσελ:

«Το καθιερωμένο μοντέλο που βρίσκεται πίσω από ένα μεγάλο μέρος των τεχνολογιών του εικοστού αιώνα στηρίζεται σε μηχανισμούς που βελτιστοποιούν έναν σταθερό, εξωγενώς παρεχόμενο στόχο. Όπως έχουμε δει, το μοντέλο αυτό είναι θεμελιωδώς εσφαλμένο. Λειτουργεί μόνο αν ο στόχος είναι εγγυημένα πλήρης και ορθός ή αν ο μηχανισμός μπορεί εύκολα να επαναρυθμιστεί. Καμία συνθήκη δεν θα ισχύει καθώς η Τεχνητή Νοημοσύνη θα γίνεται ολοένα και πιο ισχυρή. Η μηχανή δεν έχει νόημα να λειτουργεί με δεδομένο ότι πάντοτε ο παρεχόμενος στόχος είναι ο σωστός, καθώς ενδέχεται ενίοτε να είναι ο λάθος. Εξ ου και η πρότασή μου για τις ωφέλιμες μηχανές: με τις δράσεις τους αναμένεται να πετυχαίνουν τους δικούς μας στόχους. Επειδή αυτοί οι στόχοι είναι οι δικοί μας, και όχι οι δικοί τους, οι μηχανές- παρατηρώντας τις επιλογές που κάνουμε καθώς κι πώς τις κάνουμε- θα πρέπει να μάθουν περισσότερα για το τι πραγματικά θέλουμε. Οι μηχανές που είναι έτσι σχεδιασμένες θα συμμορφώνονται με τους ανθρώπους: θα ζητούν άδεια θα δουν προσεκτικά όταν δεν είναι ξεκάθαρη η καθοδήγηση και τέλος, θα επιτρέπουν την απενεργοποίησή τους» (σελ. 334).

* Ο ΜΥΡΩΝ ΖΑΧΑΡΑΚΗΣ είναι υποψήφιος διδάκτωρ Φιλοσοφίας.

Ακολουθήστε την boopress.gr στο Google News και διαβάστε πρώτοι τα θέματα που σας ενδιαφέρουν.


ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Τέοντορ Ράικ και Άλις Μίλερ: Τα ψυχικά τραύματα, η παιδαγωγική και η ανάγκη για αγάπη

Τέοντορ Ράικ και Άλις Μίλερ: Τα ψυχικά τραύματα, η παιδαγωγική και η ανάγκη για αγάπη

Με αφορμή το βιβλίο του Τέοντορ Ράικ [Theodor Reik] «Η ανάγκη να μας αγαπούν» (μτφρ. Ροζίνα Μπέρκνερ, εκδ. Αλεξάνδρεια) και  τη μελέτη της Άλις Μίλερ [Alice Miller] «Για το καλό σου: Αρχή πάντων διαπαιδαγώγηση» (μτφρ. Εύη Μαυρομμάτη, εκδ. Ροές).

Του Μύρωνα Ζαχαράκη

...
«Τρεις γκινέες» της Βιρτζίνια Γουλφ – Μνημείο πνευματικής διαύγειας και ηθικής τόλμης

«Τρεις γκινέες» της Βιρτζίνια Γουλφ – Μνημείο πνευματικής διαύγειας και ηθικής τόλμης

Ένα βιβλίο που γράφτηκε σχεδόν έναν αιώνα πριν και παραμένει μέχρι σήμερα επίκαιρο και διαφωτιστικό, το οποίο μας μιλάει για την κατάσταση της γυναίκας σε έναν κόσμο όπου όλα ρυθμίζονται και κανοναρχούνται από τους άντρες, για τους άντρες. Τίτλος του, «Τρεις γκινέες», και συγγραφέας του, η Βιρτζίνια Γουλφ (μτφρ. Μυρ...

«Ο τελευταίος πίνακας ή το πορτρέτο του Θεού» της Ελέν Σιξού (κριτική)

«Ο τελευταίος πίνακας ή το πορτρέτο του Θεού» της Ελέν Σιξού (κριτική)

Για το δοκίμιο της Ελέν Σιξού (Helen Cixous), «Ο τελευταίος πίνακας ή το πορτρέτο του Θεού» (μτφρ. Θωμάς Συμεωνίδης, εκδ. Σαιξπηρικόν)

Της Έλσας Κορνέτη

Μια παράλληλη πραγματικότητα είναι η τέχνη, που δίνει την ψευδαίσθηση μιας επιδιόρθωσης της πραγματ...

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Το μίσος για την ελληνική λογοτεχνία

Το μίσος για την ελληνική λογοτεχνία

Σκέψεις του γνωστού συγγραφέα σχετικά με την ανυποληψία της νεοελληνικής πεζογραφίας στο ελληνικό κοινό. Στην κεντρική εικόνα, τμήμα από το έργο «Portrait of George Dyer in a Mirror» (1968), του Φράνσις Μπέικον.

Του Αλέξη Πανσέληνου

Έγινε πρόσφατα μεγά...

Διαβάζοντας με τον Παναγιώτη Εξαρχέα

Διαβάζοντας με τον Παναγιώτη Εξαρχέα

Πρόσωπα από το χώρο των τεχνών, των ιδεών και του πολιτισμού, αποκαλύπτουν τον δικό τους αναγνωστικό χαρακτήρα, τη μύχια σχέση τους με το βιβλίο και την ανάγνωση. Σήμερα, σκηνοθέτης Παναγιώτης Εξαρχέας απαντά σε 20 κλασικές ή απρόσμενες βιβλιοφιλικές ερωτήσεις.

Επιμέλεια: Λεωνίδας Καλούσης ...

Το «Μυθιστόρημα» του Γιώργου Χειμωνά στο Μικρό Θέατρο Κεραμεικού

Το «Μυθιστόρημα» του Γιώργου Χειμωνά στο Μικρό Θέατρο Κεραμεικού

Το διήγημα του σπουδαίου Έλληνα λογοτέχνη Γιώργου Χειμωνά, «Μυθιστόρημα», μεταφέρεται στη σκηνή, από την Τρίτη 11 Οκτωβρίου και κάθε Δευτέρα και Τρίτη στις 21:00, στο Μικρό Θέατρο Κεραμεικού.

Επιμέλεια: Book Press

Ό,τι αξίζε...

ΠΡΟΔΗΜΟΣΙΕΥΣΕΙΣ

«Πλατωνικοί διάλογοι» του Χάρη Βλαβιανού (προδημοσίευση)

«Πλατωνικοί διάλογοι» του Χάρη Βλαβιανού (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το πεζογράφημα του Χάρη Βλαβιανού «Πλατωνικοί διάλογοι ή γιατί στο σπήλαιο κάνουν όλοι πάρτι», που θα κυκλοφορήσει μέσα Οκτωβρίου από τις εκδόσεις Πατάκη.

Επιμέλεια: Κώστας Αγοραστός

ΤΕΛΟΣ ΚΑΛΟ ΟΛΑ ΚΑΛΥΤΕΡΑ

...
«Μεταξύ μυθοπλασίας και πραγματικότητας» του Κώστα Καβανόζη (προδημοσίευση)

«Μεταξύ μυθοπλασίας και πραγματικότητας» του Κώστα Καβανόζη (προδημοσίευση)

Προδημοσίευση αποσπάσματος από τη μελέτη του Κώστα Καβανόζη «Μεταξύ μυθοπλασίας και πραγματικότητας – Το μυθιστόρημα τεκμηρίων και η λογοτεχνικότητα του αναφορικού λόγου», που θα κυκλοφορήσει από τις εκδόσεις Πατάκη, τέλη Σεπτεμβρίου.

Επιμέλεια: Κώστας Αγοραστός

...
«Άλμπατρος» της Αν Κλιβς (προδημοσίευση)

«Άλμπατρος» της Αν Κλιβς (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το μυθιστόρημα της Ann Cleeves «Άλμπατρος» (μτφρ. Παλμύρα Ισμυρίδου), το οποίο θα κυκλοφορήσει στις 4 Ιουλίου από τις εκδόσεις Κλειδάριθμος.

Επιμέλεια: Κώστας Αγοραστός

Κεφάλαιο 3

...

ΠΡΟΤΑΣΕΙΣ

 Τα βιβλία του φθινοπώρου: Τι θα διαβάσουμε τους μήνες που έρχονται

Τα βιβλία του φθινοπώρου: Τι θα διαβάσουμε τους μήνες που έρχονται

Επιλογές βιβλίων από τις προσεχείς εκδόσεις ελληνικής και μεταφρασμένης πεζογραφίας, ποίησης, βιογραφιών, δοκιμίων και μελετών. 

Επιμέλεια: Κώστας Αγοραστός

Τρεις «γεμάτοι» μήνες μένουν μέχρι και το τέλος αυτής της χρονιάς και οι εκδοτικοί οίκοι β...

100 χρόνια από τη Μικρασιατική Καταστροφή: 15 βιβλία που ξεχωρίζουν

100 χρόνια από τη Μικρασιατική Καταστροφή: 15 βιβλία που ξεχωρίζουν

100 χρόνια συμπληρώνονται αυτές τις μέρες από τη Μικρασιατική Καταστροφή. Πολλές και ενδιαφέρουσες εκδόσεις έχουν εμπλουτίσει φέτος τη σχετική βιβλιογραφία. Επιλέξαμε 15 πρόσφατες ή και παλιότερες, που αφορούν βιβλία μη μυθοπλαστικά. Καλύπτουν, πιστεύουμε, μια σφαιρική θέαση των όσων προηγήθηκαν, των γεγονότων του Σ...

Δέκα κλασικά βιβλία που λογοκρίνονται ξανά και ξανά

Δέκα κλασικά βιβλία που λογοκρίνονται ξανά και ξανά

Πολλοί πιστεύουν πως η εποχή που τα λογοτεχνικά βιβλία απαγορεύονταν και καίγονταν στην πυρά έχει παρέλθει. Στην πραγματικότητα, μέχρι και σήμερα, πολλές συντηρητικές ομάδες σε πολλές χώρες του κόσμου επιχειρούν να λογοκρίνουν και να καταστρέψουν ακόμα και έργα που θεωρούνται πλέον κλασικά, με διάφορες δικαιολογίες....

ΠΡΟΘΗΚΕΣ

ΠΡΟΘΗΚΕΣ

Newsletter

Θέλω να λαμβάνω το newsletter σας
ΕΓΓΡΑΦΗ

ΣΥΓΓΡΑΦΕΙΣ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ ΤΟΥ ΜΗΝΑ

22 Σεπτεμβρίου 2022 ΠΡΟΤΑΣΕΙΣ

Τα βιβλία του φθινοπώρου: Τι θα διαβάσουμε τους μήνες που έρχονται

Επιλογές βιβλίων από τις προσεχείς εκδόσεις ελληνικής και μεταφρασμένης πεζογραφίας, ποίησης, βιογραφιών, δοκιμίων και μελετών.  Επιμέλεια: Κώστας Αγοραστός

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ ΤΗΣ ΧΡΟΝΙΑΣ

07 Ιανουαρίου 2022 ΠΡΟΤΑΣΕΙΣ

Τα 100 καλύτερα λογοτεχνικά βιβλία του 2021

Φέτος περιμέναμε την εκπνοή της χρονιάς πριν συντάξουμε την καθιερωμένη μας πια λίστα με τα καλύτερα λογοτεχνικά βιβλία της χρονιάς. Ο λόγος είναι ότι τούτες τις Γιορτέ

ΦΑΚΕΛΟΙ