baladeur

Σκέψεις με αφορμή τα βιβλία «Άνθρωπος 4.0 – Για μια σοφή διαχείριση της 4ης βιομηχανικής επανάστασης» του Δημήτριου Λακασά (εκδ. Κλειδάριθμος) και «Συμβατή με τον άνθρωπο; – Η Τεχνητή Νοημοσύνη και το πρόβλημα του ελέγχου» του Stuart Russell (μτφρ. Νίκος Αποστολόπουλος, εκδ. Τραυλός).

Του Μύρωνα Ζαχαράκη

Στις 11 Μαΐου 1997, ο υπολογιστής της IBM Deep blue νίκησε τον παγκόσμιο πρωταθλητή στο σκάκι, Γκάρι Κασπάροφ, σηματοδοτώντας ένα κατόρθωμα πρωτοφανές στα χρονικά. Περίπου είκοσι χρόνια μετά, στις αρχές του 2018, ένα αυτόματο αυτοκίνητο της Uber στην Αριζόνα των Η.Π.Α. προκάλεσε τροχαίο δυστύχημα, σκοτώνοντας μια άτυχη γυναίκα ενώ εκείνη προσπαθούσε να διασχίσει τη διασταύρωση. Δίχως αμφιβολία, το ζήτημα της τεχνητής νοημοσύνης είναι εξαιρετικά επίκαιρο σήμερα, μαζί του όμως έρχεται μια πλειάδα προβληματισμών ηθικής φύσεως για τις νέες τεχνολογικές δυνατότητες και τον ρόλο που αυτές θα παίξουν στη ζωή μας. Με το παρόν βιβλίο του, που έχουμε στα ελληνικά χάρη στην υποδειγματική δουλειά των εκδόσεων Τραυλός, ο Στιούαρτ Ράσελ, ένας από τους πιο καταξιωμένους ερευνητές τεχνητής νοημοσύνης διεθνώς, εξηγεί στο μη εξειδικευμένο κοινό τις κεντρικές έννοιες της τεχνητής νοημοσύνης, τις προοπτικές της, καθώς και τους πιθανούς κινδύνους που αυτή εγκυμονεί. Παράλληλα, έχουμε και το επίσης ενδιαφέρον βιβλίο του επιχειρηματία Δημητρίου Λακασά, από τις εκδόσεις Κλειδάριθμος, που επικεντρώνεται στην τέταρτη βιομηχανική επανάσταση και τις συνέπειές της στον επιχειρηματικό κόσμο και όχι μόνο.

klidarithmos lakasas 4Οι προκλήσεις της 4ης βιομηχανικής επανάστασης

Αρχικά, σύμφωνα με τον Δημήτριο Λακασά, η ιστορία έχει γίνει μάρτυρας τεσσάρων βιομηχανικών επαναστάσεων ως τώρα. Κατά την πρώτη (1760-1840), παρατηρούμε την εμφάνιση της ατμομηχανής, καθώς και την εκμηχάνιση της κλωστοϋφαντουργίας. Στη δεύτερη βιομηχανική επανάσταση (1870-1930) έχουμε τον ηλεκτρισμό και τη μαζική παραγωγή αγαθών, στην τρίτη (1970-2020) έχουμε το διαδίκτυο και την αυτοματοποίηση, και τέλος, στην τέταρτη βιομηχανική επανάσταση (2020-..) κάνει την εμφάνισή της η τεχνητή νοημοσύνη, η ρομποτική και η εικονική πραγματικότητα. Παρατηρεί κανείς ότι μεταξύ των διαφορετικών «επαναστάσεων», υπάρχει ένα χρονικό κενό περίπου τριάντα ή σαράντα ετών (εξαίρεση αποτελεί η τέταρτη, η μετάβαση στην οποία φαίνεται πως υπήρξε άμεση). Μάλιστα, η καθεμιά συνδέεται χρονικά με γεγονότα που υπήρξαν καίριας ιστορικής σημασίας: η πρώτη επανάσταση έλαβε χώρα ανάμεσα στις πανδημίες της χολέρας και της πανούκλας, η δεύτερη στο λυκαυγές του Πρώτου Παγκοσμίου Πολέμου, η τρίτη στη λήξη του Δευτέρου, ενώ η τέταρτη συντελέσθηκε μετά την παγκόσμια οικονομική κρίση του 2008, καθώς και την πρόσφατη πανδημία του κορωνοϊού. Όπως εξηγεί ο Λακασάς, όπως κάθε δυσχερής κοινωνική κατάσταση φέρνει νέες προκλήσεις και δίνει την ευκαιρία για την προώθηση τεχνολογικών καινοτομιών, έτσι και τώρα, η πανδημία του κορωνοϊού εισάγει τον κόσμο μας με απρόσμενη ταχύτητα στην τέταρτη βιομηχανική επανάσταση (ψηφιοποίηση). Χαρακτηριστικό παράδειγμα ψηφιοποίησης, είναι η εκτεταμένη χρήση που έγινε στην πλατφόρμα zoom, στο πλαίσιο της κοινωνικής αποστασιοποίησης και των lockdowns, εισάγοντας για τα καλά στην καθημερινότητά μας όρους όπως “meeting” και “webinar”. Επιπλέον, κατά την πανδημία υπήρξε επίσης εκτεταμένος συντονισμός της βιομηχανίας με τα πανεπιστήμια και τις κυβερνήσεις, δηλαδή των τριών καίριων τομέων που αποτελούν μαζί τον «τριπλό έλικα της καινοτομίας».

viomichanikes epanastaseisΟυσιαστικά, η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας. Παράλληλα, κάθε επανάσταση προϋποθέτει και αποκαλύπτει έναν νέο «τύπο» ανθρώπου. Αρχικά ο homo sapiens, η πρώτη μορφή του σύγχρονου ανθρώπινου είδους, εμφανίστηκε πριν 200.000 χρόνια στην Αφρική και βασική ενασχόλησή του ήταν το κυνήγι. Ο Λακασάς τον ονομάζει «άνθρωπο 0.0». Το επόμενο στάδιο, ο «άνθρωπος 1.0», έρχεται στη νεολιθική επανάσταση, γνωστή επίσης και ως αγροτική επανάσταση, επειδή ακριβώς τότε (δηλ. πριν 10.000 χρόνια) έλαβε χώρα η εμφάνιση της γεωργίας. Ο άνθρωπος άρχισε να επεξεργάζεται τη γη, οργανώνοντας κοινωνίες και κάνοντας ικανοποιητική χρήση των διαθέσιμων πόρων. Κατόπιν, εμφανίστηκε ο «άνθρωπος 3.0» (1945-1990), στη ζωή του οποίου κύριο ρόλο έπαιζε η κατοχή κεφαλαίου και για πρώτη φορά προέκυψε το οργανωμένο κράτος πρόνοιας και μια σειρά τεχνολογικών επιτευγμάτων, από την έγχρωμη τηλεόραση ως το διαδίκτυο και την προσσελήνωση. Το ενδιαφέρον όμως εδώ είναι ότι ο συγγραφέας δε μεταβαίνει απευθείας στον άνθρωπο της τέταρτης βιομηχανικής επανάστασης, δηλαδή του σήμερα, αλλά εισάγει και ένα ενδιάμεσο στάδιο: πρόκειται για τον «άνθρωπο 3.5» (1990- σήμερα), ο οποίος συνειδητοποίησε πως δεν αρκεί το κεφάλαιο αλλά απαιτείται κάτι ακόμη: η γνώση. Σήμερα, η γνώση (κατοχή πληροφοριών και δεδομένων) έχει ίση, αν όχι μεγαλύτερη σημασία με την κατοχή κεφαλαίου.

Η τέταρτη βιομηχανική επανάσταση τώρα εξελίσσεται: τεχνολογίες όπως τα αυτόνομα χρήματα, η τεχνητή νοημοσύνη και το «διαδίκτυο των πραγμάτων» ενσωματώνονται όλο και περισσότερο στη ζωή μας.

Ωστόσο, σημειώνει, δεν προχωράει όλος ο κόσμος με την ίδια ταχύτητα: υπάρχουν χώρες που μόλις τώρα βιώνουν την τρίτη, τη δεύτερη, ενώ ακόμη και η πρώτη βιομηχανική επανάσταση παραμένει για ορισμένες χώρες (π.χ. Κονγκό) κάτι μακρινό. Η αφρικάνικη ήπειρος είναι ένα χαρακτηριστικό παράδειγμα του προβλήματος που καλείται να αντιμετωπίσει σήμερα η ανθρωπότητα: αν ο πόλεμος πλέον δε θα γίνεται για την ενέργεια, αλλά για πληροφορίες-δεδομένα, τότε εμφανίζεται μια νέα πηγή παγκόσμιων ανισοτήτων μεταξύ των κρατών. Τα κράτη που θα ελέγχουν τα δεδομένα θα είναι πρωταγωνίστριες, ενώ οι άλλες απλοί «κομπάρσοι» του σύγχρονου κόσμου. Ωστόσο, και εδώ είναι το μεγάλο πλεονέκτημα της τέταρτης βιομηχανικής επανάστασης, αν οι νέες τεχνολογίες αξιοποιηθούν με πρόθεση το καλό της ανθρωπότητας, οι διαφορές μεταξύ των κρατών ανά την υφήλιο μπορεί να μειωθούν σημαντικά. Καίριο ρόλο παίζει εδώ η έννοια της τεχνητής νοημοσύνης, που κατά τον Λακασά είναι μια από τις σημαντικότερες τεχνολογίες της τέταρτης βιομηχανικής επανάστασης και οι εφαρμογές της επεκτείνονται και πέραν του επιχειρηματικού τομέα. Με την τεχνητή νοημοσύνη, όμως, τίθεται και μια πλειάδα ηθικών διλημμάτων, τα οποία αποτελούν το κύριο θέμα του βιβλίου του Στιούαρτ Ράσελ. Ας δούμε πώς τα πραγματεύεται ο καθηγητής Ράσελ.

Τεχνητή νοημοσύνη: προς έναν νέο ορισμό

Αρχικά, υποστηρίζει, προκειμένου να κατανοήσουμε τι σημαίνει τεχνητή νοημοσύνη, πρέπει να κατανοήσουμε το τι σημαίνει «νοημοσύνη». Υπάρχει βέβαια το τεστ Turing, που έλαβε το όνομά του από τον γνωστό μαθηματικό που το επινόησε, κατά το οποίο μια ευφυής μηχανή προσπαθεί τάχα να παραπλανήσει έναν άνθρωπο, κάνοντάς τον να πιστεύει πως και εκείνη είναι άνθρωπος. Αυτό το τεστ είχε προταθεί, ως ένας τρόπος να φανεί αν μια μηχανή είναι νοήμων. Ο Russell υποστηρίζει πως προϋποθέτει έναν εντελώς λειτουργικό, περιορισμένο και ασαφή ορισμό της νοημοσύνης, που περιλαμβάνει τη βιολογία και τον πολιτισμό μαζί, επομένως είναι λογικό που οι βασικοί ερευνητές της τεχνητής νοημοσύνης (ΤΝ) δεν έχουν καταβάλει καμία προσπάθεια να το «ξεπεράσουν». Αντίθετα, εστιάζουν στην ορθολογική συμπεριφορά και στο ότι ένας ορθολογικός φορέας δράσης δρα έτσι ώστε να μεγιστοποιεί την αναμενόμενη χρησιμότητα. Ως «νοήμονα» λοιπόν ορίζουν οποιαδήποτε μηχανή έχει τη δυνατότητα να επιτύχει μέσω των πράξεών της έναν στόχο της, αξιοποιώντας οτιδήποτε έχει αντιληφθεί. Μια οντότητα που ικανοποιεί αυτή την προϋπόθεση, αξίζει να χαρακτηρίζεται νοήμων. Η ΤΝ καταπιάνεται με τις λεπτομέρειες της κατασκευής ορθολογικών μηχανών, δηλαδή μηχανών που να μεγιστοποιούν την αναμενόμενη χρησιμότητα.

Παρεμπιπτόντως, η νοημοσύνη δεν ισοδυναμεί κατά κανένα τρόπο με συνείδηση. Κανένας ερευνητής δεν εργάζεται με σκοπό να δημιουργήσει μηχανές με συνείδηση και τα δημοφιλή χολιγουντιανά σενάρια με κακόβουλες μηχανές που επιχειρούν να καταστρέψουν την ανθρωπότητα, αποτυγχάνουν να κατανοήσουν την ουσία: αυτό που μετράει δεν είναι η συνείδηση αλλά η ικανότητα, λέει χαρακτηριστικά ο Ράσελ. Αν και θεωρητικά θα μπορούσε να ήταν κάτι διαφορετικό (π.χ. χημικές αντιδράσεις ή βιολογικά κύτταρα), σήμερα ξέρουμε πως μια μηχανή ΤΝ δεν μπορεί παρά να είναι ηλεκτρονικός υπολογιστής. Γενικά, αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Αυτό που καθιστά τον υπολογιστή τόσο ιδιαίτερο είναι η «καθολικότητά» του, δηλαδή η εντυπωσιακή ικανότητα που έχει να πραγματοποιεί αμέτρητες πράξεις: από αριθμητική, μηχανική μετάφραση, νίκη ενός παγκόσμιου πρωταθλητή στο σκάκι, μέχρι κατανόηση λόγου και δημιουργία κινουμένων σχεδίων.

Ιστορικά, η έννοια της καθολικότητας εισήχθη για πρώτη φορά από τον Άλαν Τιούριγκ, σε ένα άρθρο του όπου περιέγραφε μαθηματικά μιαν υπολογιστική συσκευή η οποία θα μπορούσε να δεχθεί ως δεδομένο εισόδου την περιγραφή οποιασδήποτε άλλης και να παράγει τα ίδια δεδομένα εξόδου, προσομοιώνοντας τη λειτουργία της. Το θεωρητικό έργο του Τιούριγκ έγινε στα 1936 και οι πρώτες καθολικές υπολογιστικές μηχανές προέκυψαν στη δεκαετία του 1940. Το 1956 υπήρξε επίσημα το έτος γέννησης της τεχνητής νοημοσύνης, όταν οι νεαροί μαθηματικοί Τζον Μακάρθι και Μάρβιν Μίνσκι έπεισαν τον πληροφορικό Κλοντ Σάνον και τον Ναθάνιελ Ρότσεστερ (της IBM) να συνεργαστούν στην οργάνωση ενός θερινού προγράμματος μελετών στο κολέγιο Ντάρτμουθ. Ωστόσο, στα τέλη της δεκαετίας του 1960 και ύστερα από αρκετή μελέτη, οι ανακαλύψεις υπήρξαν μάλλον πενιχρές (κάτι που έμεινε γνωστό ως ο «χειμώνας ΤΝ»). Αυτή ήταν η πρώτη «φούσκα» της ΤΝ. Η δεύτερη ήρθε στα τέλη της δεκαετίας του 1980, όταν τα συγκεκριμένα συστήματα αποδείχθηκαν ανεπαρκή για τις διαδικασίες στις οποίες εφαρμόζονταν. Με λίγα λόγια, συνεχίζει ο Ράσελ, οι μηχανές δεν ήταν ακόμη αρκετά «έξυπνες».

Πάντως, η προαναφερθείσα περίοδος δεν απέβη εντελώς άκαρπη, διότι τότε τέθηκαν τα θεμέλια της «βαθιάς μάθησης». Οι υπολογιστές μόλις τη δεκαετία του 1940 εντάχθηκαν ως κλάδος στα τμήματα Μηχανικής των περισσότερων πανεπιστημίων, με αποτέλεσμα τη μεγάλη πρόοδο που συντελέστηκε σε έννοιες και μεθόδους, κατά την τελευταία εβδομηκονταετία. Η κατασκευή νοημόνων μηχανών εξαρτάται κυρίως από το πρόβλημα που επιθυμούμε να επιλύσουμε με τη χρήση τους. Με τη σειρά του, το πρόβλημα καθορίζεται από τρία δεδομένα: το περιβάλλον, τις δράσεις που συνδέουν τη μηχανή με αυτό, και τον εκάστοτε στόχο της μηχανής. Για την επίτευξή του, οι ερευνητές εφαρμόζουν την «ενισχυτική μάθηση», δηλαδή μια μάθηση μέσω ανταμοιβών από το εξωτερικό περιβάλλον, περίπου όπως ένα βρέφος μαθαίνει να περπατάει εν μέρει χάρη στις θετικές αντιδράσεις που δέχεται όταν καταφέρνει να κάνει ένα βήμα και στις αρνητικές όταν σκοντάφτει.

Ai photoΑναγκαία είναι σε αυτό το σημείο μια διευκρίνιση: υπάρχει η «εργαλειακή/περιορισμένη» (weak) ΤΝ, που απαιτεί συγκεκριμένες παρεμβάσεις από τον χειριστή της και χρησιμοποιείται για αναγνώριση χειρόγραφων ψηφίων ή παίξιμο του παιχνιδιού Γκο και σε άλλα, μικρά και θεωρητικώς ακίνδυνα, επιμέρους προβλήματα. Από την άλλη, υπάρχει και η «ισχυρή/γενικής χρήσεως» (strong) ΤΝ, τα συστήματα της οποίας θα μπορούν να επιλύουν προβλήματα χωρίς να απαιτούνται εξειδικευμένες παρεμβάσεις από τον χειριστή τους, αλλά και να κάνουν ευρύτερες δραστηριότητες, όπως διδασκαλία μοριακής βιολογίας ή κυβέρνηση ενός ολόκληρου κράτους. Αυτή η μορφή ΤΝ δεν υφίσταται ακόμη αλλά βρισκόμαστε ολοένα πιο κοντά στο να την επιτύχουμε και, παραδόξως, έχει γίνει σημαντική πρόοδος σε αυτό, ιδίως τη δεκαετία του 1990, μέσα από πολλές επιμέρους εφαρμογές της εργαλειακής ΤΝ (π.χ. στο Γκο).

Πόσα μπορεί λοιπόν να κάνει η ισχυρή ΤΝ; Σύμφωνα με τον Ράσελ, η ισχυρή ΤΝ δίνει την εντύπωση ότι τα πάντα είναι μια υπηρεσία. Συγκεκριμένα, τα μηχανήματά της εξ ορισμού θα μπορούν να έχουν πρόσβαση σε όλες τις γνώσεις και δεξιότητες της ανθρωπότητας και θα μπορούν, λόγω της γενικότητας που εξ ορισμού χαρακτηρίζει την ισχυρή ΤΝ, να μαγειρεύουν, να κατασκευάζουν γέφυρες, να βελτιώνουν τις σοδειές και να οργανώνουν τις εκλογικές διαδικασίες. Ωστόσο, η χρήση νοημόνων μηχανών εγκυμονεί και κάποια σοβαρά προβλήματα. Ας δούμε μερικά από αυτά. Όταν δίνουμε σε έναν άνθρωπο μιαν οδηγία (π.χ. «φέρε μου ένα φλιτζάνι καφέ»), προϋποθέτουμε πως εκείνος θα λάβει υπόψη του ορισμένους ευκόλως εννοούμενους παράγοντες (όπως π.χ. να μην πάει σε άλλη πόλη και γυρίσει μέρες αργότερα). Δυστυχώς δεν συμβαίνει το ίδιο με ένα ρομπότ το οποίο εφόσον έχει προγραμματιστεί να υπακούει σε σαφώς προκαθορισμένους στόχους (π.χ. όπως το «φέρε μου καφέ»). Το ρομπότ θα τους αντιλαμβάνεται κυριολεκτικά και χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Το ρομπότ αντιλαμβάνεται τις εντολές κυριολεκτικά χωρίς να λαμβάνει υπόψη του παράγοντες που εμείς οι άνθρωποι θεωρούμε ως ευκόλως εννοούμενους.

Αν τελικά γίνει εκτεταμένη χρήση της ισχυρής ΤΝ, τα μηχανήματά της θα επιχειρούν την επίτευξη προκαθορισμένων στόχων με κάθε δυνατό μέσο, κάτι που μπορεί να σημαίνει ότι τελικά θα φτάσουν να μας εμποδίζουν να τα απενεργοποιήσουμε. Ο Τιούριγκ είχε προτείνει να μπορούμε ανά πάση στιγμή να απενεργοποιήσουμε τις μηχανές, αν αυτές μας δημιουργήσουν προβλήματα. Ο Ράσελ εξηγεί ότι αυτό ενδεχομένως θα καταστεί ανέφικτο: στα νοήμονα μηχανήματα η αυτοσυντήρηση θα ήταν ένας στόχος αναγκαίος για την επίτευξη όλων των άλλων («συντελεστικός» στόχος λέγεται), με αποτέλεσμα η μηχανή να τον θέτει χωρίς καν να έχει προγραμματιστεί για κάτι τέτοιο. Αυτό είναι ακόμη πιο πιθανό, αν η μηχανή έχει ξεπεράσει το ανθρώπινο επίπεδο νοημοσύνης (υπερνοημοσύνη). Πώς μπορούμε να αποφύγουμε αυτόν τον κίνδυνο;

Αρχικά, η άποψη ότι οι μηχανές πρέπει να έχουν έναν σαφώς καθορισμένο στόχο, πρέπει να εγκαταλειφθεί, για το καλό όλων μας. Κάτι τέτοιο όμως δεν είναι απλή διαδικασία, καθώς πρέπει να αντικαταστήσουμε πρώτα ορισμένα από τα θεμέλια της ΤΝ, δηλαδή τους βασικούς ορισμούς μας σε όσα επιθυμούμε να πετύχουμε. Πιο συγκεκριμένα, η προτεινόμενη λύση του Ράσελ αποτελείται από τρεις επιμέρους αρχές, που αναμένεται από τον ίδιο να λειτουργήσουν σε συνδυασμό: μόνος στόχος της μηχανής να είναι η πραγματοποίηση των ανθρώπινων προτιμήσεων, να υπάρχει σκόπιμα αβεβαιότητα της μηχανής σχετικά με το ποιες είναι αυτές τις προτιμήσεις, και τέλος, η απόλυτη πηγή ενημέρωσης για το ποιες είναι, να είναι η έμπρακτη ανθρώπινη συμπεριφορά. Σύμφωνα με τον Ράσελ, το βασικό πρόβλημα είναι στον ορισμό της ΤΝ: θεωρώντας πως μια μηχανή είναι νοήμων εφόσον είναι ικανή να αξιοποιεί τα μέσα για να πετύχει τους στόχους της, ξεχνάμε δυστυχώς ότι ενδέχεται οι «στόχοι» της να μην ταυτίζονται με τους δικούς μας.

travlos symvati me ton anthropoΓια να είναι αληθινά ωφέλιμες, οι μηχανές πρέπει να φτάνουν με τις πράξεις τους στους δικούς μας στόχους. Εδώ εμφανίζονται δύο προβλήματα, που είναι γνωστά ως το «πρόβλημα του γορίλα» και το «πρόβλημα του Μίδα» (εδώ μπορεί κανείς να παρακολουθήσει και την κατατοπιστική ομιλία του Ράσελ στο TED). Με το πρώτο πρόβλημα δηλώνεται ο κίνδυνος να ξεπεραστεί η ανθρώπινη νοημοσύνη από εκείνη μιας μηχανής, με αποτέλεσμα ο έλεγχος της τελευταίας να χαθεί, με αρνητικές συνέπειες για εμάς (όπως η εξέλιξη της δικής μας νοημοσύνης είχε τελικά αρνητικές συνέπειες για τους γορίλλες). Όπως είναι γνωστό, ο ανθρώπινος εγκέφαλος είναι το πολυπλοκότερο πράγμα στο σύμπαν. Αν κάποια στιγμή η υπερνοημοσύνη γίνει εφικτή, τότε θα υπάρχει κάτι πολυπλοκότερο από τον εγκέφαλό μας: η μηχανή. Πιο απλά, αν φτιάξουμε μηχανές με υπερανθρώπινη νοημοσύνη, σύντομα θα αδυνατούμε να τις ελέγξουμε. Το δεύτερο πρόβλημα, που παραπέμπει στον γνωστό βασιλιά από την αρχαιοελληνική μυθολογία, εμφανίζεται όταν κάποιος παίρνει ακριβώς εκείνο που εντέλλεται με αποτέλεσμα να καταλήγει όχι στην ευτυχία, όπως ανέμενε, αλλά στην αυτοκαταστροφή. Το γεγονός ότι μέχρι σήμερα οι νοήμονες μηχανές που έχουν κατασκευαστεί είναι όχι αρκετά «νοήμονες» και έχουν συγκεκριμένες και σαφώς περιορισμένες δυνατότητες, τις καθιστά προς το παρόν ακίνδυνες. Αυτό όμως δεν θα συμβαίνει για πάντα.

Πάντως, ο Ράσελ είναι αισιόδοξος ότι η πρότασή του είναι επιτεύξιμη: υπάρχουν οικονομικοί λόγοι αφενός και πλήθος δεδομένων αφετέρου (ενν. ανθρώπινες συμπεριφορές) που ευνοούν τη μάθηση των ανθρωπίνων προτιμήσεων από τα ρομπότ. Φυσικά, δεν απουσιάζουν και οι αντίθετοι σε όλα αυτά, που θεωρούν τους παραπάνω κινδύνους μακρινούς ή/και αβάσιμους, τονίζουν πως η έρευνα τεχνητής νοημοσύνης δεν πρέπει να σταματήσει και υποτιμούν ως τεχνοφοβικούς «λουδίτες» όσους προβληματίζονται σχετικά. Ο Ράσελ απαντάει ότι μέσα στους ανήσυχους, όσον αφορά τη χρήση της ΤΝ, ήταν και επιστήμονες όπως ο Στίβεν Χόκινγκ, ο Μίνσκι, o Βίνερ και σε τελική ανάλυση ο ίδιος ο Τιούρινγκ, όπως επίσης και οι γνωστοί επενδυτές σε συστήματα τεχνητής νοημοσύνης Μπιλ Γκέιτς και Ίλον Μασκ. Το ότι ένα πρόβλημα είναι (σχετικά) μακροπρόθεσμο δεν σημαίνει πως μπορούμε να επαναπαυόμαστε. Εξάλλου, η επιτυχής απαγόρευση των προγραμμάτων γαμετικής τροποποίησης στον άνθρωπο δεν οδήγησε σε παράνομες έρευνες ούτε και σε χώρες χωρίς κανονισμούς. Το να προειδοποιείς για πιθανούς κινδύνους, δεν σημαίνει αναγκαστικά ότι είσαι τεχνοφοβικός, λέει ο συγγραφέας. Πρόσφατες μελέτες δείχνουν ότι οι περισσότεροι ερευνητές αναμένουν την εμφάνιση μιας τεχνητής νοημοσύνης ανθρώπινου επιπέδου (ισχυρή ΤΝ) ή και ανώτερου (υπερνοημοσύνη), στα μέσα αυτού του αιώνα. Ο Ράσελ παρατείνει την προθεσμία στα επόμενα ογδόντα χρόνια. Βέβαια, επισημαίνει, υπάρχει μακρά ιστορία τέτοιων προβλέψεων που έχουν αποδειχθεί εσφαλμένες. Γεγονός είναι όμως ότι η υπερνοημοσύνη είναι εγγενώς απρόβλεπτη. Ο λόγος είναι ότι απαιτεί «εννοιολογικές επαναστάσεις». Πάντως, η βιομηχανία ΤΝ παραμένει σε γενικές γραμμές δίχως έλεγχο. Ο Ράσελ θεωρεί απαραίτητες ορισμένες ρυθμίσεις, αρχής γενομένης με την επέκταση της συμφωνίας της Βουδαπέστης στην ΤΝ. Σε κάθε περίπτωση, η τέταρτη βιομηχανική επανάσταση είναι γεγονός. Θα καταφέρει άραγε ο άνθρωπος να συντονιστεί μαζί της;

Απόσπασμα από το βιβλίο του Λακασά:

«Ο άνθρωπος ήταν, είναι και θα είναι ο απόλυτος πρωταγωνιστής σε κάθε εξέλιξη. Είναι εκείνος που έχει μερίδιο για τις απειλές προς το είδος του, όπως αντίστοιχα πιστώνεται και τις επιτυχίες […] Αν από τη μια πλευρά έχουμε τους Νεολουδίτες και από την άλλη τους Μετανθρωπιστές, τότε ο Άνθρωπος 4.0 είναι- και οφείλει να αποτελεί- διαχρονική αξία. Η σοφία ήταν ανέκαθεν η οδός της αριστείας και πάνω σε αυτήν πρέπει να πορευθεί ο Άνθρωπος 4.0» (σελ. 384-385).

Απόσπασμα από το βιβλίο του Ράσελ:

«Το καθιερωμένο μοντέλο που βρίσκεται πίσω από ένα μεγάλο μέρος των τεχνολογιών του εικοστού αιώνα στηρίζεται σε μηχανισμούς που βελτιστοποιούν έναν σταθερό, εξωγενώς παρεχόμενο στόχο. Όπως έχουμε δει, το μοντέλο αυτό είναι θεμελιωδώς εσφαλμένο. Λειτουργεί μόνο αν ο στόχος είναι εγγυημένα πλήρης και ορθός ή αν ο μηχανισμός μπορεί εύκολα να επαναρυθμιστεί. Καμία συνθήκη δεν θα ισχύει καθώς η Τεχνητή Νοημοσύνη θα γίνεται ολοένα και πιο ισχυρή. Η μηχανή δεν έχει νόημα να λειτουργεί με δεδομένο ότι πάντοτε ο παρεχόμενος στόχος είναι ο σωστός, καθώς ενδέχεται ενίοτε να είναι ο λάθος. Εξ ου και η πρότασή μου για τις ωφέλιμες μηχανές: με τις δράσεις τους αναμένεται να πετυχαίνουν τους δικούς μας στόχους. Επειδή αυτοί οι στόχοι είναι οι δικοί μας, και όχι οι δικοί τους, οι μηχανές- παρατηρώντας τις επιλογές που κάνουμε καθώς κι πώς τις κάνουμε- θα πρέπει να μάθουν περισσότερα για το τι πραγματικά θέλουμε. Οι μηχανές που είναι έτσι σχεδιασμένες θα συμμορφώνονται με τους ανθρώπους: θα ζητούν άδεια θα δουν προσεκτικά όταν δεν είναι ξεκάθαρη η καθοδήγηση και τέλος, θα επιτρέπουν την απενεργοποίησή τους» (σελ. 334).

* Ο ΜΥΡΩΝ ΖΑΧΑΡΑΚΗΣ είναι υποψήφιος διδάκτωρ Φιλοσοφίας.

Ακολουθήστε την bookpress.gr στο Google News και διαβάστε πρώτοι τα θέματα που σας ενδιαφέρουν.


ΣΧΕΤΙΚΑ ΑΡΘΡΑ

«Φόβος» του Κόρεϊ Ρόμπιν (κριτική) – Η πολιτική λειτουργία του φόβου στο διάβα της ιστορίας

«Φόβος» του Κόρεϊ Ρόμπιν (κριτική) – Η πολιτική λειτουργία του φόβου στο διάβα της ιστορίας

Για το βιβλίο του Κόρεϊ Ρόμπιν [Corey Robin] «Φόβος» (μτφρ. Ιουλία Πεντάζου, εκδ. Αλεξάνδρεια). Kεντρική εικόνα: Ο Λεβιάθαν κατά Χομπς © Wikimedia Commons.

Γράφει ο Μύρων Ζαχαράκης 

Στόχος του παρόντος βιβλίο...

«Παρηγορητικοί λόγοι για τη διαχείριση του πένθους και της απώλειας» (κριτική) – Με τα κατευναστικά λόγια του Μεγάλου Βασιλείου και του Πλουτάρχου

«Παρηγορητικοί λόγοι για τη διαχείριση του πένθους και της απώλειας» (κριτική) – Με τα κατευναστικά λόγια του Μεγάλου Βασιλείου και του Πλουτάρχου

Για το βιβλίο «Πλούταρχος–Μέγας Βασίλειος. Παρηγορητικοί Λόγοι. Για τη διαχείριση του πένθους και της απώλειας» (μτφρ. Ιωάννης Πλεξίδας, εκδ. Γραφή). Kεντρική εικόνα: η διάσημη Madonna della Pietà του Μιχαήλ Άγγελου © Wikipedia. 

Γράφει η Άλκηστις Σουλογιάν...

Δύο βιβλία που εξηγούν τις περίπλοκες σχέσεις της επιστήμης με τον Χριστιανισμό

Δύο βιβλία που εξηγούν τις περίπλοκες σχέσεις της επιστήμης με τον Χριστιανισμό

Για τα βιβλία των Ρόναλντ Νάμπερς [Ronald Numbers] «Ο Γαλιλαίος στη φυλακή» (εκδ. Λογείον) και Πίτερ Χάρισον [Peter Harrison] «Η πτώση και η ανάδυση της επιστήμης» (εκδ. Ροπή). Κεντρική εικόνα: ο πίνακας του Joseph Nicolas Robert Fleury «Ο Γαλιλαίος μπρος στα μέλη της Ιεράς Εξέτασης». 

...

ΠΡΟΣΦΑΤΑ ΑΡΘΡΑ

Τo «100 χρόνια μοναξιά» του Γκαμπριέλ Γκαρσία Μάρκες έγινε σειρά

Τo «100 χρόνια μοναξιά» του Γκαμπριέλ Γκαρσία Μάρκες έγινε σειρά

Η πλατφόρμα έδωσε στη δημοσιότητα το teaser trailer του σίριαλ 16 επεισοδίων που προσπαθεί να οπτικοποιήσει το εμβληματικό μυθιστόρημα «100 χρόνια μοναξιά» του νομπελίστα Κολομβιανού συγγραφέα. Κεντρική εικόνα: © Netflix. 

Επιμέλεια: Book Press

...
Στο Κέντρο Πολιτισμού Ίδρυμα Σταύρος Νιάρχος: Η Άννα Κοκκίνου διαβάζει τον «Μοσκώβ-Σελήμ» του Γεωργίου Βιζυηνού

Στο Κέντρο Πολιτισμού Ίδρυμα Σταύρος Νιάρχος: Η Άννα Κοκκίνου διαβάζει τον «Μοσκώβ-Σελήμ» του Γεωργίου Βιζυηνού

Την Κυριακή 28 Απριλίου στις 20:00 στον Φάρο του ΚΠΙΣΝ θα πραγματοποιηθεί η τελευταία ανάγνωση της επιτυχημένης σειράς «Παραβάσεις / Αναγνώσεις», του θεατρικού αναλόγιου που επιμελείται η σκηνοθέτης Σύλβια Λιούλιου. Αυτή τη φορά, η Άννα Κοκκίνου συνεργάζεται με τον Νίκο Βελιώτη και διαβάζει τον «Μοσκώβ-Σελήμ» τ...

Μια βραδιά για τον Νίκο Γκάτσο στην Καλαμάτα

Μια βραδιά για τον Νίκο Γκάτσο στην Καλαμάτα

Καλεσμένοι στη βραδιά μιλούν για το έργο του κορυφαίου στιχουργού, ενώ θα ακουστούν και τραγούδια σε ποίηση Νίκου Γκάτσου με τη Μαρία Κρασοπούλου και τον Νικόλα Παλαιολόγο.

Επιμέλεια: Book Press

Ο Δήμος Καλαμάτας και ο Τομέας Λόγου και Γραμμάτων της Κ.Ε. «ΦΑΡΙΣ», διοργανώνουν...

ΠΡΟΔΗΜΟΣΙΕΥΣΕΙΣ

«Μαργαρίτα Ιορδανίδη» του Μιχάλη Μακρόπουλου (προδημοσίευση)

«Μαργαρίτα Ιορδανίδη» του Μιχάλη Μακρόπουλου (προδημοσίευση)

Προδημοσίευση αποσπάσματος από τη νουβέλα του Μιχάλη Μακρόπουλου «Μαργαρίτα Ιορδανίδη», η οποία θα κυκλοφορήσει στις 19 Απριλίου από τις εκδόσεις Κίχλη.

Επιμέλεια: Κώστας Αγοραστός

Εἶχαν πιάσει γιὰ τὰ καλὰ οἱ ζέστες, καὶ τὴν ἑπόμενη Κυριακὴ κανόνισαν ν...

«Ο θάνατος έρχεται στάζοντας βροχή» του Αντρές Μοντέρο (προδημοσίευση)

«Ο θάνατος έρχεται στάζοντας βροχή» του Αντρές Μοντέρο (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το μυθιστόρημα του Αντρές Μοντέρο [Andrés Montero] «Ο θάνατος έρχεται στάζοντας βροχή» (μτφρ. Μαρία Παλαιολόγου), το οποίο κυκλοφορεί στις 17 Απριλίου από τις εκδόσεις Διόπτρα.

Επιμέλεια: Κώστας Αγοραστός

Η μονομαχ...

«Σχολείο για την αγάπη» της Ολίβια Μάνινγκ (προδημοσίευση)

«Σχολείο για την αγάπη» της Ολίβια Μάνινγκ (προδημοσίευση)

Προδημοσίευση αποσπάσματος από το μυθιστόρημα της Ολίβια Μάνινγκ [Olivia Manning] «Σχολείο για την αγάπη» (μτφρ. Φωτεινή Πίπη), το οποίο κυκλοφορεί στις 23 Απριλίου από τις εκδόσεις Μεταίχμιο.

Επιμέλεια: Κώστας Αγοραστός

Όταν έφτασαν στην κορυφή του λό...

ΠΡΟΤΑΣΕΙΣ

Δεν είναι «έγκλημα πάθους» είναι γυναικοκτονία: 5 μελέτες για την έμφυλη βία

Δεν είναι «έγκλημα πάθους» είναι γυναικοκτονία: 5 μελέτες για την έμφυλη βία

Πέντε μελέτες αναδεικνύουν τις νομικές και κοινωνικές διαστάσεις των γυναικοκτονιών και συμβάλλουν στην κατανόηση των αιτίων που προκαλούν την πιο ακραία μορφή έμφυλης βίας. Επειδή οι γυναικτοκτονίες δεν είναι «εγκλήματα πάθους» αλλά ανθρωποκτονίες με πολύ συγκεκριμένα χαρακτηριστικά.

Γράφει η Φανή Χ...

Επιστήμη, φιλοσοφία, τέχνες, βιογραφίες, λογοτεχνία: Οι εκδόσεις Ροπή μέσα από 5 βιβλία τους

Επιστήμη, φιλοσοφία, τέχνες, βιογραφίες, λογοτεχνία: Οι εκδόσεις Ροπή μέσα από 5 βιβλία τους

Με έδρα τη Θεσσαλονίκη, οι εκδόσεις Ροπή επιδιώκουν μέσω των βιβλίων τους την αλληλεπίδραση των θετικών επιστημών με άλλα γνωστικά πεδία, δίχως διάθεση να απευθύνονται μόνο σε ειδικούς και «γνώστες». 

Γράφει ο Διονύσης Μαρίνος

...
Aπό τον Γκάμπορ Μάτε έως τον Όσσο: 5 βιβλία για μια πιο υγιή και ισορροπημένη ζωή

Aπό τον Γκάμπορ Μάτε έως τον Όσσο: 5 βιβλία για μια πιο υγιή και ισορροπημένη ζωή

Πέντε βιβλία που κυκλοφόρησαν πρόσφατα μάς δείχνουν τον δρόμο για μια πιο υγιή και ισορροπημένη ζωή, μέσα από δεδομένα που προέκυψαν από σημαντικές επιστημονικές έρευνες των τελευταίων ετών και από πολύτιμα αποστάγματα πνευματικής εμβάθυνσης. 

Γράφει η Ελεάνα Κολοβού 

...

ΠΡΟΘΗΚΕΣ

ΠΡΟΘΗΚΕΣ

Newsletter

Θέλω να λαμβάνω το newsletter σας
ΕΓΓΡΑΦΗ

ΣΥΓΓΡΑΦΕΙΣ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ ΤΗΣ ΧΡΟΝΙΑΣ

15 Δεκεμβρίου 2023 ΠΡΟΤΑΣΕΙΣ

Τα 100 καλύτερα λογοτεχνικά βιβλία του 2023

Mυθιστορήματα, νουβέλες, διηγήματα, ποιήματα: Επιλογή 100 βιβλίων, ελληνικών και μεταφρασμένων, από τη βιβλιοπαραγωγή του 2023. Επιλογή: Συντακτική ομάδα της Book

ΦΑΚΕΛΟΙ

ΞΕΧΩΡΙΣΑΜΕ

ΝΑ ΑΛΛΟ ΕΝΑ