Ο Τεντ Τσιάνγκ προειδοποιεί ότι η Τεχνητή Νοημοσύνη θα φέρει ανεργία και δυστυχία κι εξηγεί πώς και γιατί

«Όταν συζητάμε για την τεχνητή νοημοσύνη, βασιζόμαστε σε παρομοιώσεις, όπως κάνουμε κάθε φορά που αντιμετωπίζουμε κάτι πρωτόγνωρο και άγνωστο. Οι παρομοιώσεις είναι φύσει ατελείς, και επιπλέον, οφείλουμε να τις χρησιμοποιούμε προσεκτικά, γιατί οι κακές παρομοιώσεις μπορούν να μας αποπροσανατολίσουν», γράφει στον New Yorker ο Τεντ Τσιάνγκ, γνωστός για τα μελλοντολογικά διηγήματα των συλλογών Ιστορίες της ζωής σου (εκδ. Κέδρος, μτφρ. Δημήτρης Αρβανίτης) και Εκπνοή (εκδ. Ίκαρος, μτφρ. Μαργαρίτα Ζαχαριάδου).

Πολλοί παρομοιάζουν την τεχνητή νοημοσύνη με κάποιο τζίνι, ένα υπερφυσικό ον που φαινομενικά βρίσκεται υπό τον έλεγχό μας, μα στην πραγματικότητα, μπορεί να μας καταστρέψει αν δεν το χειριστούμε με σωφροσύνη. Άλλοι, γράφει ο Τσιάνγκ, αναφέρονται στη δύναμη του Βασιλιά Μίδα, η χρήση της οποίας εντέλει επέφερε την ταπείνωσή του.

Για τον Τσιάνγκ, όμως, η τεχνητή νοημοσύνη θυμίζει περισσότερο την εταιρεία παροχής συμβουλευτικών υπηρεσιών McKinsey & Company. Ο συγγραφέας εξηγεί:

«Οι εταιρείες των μέσων κοινωνικής δικτύωσης χρησιμοποιούν τη μηχανική μάθηση για να καθηλώσουν τους χρήστες των εφαρμογών τους. Με παρόμοιο τρόπο, η Purdue Pharma χρησιμοποίησε τη McKinsey για να καταλάβει πώς να ‘’εκτοξεύσει’’ τις πωλήσεις του OxyContin κατά τη διάρκεια της επιδημίας οπιοειδών. Όπως η τεχνητή νοημοσύνη υπόσχεται στους διευθυντές φθηνούς αντικαταστάτες των εργαζομένων τους, έτσι και η McKinsey και οι παρόμοιες εταιρείες βοήθησαν στην καθιέρωση της πρακτικής των μαζικών απολύσεων ως τρόπου αύξησης των τιμών των μετοχών και των κερδών των στελεχών, συμβάλλοντας στην καταστροφή της μεσαίας τάξης στην Αμερική.

»Ένας πρώην υπάλληλος της McKinsey έχει περιγράψει την εταιρεία ως ‘’πρόθυμο εκτελεστή του κεφαλαίου’’: αν θέλετε να γίνει κάτι, αλλά δεν επιθυμείτε να λερώσετε τα χέρια σας, η McKinsey θα το κάνει για εσάς. […] Ακόμη και στην τρέχουσα πρωτόλεια μορφή της, η τεχνητή νοημοσύνη επιτρέπει σε μια εταιρεία να αποποιηθεί κάθε ευθύνη, με τα στελέχη να ισχυρίζονται πως ακολουθούν απλώς τις οδηγίες των ‘’αλγορίθμων’’, παρόλο που η ίδια η εταιρεία παρήγγειλε τον αλγόριθμο εξαρχής.

[…]

»Όπως έχει αναπτυχθεί επί του παρόντος, η τεχνητή νοημοσύνη συχνά ασχολείται με την ανάλυση μιας εργασίας που εκτελείται από ανθρώπινα όντα και την εύρεση ενός τρόπου ώστε να αντικατασταθεί ο άνθρωπος. Όλως τυχαίως, αυτό ακριβώς είναι το πρόβλημα που θέλει να λύσει η διοίκηση κάθε εταιρείας. Ως αποτέλεσμα, η τεχνητή νοημοσύνη βοηθά το κεφάλαιο σε βάρος των εργαζομένων. Δεν υπάρχουν συμβουλευτικές εταιρίες που προωθούν τα συμφέροντα των εργαζομένων. Είναι δυνατόν η τεχνητή νοημοσύνη να αναλάβει αυτόν τον ρόλο; Μπορεί η τεχνητή νοημοσύνη να κάνει οτιδήποτε για να βοηθήσει τους εργαζόμενους αντί για τη διοίκηση;

»Ενδεχομένως κάποιοι να υποστηρίξουν πως δεν είναι δουλειά της τεχνητής νοημοσύνης να αντιτίθεται στον καπιταλισμό. Αυτό μπορεί να ‘ναι αλήθεια, από την άλλη όμως, δεν είναι δουλειά της ούτε να τον ενδυναμώνει. Ωστόσο, έτσι δρα αυτή τη στιγμή. Αν δεν μπορέσουμε να ανακαλύψουμε τρόπους ώστε η τεχνητή νοημοσύνη να μειώσει τη συσσώρευση πλούτου, τότε θα έλεγα πως θα ‘ταν δύσκολο να υποστηρίξουμε πως η τεχνητή νοημοσύνη κρατά ουδέτερη στάση, πόσο μάλλον ότι έχει ευεργετικό ρόλο».

Οι «επιταχυντιστές» και οι Λουδίτες

Ο Τσιάνγκ υπενθυμίζει πως το 2016, καθώς οι αμερικανοί πολίτες προετοιμάζονταν να ψηφίσουν, ο Σλοβένος φιλόσοφος Σλάβοϊ Ζίζεκ είχε υποστηρίξει πως η εκλογή του Ντόναλντ Τραμπ θα ήταν προτιμότερη από την εκλογή της Χίλαρι Κλίντον, εφόσον οι εξωφρενικές πολιτικές που θα εφάρμοζε ο πρώτος θα οδηγούσαν στην κορύφωση της λαϊκής αγανάκτησης και στην ενίσχυση του επαναστατικού πνεύματος.

Αυτή η στάση παραπέμπει στη φιλοσοφία του «επιταχυντισμού» [«accelerationism»], που υποστηρίζει την ενίσχυση των χειρότερων πλευρών του καπιταλισμού με απώτερο σκοπό την κατάρρευση ολόκληρου του συστήματος. Οι επιταχυντιστές υποστηρίζουν πως «ο μόνος τρόπος για να προχωρήσουμε πέρα από τον καπιταλισμό είναι να πατήσουμε το γκάζι του νεοφιλελευθερισμού ώσπου να εκραγεί η μηχανή», αναφέρει ο Τσιάνγκ.

«Υποθέτω πως αυτός είναι ένας τρόπος για να δημιουργηθεί ένας καλύτερος κόσμος, όμως, αν υιοθετήσουμε αυτή τη στάση όσον αφορά στη βιομηχανία της τεχνητής νοημοσύνης, θα ήθελα να βεβαιωθώ πως όλοι γνωρίζουμε προς τα πού οδεύουμε. Φτιάχνοντας την τεχνητή νοημοσύνη με στόχο να κάνει δουλειές που προηγουμένως γίνονταν από ανθρώπους, οι ερευνητές αυξάνουν τη συσσώρευση του πλούτου σε τόσο ακραία επίπεδα που ο μόνος τρόπος για να αποφευχθεί η κοινωνική κατάρρευση είναι να παρέμβει η κυβέρνηση. Εσκεμμένα ή όχι, αυτό θυμίζει την περίπτωση της ψήφου στον Τραμπ με στόχο να δημιουργηθεί ένα καλύτερο αύριο. Και η άνοδος του Τραμπ μαρτυρά τους κινδύνους της στρατηγικής του επιταχυντισμού: τα πράγματα μπορεί να γίνουν πολύ άσχημα και να παραμείνουν πολύ άσχημα για μεγάλο χρονικό διάστημα, προτού βελτιωθούν. Στην πραγματικότητα, δεν έχουμε ιδέα πόσος καιρός θα χρειαστεί μέχρι να επέλθει κάποια βελτίωση. Το μόνο για το οποίο μπορούμε να είμαστε βέβαιοι είναι πως θα υπάρξει πολύς πόνος και ταλαιπωρία, βραχυπρόθεσμα και μεσοπρόθεσμα.

»Δεν με πείθουν οι ισχυρισμοί πως η τεχνητή νοημοσύνη αποτελεί κίνδυνο για την ανθρωπότητα επειδή μπορεί να θέσει τους δικούς της στόχους και να μας εμποδίσει από το να την απενεργοποιήσουμε. Ωστόσο, πιστεύω πως η τεχνητή νοημοσύνη είναι επικίνδυνη, καθώς αυξάνει τη δύναμη του καπιταλισμού. Το καταστροφικό σενάριο δεν έχει να κάνει με την ολική καταστροφή του πλανήτη, όπως είχε προτείνει ένα γνωστό νοητικό πείραμα. Έχει να κάνει με τις εταιρίες που, με τη σημαντική βοήθεια της ΤΝ, θα καταστρέψουν το περιβάλλον και την εργατική τάξη για να αυξήσουν την αξία της μετοχής τους. Ο καπιταλισμός είναι η μηχανή που θα κάνει ό,τι χρειαστεί για να μας αποτρέψει από το να την απενεργοποιήσουμε, και το πιο επιτυχημένο όπλο στο οπλοστάσιό του ήταν η εκστρατεία του να μας αποτρέψει από το να σκεφτούμε εναλλακτικές λύσεις.

»Οι άνθρωποι που επικρίνουν τις νέες τεχνολογίες αποκαλούνται μερικές φορές Λουδίτες, όμως θα ήταν χρήσιμο να διευκρινιστούν οι πραγματικοί στόχοι των Λουδιτών. Κυρίως διαμαρτύρονταν για το γεγονός πως οι μισθοί τους έπεφταν την ίδια στιγμή που αυξάνονταν τα κέρδη των εργοστασίων και οι τιμές των τροφίμων. Διαμαρτύρονταν επίσης για τις επικίνδυνες συνθήκες εργασίας, την εργασία των ανηλίκων, και την πώληση κακής ποιότητας προϊόντων που είχε ως συνέπεια τη δυσφήμιση ολόκληρης της κλωστοϋφαντουργίας. Οι Λουδίτες δεν κατέστρεφαν ασταμάτητα μηχανές· αν ο ιδιοκτήτης της μηχανής πλήρωνε καλά τους εργάτες του, τον άφηναν στην ηρεμία του. Οι Λουδίτες δεν τάσσονταν κατά της τεχνολογίας· ζητούσαν οικονομική δικαιοσύνη. Κατέστρεφαν τα μηχανήματα θέλοντας να τραβήξουν την προσοχή των ιδιοκτητών των εργοστασίων. Το γεγονός ότι ο όρος ‘’Λουδίτης’’ χρησιμοποιείται πλέον ως προσβολή, για να χαρακτηρίσεις κάποιον παράλογο και ανίδεο, είναι αποτέλεσμα της καμπάνιας των δυνάμεων του κεφαλαίου.

»Όταν κάποιος κατηγορεί οποιονδήποτε άλλον πως είναι Λουδίτης, αξίζει να αναρωτηθείτε αν το συγκεκριμένο άτομο τάσσεται πράγματι κατά της τεχνολογίας. Μήπως είναι υπέρ της οικονομικής δικαιοσύνης; Το άτομο που κατηγορεί είναι άραγε στ’ αλήθεια υπέρ της βελτίωσης των ανθρώπινων ζωών; Ή απλώς προσπαθεί να αυξήσει την ιδιωτική συσσώρευση του κεφαλαίου;

»Σήμερα, η τεχνολογία συγχέεται με τον καπιταλισμό, ο οποίος με τη σειρά του συγχέεται με την ιδέα της προόδου. Αν προσπαθήσεις να ασκήσεις κριτική στον καπιταλισμό, θα κατηγορηθείς πως εναντιώνεσαι τόσο στην τεχνολογία όσο και στην πρόοδο. Όμως, τι σημαίνει ‘’πρόοδος’’, αν δεν συνεπάγεται τη βελτίωση των ζωών των ανθρώπων που εργάζονται; Ποιο είναι το νόημα της μεγαλύτερης αποτελεσματικότητας, αν τα χρήματα που εξοικονομούνται δεν πηγαίνουν πουθενά αλλού πέρα από τους τραπεζικούς λογαριασμούς των μετόχων; Πρέπει να αγωνιζόμαστε να είμαστε Λουδίτες, γιατί όλους μας πρέπει να μας απασχολεί περισσότερο η οικονομική δικαιοσύνη παρά η αύξηση της ιδιωτικής συσσώρευσης του κεφαλαίου. Πρέπει να είμαστε σε θέση να επικρίνουμε τις επιβλαβείς χρήσεις της τεχνολογίας -τις χρήσεις που ωφελούν τους μετόχους παρά τους εργαζόμενους-, χωρίς να χαρακτηριζόμαστε ως εχθροί της τεχνολογίας.

»Φανταστείτε ένα εξιδανικευμένο μέλλον, σε εκατό χρόνια από τώρα, στο οποίο κανείς δεν θα αναγκάζεται να εργάζεται σε μια δουλειά που δεν θα του αρέσει, και ο καθένας θα μπορεί να αφιερώνει τον χρόνο του σε ό,τι τον ικανοποιεί περισσότερο. Προφανώς είναι δύσκολο να φανταστούμε πώς θα φράσουμε μέχρι εκεί. Για αρχή, εξετάστε δυο πιθανά σενάρια για τις επόμενες δεκαετίες. Στο πρώτο, η διοίκηση και οι δυνάμεις του κεφαλαίου είναι ακόμη πιο ισχυρές από ό,τι είναι τώρα. Στο δεύτερο, οι εργαζόμενοι είναι πιο ισχυροί από ό,τι είναι τώρα. Ποιο από αυτά τα δυο σενάρια μπορεί να μας φέρει, κατά πάσα πιθανότητα, πιο κοντά στο εξιδανικευμένο μέλλον που ανέφερα; Και η τεχνητή νοημοσύνη, όπως χρησιμοποιείται αυτή τη στιγμή, προς ποια κατεύθυνση μας ωθεί;»

Τι πρέπει να συμβεί λοιπόν;

Στις τελευταίες παραγράφους του άρθρου του, ο Τσιάνγκ κάνει έκκληση προς τους επιστήμονες και τους ερευνητές που εργάζονται στον τομέα της τεχνητής νοημοσύνης, τους ανθρώπους που μέσα από τη δουλειά τους αλλάζουν τον κόσμο.

«Αν μπορούμε να πάρουμε κάποιο μάθημα από τις ιστορίες με τα τζίνι που εκπληρώνουν ευχές, είναι πως η επιθυμία μας να αποκτήσουμε κάτι χωρίς να μοχθήσουμε είναι το πραγματικό πρόβλημα. Σκεφτείτε την ιστορία του μαθητευόμενου μάγου από τη ‘’Φαντασία’’, όπου ο μαθητευόμενος χρησιμοποιεί ένα ξόρκι για να κάνει τα σκουπόξυλα να μεταφέρουν νερό, αλλά αδυνατεί να τα σταματήσει. Το δίδαγμα αυτής της ιστορίας δεν είναι πως η μαγεία είναι αδύνατο να ελεγχθεί: στο τέλος, ο μάγος επιστρέφει κι αμέσως βάζει μια τάξη στο χάος του μαθητευόμενου. Το δίδαγμα είναι πως δεν μπορείς να γλυτώσεις από τη σκληρή δουλειά. Ο μαθητευόμενος ήθελε να αποφύγει τις αγγαρείες του και η αναζήτηση μιας παράκαμψης τού δημιούργησε προβλήματα.

»Η τάση να θεωρούμε την τεχνητή νοημοσύνη ως τον μαγικό λύτη για τα προβλήματά μας είναι ενδεικτική της επιθυμίας μας να αποφύγουμε τη σκληρή δουλειά που απαιτείται για την οικοδόμηση ενός καλύτερου κόσμου. Αυτή η σκληρή δουλειά περιλαμβάνει την αντιμετώπιση της άνισης κατανομής του πλούτου και τη ρύθμιση του καπιταλισμού. Για τους τεχνολόγους, η πιο σκληρή δουλειά από όλες -η αγγαρεία που θέλουν να αποφύγουν- είναι η αμφισβήτηση της άποψης πως όσο πιο ανεπτυγμένη είναι η τεχνολογία μας, τόσο το καλύτερο, καθώς και της πεποίθησης πως οι ίδιοι μπορούν να συνεχίσουν να εργάζονται ως συνήθως κι όλα θα κυλήσουν ομαλά από μόνα τους. Κανείς δεν απολαμβάνει να αναλογίζεται τις ευθύνες που του αναλογούν για την παγκόσμια αδικία, αλλά είναι επιτακτική ανάγκη οι άνθρωποι που κατασκευάζουν τις τεχνολογίες που αλλάζουν τον κόσμο να υιοθετήσουν αυτή τη στάση της κριτικής αυτοεξέτασης. Η προθυμία τους να αναλογιστούν με γενναιότητα τον ρόλο τους στο σύστημα θα καθορίσει το αν η τεχνητή νοημοσύνη θα μας οδηγήσει σε έναν καλύτερο ή σε έναν χειρότερο κόσμο».