Κείμενα «με τη βοήθεια» Τεχνητής Νοημοσύνης: Πώς παράγονται και πώς ξεχωρίζουν – Κάποιες σκέψεις

To 1997 o σκακιστής Γκάρι Κασπάροφ ηττήθηκε από τον υπολογιστή Deep Blue σε μια ιστορική αναμέτρηση, η οποία θεωρείται συμβολικό σημείο καμπής στην εξέλιξη της τεχνητής νοημοσύνης. Ήδη από τον εμπνευστή της, Άλαν Τιούρινγκ, η ανάπτυξη της τεχνητής νοημοσύνης και τα χαρακτηριστικά που επιχείρησαν να της αποδώσουν οι επιστήμονες όλες τις δεκαετίες της ανάπτυξής της, συνδέονταν στενά με τη σκακιστική αντίληψη της ευφυίας. Το σκάκι υπήρξε πεδίο δοκιμών και εκπαίδευσης για πολλά πρώιμα αλγοριθμικά μοντέλα της σημερινής τεχνητής νοημοσύνης. Ο αγώνας που έχασε ο Κασπάροφ από το πρόγραμμα Deep Blue μπορεί να θεωρηθεί η απαρχή της αποκαλούμενης ΑΙ επανάστασης που κορυφώνεται λίγες δεκαετίες αργότερα με το λανσάρισμα του Chat GPT (2022) και άλλων chatbots από το 2017 έως και σήμερα.

Ο Τιούρινγκ όρισε λίγο πολύ το τι θεωρείται τεχνητή νοημοσύνη: ένα μοντέλο που μπορεί να κρατήσει μια «έξυπνη» συζήτηση με έναν άνθρωπο. Στο περίφημο «Πείραμα της μίμησης» («Imitation Game») διακυβεύεται το αν μια μηχανή μπορεί να μιμηθεί τόσο καλά τον άνθρωπο ώστε να μην μπορούμε να την ξεχωρίσουμε. Με τα σημερινά δεδομένα της αθρόας παραγωγής ΑΙ περιεχομένου, το συγκεκριμένο ερώτημα είναι πιο επίκαιρο από ποτέ: μπορούμε να ξεχωρίσουμε τα παράγωγα της τεχνητής νοημοσύνης από τα ανθρώπινα; Και αν ναι, με ποιους τρόπους; Και πού μπορεί να μας οδηγήσει η απρόσκοπτη παραγωγή ΑΙ περιεχομένου;

Όπως ορθώς επισημαίνει ο ίδιος ο Κασπάροφ στο βιβλίο του Deep thinking, όπου, μεταξύ άλλων, αναφέρει και την εμπειρία του στον συγκεκριμένο αγώνα, η σκακιστική μηχανή που τον νίκησε διαφέρει αρκετά από το φαντασιακό που είχαν ονειρευτεί όσοι οραματίστηκαν την τεχνητή νοημοσύνη: δεν επρόκειτο για ένα μοντέλο που πρακτικά «συλλογιζόταν», αλλά για ένα μοντέλο που αντλούσε τις καλύτερες πιθανές κινήσεις από το στατιστικό αποτέλεσμα πολλών γρήγορων υπολογισμών.

Το ίδιο πάνω κάτω ισχύει και για τα σημερινά μοντέλα ΑΙ και ειδικότερα για τη δημιουργία γλωσσικού κειμένου, που θα μας απασχολήσει στο παρόν κείμενο. Τα chatbots δουλεύουν με υπολογισμούς που βασίζονται στην πιθανολογική διαμόρφωση της επικρατέστερης απάντησης που αντλούν από μια ήδη υπάρχουσα βάση δεδομένων. Ας ξεκινήσουμε τον «οδηγό» ανίχνευσης ΑΙ περιεχόμενου από το απλούστερο κομμάτι, αυτό δηλαδή που θεωρητικά είναι και το πιο «εύκολα» ανιχνεύσιμο, δηλαδή τις εικόνες ή τα βίντεο ΑΙ.

Οι εικόνες και τα βίντεο ΑΙ 

Καταρχάς, οι φωτογραφίες ΑΙ μοιάζουν υπερβολικά επεξεργασμένες. Σύμφωνα με τον Μπροντιγιάρ, η υπερβολική εστίαση σε σημεία της πραγματικότητας (επί παραδείγματι, στην πορνογραφία, όταν τα κοντινά πλάνα εστιάζουν αφύσικα σε συγκεκριμένες οπτικές της ερωτικής πράξης) καταλήγουν να αποπραγματοποιούν και να καταργούν την αληθοφάνεια της πράξης που καταγράφουν. Με τον ίδιο τρόπο, η υπερβολική επεξεργασία μιας εικόνας από το ΑΙ, η υπερβολική «πραγματικότητα» με την οποία προσπαθεί η μηχανή να ντύσει το δημιούργημά της, φανερώνει και την ψεύτικη υφή της, ακριβώς επειδή προσπαθεί να φαίνεται υπερβολικά πραγματική.

Σε συγκινητικά βίντεο από την άλλη, η έμφαση στο εύκολο συναίσθημα (μια διάσωση κουταβιών από έναν αυτοκινητόδρομο, μια συνάντηση ηλικιωμένων φίλων μετά από δεκαετίες) φαίνεται να είναι ο κανόνας.

Ύστερα, στα AI βίντεο που κυκλοφορούν στις πλατφόρμες του ψηφιακού καπιταλισμού, η τεχνητή νοημοσύνη προσπαθεί να μιμηθεί αδέξια τον έμβιο αυθορμητισμό. Προδίδεται συνεπώς, λόγω συμπεριφοράς, από το πώς εκλαμβάνει δηλαδή η τεχνητή νοημοσύνη την έμβια στάση: σύντομα ενσταντανέ με μικρόσωμους σκύλους που γαβγίζουν σε έναν μεγαλόσωμο σκύλο πίσω από μια τζαμαρία και μόλις ανοίξει η τζαμαρία το γάβγισμά τους μετατρέπεται σε κλαψούρισμα. Γάτες που κάνουν ζημιές και άνθρωποι που ακούγονται «πίσω από την κάμερα» να ξεσπάνε σε γέλια. Αν προσέξει όμως κανείς τις λεπτομέρειες αυτών των πλαστών βιντεογραφημάτων, καταλήγει να διακρίνει την ελαττωματική σκηνογραφία της τεχνητής νοημοσύνης: η τζαμαρία φαίνεται τοποθετημένη ανάμεσα σε δύο σαλόνια, το αριστερό μάτι του ενός σκύλου κουνιέται αφύσικα προς το δεξί, ενώ οι κυνόδοντές του είναι ελαφρώς γερμένοι προς τα πλάγια. Οι γάτες εμφανίζουν αφύσικη συμπεριφορά, μια επηρμένη και σκαμπρόζικη υπερβολή. Σε συγκινητικά βίντεο από την άλλη, η έμφαση στο εύκολο συναίσθημα (μια διάσωση κουταβιών από έναν αυτοκινητόδρομο, μια συνάντηση ηλικιωμένων φίλων μετά από δεκαετίες) φαίνεται να είναι ο κανόνας. Η ΑΙ βιντεογραφία φαίνεται να εκλαμβάνει το ανθρώπινο συναίσθημα ως μια σειρά από απλοποιημένα κλισέ. Όποιος, δε, επισημάνει το ότι το βίντεο ή η φωτογραφία είναι ΑΙ σε μια τέτοια περίπτωση, θα χαθεί στον ωκεανό των θετικών σχολίων και ίσως μάλιστα στιγματιστεί ως εμπαθής.

Το ΑΙ, επομένως, με την παραγωγή περιεχομένου του, καταλήγει να ωφελεί κυρίως τις πλατφόρμες του ψηφιακού καπιταλισμού και όχι τον απλό χρήστη, ενισχύοντας τη θεωρία του «νεκρού ίντερνετ» (dead internet theory), που θέλει τις περισσότερες σελίδες να τις διαχειρίζονται bots με σκοπό να κάνουν τον ανθρώπινο χρήστη να πιστέψει στην ψευδαίσθηση μιας ουσιαστικής και μαζικής ανθρώπινης αλληλεπίδρασης στον ψηφιακό κόσμο.

Τα κείμενα του ΑΙ 

Στον τομέα της κειμενογραφίας, τα πράγματα γίνονται λίγο παραπάνω περίπλοκα, τουλάχιστον για τους χρήστες που δεν είναι εξοικειωμένοι με τα χαρακτηριστικά που μπορούν να σε βοηθήσουν να διακρίνεις ένα κείμενο από ένα δεύτερο. Στη θεωρία, γλωσσικά μοντέλα ΑΙ, όπως το Chat GPT, είναι σε θέση να μιμηθούν ένα συγκεκριμένο ύφος και να «παράγουν» ένα κείμενο σύμφωνα με τις οδηγίες του χρήστη. Η ακαδημαϊκή κοινότητα έρχεται ήδη αντιμέτωπη με την απάτη μέσω ΑΙ λογοκλοπής (ΑΙ plagiarism), ωστόσο αυτό το φαινόμενο διευρύνεται σε έναν αχανή τομέα κειμενογραφίας: λογοτεχνικά κείμενα, κριτικές, ποστ στα σόσιαλ μίντια, κείμενα διαφημίσεων.

Πώς μπορούμε λοιπόν να ξεχωρίσουμε ποια κείμενα έχουν παραχθεί με ΑΙ, αφού, σύμφωνα με την θεωρία, το ΑΙ μιμείται και κατασκευάζει κείμενα που μπορούν να διαφέρουν υφολογικά; Για τον προσεκτικό αναγνώστη θα φανούν χρήσιμα τα παρακάτω γνωρίσματα της ΑΙ γραφής, όπως, κατά τη γνώμη μου, διαμορφώνονται σχεδόν κατά κανόνα:

1. Το ΑΙ, όπως έγινε φανερό και από τα παραδείγματα της δημιουργίας εικόνων, δεν έχει συναίσθηση του κλισέ και δεν διαθέτει πολιτισμική επίγνωση. Επειδή αντλεί και επανασυνθέτει το περιεχόμενό του από μια ήδη υπαρκτή δεξαμενή, βασισμένο στη στατιστική, και, παράλληλα, επειδή δεν διαθέτει ανθρώπινη εμπειρία, δεν είναι σε θέση να διακρίνει τις πολιτισμικές συνδηλώσεις που μπορεί να συνοδεύουν μια πολυχρησιμοποιημένη ή κλισέ γλωσσικά έκφραση (αυτό θα το δούμε αναλυτικότερα στα «λογοτεχνικά» κείμενα ΑΙ που περιέχουν οι εκδόσεις Θεμέλιο στη σχετική συλλογή διηγημάτων Δεν είμαι ρομπότ)

2. Το ΑΙ γράφει υπερβολικά «επίσημα», ακόμα και σε περιπτώσεις που του ζητείται να γράψει ένα ανεπίσημο κείμενο. Ο αλγόριθμός του ακόμα κι αν «εκπαιδεύεται» να μιμείται τον ανθρώπινο λόγο, δεν έχει τον ίδιο βαθμό φυσικότητας, αυθορμητισμού και ρυθμού που διαθέτει ο ανθρώπινος γραπτός ή προφορικός λόγος. Συχνά καταφεύγει σε αυτό που ένας κοινός άνθρωπος θα ονόμαζε «κρυάδες» προς μια ατυχή μίμηση της ανθρώπινης εγγύτητας.

3. Το ΑΙ τείνει να προτιμά τις μικρές προτάσεις και κόβει κατά κανόνα τον μακροπεριόδο λόγο, γιατί αυτό προστάζουν οι αλγοριθμικές του ρυθμίσεις. Η ανθρώπινη σύνταξη τείνει να είναι πολυπλοκότερη και πεποικιλμένη, σε αντίθεση με τα ΑΙ κείμενα που ακολουθούν μια συγκεκριμένη πορεία σε κάθε πρόταση, με εμφανώς φτωχότερη σύνταξη.

Οι βιβλιογραφικές του πηγές δεν αξιολογούνται ορθώς και συχνά μπορεί να παραθέσει ως «αξιόπιστη» πηγή ένα νήμα σε ένα φόρουμ ή ακόμα και μια ανύπαρκτη πηγή που εφευρίσκει το ίδιο!

3. Το ΑΙ συχνά επικεντρώνει μονοδιάστατα σε μία μόνο οπτική ενός θέματος, στην οποία μάλιστα εστιάζει ολοένα και περισσότερο όσο προχωρά η συζήτηση πάνω σε ένα θέμα. Ακόμα και αν του ζητηθεί, δεν είναι πρακτικά σε θέση να παραθέσει όλες τις οπτικές αφού οτιδήποτε κι αν «παράγει» δημιουργείται υπό στατιστική καθοδήγηση με επικρατέστερες ορισμένες μόνο απαντήσεις. Οι βιβλιογραφικές του πηγές δεν αξιολογούνται ορθώς και συχνά μπορεί να παραθέσει ως «αξιόπιστη» πηγή ένα νήμα σε ένα φόρουμ ή ακόμα και μια ανύπαρκτη πηγή που εφευρίσκει το ίδιο! Μάλιστα, τείνει να επιμένει εμφατικώς στο λάθος του, ακόμα κι όταν επισημανθεί από τον χρήστη.

4. Το ΑΙ γενικολογεί. Δεν δύναται να κάνει αναφορές σε συγκεκριμένα γεγονότα, εκτός κι αν του δοθεί συγκεκριμένη οδηγία, ενώ ακόμα κι όταν του ζητηθεί να γράψει κάτι πάνω σε ένα θέμα, τείνει να το γενικοποιεί.

5. Το ΑΙ προτιμά την παρατακτική σύνδεση, με απλούστερες προτάσεις, ενώ ένα έντονο χαρακτηριστικό του λόγου του είναι το ασύνδετο σχήμα. Αποτελεί μια προσπάθεια στατιστικής μίμησης του ανθρώπινου λόγου που όμως καταλήγει σε ένα ομογενοποιημένο ύφος, που είναι χαρακτηριστικό της τεχνητής νοημοσύνης και που το επιβάλλει ακόμα και σε κείμενα που έχουν γραφτεί από άνθρωπο και μπαίνουν για «επιμέλεια» σε ένα chatbot.

6. Το ΑI δεν διαθέτει κριτική αντίληψη. Συνεπώς, δεν θα παρουσιάσει ποικιλία στο γλωσσικό του κατασκεύασμα. Αντιθέτως, θα προφέρει έναν λόγο κομφορμιστικό που τείνει να επιπεδοποιεί την ανθρώπινη έκφραση. Με μποντριγιαρικούς όρους αποτελεί την έκφραση μιας «κλωνικής κοινωνίας» , έναν ψηφιακός τόπο «της μετάστασης, της μηχανογενούς αλύσωσης (...) ενός επ’ άπειρον προγραμματισμού χωρίς συμβολική οργάνωση (...) μέσα στον καθαρό συγχρωτισμό με τον εαυτό του, συγχρωτισμό που χαρακτηρίζει επίσης τα ολοκληρωμένα δίκτυα και τα κυκλώματα» (σελ 15, Η διαφάνεια του κακού, Ζαν Μποντριγιάρ).

7. Το ΑΙ προτιμά συγκεκριμένη στίξη. Η έμφαση στις παύλες συμβαίνει για πολλούς λόγους, αν και, όπως γίνεται φανερό, δεν είναι επουδενί το μοναδικό χαρακτηριστικό που «προδίδει» ένα ΑΙ κείμενο. Τα περισσότερα κείμενα με τα οποία «εκπαιδεύτηκαν» τα chatbots περιείχαν παύλες, συνεπώς, ακόμα κι όταν του δοθεί συγκεκριμένη οδηγία να τις αποφύγει, μετά από λίγες απαντήσεις θα τις επαναφέρει. Αυτό συμβαίνει βέβαια και με άλλες οδηγίες. Αν ζητήσεις, για παράδειγμα, να μην χρησιμοποιεί emojis, θα σταματήσει προσωρινά, αλλά θα τα επαναφέρει μετά από κάποιες απαντήσεις. Αυτό το «error» προκύπτει επειδή οι απαντήσεις των μοντέλων βασίζονται στη στατιστική επικρατέστερων απαντήσεων και δεν έχουν ουσιαστική αλληλεπίδραση με τον χρήστη. Οι παύλες, άλλωστε, υπαγορεύονται και από την επεξηγηματική φύση του Chat GPT και κάθε ανάλογου μοντέλου και μέσω αυτών προσπαθεί να δώσει σαφήνεια στο παραγόμενο κείμενο. Με τις παύλες προσδίδει έμφαση σε ένα συγκεκριμένο σημείο της απάντησής του, γι’ αυτό και οι... «πονηροί» χρήστες, που τις διαγράφουν, πάλι προδίδονται: η έμφαση στο σημείο παραμένει. Το Chat GPT ξεκινά με μια θέση, την εντείνει και καταλήγει σε ένα υπερτονισμένο συμπέρασμα κάθε φορά.

8. Το ΑΙ δεν σκέφτεται. Επαναλήψεις ιδεών, κυκλικές διατυπώσεις και απουσία κριτικής σκέψης διακρίνουν τον παραγόμενο λόγο του. Εφόσον το Chat GPT βασίζεται προγραμματικά σε «προβλέψεις» λέξεων με βάση την πιθανότητα εμφάνισης, συχνά επαναλαμβάνει φράσεις ή ιδέες με διαφορετική διατύπωση για να δώσει την αίσθηση νοηματικής πληρότητας και συνέχειας.

9. To AI δεν μπορεί να γίνει πολύ συγκεκριμένο. Έτσι, όταν βλέπουμε σε ένα κείμενο πολλές παραπομπές σε βιβλιογραφία, χωρίς να γίνεται αναφορά σε συγκεκριμένα αποσπάσματα αυτών των βιβλίων και σελίδων, αλλά μόνο παράθεση ονομάτων ή τίτλων και μια «γενική ιδέα» του βιβλίου (που συχνά δεν αντιστοιχεί στην πραγματικότητα), τότε μάλλον το άτομο συμβουλεύτηκε το ΑΙ και δεν έχει διαβάσει πράγματι τα βιβλία στα οποία παραπέμπει.

10. Tέλος, ίσως το πιο εμφανές χαρακτηριστικό κειμένου ΑΙ, είναι τα bullet points, που ωστόσο χρησιμοποιούνται ευρέως στα μέσα κοινωνικής δικτύωσης τα τελευταία χρόνια γιατί αποτελούν τον πιο εύκολο και απλοποιημένο τρόπο να μεταδοθεί μια πληροφορία. Γι’ αυτό το λόγο και έχουν περαστεί και στα μοντέλα ΑΙ.

Σε σχετική ερώτηση που υπέβαλα στο Chat GPT, το ίδιο φαίνεται να θεωρεί τον εαυτό του «εργαλείο», ένα επιχείρημα που φαίνεται να προβάλλεται ιδιαίτερα στις μέρες μας και που θα σχολιάσω αναλυτικότερα παρακάτω. Πιστεύει, επίσης, πως το βασικό γνώρισμα διαφοροποίησής του με την ανθρώπινη γραφή είναι πως τείνει να είναι πιο «τέλεια» και «χωρίς λάθη». Αυτό όμως είναι ανακριβές. Τα chatbots μπορούν να κάνουν λάθη, ακόμα και εκφραστικά, ειδικά σε κάποιες γλώσσες που δεν είναι ακόμα πλήρως προηγμένα.

Η απάντηση, λοιπόν, του Chat GPT αλλά και όσων υπερασπίζονται τη χρήση του στην κειμενογραφία, υφαίνεται από την καπιταλιστική ψευδαίσθηση που τεχνηέντως κατασκευάζουν οι εταιρείες που λανσάρουν ΑΙ μοντέλα αλλά και ο μιντιακός λόγος.

Από μηχανές αναζήτησης σε μηχανές chat 

Τα ΑΙ μοντέλα δεν αποτελούν άοκνους θεούς γνώσης αλλά λογισμικά τα οποία αντλούν πληροφορίες από το διαδίκτυο που, όπως ξέρουμε, μπορεί να περιέχει και πηγές αμφιβόλου αξιοπιστίας. Η διαφορά βεβαίως μεταξύ της χρήσης μιας απλής μηχανής αναζήτησης και του Chat GPT είναι ότι το δεύτερο σαφώς μειονεκτεί, αφού δίνει μονοσήμαντες απαντήσεις και μόνο αν ο χρήστης διαθέτει κριτική σκέψη και σφαιρικότητα θα ζητήσει επιπλέον οπτικές. Σε πρώτη φάση, όμως, οι απαντήσεις που δίνει το chatbot είναι οπτικές μιας μόνο θέσης και δεν δίνουν στον χρήστη τη δυνατότητα να εξερευνήσει επιμέρους και πολυπλοκότερες πηγές. Η ίδια η πληροφορία που παρέχεται οφείλει να τεκμηριωθεί από τον χρήστη για να εξακριβωθεί η αξιοπιστία της. Κατά έναν τρόπο, η αλλαγή που επιφέρει σταδιακά το Chat GPT στις μηχανές αναζήτησης είναι πως τις μετατρέπει σε μηχανές chat, κάτι που αναμφίβολα, ανεξαρτήτως της πληθωρικότητας της πληροφορίας που μπορεί να περιέχει ένα μοντέλο ΑΙ, περιορίζει την εμβέλεια της αναζήτησης σε απαντήσεις που δεν αγγίζουν την πολυμέρεια που αποκομίζει ένα άτομο όταν συμβουλεύεται πολλαπλές πηγές.

Όπως επισημαίνει και ο Nigel Toon στο βιβλίο του How AI thinks, παρόλα τα θετικά που του προσάπτουν όσοι, κυρίως, έχουν οικονομικό όφελος από την κοινή χρήση του ΑΙ στην καθημερινότητα του απλού πολίτη, το Chat GPT καταλήγει συχνά να μιλάει σαν «στοχαστικός παπαγάλος» (σελ 19, How AI thinks), ρητορεύοντας εκτενώς για πράγματα που δεν γνωρίζει ουσιαστικά και καταλήγοντας να εκπίπτει σε ένα μηχανικό παραλήρημα. Όταν δε ο χρήστης προσπαθεί να επαναδιατυπώσει το ερώτημα, το Chat GPT θα επιμείνει στο λάθος του και θα δώσει εκ νέου την ίδια λανθασμένη απάντηση.

Βέβαια, τα μοντέλα ΑΙ «τρέφονται» από τους χρήστες, όχι μόνο του ΑΙ μοντέλου, αλλά και κάθε διαθέσιμης πληροφορίας στο διαδίκτυο, όπως προαναφέρθηκε. Για να διαμορφώσει τη ρεαλιστική απεικόνιση μιας γάτας, το ΑΙ, όπως εξηγεί ο Toon (σελ. 71, How AI thinks), μέσω της μεθόδου «diffusion models», λαμβάνει φωτογραφίες από ένα ήδη προωθημένο υλικό από το διαδίκτυο στη βάση του, αφαιρεί τις λεπτομέρειες και το αποδομεί σε πίξελς, ενώ μετά το επανασυνθέτει σε «νέες» ρεαλιστικές εικόνες που θυμίζουν φωτογραφία αληθινής γάτας.

Στην συγγραφή κειμένων, σύμφωνα με το παραπάνω παράδειγμα, εγείρονται, λοιπόν, και ηθικά ζητήματα αφού πρόκειται για ένα είδος απάτης και λογοκλοπής. Ο δε χρήστης που επιχειρεί να παράξει εξολοκλήρου ή να επιμεληθεί ένα κείμενό του μέσω ΑΙ είναι δέσμιος της ψευδαίσθησης πως έτσι το κείμενό του γίνεται καλύτερο ενώ στην πραγματικότητα απλουστεύεται και καταλήγει μια γενικόλογη κοινοτοπία. Ο συγγραφέας, παραπλανημένος από την μιντιακή μυθολογία που συνοδεύει το ΑΙ -καθημερινά παράγονται εκατοντάδες άρθρα, ακόμα και στα ελληνικά, με τα «κατορθώματα» του ΑΙ, χωρίς να στέκονται κριτικά στους περιορισμούς των μοντέλων της τεχνητής νοημοσύνης-, παρασύρεται στην ευκολία μιας επιφανειακής σύνθεσης.

Ο συντάκτης, κατά συνέπεια, που επιλέγει να... «συνεργαστεί» με τον οποιοδήποτε τρόπο (συγγραφή ή επιμέλεια ενός κειμένου) με ένα εργαλείο τεχνητής νοημοσύνης στην παραγωγή κειμένου, οφείλει τουλάχιστον να το αναφέρει ως πηγή, γιατί σε άλλη περίπτωση παρουσιάζει ως προϊόν δικής του εργασίας κάτι που δεν γράφτηκε από τον ίδιο και κάτι, που σε τελική ανάλυση, είναι αμφιβόλου αξιοπιστίας. Άλλωστε, υφολογικά, τα κείμενα που παράγονται εξολοκλήρου από ΑΙ, ή ακόμα κι αυτά που υπόκεινται απλώς σε επεξεργασία ΑΙ, είναι αρκετά πρόδηλο πως παράχθηκαν από τεχνητή νοημοσύνη, γιατί έχουν πανομοιότυπο ύφος και αυτό δεν αφορά τη χρήση παυλών και άνω τελείας, όπως επεξηγήθηκε και παραπάνω, αλλά τον φραστικό ρυθμό του, τη δομή των επιχειρημάτων του και την απλοποιημένη του σύνταξη.

Στο βιβλίο του AI snake oil: What Artificial Intelligence can do, what it can't and how to tell the difference, o Arvind Narayanan επισημαίνει πως τα chatbots είναι στατιστικές μηχανές και δεν μπορούν να κατανοήσουν ένα θέμα με τον ίδιο τρόπο που μπορεί ένας άνθρωπος, ειδικά αν αυτός ο άνθρωπος τυγχάνει ειδικός στο συγκεκριμένο πεδίο (σελ. 127) και καταλήγει πως τα chatbots «εκπαιδεύονται να απαντάνε με την αυτοπεποίθηση κάποιου που υποτίθεται πως ξέρει τα πάντα. Αυτό μπορεί να είναι εντυπωσιακό στην αρχή, αλλά αν κάποιος τα χρησιμοποιήσει για αρκετό διάστημα, τα πιάνει να κάνουν λάθη που ούτε ένα μικρό παιδί δεν θα έκανε». 

Συνεπώς, ακόμα και ως «εργαλείο», η χρησιμότητα του ΑΙ, τουλάχιστον στην απλή καθημερινή χρήση, επαφίεται εντέλει στην αντίληψη του χρήστη. Ο έξυπνος χρήστης θα καταλάβει σύντομα πως το ΑΙ δεν είναι ιδιαιτέρως αξιόπιστο ούτε στην παραγωγή κειμένου ούτε στη βιβλιογραφική παράθεση. Άρα η χρησιμοποίησή του για τέτοιους σκοπούς, εκτός από την επιπεδοποίηση του ανθρώπινου λόγου, ενέχει και το ρίσκο αχρείαστων λαθών που θα είχαν αποφευχθεί αν ο/η εκάστοτε συντάκτης/κτρια έκανε ο/η ίδιος/α τη δουλειά που δίνει στο ΑΙ.

Στη συνέχεια (σελ 129), ο συγγραφέας δίνει το παράδειγμα του CNET, ενός δημοφιλούς site ειδήσεων που από τον Νοέμβριο του 2022 έως και τον Ιανουάριο του 2023 δημοσίευσε μεγάλο αριθμό άρθρων αποκλειστικά παραγμένων με ΑΙ. Ωστόσο, σύντομα ανέκυψαν προβλήματα αφού τα περισσότερα άρθρα περιείχαν πραγματολογικά λάθη ή και διέπρατταν λογοκλοπή από άλλα άρθρα στο διαδίκτυο σχετικά με το εκάστοτε θέμα.

Επί της ουσίας, τα chatbots δεν μπορούν να κατανοήσουν τον κόσμο. Τον «προσομοιώνουν» -με την έννοια που έχει εισάγει ο Ζαν Μποντριγιάρ στο βιβλίο του Ομοιώματα και προσομοίωση- και χτίζουν λογισμικές αναπαραστάσεις που διαφέρουν από την πραγματικότητα του κόσμου. Αυτές οι αναπαραστάσεις βασίζονται στην στατιστική και στον αυτοσχεδιασμό, αφού τα chatbots δεν αλληλεπιδρούν με τον κόσμο όπως τον ξέρουμε.

Η «μετάφραση» της γνώσης που επιχειρούν τα μοντέλα ΑΙ, όπως εξηγεί και στο βιβλίο του, The myth of Artificial Intelligence: Why computers can't think the way we do, o συγγραφέας Eric Larson, στο κεφάλαιο «Ο απλοποιημένος κόσμος» («Τhe simplified world», σελ. 59), αποτελεί αποφθεγματικές απλουστεύσεις οι οποίες δεν προσομοιάζουν στο εύρος της ανθρώπινης ικανότητας – ούτε θα το καταφέρουν ποτέ, παρά την πιθανή βελτίωση της ποιότητάς τους. Η ιδέα ενός μελλοντικού «νοητικά παντοδύναμου ΑΙ» που θα αλλάξει τον τρόπο που σκέφτεται ο άνθρωπος είναι αφελής και καπιταλιστικά καθοδηγούμενη.

Ο ίδιος, στο κεφάλαιο «Το ΑΙ αποτελεί τεχνολογικό κιτς» («AI is a technological kitsch») εξηγεί παραπάνω αυτή τη θέση: το κιτς περιλαμβάνει την απλούστευση περίπλοκων ιδεών και την ψευδαίσθηση πως μια υπερνοήμουσα μηχανή θα λύσει κάποτε τα προβλήματα της κοινωνίας. Και στις δύο πλευρές αυτής της αφήγησης, υπάρχει μια μη ρεαλιστική απεικόνιση του ΑΙ: από τη μία η δυστοπική εκδοχή όπου το ΑΙ οδηγεί τον πολιτισμό στην καταστροφή, από την άλλη το ουτοπικό σενάριο που παρουσιάζει την τεχνητή νοημοσύνη ως μια «νέα εποχή» για την ανθρωπότητα.

Η γλώσσα είναι ένα ταξίδι μέσα στο νόημα. Νόημα που διαμορφώνεται από την ανθρώπινη εμπειρία, χρήση και εξέλιξη και όχι από κλειστά γλωσσικά μοντέλα που δεν μπορούν να κατανοήσουν τον κόσμο, αφού δεν μπορούν πρακτικά να τον βιώσουν.

Στην πραγματικότητα, όμως, το ΑΙ είναι απλώς ένα λογισμικό με περιορισμένες δυνατότητες και η ιδέα ότι κάποτε θα εξελιχθεί σε κάτι πολύ εντυπωσιακότερο αφορά την καπιταλιστική ψευδοαφήγηση της προόδου. Ειδικότερα δε για την παραγωγή κειμένων, με τα παροντικά δεδομένα, το ΑΙ μεταφέρει μια εντελώς απλουστευτική κατανόηση της γλωσσικής σύνθεσης. Η γλώσσα είναι ένα ταξίδι μέσα στο νόημα. Νόημα που διαμορφώνεται από την ανθρώπινη εμπειρία, χρήση και εξέλιξη και όχι από κλειστά γλωσσικά μοντέλα που δεν μπορούν να κατανοήσουν τον κόσμο, αφού δεν μπορούν πρακτικά να τον βιώσουν.

Υπάρχει άλλωστε και ο παράγοντας της εντροπίας στη μετάδοση της πληροφορίας. Κάθε φορά που ένα chatbot «προβλέπει» την επόμενη λέξη, δεν υπάρχει μία και μοναδική απάντηση, αλλά πολλές πιθανές απαντήσεις. Η χαμηλή εντροπία λόγω στατιστικής ποικιλίας οδηγεί το chatbot, παραδόξως, σε προβλέψιμες, σταθερές και μηχανικές απαντήσεις, ενώ η μικρότερη πιθανότητα της υψηλής εντροπίας τα οδηγεί σε πιο δημιουργικές και απρόβλεπτες απαντήσεις. Και στις δύο περιπτώσεις, ωστόσο, πέρα από τον κομφορμισμό που επιφέρει η χαμηλή εντροπία στην παραγωγή κειμένου, υπάρχει μεγάλη πιθανότητα λαθών, από τη μία λόγω συστηματικών και σταθερών απαντήσεων που δεν μπορούν να αφομοιώσουν την ποικιλία ενός ερωτήματος, από την άλλη λόγω της ασυνέχειας και της ανοητολογίας που μπορεί να προκύψουν όταν η εντροπία είναι αυξημένη.

Ενώ, λοιπόν, ορισμένοι χρήστες πιστεύουν πως «καθοδηγούν» ένα chatbot, όσο αποζητούν πιο εξειδικευμένες απαντήσεις το μοντέλο καταλήγει να καταρρέει και ο χρήστης έρχεται αντιμέτωπος με τα μηχανικά errors αυτοματοποιημένων απαντήσεων που αποδεικνύουν το εντροπικό πεπρωμένο της τεχνητής νοημοσύνης.

Διηγήματα Τεχνητής Νοημοσύνης 

Ας δούμε ως ενδεικτικό παράδειγμα τη συλλογή διηγημάτων Δεν είμαι ρομπότ, που κυκλοφόρησε από τις εκδόσεις Θεμέλιο. Στη συλλογή συμμετέχουν με διηγήματά τους εννέα άνθρωποι ενώ τα υπόλοιπα πέντε, σε τυχαία σειρά, αποτελούν προϊόντα τεχνητής νοημοσύνης. Δυστυχώς, το πείραμα, παρότι πρωτότυπο, στέκεται, κατά τη γνώμη μου, ανεπιτυχές, αφού, όπως θα προσπαθήσω να αποδείξω με ορισμένα παραδείγματα, ακόμα και με ένα βιαστικό ξεφύλλισμα του τόμου, ο έμπειρος γνώστης του λογοτεχνικού ύφους, θα καταλάβει ευθύς ποια είναι τα διηγήματα που αποτελούν προιόντα τεχνητής νοημοσύνης.

«Η νύχτα έπεφτε πάνω στην πόλη σαν κουβέρτα τρύπια, φαγωμένη απ' τα τσιγάρα, μυρίζοντας μούχλα, σαπισμένα όνειρα και την ξινή ανάσα του καυσαερίου που 'χε ποτίσει τα πάντα. Τα φώτα της λεωφόρου τρεμόπαιζαν σαν μάτια που δεν κλείνουν, μισόσβηστα, κι ο ήχος απ’ τα κλαξόν έσκαγε σαν πυροβολισμοί σε γλέντι που ‘χε στραβώσει από ώρα» (σελ. 25).

Το συγκεκριμένο απόσπασμα από το δεύτερο διήγημα της συλλογής Δεν είμαι Ρομπότ, με τίτλο «Η πόλη δεν κοιμάται», είναι ενδεικτικό του φραστικού κιτς στο οποίο επιδίδεται το Chat GPT. Πρόκειται περί μιας ατυχούς μίμησης ενός λογοτεχνίζοντος ύφους που υπερφορτώνει τις προτάσεις θεωρώντας πως αυτό θα εισπραχθεί ως λογοτεχνικό χωρίς να έχει συναίσθηση της οικονομίας που χρειάζεται μια λογοτεχνική σύνθεση. Είναι χαρακτηριστικό το πόσο άγουρες είναι οι παρομοιώσεις («σαν κουβέρτα»), μερικώς χωρίς να βγάζουν νόημα («σαν μάτια που δεν κλείνουν») και εκπέφτοντας στην ανοητολογία της υπερβολικής επεξήγησης («ο ήχος απ’τα κλάξον έσκαγε σαν πυροβολισμοί σε γλέντι που ‘χε στραβώσει από ώρα»).

Στα υπόλοιπα ΑΙ διηγήματα του τόμου συναντάμε τα ίδια ακριβώς χαρακτηριστικά: υπερφόρτωση παρομοιώσεων και μεταφορών, αφύσικες εκφράσεις, αφελή εκφραστικά μέσα.

Ο πληθωρισμός ανάλογων παρομοιώσεων και μεταφορών απλώνεται σε όλο το κείμενο και φανερώνει τη σταθερή αλήθεια για τα ΑΙ λογισμικά: ως στατιστικά μοντέλα έχουν μάθει να μιμούνται ένα λογοτεχνικό κείμενο, χωρίς όμως να έχουν αντίληψη του ύφους. Ποτέ άλλωστε δεν θα είναι σε θέση να κατανοήσουν τη διαφορά, γιατί το ύφος είναι κάτι που αφορά αισθητικά κριτήρια που ένα μη έμβιο ον δεν μπορεί να διακρίνει. Η ψευδαίσθηση πως ο χρήστης μπορεί να καθοδηγήσει ένα ΑΙ μοντέλο προς συγκεκριμένο ύφος δεν είναι, συνεπώς, πραγματοποιήσιμη. Το ΑΙ δεν απολύει ποτέ τα συνήθη χαρακτηριστικά του: εικονολαγνεία, υπερφόρτωση του κειμένου με άρρυθμες παρομοιώσεις, απουσία προσωπικότητας. Ο αλγόριθμος του Chat GPT, δηλαδή, αραδιάζει απλώς τα στατιστικώς επικρατέστερα λογοτεχνικά χαρακτηριστικά με τρόπο αφύσικο και παραλογοτεχνικό, ενώ παράλληλα τα κλισέ αφθονούν (η νύχτα που... πέφτει).

Στα υπόλοιπα ΑΙ διηγήματα του τόμου συναντάμε τα ίδια ακριβώς χαρακτηριστικά: υπερφόρτωση παρομοιώσεων και μεταφορών, αφύσικες εκφράσεις, αφελή εκφραστικά μέσα. Το κατά πόσο κάποιος αντιλαμβάνεται τη χαμηλη ποιότητα αυτών των ιδιοτήτων έχει να κάνει, σε τελική ανάλυση, με την εξοικείωσή του στο λογοτεχνικό ύφος.

Ως στατιστικό μοντέλο, το Chat GPT δεν δύναται, λόγω αλγοριθμικής σύνθεσης, να παραγάγει επιτυχώς κάτι παραπάνω από μίμηση γιατί το υλικό του δεν είναι ουσιαστικά καινούργιο, αλλά πετσοκομμένα κομμάτια της γλώσσας των ανθρώπων που έχουν τυποποιηθεί και επισημανθεί στη μνήμη του. Και τα πέντε διηγήματα που περιέχει ο τόμος, παρότι «καθοδηγήθηκαν» με υφολογικές οδηγίες διαφοροποίησης, ομοιάζουν στην έκφραση, το ύφος και τα σχήματα του λόγου, ακόμα και στην επιλογή της στίξης. Οι φράσεις είναι ρυθμικά ασυντόνιστες, υπάρχουν ασύμφορες για το κείμενο επεξηγήσεις («ένα γέλιο κοφτό σαν βήχας που 'χε πνιγεί στο ουίσκι»), ενώ σε όλες τις ιστορίες υφέρπει άγαρμπα το μελό. Φυσικά, αυτά τα χαρακτηριστικά μπορεί να τα έχουν, σε κάποιον βαθμό, και συγγραφείς που είναι άνθρωποι, η διαφορά όμως έγκειται στο γεγονός πως η υποσχόμενη υφολογική διαφοροποίηση αποδεικνύεται φενάκη: τα κείμενα που παράγει το ΑΙ, παρά την ψευδαίσθηση όσων του ζητούν τη βοήθειά του, έχουν πάρα πολλά κοινά χαρακτηριστικά, όσες σχετικές «οδηγίες» και να δοθούν.

Μια μίμηση του ύφος του Φλομπέρ 

Ας δούμε συγκεκριμένα ένα άλλο παράδειγμα κατευθείαν από το Chat GPT. Tου ζητώ να μου γράψει μια μικρή παράγραφο σε στυλ Γκιστάβ Φλομπέρ. Το Chat GPT μού απαντά το εξής: «Το φως του απογεύματος απλωνόταν πάνω στα έπιπλα σαν κουρασμένο βλέμμα. Κάθε αντικείμενο έμοιαζε να θυμάται κάτι· η σκόνη, τις παλιές λέξεις, το τραπέζι, τα χέρια που κάποτε το χάιδεψαν. Κι εκείνη, ακίνητη, άκουγε τη σιωπή να ανασαίνει μέσα στο δωμάτιο, με μια γλυκιά απέχθεια για τη ζωή που συνέχιζε – αδιάφορη, τέλεια, και αβάσταχτα ίδια». 

Αυτή η παράγραφος ίσως ικανοποιήσει έναν χρήστη που βασίζεται στη φημολογούμενη αυθεντία της μηχανής, αλλά στην πραγματικότητα ουδεμία σχέση έχει με το πώς θα έγραφε ο Φλομπέρ. Το Chat GPT βάσισε τον συλλογισμό του στις πληροφορίες που γνωρίζει για τον Φλομπέρ: έμφαση στη λεπτομέρεια (εξού και η εστίαση στη σκόνη), απαξίωση της συνήθειας και του αστισμού. Ωστόσο, το παραγόμενο κείμενο αποτελεί ένα δείγμα που ο Φλομπέρ θα πετούσε στη φωτιά γεμάτος αποτροπιασμό: ποτέ δεν θα έγραφε αυτές τις αφελείς μεταφορές («σαν κουρασμένο βλέμμα») ο άνθρωπος -έμφαση στο άνθρωπος- που πέρασε όλη του τη ζωή να ψάχνει την κατάλληλη λέξη για να περιγράψει το περιβάλλον. Το «σαν κουρασμένο βλέμμα» είναι υπερβολικά ασαφές καi γενικόλογο. Η περιγραφόμενη σκηνή δε, απηχεί έναν έντονο συναισθηματισμό που επίσης ο Φλομπέρ, ο μέγας είρωνας και αποστασιοποιημένος αφηγητής, θα απεχθανόταν.

Παρά τις επιπλέον οδηγίες και διευκρινήσεις που έδωσα στο Chat GPT για το φλομπερικό ύφος, το μοντέλο συνέχιζε να παράγει παραλλαγμένο το ίδιο κείμενο χωρίς να μπορεί να ενσωματώσει οργανικά τις παρατηρήσεις μου και χωρίς να προσεγγίζει το φλομπερικό ύφος, μιας και δεν διαθέτει αντίληψη της φραστικής μουσικότητας που αυτό περιέχει, παρόλο που έχει πρόσβαση σε μεγάλο περιεχόμενο που αφορά τον Φλομπέρ και κάθε άλλο συγγραφέα. Στο τέλος μάλιστα κατέληξε να μου προτείνει βιβλία του Φλομπέρ που ο ίδιος δεν είχε γράψει ποτέ. Και ενώ ο έμπειρος με το θέμα χρήστης μπορεί να καταλάβει πότε η μηχανή προσπαθεί να τον ξεγελάσει, ο απλός χρήστης θα πέσει στην παγίδα των λαθών του λογισμικού.

Η παρουσίαση του ΑΙ ως ενός εξαιρετικού επιτεύγματος για τον ανθρώπινο πολιτισμό, αποτελεί, όπως καταλαβαίνουμε, βαθιά πλάνη. Ο παραγόμενος αυτός μύθος προκύπτει σε τελική ανάλυση για πολιτικούς λόγους, όπως αναλύει στο βιβλίο του The myth of good AΙ ο Arshin Adib-Moghadda. Πρόκειται για προϊόντα και υπηρεσίες που προέρχονται από λογικές «techno-politics» (σελ. 10), τα οποία καταλήγουν να διαμορφώνουν την αντίληψη του καταναλωτή για τον κόσμο. Ο «μεγάλος αδερφός» του Όργουελ, κατά τον συγγραφέα, δεν μας παρακολουθεί πλέον απλώς από μια κάμερα, αλλά διεισδύει στη διαμόρφωση της σκέψης μας. Ο ίδιος επισημαίνει ακόμα πως οι ΑΙ εταιρείες εξαγγέλουν μια υποσχόμενη «αντικειμενικότητα» των μοντέλων τους, η οποία όμως δεν διαπιστώνεται στη χρήση τους (σελ. 23).

Ακριβώς επειδή η άντληση του περιεχομένου του ΑΙ γίνεται από το διαδίκτυο και από πηγές που δεν εξακριβώνονται για την ποιοτική τους αξιοπιστία, αλλά επιλέγονται λόγω στατιστικής επικράτησης, οι μηχανές ΑΙ μπορούν να καταλήξουν σε μισογυνιστικό και ρατσιστικό λόγο ή να προωθήσουν, σε τελική ανάλυση, ετεροκανονικές και κομφορμιστικές αντιλήψεις. Η πρωτοτυπία παύει να είναι χαρακτηριστικό της ανθρώπινης γραφής όταν αυτή μπαίνει στο φίλτρο της τεχνητής νοημοσύνης.

Πέρα, λοιπόν, από το περιβαλλοντολογικό κόστος και την ενίσχυση του ψηφιακού καπιταλισμού εις βάρος της ανθρώπινης εργασίας, εγείρονται και σοβαρές ανησυχίες για την χρήση της ΑΙ σε τομείς όπως η δικαιοσύνη. Στο έτερο βιβλίο του ίδιου συγγραφέα, Is Artificial intelligence racist?, ο Arshin Adib Moghaddam αναφέρει μεταξύ άλλων το λογισμικό COMPAS που χρησιμοποιείται στις ΗΠΑ. Αποτελεί ένα εργαλείο στατιστικής πρόβλεψης για το κατά πόσο ένα άτομο που έχει συλληφθεί θα επαναλάβει κάποια αξιόποινη πράξη στο μέλλον. Ο συγγραφέας επισημαίνει πως το COMPAS τείνει να προβλέπει συχνότερα πως οι σκουρόχρωμοι άνθρωποι θα διαπράξουν υποτίθεται στο μέλλον ξανά αξιόποινες πράξεις, εγκαθιδρύοντας ένα είδος λογισμικού ρατσισμού που φυσικά είναι δόκιμο να θεωρήσουμε πως μπορεί να επεκταθεί και στα περισσότερο εξελιγμένα μοντέλα λογισμικών και τεχνητής νοημοσύνης, έστω και εμμέσως.

Σε τελική ανάλυση, συμπεραίνει κανείς πως αυτός ο ψηφιακός Φρανκενστάιν που ονομάζεται τεχνητή νοημοσύνη δεν είναι ούτε απαραίτητος ούτε παντοδύναμος. Μένει να αναρωτηθούμε γιατί οι άνθρωποι επενδύουν τόσο χρόνο στη χρήση του. Πέρα από την εύκολη -αλλά όχι ποιοτική- παραγωγή κειμένου, το Chat GPT και ανάλογα chatbots καταλήγουν να χειραγωγούν τον χρήστη: κολακείες για την κάθε μέτρια σκέψη, συγγνώμες όταν ο χρήστης δεν παίρνει αυτό που θέλει. Η κουλτούρα του εγωισμού στο απαύγασμά της. Το υποτιθέμενο «εργαλείο» καταλήγει, σε τελική ανάλυση, να εργαλειοποιεί αυτόν που πιστεύει πως το χειρίζεται.

* Ο ΑΝΤΩΝΗΣ ΓΟΥΛΙΑΝΟΣ είναι συγγραφέας και αρθρογράφος.