ΛΟΓΟΤΕΧΝΙΚΗ ΘΕΩΡΙΑ ΓΙΑ ΡΟΜΠΟΤ: Πώς έμαθαν οι υπολογιστές να γράφουντου Ντένις Γι Τένεν
Στο «Literary Theory for Robots», το παιχνιδιάρικο νέο βιβλίο του Dennis Yi Tenen για την τεχνητή νοημοσύνη και το πώς οι υπολογιστές έμαθαν να γράφουν, ένα από τα πιο δυνατά παραδείγματά του έρχεται με τη μορφή ενός μικροσκοπικού λάθους.
Ο Tenen συνδέει τα σύγχρονα chatbots, τις γεννήτριες πλοκής pulp-fiction, τα παλιομοδίτικα λεξικά και τους μεσαιωνικούς τροχούς προφητειών. Και οι δύο ουτοπιστές (τα ρομπότ θα μας σώσουν!) και οι μοιρολάτρες (τα ρομπότ θα μας καταστρέψουν!) το κάνουν λάθος, υποστηρίζει. Θα υπάρχει πάντα μια αμετάκλητα ανθρώπινη πτυχή στη γλώσσα και τη μάθηση – ένας κρίσιμος πυρήνας νοήματος που προκύπτει όχι μόνο από τη σύνταξη αλλά από την εμπειρία. Χωρίς αυτό, ακούς απλώς τη φλυαρία των παπαγάλων, οι οποίοι, «σύμφωνα με τον Ντεκάρτ στις «Διαμεσολαβήσεις» του, απλώς επαναλάμβαναν χωρίς να καταλαβαίνουν», γράφει ο Τένεν.
Αλλά ο Ντεκάρτ δεν έγραψε τις «Διαμεσολαβήσεις». Το Tenen πρέπει να σήμαινε “Διαλογισμοί” – το “t” που λείπει θα ξεφύγει από οποιοδήποτε πρόγραμμα ορθογραφικού ελέγχου επειδή και οι δύο λέξεις είναι απολύτως νόμιμες. (Το ευρετήριο του βιβλίου παραθέτει σωστά τον τίτλο.) Αυτό το μικροσκοπικό τυπογραφικό λάθος δεν έχει καμία σχέση με το επιχείρημα του Tenen. αν μη τι άλλο, ενισχύει την υπόθεση που θέλει να κάνει. Οι μηχανές γίνονται πιο δυνατές και πιο έξυπνες, αλλά εμείς εξακολουθούμε να αποφασίζουμε τι έχει νόημα. Ένας άνθρωπος έγραψε αυτό το βιβλίο. Και, παρά τα ρομπότ στον τίτλο, προορίζεται για άλλους ανθρώπους να διαβάζουν.
Ο Τένεν, τώρα καθηγητής Αγγλικών και συγκριτικής λογοτεχνίας στην Κολούμπια, ήταν μηχανικός λογισμικού στη Microsoft. Χρησιμοποιεί τα ανόμοια σετ δεξιοτήτων του σε ένα βιβλίο που είναι εκπληκτικό, αστείο και αποφασιστικά απτόητο, παρόλο που κάνει λαθραία μεγάλα ερωτήματα για την τέχνη, την ευφυΐα, την τεχνολογία και το μέλλον της εργασίας. Υποψιάζομαι ότι το μικρό μέγεθος του βιβλίου – είναι κάτω από 160 σελίδες – είναι μέρος της ουσίας. Οι άνθρωποι δεν είναι ακούραστες μηχανές, που καταναλώνουν αδυσώπητα τεράστιους όγκους για τεράστια θέματα. Ο Tenen έχει καταλάβει πώς να παρουσιάσει έναν ιστό σύνθετων ιδεών σε ανθρώπινη κλίμακα.
Για το σκοπό αυτό, αφηγείται ιστορίες, ξεκινώντας από τον Άραβα μελετητή του 14ου αιώνα, Ibn Khaldun, ο οποίος εξιστόρησε τη χρήση του τροχού της προφητείας, και τελειώνοντας με ένα κεφάλαιο για τον Ρώσο μαθηματικό του 20ου αιώνα Andrey Markov, του οποίου η ανάλυση πιθανοτήτων των ακολουθιών γραμμάτων στο Το «Eugene Onegin» του Πούσκιν αποτελούσε ένα θεμελιώδες δομικό στοιχείο της γενετικής τεχνητής νοημοσύνης (Οι τακτικοί παίκτες του παιχνιδιού Wordle διαισθάνονται τέτοιες πιθανότητες όλη την ώρα.) Ο Tenen γράφει με γνώση για τα τεχνολογικά εμπόδια που εμπόδισαν τα προηγούμενα μοντέλα εκμάθησης υπολογιστών, πριν «η ωμή δύναμη που απαιτείται για να επεξεργαστείτε τα περισσότερα ό,τι δημοσιεύτηκε στην αγγλική γλώσσα» ήταν τόσο εύκολα διαθέσιμο. Μας προτρέπει να είμαστε σε εγρήγορση. Μας προτρέπει επίσης να μην πανικοβάλλουμε.
«Η νοημοσύνη εξελίσσεται σε ένα φάσμα, που κυμαίνεται από «μερική βοήθεια» έως «πλήρη αυτοματοποίηση», γράφει ο Tenen, προσφέροντας το παράδειγμα ενός αυτόματου κιβωτίου ταχυτήτων σε ένα αυτοκίνητο. Η οδήγηση ενός αυτόματου στη δεκαετία του 1960 πρέπει να ήταν συναρπαστική για τους ανθρώπους που χρησιμοποιούν χειροκίνητα κιβώτια ταχυτήτων. Ένα αυτόματο λειτουργούσε αυτοματοποιώντας βασικές αποφάσεις, κατεβάζοντας ταχύτητα σε λόφους και στέλνοντας λιγότερη ισχύ στους τροχούς σε κακές καιρικές συνθήκες. Αφαίρεσε την επιλογή να ακινητοποιήσετε ή να αλέσετε τα εργαλεία σας. Ήταν «τεχνητά έξυπνο», ακόμα κι αν κανείς δεν χρησιμοποίησε αυτές τις λέξεις για αυτό. Οι Αμερικανοί οδηγοί θεωρούν πλέον δεδομένη τη μαγεία του. Έχει απομυθοποιηθεί.
Όσο για τις τρέχουσες συζητήσεις σχετικά με την τεχνητή νοημοσύνη, αυτό το βιβλίο προσπαθεί επίσης να τις απομυθοποιήσει. Αντί να μιλάει για την τεχνητή νοημοσύνη σαν να έχει το δικό της μυαλό, ο Tenen μιλά για τη συλλογική δουλειά που έγινε για την κατασκευή του. «Χρησιμοποιούμε μια γνωστική-γλωσσική συντόμευση συμπυκνώνοντας και αποδίδοντας πρακτορεία στην ίδια την τεχνολογία», γράφει. «Είναι πιο εύκολο να πεις,»Το ΤΗΛΕΦΩΝΟ ολοκληρώνει τα μηνύματά μου” αντί για “Η ομάδα μηχανικών πίσω από το λογισμικό γραφής εργαλείων αυτόματης συμπλήρωσης που βασίζεται στις ακόλουθες δεκάδες ερευνητικές εργασίες ολοκληρώνει τα μηνύματά μου».
Επομένως, οι κοινές μας μεταφορές για την τεχνητή νοημοσύνη είναι παραπλανητικές. Ο Tenen λέει ότι πρέπει να είμαστε «ύποπτοι για όλες τις μεταφορές που αποδίδουν γνωστές ανθρώπινες γνωστικές πτυχές στην τεχνητή νοημοσύνη. Η μηχανή σκέφτεται, μιλάει, εξηγεί, καταλαβαίνει, γράφει, αισθάνεται κ.λπ., μόνο κατ’ αναλογία.» Αυτός είναι ο λόγος που τόσο μεγάλο μέρος του βιβλίου του περιστρέφεται γύρω από γλωσσικά ζητήματα. Η γλώσσα μας επιτρέπει να επικοινωνούμε και να κατανοούμε ο ένας τον άλλον. Αλλά επιτρέπει επίσης την εξαπάτηση και την παρεξήγηση. Ο Tenen θέλει να «ξεδιπλώσουμε τη μεταφορά» της τεχνητής νοημοσύνης – μια πρόταση που μπορεί να μοιάζει με το χόμπι ενός Άγγλου καθηγητή με την πρώτη ματιά, αλλά αποδεικνύεται απολύτως εύστοχη. Μια μεταφορά που είναι πολύ γενική μπορεί να μας κάνει να εφησυχάζουμε. Η αίσθηση της δυνατότητας μας διαμορφώνεται από τις μεταφορές που επιλέγουμε.
Οι παραγωγοί κειμένου, είτε με τη μορφή chatbot του 21ου αιώνα είτε με τη «μαγεία των γραμμάτων» του 14ου αιώνα, αντιμετώπιζαν πάντα το πρόβλημα της «εξωτερικής επικύρωσης», γράφει ο Tenen. «Το κείμενο που δημιουργείται διαδικαστικά μπορεί να έχει γραμματικό νόημα, αλλά μπορεί να μην έχει πάντα έννοια έννοια.” Πάρτε το διάσημο παράδειγμα του Noam Chomsky: «Οι άχρωμες πράσινες ιδέες κοιμούνται με μανία». Όποιος έχει ζήσει στον φυσικό κόσμο θα ήξερε ότι αυτή η συντακτικά άψογη πρόταση είναι ανοησία. Ο Τένεν συνεχίζει να αναφέρεται στη σημασία της «ζωντανής εμπειρίας» γιατί αυτό περιγράφει την κατάστασή μας.
Ο Τένεν δεν αρνείται ότι η τεχνητή νοημοσύνη απειλεί μεγάλο μέρος αυτού που ονομάζουμε «εργασία γνώσης». Ούτε αρνείται ότι η αυτοματοποίηση κάτι το απαξιώνει επίσης. Αλλά το θέτει και διαφορετικά: «Ο αυτοματισμός μειώνει τα εμπόδια εισόδου, αυξάνοντας την προσφορά αγαθών για όλους». Η μάθηση είναι φθηνότερη τώρα, και έτσι το να έχεις ένα μεγάλο λεξιλόγιο ή ρεπερτόριο απομνημονευμένων γεγονότων δεν είναι πλέον το ανταγωνιστικό πλεονέκτημα που ήταν κάποτε. «Οι σημερινοί γραφείς και μελετητές μπορούν να αμφισβητήσουν τον εαυτό τους με πιο δημιουργικά καθήκοντα», προτείνει. «Εργασίες που είναι κουραστικές έχουν ανατεθεί σε εξωτερικούς συνεργάτες στα μηχανήματα».
Παίρνω την άποψή του, ακόμα κι αν αυτή η προοπτική εξακολουθεί να μου φαίνεται άσχημη, με ένα ολοένα και συρρικνούμενο κομμάτι του πληθυσμού να κάνει προκλητική, δημιουργική δουλειά ενώ ένα οικοσύστημα που κάποτε ανθούσε καταρρέει. Αλλά ο Tenen υποστηρίζει επίσης ότι εμείς, ως κοινωνικά όντα, έχουμε εξουσία, αρκεί να επιτρέψουμε στον εαυτό μας να αποδεχθεί την ευθύνη που συνεπάγεται. «Τα μεμονωμένα AI αποτελούν πραγματικό κίνδυνο, δεδομένης της ικανότητας να συγκεντρώνουν δύναμη για την επιδίωξη ενός στόχου», παραδέχεται. Αλλά ο πραγματικός κίνδυνος προέρχεται «από την αδυναμία μας να θεωρήσουμε τους κατασκευαστές τεχνολογίας υπεύθυνους για τις πράξεις τους». Τι θα γινόταν αν κάποιος ήθελε να συνδέσει έναν κινητήρα τζετ σε ένα αυτοκίνητο και να δει πώς τα πήγε στους δρόμους μιας πολυσύχναστης πόλης; Ο Τένεν λέει ότι η απάντηση είναι προφανής: «Μην το κάνεις αυτό».
Γιατί το “Don’t do that” μπορεί να φαίνεται εύκολο σε ένα βασίλειο, αλλά όχι σε ένα άλλο απαιτεί περισσότερη σκέψη, περισσότερη ακρίβεια, περισσότερο έλεγχο – όλα τα χαρακτηριστικά που πέφτουν στο περιθώριο όταν σκύβουμε μπροστά στην τεχνητή νοημοσύνη, αντιμετωπίζοντας την τεχνολογία σαν έναν μοναδικό θεό αντί για πλήθος μηχανών που κατασκευάστηκαν από πολλούς ανθρώπους. Ο Τένεν δίνει το παράδειγμα, φέρνοντας την ανθρώπινη νοημοσύνη του στην τεχνητή νοημοσύνη. Σκεπτόμενος τις συλλογικές μας συνήθειες σκέψης, προσφέρει έναν δικό του διαλογισμό.
ΛΟΓΟΤΕΧΝΙΚΗ ΘΕΩΡΙΑ ΓΙΑ ΡΟΜΠΟΤ: Πώς έμαθαν οι υπολογιστές να γράφουν | Του Ντένις Γι Τένεν | Νόρτον | 158 σελ. | $22