Η επιστημονική φαντασία, όταν επανεξετάζεται χρόνια αργότερα, μερικές φορές δεν φαίνεται και τόσο φανταστική. Τα κερδοσκοπικά μυθιστορήματα έχουν ένα εντυπωσιακό ιστορικό στο να προφητεύουν ποιες καινοτομίες πρόκειται να έρθουν και πώς θα μπορούσαν να αναστατώσουν τον κόσμο: Ο HG Wells έγραψε για μια ατομική βόμβα δεκαετίες πριν από τον Β’ Παγκόσμιο Πόλεμο και το μυθιστόρημα του Ρέι Μπράντμπερι το 1953, Φαρενάιτ 451διαθέτει συσκευές που θα περιγράφαμε σήμερα ως ακουστικά Bluetooth.
Ίσως κανένας συγγραφέας δεν ήταν πιο διορατικός για την τρέχουσα τεχνολογική εποχή μας από τον Neal Stephenson. Τα μυθιστορήματά του επινόησαν τον όρο μετασύνδεση, έθεσε τις εννοιολογικές βάσεις για τα κρυπτονομίσματα και φαντάστηκε έναν γεωμηχανικό πλανήτη. Και σχεδόν τρεις δεκαετίες πριν από την κυκλοφορία του ChatGPT, προήγγειλε την τρέχουσα επανάσταση της τεχνητής νοημοσύνης. Βασικό στοιχείο ενός από τα πρώτα μυθιστορήματά του, The Diamond Age: Ή, το εικονογραφημένο Primer της νεαρής κυρίας, είναι ένα μαγικό βιβλίο που λειτουργεί ως προσωπικός δάσκαλος και μέντορας για μια νεαρή κοπέλα, προσαρμόζοντας το μαθησιακό της στυλ—στην ουσία είναι ένα εξατομικευμένο και εξαιρετικά προηγμένο chatbot. Το τιμητικό Primer μιλάει δυνατά με τη φωνή ενός ζωντανού ηθοποιού, γνωστού ως “ractor” – υπενθυμίζοντας πώς η σημερινή γενετική τεχνητή νοημοσύνη, όπως πολλές ψηφιακές τεχνολογίες, εξαρτάται σε μεγάλο βαθμό από τη δημιουργική εργασία των ανθρώπων.
Το βιβλίο του Stephenson, που δημοσιεύτηκε το 1995, εξερευνά ένα μέλλον απρόσκοπτης, στιγμιαίας ψηφιακής επικοινωνίας, στην οποία μικροσκοπικοί υπολογιστές με τεράστιες δυνατότητες είναι ενσωματωμένοι στην καθημερινή ζωή. Οι εταιρείες κυριαρχούν, οι ειδήσεις και οι διαφημίσεις είναι στοχευμένες και οι οθόνες είναι πανταχού παρούσες. Είναι ένας κόσμος έντονων ταξικών και πολιτιστικών διαχωρισμών (το μυθιστόρημα ακολουθεί μια ισχυρή αριστοκρατική αίρεση που αυτοχαρακτηρίζεται ως «νεο-βικτοριανοί»), αλλά είναι ένας κόσμος στον οποίο το Primer παρουσιάζεται ως το καλύτερο από ό,τι μπορεί να είναι η τεχνολογία.
Αλλά ο Stephenson είναι πολύ πιο απαισιόδοξος για τη σημερινή τεχνητή νοημοσύνη παρά για το Primer. «Ένα chatbot δεν είναι χρησμός», μου είπε στο Zoom την περασμένη Παρασκευή. «Είναι μια μηχανή στατιστικών που δημιουργεί προτάσεις που ακούγονται ακριβείς». Μίλησα με τον Stephenson για το απίστευτα προληπτικό βιβλίο του και την επανάσταση της γενετικής τεχνητής νοημοσύνης που φαινομενικά έχει ξεκινήσει.
Αυτή η συνομιλία επεξεργάστηκε για μεγαλύτερη διάρκεια και σαφήνεια.
Ματέο Γουόνγκ: The Young Lady’s Illustrated Primer είναι ένα βιβλίο που προσαρμόζεται και διδάσκει ένα νεαρό κορίτσι, το οποίο φαίνεται να έχει απήχηση στο όραμα των chatbot και των βοηθών AI που έχουν πολλές εταιρείες για το εγγύς μέλλον. Ξεκινήσατε να εξερευνήσετε την ιδέα μιας έξυπνης μηχανής για να φανταστείτε το Primer;
Neal Stephenson: Η ιδέα μου ήρθε αφού αποκτήσαμε ένα παιδί και πήραμε αυτό το κινητό που ήταν σχεδιασμένο να κρέμεται πάνω από την κούνια. Είχε πολύ πρωτόγονα, απλά σχήματα πάνω του επειδή, όταν είναι νεογέννητα, τα οπτικά τους συστήματα δεν μπορούν να επιλύσουν λεπτές λεπτομέρειες. Έτσι θα υπήρχε ένα τετράγωνο και ένα τρίγωνο και ένας κύκλος. Και μετά, αφού είχαν περάσει ορισμένες μέρες ή εβδομάδες, έπρεπε να βγάλεις αυτές τις κάρτες από το κινητό και να κουμπώσεις σε ένα διαφορετικό σετ που ταίριαζε περισσότερο σε αυτό που ήταν ικανός ο εγκέφαλός τους σε εκείνη την ηλικία. Αυτό με έκανε να σκεφτώ: Τι θα γινόταν αν επεκτείνατε αυτή την ιδέα σε κάθε άλλη μορφή πνευματικής ανάπτυξης;
Η τεχνολογία που οδηγεί το βιβλίο δεν ήταν πραγματικά η τεχνητή νοημοσύνη όπως το σκεφτόμαστε τώρα – μιλούσα με ανθρώπους που εργάζονταν σε ορισμένες από τις υποκείμενες τεχνολογίες που θα χρειάζονταν για την επικοινωνία στο διαδίκτυο με ασφαλή, ανώνυμο τρόπο. Υποθέτω ότι είναι σιωπηρό ότι υπάρχει μια τεχνητή νοημοσύνη εκεί μέσα που δημιουργεί την ιστορία και αυξάνει τον βαθμό πολυπλοκότητας ως απάντηση στην καμπύλη μάθησης του παιδιού, αλλά δεν ασχολήθηκα πολύ με αυτό. Απλώς υπέθεσα ότι θα ήταν εκεί.
Wong: Πολλές εταιρείες σήμερα – η OpenAI, η Google, η Meta, για να αναφέρουμε μερικές – έχουν δηλώσει ότι θέλουν να δημιουργήσουν βοηθούς τεχνητής νοημοσύνης που προσαρμόζονται σε κάθε χρήστη, κάπως σαν τον τρόπο που το Primer λειτουργεί ως δάσκαλος. Βλέπετε κάτι στα μοντέλα γενετικής τεχνητής νοημοσύνης του σήμερα που μοιάζει ή θα μπορούσε μια μέρα να γίνει σαν το Primer;
Stephenson: Πριν από περίπου ένα χρόνο, δούλεψα με μια start-up που φτιάχνει χαρακτήρες AI σε βιντεοπαιχνίδια. Το βρήκα ανταποδοτικό και συναρπαστικό λόγω των παραισθήσεων: Μπορούσα να δω πώς προέκυψαν νέα μοτίβα από τη σούπα των εισροών που τροφοδοτούνταν σε αυτό. Το ίδιο πράγμα που θεωρώ ότι είναι χαρακτηριστικό είναι ένα σφάλμα στις περισσότερες εφαρμογές. Έχουμε ήδη δει παραδείγματα δικηγόρων που χρησιμοποιούν το ChatGPT για τη δημιουργία νομικών εγγράφων και η τεχνητή νοημοσύνη μόλις κατασκεύασε προηγούμενες υποθέσεις και προηγούμενα που φαίνονταν απολύτως εύλογα. Όταν σκέφτεστε την ιδέα να προσπαθήσετε να κάνετε χρήση αυτών των μοντέλων στην εκπαίδευση, γίνεται επίσης σφάλμα. Αυτό που κάνουν είναι να δημιουργούν προτάσεις που ακούγονται σαν σωστές προτάσεις, αλλά δεν υπάρχει εγκέφαλος που να μπορεί πραγματικά να διακρίνει εάν αυτές οι προτάσεις είναι σωστές ή όχι.
Σκεφτείτε οποιαδήποτε έννοια που μπορεί να θέλουμε να διδάξουμε σε κάποιον – για παράδειγμα, το Πυθαγόρειο θεώρημα. Πρέπει να υπάρχουν χιλιάδες παλιές και νέες εξηγήσεις του Πυθαγόρειου θεωρήματος στο διαδίκτυο. Το πραγματικό πράγμα που χρειαζόμαστε είναι να κατανοήσουμε το στυλ μάθησης κάθε παιδιού, ώστε να μπορούμε να το συνδέσουμε αμέσως με εκείνο από αυτά τα χιλιάδες που ταιριάζει καλύτερα στον τρόπο με τον οποίο μαθαίνει. Αυτό για μένα ακούγεται σαν ένα είδος έργου τεχνητής νοημοσύνης, αλλά είναι ένα διαφορετικό είδος εφαρμογής τεχνητής νοημοσύνης από το DALL-E ή τα μοντέλα μεγάλων γλωσσών.
Wong: Και όμως, σήμερα, αυτά τα γλωσσικά μοντέλα, τα οποία βασικά προβλέπουν λέξεις σε μια ακολουθία, εφαρμόζονται σε πολλούς τομείς όπου δεν έχουν εξειδικευμένες ικανότητες—GPT-4 για ιατρική διάγνωση, Google Bard ως δάσκαλος. Αυτό μου θυμίζει έναν όρο που χρησιμοποιείται στο βιβλίο αντί για τεχνητή νοημοσύνη, ψευδο-νοημοσύνητο οποίο πολλοί επικριτές της τεχνολογίας μπορεί να εκτιμήσουν σήμερα.
Stephenson: Το είχα ξεχάσει αυτό. Το κυνήγι αυτού του βιβλίου ήταν η εφαρμογή βικτωριανής λογοτεχνίας και προκαταλήψεων σε πράγματα υψηλής τεχνολογίας. Αυτό που μάλλον περνούσε από το μυαλό μου ήταν ότι οι Βικτωριανοί θα έβλεπαν στραβά τον όρο τεχνητή νοημοσύνη, γιατί θα τους προσβάλει η ιδέα ότι οι υπολογιστές θα μπορούσαν να αντικαταστήσουν τον ανθρώπινο εγκέφαλο. Επομένως, πιθανότατα θα ήθελαν να περιλάβουν την ιδέα ως προσομοίωση ή ως «ψευδο» νοημοσύνη, σε αντίθεση με την πραγματική.
Wong: Πριν από περίπου ένα χρόνο, σε ένα συνέντευξη με την Financial Times, αποκαλούσατε τις εξόδους της γενετικής τεχνητής νοημοσύνης «κούφιες και μη ενδιαφέρουσες». Γιατί έγινε αυτό και έχει αλλάξει η εκτίμησή σας;
Stephenson: Υποψιάζομαι ότι αυτό που είχα στο μυαλό μου όταν έκανα αυτές τις παρατηρήσεις ήταν η τρέχουσα κατάσταση της τεχνολογίας παραγωγής εικόνων. Υπήρχαν μερικά πράγματα σχετικά με αυτό που με έτριβε με λάθος τρόπο, το μεγαλύτερο είναι ότι επωφελούνται από το μη αναγνωρισμένο έργο χιλιάδων πραγματικών ανθρώπων καλλιτεχνών. Θα υπερβάλλω ελαφρώς, αλλά φαίνεται ότι μια από τις πρώτες εφαρμογές οποιασδήποτε νέας τεχνολογίας κάνει τα πράγματα ακόμα πιο σκοτεινά για τους καλλιτέχνες. Αυτό σίγουρα συνέβη με τη μουσική. Αυτά τα συστήματα δημιουργίας εικόνων απλώς φαινόταν ότι ήταν μηχανοποιημένα και οπλισμένα σε ασύλληπτη κλίμακα.
Ένα άλλο μέρος του ήταν ότι πολλοί άνθρωποι που ενθουσιάστηκαν με αυτό νωρίς απλώς δημιούργησαν τεράστιους όγκους υλικού και το δημοσίευσαν ηθελημένα στο διαδίκτυο. Αν ο μόνος τρόπος για να φτιάξεις έναν πίνακα είναι να ταμπονάρεις με κόπο πάνω σε έναν καμβά, τότε το αποτέλεσμα μπορεί να είναι κακό ή καλό, αλλά τουλάχιστον είναι το αποτέλεσμα πολλών μικρο-αποφάσεων που πήρες ως καλλιτέχνης. Ασκούσατε εκδοτική κρίση με κάθε βάψιμο. Αυτό απουσιάζει από την έξοδο αυτών των προγραμμάτων.
Wong: Ακόμη και σε Η Εποχή των Διαμαντιών, το Primer φαίνεται να παρέχει σχολιασμούς για την εργασία και την τεχνολογία των καλλιτεχνών, κάτι που είναι πολύ σχετικό με την τεχνητή νοημοσύνη που δημιουργείται σήμερα. Το Primer διδάσκει ένα κορίτσι, αλλά ένας άνθρωπος ηθοποιός που συνδέεται ψηφιακά με το βιβλίο πρέπει να εκφωνήσει δυνατά το κείμενο.
Stephenson: Αν είσαι συμβατικός ηθοποιός στη σκηνή ή στον κινηματογράφο, στέκεσαι μπροστά σε μια κάμερα, παίζεις μία φορά και μετά μπορούν να γίνουν πολλά αντίγραφα. Στο βιβλίο, σκέφτηκα ότι ήταν ένα αρκετά θετικό όραμα για το μέλλον, όπου έχουμε την τεχνολογία που θα επέτρεπε στους φωνητικούς ηθοποιούς να δίνουν ουσιαστικά ζωντανές παραστάσεις κατόπιν ζήτησης, όλη την ώρα. Ακόμη και με τους σημερινούς κλώνους φωνής, αν το αναλύσετε στο πιο απλό στοιχείο του, υπάρχει ακόμα ένας άνθρωπος που κάθισε μπροστά σε ένα μικρόφωνο και παρείχε αυτό το υλικό. Αν και υποθέτω ότι ένα σύστημα όπως το Primer μπορεί να μην λειτουργεί ζωντανά. πιθανότατα θα είχατε κάποια καθυστέρηση—η τεχνητή νοημοσύνη δημιουργεί το κείμενο και το στέλνει στον ractor, και μετά ο ractor πρέπει να το διαβάσει.
Wong: Και στην κλίμακα που λειτουργούν ορισμένα από τα σημερινά προγράμματα τεχνητής νοημοσύνης, απλά δεν θα υπήρχαν αρκετοί άνθρωποι για να το κάνουν.
Stephenson: Το σενάριο στο οποίο εξέθεσα Η Εποχή των Διαμαντιών είναι ότι τα ractors είναι ένας σπάνιος πόρος, και έτσι το Primer είναι περισσότερο ένα προϊόν πολυτελείας. Αλλά τελικά, ο πηγαίος κώδικας για το βιβλίο πέφτει στα χέρια ενός ανθρώπου που θέλει να το κατασκευάσει σε τεράστια κλίμακα, και δεν υπάρχουν αρκετά χρήματα και αρκετοί ηθοποιοί στον κόσμο για να εκφράσουν όλα αυτά τα βιβλία, οπότε σε εκείνο το σημείο, αποφασίζει να χρησιμοποιήσει φωνές που δημιουργούνται αυτόματα.
Wong: Ένα άλλο θέμα του μυθιστορήματος είναι το πώς διαφορετικές κοινωνικοοικονομικές τάξεις έχουν πρόσβαση στην εκπαίδευση. Το Primer έχει σχεδιαστεί για έναν αριστοκράτη, αλλά το μυθιστόρημά σας παρακολουθεί επίσης τις ιστορίες κοριτσιών της μεσαίας και εργατικής τάξης που αλληλεπιδρούν με εκδοχές του βιβλίου. Αυτήν τη στιγμή, πολλά γεννήτρια τεχνητή νοημοσύνη είναι δωρεάν, αλλά η λειτουργία της τεχνολογίας είναι επίσης πολύ ακριβή. Πώς πιστεύετε ότι θα μπορούσε να εξελιχθεί η πρόσβαση σε γενετική τεχνητή νοημοσύνη;
Stephenson: Υπήρχε λίγος πρώιμος διαδικτυακός ουτοπισμός στο βιβλίο, το οποίο γράφτηκε εκείνη την εποχή στα μέσα της δεκαετίας του ’90, όταν το Διαδίκτυο ερχόταν στο διαδίκτυο. Υπήρχε η τάση να υποθέσουμε ότι όταν όλη η γνώση του κόσμου έρθει στο διαδίκτυο, όλοι θα συρρέουν σε αυτήν. Αποδεικνύεται ότι εάν δώσετε σε όλους πρόσβαση στη Βιβλιοθήκη του Κογκρέσου, αυτό που κάνουν είναι να παρακολουθούν βίντεο στο TikTok. Η Εποχή των Διαμαντιών αντικατοπτρίζει την ίδια αφέλεια που μοιραζόμουν με πολλούς άλλους ανθρώπους την εποχή εκείνη σχετικά με το πώς όλη αυτή η γνώση επρόκειτο να επηρεάσει την κοινωνία.
Wong: Πιστεύετε ότι βλέπουμε λίγη από αυτή την αφέλεια σήμερα σε άτομα που κοιτάζουν πώς μπορεί να χρησιμοποιηθεί η γενετική τεχνητή νοημοσύνη;
Stephenson: Σίγουρα. Βασίζεται σε μια κατανοητή παρανόηση ως προς το τι κάνουν αυτά τα πράγματα. Ένα chatbot δεν είναι χρησμός. είναι μια μηχανή στατιστικών που δημιουργεί προτάσεις που ακούγονται ακριβείς. Αυτή τη στιγμή η άποψή μου είναι ότι είναι σαν να έχουμε μόλις εφεύρει τρανζίστορ. Έχουμε μερικά καταναλωτικά προϊόντα που οι άνθρωποι αρχίζουν να υιοθετούν, όπως το ραδιόφωνο με τρανζίστορ, αλλά δεν γνωρίζουμε ακόμη πώς το τρανζίστορ θα μεταμορφώσει την κοινωνία. Βρισκόμαστε στο στάδιο του τρανζίστορ-ραδιοφώνου του AI. Νομίζω ότι πολλές από τις ζυμώσεις που συμβαίνουν αυτή τη στιγμή στον κλάδο είναι ότι οι επιχειρηματίες κεφαλαίων επενδύουν χρήματα σε επιχειρηματικά σχέδια και οι ομάδες που αξιολογούν γρήγορα πολλά διαφορετικά πράγματα που θα μπορούσαν να γίνουν καλά. Είμαι σίγουρος ότι θα προκύψουν κάποια πράγματα που δεν θα τολμούσα να προσπαθήσω να προβλέψω, γιατί τα αποτελέσματα της δημιουργικής φρενίτιδας εκατομμυρίων ανθρώπων είναι πάντα πιο ενδιαφέροντα από αυτό που μπορεί να σκεφτεί ένας μόνο άνθρωπος.
Όταν αγοράζετε ένα βιβλίο χρησιμοποιώντας έναν σύνδεσμο σε αυτήν τη σελίδα, λαμβάνουμε προμήθεια. Σας ευχαριστούμε για την υποστήριξη Ο Ατλαντικός.