Όλο και περισσότερο, σωροί εξόδων που δημιουργούνται από συνθετική τεχνητή νοημοσύνη μετακινούνται στις ροές και τις αναζητήσεις μας. Το διακύβευμα υπερβαίνει κατά πολύ αυτό που εμφανίζεται στις οθόνες μας. Ολόκληρη η κουλτούρα επηρεάζεται από την απορροή της τεχνητής νοημοσύνης, έναν ύπουλο ερπυσμό στους πιο σημαντικούς θεσμούς μας.
Σκεφτείτε την επιστήμη. Αμέσως μετά την κυκλοφορία του GPT-4, του πιο πρόσφατου μοντέλου τεχνητής νοημοσύνης από το OpenAI και ενός από τα πιο προηγμένα που υπάρχουν, η γλώσσα της επιστημονικής έρευνας άρχισε να μεταλλάσσεται. Ειδικά στον τομέα της τεχνητής νοημοσύνης.
ΕΝΑ νέα μελέτη αυτόν τον μήνα εξέτασε τις αξιολογήσεις ομοτίμων επιστημόνων – επίσημες δηλώσεις ερευνητών για την εργασία άλλων που αποτελούν το θεμέλιο της επιστημονικής προόδου – σε μια σειρά επιστημονικών συνεδρίων υψηλού προφίλ και κύρους που μελετούν την τεχνητή νοημοσύνη Σε ένα τέτοιο συνέδριο, αυτές οι αξιολογήσεις από ομοτίμους χρησιμοποίησαν τη λέξη “σχολαστική Σχεδόν 3.400 τοις εκατό περισσότερα από ό,τι οι κριτικές είχαν το προηγούμενο έτος. Η χρήση του «έπαιντου» αυξήθηκε κατά περίπου 900 τοις εκατό και του «περίπλοκου» κατά περισσότερο από 1.000 τοις εκατό. Άλλα μεγάλα συνέδρια παρουσίασαν παρόμοια μοτίβα.
Τέτοιες φράσεις είναι, φυσικά, μερικές από τις αγαπημένες τσιτάτα των σύγχρονων μεγάλων γλωσσικών μοντέλων όπως το ChatGPT. Με άλλα λόγια, σημαντικός αριθμός ερευνητών σε συνέδρια τεχνητής νοημοσύνης πιάστηκαν να παραδίδουν την κριτική τους από ομοτίμους για την εργασία άλλων στην τεχνητή νοημοσύνη — ή, τουλάχιστον, να τους γράφουν με πολλή βοήθεια τεχνητής νοημοσύνης. Και όσο πιο κοντά στην προθεσμία παραλαμβάνονταν οι υποβληθείσες κριτικές, τόσο περισσότερη χρήση τεχνητής νοημοσύνης βρέθηκε σε αυτές.
Εάν αυτό σας κάνει να νιώθετε άβολα —ειδικά δεδομένης της τρέχουσας αναξιοπιστίας της τεχνητής νοημοσύνης— ή εάν πιστεύετε ότι ίσως δεν θα έπρεπε η τεχνητή νοημοσύνη να επανεξετάζει την επιστήμη αλλά οι ίδιοι οι επιστήμονες, αυτά τα συναισθήματα υπογραμμίζουν το παράδοξο στον πυρήνα αυτής της τεχνολογίας: Δεν είναι σαφές ποια είναι η ηθική γραμμή μεταξύ απάτης και τακτικής χρήσης. Ορισμένες απάτες που δημιουργούνται από την τεχνητή νοημοσύνη είναι εύκολο να εντοπιστούν, όπως η χαρτί ιατρικού περιοδικού με έναν αρουραίο κινουμένων σχεδίων με τεράστια γεννητικά όργανα. Πολλά άλλα είναι πιο ύπουλα, όπως το εσφαλμένο και παραισθησιακό ρυθμιστικό μονοπάτι που περιγράφεται στο ίδιο έγγραφο – ένα έγγραφο που αξιολογήθηκε επίσης από ομοτίμους (ίσως, θα μπορούσε κανείς να υποθέσει, από άλλο AI;).
Τι γίνεται όταν η τεχνητή νοημοσύνη χρησιμοποιείται με έναν από τους προβλεπόμενους τρόπους – για να βοηθήσει στη γραφή; Πρόσφατα, έγινε σάλος όταν έγινε προφανές ότι οι απλές αναζητήσεις σε επιστημονικές βάσεις δεδομένων επέστρεψαν φράσεις όπως «Ως μοντέλο γλώσσας AI» σε μέρη όπου οι συγγραφείς που βασίζονταν στην τεχνητή νοημοσύνη είχαν ξεχάσει να καλύψουν τα ίχνη τους. Εάν οι ίδιοι συγγραφείς είχαν απλώς διαγράψει αυτά τα τυχαία υδατογραφήματα, θα ήταν καλή η χρήση της τεχνητής νοημοσύνης για να γράψουν τις εργασίες τους;
Αυτό που συμβαίνει στην επιστήμη είναι ένας μικρόκοσμος ενός πολύ μεγαλύτερου προβλήματος. Δημοσίευση στα μέσα κοινωνικής δικτύωσης; Οποιαδήποτε ιογενής ανάρτηση στο X περιλαμβάνει πλέον σχεδόν σίγουρα απαντήσεις που δημιουργούνται από την τεχνητή νοημοσύνη, από περιλήψεις της αρχικής ανάρτησης έως αντιδράσεις γραμμένες στην ήπια φωνή της Wikipedia του ChatGPT, και όλα αυτά για να ακολουθήσουν. Το Instagram γεμίζει με μοντέλα που δημιουργούνται από AI, το Spotify με τραγούδια που δημιουργούνται από AI. Έκδοση βιβλίου; Αμέσως μετά, στο Amazon θα εμφανίζονται συχνά προς πώληση «βιβλία εργασίας» που δημιουργούνται από την τεχνητή νοημοσύνη που υποτίθεται ότι συνοδεύουν το βιβλίο σας (τα οποία είναι λανθασμένα ως προς το περιεχόμενό τους. Το ξέρω γιατί αυτό συνέβη σε μένα). Τα κορυφαία αποτελέσματα αναζήτησης Google είναι πλέον συχνά εικόνες ή άρθρα που δημιουργούνται από AI. Σημαντικά μέσα ενημέρωσης όπως το Sports Illustrated έχουν δημιουργήσει Άρθρα που δημιουργούνται από AI που αποδίδονται σε εξίσου ψεύτικα προφίλ συντακτών. Έμποροι που πωλούν μεθόδους βελτιστοποίησης μηχανών αναζήτησης καυχιέται ανοιχτά χρησιμοποιώντας την τεχνητή νοημοσύνη για τη δημιουργία χιλιάδων ανεπιθύμητων άρθρων για την κλοπή επισκεψιμότητας από τους ανταγωνιστές.
Στη συνέχεια, υπάρχει η αυξανόμενη χρήση της γενετικής τεχνητής νοημοσύνης για την κλιμάκωση της δημιουργίας φθηνών συνθετικών βίντεο για παιδιά στο YouTube. Μερικά παραδείγματα εξόδου είναι τρόμους Lovecraftian, όπως μουσικά βίντεο για παπαγάλους όπου τα πουλιά έχουν τα μάτια μέσα στα μάτια, τα ράμφη μέσα στα ράμφη, που μεταμορφώνονται απερίγραπτα ενώ τραγουδούν με μια τεχνητή φωνή “Ο παπαγάλος στο δέντρο λέει γεια, γεια!” Οι αφηγήσεις δεν έχουν νόημα, οι χαρακτήρες εμφανίζονται και εξαφανίζονται τυχαία, βασικά στοιχεία όπως τα ονόματα των σχημάτων είναι λάθος. Αφού εντόπισα πολλά τέτοια ύποπτα κανάλια στο ενημερωτικό δελτίο μου, The Intrinsic Perspective, Wired βρέθηκαν στοιχεία για γενετική χρήση τεχνητής νοημοσύνης στους αγωγούς παραγωγής ορισμένων λογαριασμών με εκατοντάδες χιλιάδες ή και εκατομμύρια συνδρομητές.
Ως νευροεπιστήμονα, αυτό με ανησυχεί. Δεν είναι δυνατόν ο ανθρώπινος πολιτισμός να περιέχει μέσα του γνωστικά μικροθρεπτικά συστατικά —πράγματα όπως συνεκτικές προτάσεις, αφηγήσεις και συνέχεια χαρακτήρων— που χρειάζονται οι αναπτυσσόμενοι εγκέφαλοι; Ο Αϊνστάιν υποτίθεται ότι είπε: «Αν θέλετε τα παιδιά σας να είναι έξυπνα, διαβάστε τους παραμύθια. Αν θέλετε να είναι πολύ έξυπνοι, διαβάστε τους περισσότερα παραμύθια». Τι συμβαίνει όμως όταν ένα μικρό παιδί καταναλώνει ως επί το πλείστον ονειροπόληση που δημιουργείται από την τεχνητή νοημοσύνη; Βρισκόμαστε στη μέση ενός τεράστιου αναπτυξιακού πειράματος.
Υπάρχουν τόσα πολλά συνθετικά σκουπίδια στο διαδίκτυο τώρα που οι εταιρείες τεχνητής νοημοσύνης και οι ερευνητές ανησυχούν οι ίδιοι, όχι για την υγεία του πολιτισμού, αλλά για το τι πρόκειται να συμβεί με τα μοντέλα τους. Καθώς οι δυνατότητες AI αυξήθηκαν το 2022, έγραψα επάνω Ο κίνδυνος να κατακλυστεί τόσο ο πολιτισμός από δημιουργίες τεχνητής νοημοσύνης που, όταν εκπαιδεύονταν μελλοντικές τεχνητές νοημοσύνης, η προηγούμενη έξοδος τεχνητής νοημοσύνης θα διέρρεε στο εκπαιδευτικό σύνολο, οδηγώντας σε ένα μέλλον αντιγράφων αντιγράφων αντιγράφων, καθώς το περιεχόμενο γινόταν όλο και πιο στερεότυπο και προβλέψιμο. Το 2023 οι ερευνητές εισήγαγαν έναν τεχνικό όρο για το πώς αυτός ο κίνδυνος επηρέασε την εκπαίδευση AI: κατάρρευση μοντέλου. Κατά κάποιο τρόπο, εμείς και αυτές οι εταιρείες βρισκόμαστε στην ίδια βάρκα, κωπηλατώντας μέσα από την ίδια λάσπη που ρέει στον πολιτιστικό μας ωκεανό.
Έχοντας κατά νου αυτή τη δυσάρεστη αναλογία, αξίζει να δούμε ποια είναι αναμφισβήτητα η πιο ξεκάθαρη ιστορική αναλογία για την τρέχουσα κατάστασή μας: το περιβαλλοντικό κίνημα και η κλιματική αλλαγή. Διότι όπως οι εταιρείες και οι ιδιώτες οδηγήθηκαν να μολύνουν από την αδυσώπητη οικονομία της, έτσι, επίσης, η πολιτιστική ρύπανση της τεχνητής νοημοσύνης οφείλεται σε μια λογική απόφαση να γεμίσει την αδηφάγα όρεξη του Διαδικτύου για περιεχόμενο όσο το δυνατόν φθηνότερα. Ενώ τα περιβαλλοντικά προβλήματα δεν έχουν σχεδόν λυθεί, υπήρξε αναμφισβήτητη πρόοδος που κράτησε τις πόλεις μας απαλλαγμένες κυρίως από αιθαλομίχλη και τις λίμνες μας ως επί το πλείστον απαλλαγμένες από λύματα. Πως?
Πριν από οποιαδήποτε συγκεκριμένη λύση πολιτικής ήταν η αναγνώριση ότι η ρύπανση του περιβάλλοντος ήταν ένα πρόβλημα που χρειαζόταν εξωτερική νομοθεσία. Σε αυτήν την άποψη επηρέασε μια προοπτική αναπτύχθηκε το 1968 από τον Garrett Hardin, βιολόγο και οικολόγο. Ο Δρ. Χάρντιν τόνισε ότι το πρόβλημα της ρύπανσης καθοδηγείται από ανθρώπους που ενεργούν προς το συμφέρον τους και ότι ως εκ τούτου «είμαστε εγκλωβισμένοι σε ένα σύστημα «ρυπαίνοντας τη φωλιά μας», εφόσον συμπεριφερόμαστε μόνο ως ανεξάρτητοι, ορθολογικοί, ελεύθεροι. επιχειρηματίες». Συνόψισε το πρόβλημα ως «τραγωδία των κοινών». Αυτό το πλαίσιο ήταν καθοριστικό για το περιβαλλοντικό κίνημα, το οποίο θα βασιζόταν σε κυβερνητικούς κανονισμούς για να κάνει ό,τι θα μπορούσαν ή όχι από μόνες οι εταιρείες.
Για άλλη μια φορά βρισκόμαστε σε μια τραγωδία των κοινών: το βραχυπρόθεσμο οικονομικό συμφέρον ενθαρρύνει τη χρήση φθηνού περιεχομένου τεχνητής νοημοσύνης για τη μεγιστοποίηση των κλικ και των προβολών, το οποίο με τη σειρά του μολύνει τον πολιτισμό μας και ακόμη αποδυναμώνει την αντίληψή μας στην πραγματικότητα. Και μέχρι στιγμής, οι μεγάλες εταιρείες τεχνητής νοημοσύνης αρνούνται να επιδιώξουν προηγμένους τρόπους αναγνώρισης της τεχνητής νοημοσύνης – κάτι που θα μπορούσαν να το κάνουν προσθέτοντας διακριτικά στατιστικά μοτίβα κρυμμένα στη χρήση λέξεων ή στα pixel των εικόνων.
Μια κοινή αιτιολόγηση για την αδράνεια είναι ότι οι ανθρώπινοι συντάκτες θα μπορούσαν πάντα να ασχολούνται με τα μοτίβα που εφαρμόζονται εάν γνωρίζουν αρκετά. Ωστόσο, πολλά από τα προβλήματα που αντιμετωπίζουμε δεν προκαλούνται από κίνητρα και τεχνικά καταρτισμένους κακόβουλους ηθοποιούς. Αντίθετα, προκαλούνται κυρίως από τη μη συμμόρφωση των τακτικών χρηστών σε μια γραμμή ηθικής χρήσης τόσο καλής ώστε να είναι σχεδόν ανύπαρκτη. Οι περισσότεροι δεν θα ενδιαφερόντουσαν για προηγμένα αντίμετρα στα στατιστικά πρότυπα που επιβάλλονται σε αποτελέσματα που θα έπρεπε, ιδανικά, να τα επισημάνουν ως δημιουργημένα από AI.
Γι’ αυτό οι ανεξάρτητοι ερευνητές μπόρεσαν να ανιχνεύσουν τα αποτελέσματα της τεχνητής νοημοσύνης στο σύστημα αξιολόγησης από ομοτίμους με εκπληκτικά υψηλή ακρίβεια: Στην πραγματικότητα προσπάθησαν. Ομοίως, αυτή τη στιγμή δάσκαλοι σε όλο το έθνος έχουν δημιουργήσει οικιακές μέθοδοι ανίχνευσης από την πλευρά της παραγωγήςόπως η προσθήκη κρυφών αιτημάτων για μοτίβα χρήσης λέξεων για προτροπές δοκιμίου που εμφανίζονται μόνο όταν γίνεται αντιγραφή.
Συγκεκριμένα, οι εταιρείες τεχνητής νοημοσύνης φαίνονται αντίθετες σε οποιαδήποτε πρότυπα που ενσωματώνονται στην παραγωγή τους που μπορούν να βελτιώσουν τις προσπάθειες ανίχνευσης τεχνητής νοημοσύνης σε λογικά επίπεδα, ίσως επειδή φοβούνται ότι η επιβολή τέτοιων μοτίβων μπορεί να επηρεάσει την απόδοση του μοντέλου περιορίζοντας υπερβολικά τις εξόδους του — αν και δεν υπάρχει τρέχοντα στοιχεία αυτό αποτελεί κίνδυνο. Παρά προηγούμενες δημόσιες δεσμεύσεις Για την ανάπτυξη πιο προηγμένης υδατογράφησης, είναι ολοένα και πιο σαφές ότι η απροθυμία των εταιρειών και η απροθυμία των εταιρειών οφείλονται στο ότι αντίκειται στην κατώτατη γραμμή του κλάδου της τεχνητής νοημοσύνης να έχει ανιχνεύσιμα προϊόντα.
Για να αντιμετωπίσουμε αυτήν την εταιρική άρνηση να ενεργήσουμε χρειαζόμαστε το ισοδύναμο ενός νόμου για τον καθαρό αέρα: έναν νόμο περί καθαρού διαδικτύου. Ίσως η απλούστερη λύση θα ήταν να επιβληθεί νομοθετικά η προηγμένη υδατοσήμανση εγγενής στα παραγόμενα αποτελέσματα, όπως μοτίβα που δεν αφαιρούνται εύκολα. Ακριβώς όπως ο 20ός αιώνας απαιτούσε εκτεταμένες παρεμβάσεις για την προστασία του κοινού περιβάλλοντος, ο 21ος αιώνας θα απαιτήσει εκτεταμένες παρεμβάσεις για την προστασία ενός διαφορετικού, αλλά εξίσου κρίσιμου, κοινού πόρου, που δεν έχουμε παρατηρήσει μέχρι τώρα, αφού δεν απειλήθηκε ποτέ : ο κοινός μας ανθρώπινος πολιτισμός.