Την περασμένη εβδομάδα, μια ανεξίτηλη εικόνα των γεννητικών οργάνων τρωκτικών δημοσιεύτηκε στο σοβαρό περιοδικό Σύνορα στην Κυτταρική και Αναπτυξιακή Βιολογία, σε μια εξίσου σοβαρή εργασία με τίτλο “Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway.” Ωστόσο, η εικόνα ήταν βαθιά αναξιόπιστη, απεικονίζοντας έναν λευκό αρουραίο να κάθεται στα πίσω του πόδια και να κοιτάζει προς τα πάνω ένα ανείπωτα μεγάλο, διχοτομημένο πέος που φαίνεται να συνοδεύεται από όχι δύο αλλά τέσσερις μπάλες διαφόρων μεγεθών. Ακόμη και ο αρουραίος φαίνεται μπερδεμένος από αυτό το τεράστιο μέγεθος του άξονά του, λες και, όπως ο Γκρέγκορ Σάμσα, είχε ξυπνήσει μια μέρα και ανακάλυψε ότι το κανονικού μεγέθους dongle του είχε μεταμορφωθεί σε ένα παλιό κόκκινο ξύλο που υψώνεται σε κάποιον αόρατο ουρανό. Δεν φαίνεται να ενοχλείται από τον άθλιο τρόμο που είναι ο γεμισμένος σάκος του, πιθανώς επειδή είναι απασχολημένος με το πέος του.
Η επιστημονική κοινότητα τρομοκρατήθηκε με το πέος αυτού του αρουραίου – όχι επειδή είναι πέος αρουραίου, γιατί δεν είναι ντροπή σε αυτό, αλλά μάλλον λόγω του γεγονότος ότι μια εικόνα τόσο γελοία ανακριβής θα μπορούσε να δημοσιευτεί σε ένα εξέχον επιστημονικό περιοδικό. Ο κόσμος είναι ευλογημένος με άφθονη ποικιλομορφία των γεννητικών οργάνων, αλλά δεν υπάρχει γνωστός αρουραίος του οποίου ολόκληρο το σώμα νανίζεται από το πέος και τους όρχεις του. Οι τρεις συγγραφείς της εφημερίδας, οι οποίοι εργάζονται στο Hong Hui Hospital και στο Jiaotong University στην Κίνα, απέδωσαν τη γεννήτρια AI-art Midjourney ως δημιουργό της εικόνας. Και μια πιο προσεκτική ματιά στις ετικέτες που αιωρούνται γύρω από τον αρουραίο, τα σκουπίδια του και τα κελιά που προφανώς εξήχθησαν από τα σκουπίδια του, αποκάλυψε ότι το κείμενο ήταν περίπου τόσο αποκρυπτογραφήσιμο όσο το Simlish. Ο αρουραίος ονομάστηκε “Rat”, αλλά αυτός ο αρουραίος είχε “Testtomcels” και το μέλος του εμφανίστηκε “Dissilced”. Το ένθετο στο πλάι του αρουραίου περιελάμβανε τις ετικέτες “iollotte sserotgomar cell”, Stemm κύτταρα”, “Retat” και, σύντομο και ποιητικό ως ποίημα διαγραφής, “dck”.
Ο ηχηρός σάλος για αυτό το Retat και το dck του, που περιελάμβανε αρκετά κουλουράκι αναψυχέςοδήγησε Σύνορα προς την ανακαλώ η εφημερίδα μέχρι το τέλος της εβδομάδας, με το επιχείρημα ότι το άρθρο «δεν πληροί τα πρότυπα της συντακτικής και επιστημονικής αυστηρότητας για Σύνορα στην Κυτταρική και Αναπτυξιακή ΒιολογίαΑν θέλετε να το διαβάσετε ολόκληρο, ο σύμβουλος επιστημονικής ακεραιότητας Ελίζαμπεθ Μπικ ανέβασε α PDF του αρχικού χαρτιού να το blog της.
Αν και το Retat dck έκλεψε τους τίτλους, κάθε εικόνα στην εφημερίδα καταρρέει ακόμη και με μια περιστασιακή ματιά. Το Σχήμα 2 ισχυρίζεται ότι είναι ένα “Διάγραμμα της διαδρομής σηματοδότησης JAK-STAT” περιλαμβάνει τις παρόμοια ανεξερεύνητες ετικέτες “5 dimimeriom eme” και “Proprunization State protemns” και “Sinkecter”, που μπορώ μόνο να υποθέσω ότι είναι μια τοποθεσία ιδιοκτησίας εργαζομένων όπου αρρώστη blog για νεροχύτες. Εικόνα 3 φαίνεται να περιλαμβάνει ένα κολάζ από στοιχειωμένες πίτσες. «Η εργασία είναι στην πραγματικότητα ένα θλιβερό παράδειγμα για το πώς τα επιστημονικά περιοδικά, οι συντάκτες και οι κριτές μπορούν να είναι αφελείς –ή πιθανώς ακόμη και στο βρόχο– όσον αφορά την αποδοχή και τη δημοσίευση βλακών που δημιουργούνται από την τεχνητή νοημοσύνη», έγραψε η Bik στο blog της.
Σύνορα είναι ένα επιστημονικό περιοδικό με κριτές, που θέτει το ερώτημα, τι γνώμη είχαν αυτοί οι συνομήλικοι για το Retat dck; Ένας από τους κριτές της εφημερίδας, ο Jingbo Dai του Πανεπιστημίου Northwestern, είπε Μέγγενη ότι η ευθύνη για τη δημοσίευση τέτοιων εικόνων ανήκει στον εκδότη. Σύμφωνα με το περιοδικό πολιτική, Σύνορα επιτρέπει “αποδεκτές χρήσεις γενετικών τεχνολογιών τεχνητής νοημοσύνης” στα έγγραφα που δημοσιεύει, υπό την προϋπόθεση ότι ο παράγοντας δημιουργίας τεχνητής νοημοσύνης πιστώνεται και το περιεχόμενο είναι απαλλαγμένο από λογοκλοπή. Η πολιτική αναφέρει ότι οι ανθρώπινοι δημιουργοί είναι υπεύθυνοι για τον έλεγχο της πραγματικής ακρίβειας αυτού του περιεχομένου, εγείροντας το ερώτημα: μπορεί οποιαδήποτε εικόνα που δημιουργείται από AI να είναι πραγματικά ακριβής; Τι αλλαγές θα χρειαζόταν να συμβούν σε αυτόν τον αρουραίο και τον τεράστιο κόκορα και τις μπάλες του έτσι ώστε να περάσει ως πραγματικός; Εάν τα “Testtomcels” διορθώνονταν σε όρχεις και ο αρουραίος είχε μόνο δύο από αυτούς, θα ήταν αρκετό; Εάν δόθηκε στο πέος του αρουραίου μια ακριβής ζυγαριά, θα ήταν πιο ακριβής; Αν ο αρουραίος ούρλιαζε τρομοκρατημένος από τη φρίκη που έβγαζε αφρός από τις κάτω περιοχές του, θα ήταν πιο πιστευτό;
Το Retat έχει ηχήσει ένα σήμα αφύπνισης σχετικά με τη μάστιγα των εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη που έχουν αρχίσει να διολισθαίνουν στις ακαδημαϊκές εκδόσεις. Αλλά δεν θα είναι όλες οι σκασμένες εικόνες τεχνητής νοημοσύνης τόσο επιδεικτικά απατηλές όσο αυτό το γεμάτο dck. Όπως επισημαίνει η Bik στο ιστολόγιό της, «αυτά τα στοιχεία δεν είναι σαφώς επιστημονικά σωστά, αλλά αν τέτοιες λανθασμένες απεικονίσεις μπορούν να περάσουν τόσο εύκολα από ομοτίμους, πιο ρεαλιστικά στοιχεία που έχουν δημιουργηθεί από AI πιθανότατα έχουν ήδη διεισδύσει στην επιστημονική βιβλιογραφία». Αυτή είναι η μεγαλύτερη ανησυχία: ότι οι ακαδημαϊκές εργασίες που υποτίθεται ότι έχουν περάσει από αξιολόγηση από ομοτίμους είναι ήδη γεμάτες από τεχνητή νοημοσύνη. Είναι ανοιχτό μυστικό ότι σε ορισμένα περιοδικά, η αξιολόγηση από ομοτίμους δεν σημαίνει πολλά.
Η μεγαλύτερη μάστιγα είναι η απειλή των λεγόμενων αρπακτικών ή αμφισβητήσιμων περιοδικών, τα οποία λειτουργούν με ένα εκμεταλλευτικό μοντέλο πληρωμής για παιχνίδι, στο οποίο οι συγγραφείς πληρώνουν αμοιβές για να υποβάλουν εργασίες που, παρά τις ετικέτες, δεν είναι στην πραγματικότητα αξιολογημένες ή επεξεργασμένες σε κανένα ουσιαστικό τρόπο. Τα αρπακτικά περιοδικά ζητούν επιθετικά χειρόγραφα από ερευνητές, οι οποίοι συχνά είναι πρόθυμοι να δημοσιεύσουν, καθώς ο αριθμός των δημοσιεύσεών τους μπορεί να καθορίσει εάν αποφοιτήσουν ή αν προχωρήσουν στην καριέρα τους. Τα αρπακτικά περιοδικά «σπέρνουν σύγχυση, προωθούν τις κακές σπουδές και σπαταλούν πόρους», σύμφωνα με ένα σχόλιο που δημοσιεύτηκε στο Φύση το 2019. Πολλοί ερευνητές θεωρούν το MDPI και Σύνορα οικογένεια περιοδικών να είναι αρπακτικά, και οι συντάκτες έφυγαν αυτά τα περιοδικά επειδή ήταν αδύνατο να απορρίψουν ανεπιθύμητα άρθρα. Αλλά μπορεί να είναι δύσκολο να διακρίνουμε τα αρπακτικά περιοδικά από τα νόμιμα. Σύνορα ήταν κατατάσσονται ως ο τρίτος εκδότης με τις περισσότερες αναφορές το 2022. Οι συγγραφείς που δημοσίευσαν το Retat dck θα είχαν πληρώσει $3.295 να δημοσιεύσουν το ανακληθέν πλέον έγγραφο τους.
Θα ήταν ειλικρινά υπέροχο αν το χειρότερο πράγμα που προέκυψε από την έλλειψη αξιολόγησης από ομοτίμους ήταν μια ολοένα και πιο άσεμνη σειρά από κοτόπουλα ζώων που δημιουργήθηκαν από AI. Αλλά αυτή η ψευδοεπιστήμη προκαλεί υλική ζημιά στην ίδια την επιστήμη και στους ανθρώπους που επηρεάζονται από αυτήν. Σκεφτείτε την εποχή του 2015 που Σύνορα στη Δημόσια Υγεία δημοσίευσε μια εργασία αμφισβητώντας τον σύνδεσμο μεταξύ του HIV και του AIDS, επαναφέροντας τελικά την επισήμανση της εφημερίδας ως “γνώμη” μετά από ορθή δημόσια κατακραυγή και τελικά την ανάκληση της εργασίας το 2018. Εξετάστε τα έγγραφα που δεν έχουν ανακληθεί, όπως αυτό χαρτί αντι-τρανς από το 2021 που εξετάστηκε από έναν ερευνητής κατά των τρανς ΠΟΥ ήταν θεραπευτής μετατροπών και επιμελήθηκε ο α ερευνητής που είναι ανοιχτά α κριτικός φύλου. Αν και το Retat dck κυκλοφόρησε μέσω του Διαδικτύου μέσα σε μια εβδομάδα και άφησε ένα φαλλικό αποτύπωμα που δεν θα ξεχαστεί σύντομα, η ανάσυρση ενός χαρτιού δεν αλλάζει τις μεγαλύτερες δυνάμεις που έχουν δημιουργήσει το ρεύμα κατάσταση της επιστημονικής έκδοσης.
Ως συγγραφέας επιστήμης, έχω παρατηρήσει μια σημαντική αύξηση των εικόνων AI που πρωταγωνιστούν σε δελτία τύπου για νέες δημοσιεύσεις: DALL-E’s γενικό στροβιλιζόμενο σύμπαν σε ένα δελτίο τύπου για μια προεκτύπωση σε σουπερνόβα ή την απόδοση του DALL-E ενός “απαλό καλοκαιρινό βράδυ στο Παλαιοπρωτοζωικό“Προωθώντας ένα έγγραφο για τα μικροαπολιθώματα. Σε μια αναπόφευκτη ειρωνεία, ένα άρθρο Συνοψίζοντας το έπος του Retat, το dck χρησιμοποίησε τη δική του, εντελώς διαφορετική και ενοχλητική εικόνα ενός αρουραίου που δημιουργήθηκε από την τεχνητή νοημοσύνη ως κορυφαία φωτογραφία. Αυτές οι εικόνες δεν είναι μέσα στα ίδια τα χαρτιά, ενσωματωμένες στην ιστορία, ωστόσο εξακολουθούν να καθοδηγούν τον τρόπο με τον οποίο οι άνθρωποι οραματίζονται και κατανοούν την επιστήμη και η συνεχής εξάπλωσή τους σημαίνει λιγότερες αμειβόμενες ευκαιρίες για επιστημονικούς εικονογράφους των οποίων η ανθρώπινη οπτική μπορεί να φέρει ένα είδος ευφάνταστη ποίηση στο πιο αξιόλογο επιστημονικό κείμενο. Γιατί η μόνη ειλικρινής απάντηση στην ερώτηση “Γιατί μοιάζει έτσι;” όπως εφαρμόζεται στο παραπάνω Retat θα ήταν κάπως σαν: Επαναπροώθηση e regisor proprounization stat protemns, tramioncatiion of zœpens: stats poflecation dimimeriom eme regsttes sinkecter, dck!