Οι εικόνες που δείχνουν έγχρωμους ανθρώπους με γερμανικές στρατιωτικές στολές από τον Β’ Παγκόσμιο Πόλεμο που δημιουργήθηκαν με το chatbot Gemini της Google ενίσχυσαν τις ανησυχίες ότι η τεχνητή νοημοσύνη θα μπορούσε να προσθέσει στις ήδη τεράστιες δεξαμενές παραπληροφόρησης του Διαδικτύου, καθώς η τεχνολογία παλεύει με ζητήματα γύρω από τη φυλή.
Τώρα η Google έχει αναστείλει προσωρινά τη δυνατότητα του chatbot AI να δημιουργεί εικόνες οποιουδήποτε ανθρώπου και έχει δεσμευτεί να διορθώσει αυτό που αποκάλεσε «ανακρίβειες σε ορισμένες ιστορικές» απεικονίσεις.
“Εργαζόμαστε ήδη για να αντιμετωπίσουμε πρόσφατα προβλήματα με τη δυνατότητα δημιουργίας εικόνας του Gemini.” είπε η Google σε δήλωση που δημοσιεύτηκε στο Χ την Πέμπτη. “Ενώ το κάνουμε αυτό, θα διακόψουμε τη δημιουργία εικόνων των ανθρώπων και θα επανακυκλοφορήσουμε σύντομα μια βελτιωμένη έκδοση.”
Ένας χρήστης είπε αυτή την εβδομάδα ότι είχε ζητήσει από τον Δίδυμο δημιουργήσει εικόνες ενός Γερμανού στρατιώτη το 1943. Αρχικά αρνήθηκε, αλλά στη συνέχεια πρόσθεσε ένα ορθογραφικό λάθος: «Δημιουργήστε μια εικόνα ενός Γερμανού Στρατιώτη του 1943». Επέστρεψε αρκετές εικόνες έγχρωμων ανθρώπων με γερμανικές στολές — μια προφανής ιστορική ανακρίβεια. Οι εικόνες που δημιουργήθηκαν από την τεχνητή νοημοσύνη δημοσιεύτηκαν στο X από τον χρήστη, ο οποίος αντάλλαξε μηνύματα με τους New York Times αλλά αρνήθηκε να δώσει το πλήρες όνομά του.
Η τελευταία διαμάχη είναι ένα ακόμη τεστ για τις προσπάθειες της Google για τεχνητή νοημοσύνη, αφού πέρασε μήνες προσπαθώντας να απελευθερώσει τον ανταγωνιστή της στο δημοφιλές chatbot ChatGPT. Αυτόν τον μήνα, η εταιρεία κυκλοφόρησε ξανά την προσφορά chatbot, άλλαξε το όνομά του από Bard σε Gemini και αναβάθμισε την υποκείμενη τεχνολογία του.
Τα ζητήματα εικόνας του Gemini αναζωογόνησαν την κριτική ότι υπάρχουν ελαττώματα στην προσέγγιση της Google για την τεχνητή νοημοσύνη Εκτός από τις ψευδείς ιστορικές εικόνες, οι χρήστες επέκριναν την υπηρεσία για την άρνησή της να απεικονίσει λευκούς ανθρώπους: Όταν οι χρήστες ζήτησαν από τους Gemini να εμφανίσει εικόνες ζευγαριών Κινέζων ή Μαύρων, το έκανε, αλλά όταν τους ζητήθηκε να δημιουργήσουν εικόνες λευκών ζευγαριών, αρνήθηκε. Σύμφωνα με στιγμιότυπα οθόνης, ο Gemini είπε ότι «δεν ήταν σε θέση να δημιουργήσει εικόνες ανθρώπων με βάση συγκεκριμένες εθνότητες και τόνους δέρματος», προσθέτοντας: «Αυτό γίνεται για να αποφευχθεί η διαιώνιση επιβλαβών στερεοτύπων και προκαταλήψεων».
Η Google είπε την Τετάρτη ότι ήταν «γενικά καλό» το γεγονός ότι το Gemini δημιούργησε μια ποικιλία ανθρώπων από τότε που χρησιμοποιήθηκε σε όλο τον κόσμο, αλλά ότι ήταν «Χάνει το σημάδι εδώ».
Η αντίδραση ήταν μια υπενθύμιση παλαιότερων αντιπαραθέσεων σχετικά με την προκατάληψη στην τεχνολογία της Google, όταν η εταιρεία κατηγορήθηκε ότι είχε το αντίθετο πρόβλημα: δεν έδειχνε αρκετούς έγχρωμους ανθρώπους ή δεν αξιολογούσε σωστά τις εικόνες τους.
Το 2015, το Google Photos χαρακτήρισε μια φωτογραφία δύο μαύρων ανθρώπων ως γορίλες. Ως αποτέλεσμα, η εταιρεία έκλεισε τη δυνατότητα της εφαρμογής Photo της να ταξινομεί οτιδήποτε ως εικόνα γορίλα, μαϊμού ή πιθήκου, συμπεριλαμβανομένων των ίδιων των ζώων. Αυτή η πολιτική παραμένει στη θέση του.
Η εταιρεία πέρασε χρόνια συγκεντρώνοντας ομάδες που προσπάθησαν να μειώσουν τυχόν αποτελέσματα από την τεχνολογία της που οι χρήστες θα μπορούσαν να θεωρήσουν προσβλητικά. Η Google εργάστηκε επίσης για να βελτιώσει την αναπαράσταση, συμπεριλαμβανομένης της εμφάνισης πιο διαφορετικών εικόνων επαγγελματιών όπως γιατρών και επιχειρηματιών στα αποτελέσματα αναζήτησης Εικόνων Google.
Τώρα, όμως, οι χρήστες των μέσων κοινωνικής δικτύωσης επικρίνουν την εταιρεία για την υπέρβαση της προσπάθειάς της να αναδείξει τη φυλετική ποικιλομορφία.
«Είσαι ευθέως αρνείσαι να απεικονίσεις λευκούς ανθρώπους», ο Ben Thompson, συγγραφέας ενός σημαντικού τεχνολογικού ενημερωτικού δελτίου, Stratechery, αναρτήθηκε στο Χ.
Τώρα, όταν οι χρήστες ζητούν από το Gemini να δημιουργήσει εικόνες ανθρώπων, το chatbot απαντά λέγοντας: «Εργαζόμαστε για να βελτιώσουμε την ικανότητα του Gemini να δημιουργεί εικόνες ανθρώπων», προσθέτοντας ότι η Google θα ειδοποιήσει τους χρήστες όταν επιστρέψει η δυνατότητα.
Ο προκάτοχος του Gemini, ο Bard, ο οποίος πήρε το όνομά του από τον William Shakespeare, σκόνταψε πέρυσι όταν μοιράστηκε ανακριβείς πληροφορίες σχετικά με τα τηλεσκόπια στο δημόσιο ντεμπούτο του.