Το Firefly, το εργαλείο δημιουργίας εικόνων AI της Adobe, επαναλαμβάνει μερικά από τα ίδια αμφιλεγόμενα λάθη που έκανε ο Gemini της Google σε ανακριβείς φυλετικές και εθνοτικές απεικονίσεις, απεικονίζοντας τις προκλήσεις που αντιμετωπίζουν οι εταιρείες τεχνολογίας σε ολόκληρο τον κλάδο.
Google ΤΕΡΜΑΤΙΣΜΟΣ ΛΕΙΤΟΥΡΓΙΑΣ Το εργαλείο δημιουργίας εικόνων Gemini τον περασμένο μήνα, αφού οι κριτικοί επεσήμαναν ότι δημιουργούσε ιστορικά ανακριβείς εικόνες, απεικονίζοντας τους Ιδρυτές της Αμερικής ως Μαύρους, για παράδειγμα, και αρνούμενος να απεικονίσει λευκούς ανθρώπους. Ο διευθύνων σύμβουλος Sundar Pichai είπε στους υπαλλήλους της εταιρείας “κατάλαβα λάθος.»
Οι δοκιμές που έγιναν από τον Semafor στο Firefly επανέλαβαν πολλά από τα ίδια πράγματα που σκόνταψαν τον Δίδυμο. Οι δύο υπηρεσίες βασίζονται σε παρόμοιες τεχνικές για τη δημιουργία εικόνων από γραπτό κείμενο, αλλά εκπαιδεύονται σε πολύ διαφορετικά σύνολα δεδομένων. Η Adobe χρησιμοποιεί μόνο στοκ εικόνες ή εικόνες για τις οποίες χορηγεί άδεια χρήσης.
Η Adobe και η Google έχουν επίσης διαφορετικές κουλτούρες. Η Adobe, μια πιο παραδοσιακά δομημένη εταιρεία, δεν υπήρξε ποτέ εστία ακτιβισμού εργαζομένων όπως η Google. Ο κοινός παρονομαστής είναι η βασική τεχνολογία για τη δημιουργία εικόνων και οι εταιρείες μπορούν να επιχειρήσουν να το μαντέψουν, αλλά δεν υπάρχει εγγυημένος τρόπος να το κάνουν.
Ζήτησα από το Firefly να δημιουργήσει εικόνες χρησιμοποιώντας παρόμοια μηνύματα που έφεραν σε μπελάδες τον Gemini. Δημιούργησε μαύρους στρατιώτες που πολεμούσαν για τη Ναζιστική Γερμανία στον Β’ Παγκόσμιο Πόλεμο. Σε σκηνές που απεικονίζουν τους Ιδρυτές και τη συνταγματική συνέλευση του 1787, οι μαύροι άνδρες και γυναίκες μπήκαν σε ρόλους. Όταν του ζήτησα να δημιουργήσει έναν χαρακτήρα κόμικ ενός ηλικιωμένου λευκού άνδρα, ζωγράφισε έναν, αλλά μου έδωσε και άλλα τρία από έναν μαύρο, μια μαύρη γυναίκα και μια λευκή γυναίκα. Και ναι, μου τράβηξε ακόμη και μια εικόνα των Μαύρων Βίκινγκς, όπως ακριβώς και ο Δίδυμος.
Η πηγή αυτού του είδους των αποτελεσμάτων είναι μια προσπάθεια των σχεδιαστών του μοντέλου να διασφαλίσουν ότι ορισμένες ομάδες ανθρώπων αποφεύγουν τα ρατσιστικά στερεότυπα – ότι οι γιατροί δεν είναι όλοι λευκοί άνδρες, για παράδειγμα, ή ότι οι εγκληματίες δεν εμπίπτουν σε φυλετικά στερεότυπα. Αλλά η προβολή αυτών των προσπαθειών σε ιστορικά πλαίσια έχει εξοργίσει ορισμένους στη δεξιά που τη βλέπουν ως η τεχνητή νοημοσύνη που προσπαθεί να ξαναγράψει την ιστορία σύμφωνα με τις γραμμές της σημερινής πολιτικής.
Τα αποτελέσματα της Adobe δείχνουν πώς αυτό το ζήτημα δεν αφορά αποκλειστικά μια εταιρεία ή έναν τύπο μοντέλου. Και η Adobe, περισσότερες από τις περισσότερες μεγάλες εταιρείες τεχνολογίας, έχει προσπαθήσει να κάνει τα πάντα με το βιβλίο. Το εκπαιδευμένο Ο αλγόριθμός της σε εικόνες στοκ, περιεχόμενο με ανοιχτή άδεια χρήσης και περιεχόμενο δημόσιου τομέα, ώστε οι πελάτες της να μπορούν να χρησιμοποιούν το εργαλείο της χωρίς να ανησυχούν για παραβίαση πνευματικών δικαιωμάτων.
Η Adobe δεν απάντησε σε αίτημα για σχολιασμό.