Ο Διευθύνων Σύμβουλος της Microsoft, Satya Nadella, απάντησε σε μια διαμάχη σεξουαλικά πλαστές ψεύτικες εικόνες της Taylor Swift που κατασκευάζονται από AI. Σε μια συνέντευξη με NBC Nightly News που θα προβληθεί την επόμενη Τρίτη, ο Nadella αποκαλεί τον πολλαπλασιασμό των μη συναινετικών προσομοιωμένων γυμνών «ανησυχητικό και τρομερό», λέγοντας στον συνεντευκτή Lester Holt ότι «νομίζω ότι μας αρμόζει να προχωρήσουμε γρήγορα σε αυτό».
Σε μια μεταγραφή που διανεμήθηκε από το NBC ενόψει της εκπομπής της 30ης Ιανουαρίου, ο Χολτ ζητά από τη Ναντέλα να αντιδράσει στο Διαδίκτυο που «εκρήγνυται από ψεύτικες, και τονίζω ψεύτικες, σεξουαλικές εικόνες της Τέιλορ Σουίφτ». Η απάντηση της Nadella καταφέρνει να ανοίξει πολλά κουτιά σκουληκιών τεχνολογικής πολιτικής, ενώ λέει αξιοσημείωτα λίγα για αυτά – κάτι που δεν προκαλεί έκπληξη όταν δεν υπάρχει καμία σίγουρη λύση στον ορίζοντα.
Θα έλεγα δύο πράγματα: Το ένα, είναι να επιστρέψω ξανά σε αυτό που πιστεύω ότι είναι δική μας ευθύνη, που είναι όλα τα προστατευτικά κιγκλιδώματα που πρέπει να τοποθετήσουμε γύρω από την τεχνολογία, ώστε να υπάρχει περισσότερο ασφαλές περιεχόμενο που παράγεται. Και υπάρχουν πολλά να γίνουν και πολλά να γίνουν εκεί. Αλλά πρόκειται για παγκόσμια, κοινωνική — ξέρετε, θα πω, σύγκλιση σε ορισμένα πρότυπα. Και μπορούμε να κάνουμε —ειδικά όταν διαθέτετε πλατφόρμες νόμου και επιβολής του νόμου και τεχνολογίας που μπορούν να συνενωθούν—νομίζω ότι μπορούμε να κυβερνήσουμε πολύ περισσότερα απ’ ό,τι πιστεύουμε— δίνουμε εύσημα στον εαυτό μας.
Η Microsoft ενδέχεται να έχει σύνδεση με τις ψεύτικες εικόνες του Swift. ΕΝΑ 404 Μέσα κανω ΑΝΑΦΟΡΑ υποδηλώνει ότι προέρχονται από μια κοινότητα μη συναινετικής δημιουργίας πορνό που βασίζεται στο Telegram, η οποία συνιστά τη χρήση του προγράμματος δημιουργίας εικόνων Microsoft Designer. Ο σχεδιαστής θεωρητικά αρνείται να παράγει εικόνες διάσημων ανθρώπων, αλλά οι γεννήτριες τεχνητής νοημοσύνης είναι εύκολο να μπαμπουζάρειςκαι 404 διαπιστώθηκε ότι θα μπορούσατε να παραβιάσετε τους κανόνες του με μικρές τροποποιήσεις στις προτροπές. Αν και αυτό δεν αποδεικνύει ότι το Designer χρησιμοποιήθηκε για τις εικόνες του Swift, είναι το είδος της τεχνικής αδυναμίας που μπορεί να αντιμετωπίσει η Microsoft.
Αλλά τα εργαλεία τεχνητής νοημοσύνης έχουν απλοποιήσει σε μεγάλο βαθμό τη διαδικασία δημιουργίας ψεύτικων γυμνών πραγματικών ανθρώπων, προκαλώντας αναταραχή για γυναίκες που έχουν πολύ λιγότερη δύναμη και διασημότητα από τη Σουίφτ. Και ο έλεγχος της παραγωγής τους δεν είναι τόσο απλός όσο το να κάνεις τεράστιες εταιρείες να ενισχύσουν τα προστατευτικά τους κιγκλιδώματα. Ακόμα κι αν οι μεγάλες πλατφόρμες «Big Tech» όπως αυτή της Microsoft είναι κλειδωμένες, οι άνθρωποι μπορούν να εκπαιδεύσουν εκ νέου ανοιχτά εργαλεία όπως το Stable Diffusion για να παράγουν εικόνες NSFW παρά τις προσπάθειες να κάντε το πιο δύσκολο. Πολύ λιγότεροι χρήστες ενδέχεται να έχουν πρόσβαση σε αυτές τις γεννήτριες, αλλά το περιστατικό Swift δείχνει πόσο ευρέως μπορεί να εξαπλωθεί το έργο μιας μικρής κοινότητας.
Υπάρχουν και άλλες επιλογές διακοπής — όπως τα κοινωνικά δίκτυα που περιορίζουν την εμβέλεια των μη συναινετικών εικόνων ή, προφανώς, Η επαγρυπνική δικαιοσύνη που επέβαλε η Swiftie εναντίον ανθρώπων που τα διαδίδουν. (Μήπως αυτό μετράει ως «σύγκλιση σε ορισμένους κανόνες»;) Προς το παρόν, ωστόσο, το μόνο σαφές σχέδιο της Nadella είναι να βάλει τάξη στον οίκο τεχνητής νοημοσύνης της Microsoft.