Γεννήτριες εικόνας AI έχουν τη δυνατότητα να τονώσουν τη δημιουργικότητα και να φέρουν επανάσταση στη δημιουργία περιεχομένου προς το καλύτερο. Ωστόσο, όταν χρησιμοποιούνται κατάχρηση, μπορούν να προκαλέσουν πραγματική ζημιά μέσω της διάδοσης παραπληροφόρησης και βλάβης της φήμης. Η Microsoft ελπίζει να αποτρέψει περαιτέρω κακή χρήση των εργαλείων παραγωγής τεχνητής νοημοσύνης της μέσω της εφαρμογής νέων προστασιών.
Την περασμένη εβδομάδα, τα deepfakes που δημιουργήθηκαν από την τεχνητή νοημοσύνη που σεξουαλοποιούν την Taylor Swift έγιναν viral στο Twitter. Οι εικόνες ήταν σύμφωνα με πληροφορίες μοιράζεται μέσω του 4chan και ενός καναλιού Telegram, όπου οι χρήστες μοιράζονται εικόνες διασημοτήτων που δημιουργούνται από AI που έχουν δημιουργηθεί με το Microsoft Designer.
Το Microsoft Designer είναι η εφαρμογή γραφικού σχεδιασμού της Microsoft που περιλαμβάνει Δημιουργός εικόνας, τη γεννήτρια εικόνας AI της εταιρείας που αξιοποιεί DALLE-3 για τη δημιουργία ρεαλιστικών εικόνων. Η γεννήτρια είχε προστατευτικά κιγκλιδώματα που απέτρεπαν ακατάλληλες προτροπές που ανέφεραν ρητά γυμνό ή δημόσια πρόσωπα.
Ωστόσο, οι χρήστες βρήκαν κενά όπως η ορθογραφία ονομάτων διασημοτήτων και η περιγραφή εικόνων που δεν χρησιμοποίησαν ρητά σεξουαλικούς όρους, αλλά προκάλεσαν το ίδιο αποτέλεσμα, σύμφωνα με την έκθεση.
Η Microsoft έχει πλέον αντιμετωπίσει αυτά τα κενά, καθιστώντας αδύνατη τη δημιουργία εικόνων διασημοτήτων. Προσπάθησα να εισαγάγω την προτροπή, “Η Selena Gomez παίζει γκολφ”, στο Image Creator και έλαβα μια ειδοποίηση που έλεγε ότι η προτροπή μου είχε αποκλειστεί. Προσπάθησα επίσης να γράψω λάθος το όνομά της και έλαβα την ίδια ειδοποίηση.
Επίσης: Η Microsoft προσθέτει υποστήριξη Copilot Pro σε εφαρμογές iPhone και Android
«Δεσμευόμαστε να παρέχουμε μια ασφαλή και σεβαστή εμπειρία για όλους», δήλωσε εκπρόσωπος της Microsoft στο ZDNET. «Συνεχίζουμε να διερευνούμε αυτές τις εικόνες και έχουμε ενισχύσει τα υπάρχοντα συστήματα ασφαλείας μας για να αποτρέψουμε περαιτέρω την κακή χρήση των υπηρεσιών μας για τη δημιουργία εικόνων σαν αυτές».
Επιπλέον, ο Κώδικας Δεοντολογίας του Microsoft Designer απαγορεύει ρητά τη δημιουργία προσωπικού περιεχομένου για ενηλίκους ή μη συναινετικού περιεχομένου και η παραβίαση αυτής της πολιτικής μπορεί να έχει ως αποτέλεσμα την πλήρη απώλεια της πρόσβασης στην υπηρεσία.
Επίσης: Η ηθική της γενετικής τεχνητής νοημοσύνης: Πώς μπορούμε να αξιοποιήσουμε αυτήν την ισχυρή τεχνολογία
Ορισμένοι χρήστες έχουν ήδη εκφράσει ενδιαφέρον να βρουν μια λύση για αυτές τις νέες προστασίες στο κανάλι Telegram, σύμφωνα με την έκθεση. Έτσι, αυτό είναι πιθανό να είναι ένα παιχνίδι γάτας με το ποντίκι μεταξύ κακών ηθοποιών που βρίσκουν και εκμεταλλεύονται κενά στα εργαλεία παραγωγής τεχνητής νοημοσύνης και των εταιρειών πίσω από αυτά τα εργαλεία που σπεύδουν να τα διορθώσουν για μεγάλο χρονικό διάστημα.