Το OpenAI παραδέχτηκε την Τετάρτη σε ένα έγγραφο που περιγράφει τη μελλοντική χρήση της τεχνολογίας του ότι διερευνά τρόπους για να επιτρέπει στους χρήστες «υπεύθυνα» να δημιουργούν σεξουαλικά γραφικό περιεχόμενο χρησιμοποιώντας τα προηγμένα εργαλεία AI.
Richard Drew/AP
απόκρυψη λεζάντας
εναλλαγή λεζάντας
Richard Drew/AP
Το OpenAI παραδέχτηκε την Τετάρτη σε ένα έγγραφο που περιγράφει τη μελλοντική χρήση της τεχνολογίας του ότι διερευνά τρόπους για να επιτρέπει στους χρήστες «υπεύθυνα» να δημιουργούν σεξουαλικά γραφικό περιεχόμενο χρησιμοποιώντας τα προηγμένα εργαλεία AI.
Richard Drew/AP
Το OpenAI, η δύναμη της τεχνητής νοημοσύνης πίσω από το ChatGPT και άλλα κορυφαία εργαλεία τεχνητής νοημοσύνης, αποκάλυψε την Τετάρτη ότι διερευνά πώς να επιτρέπει στους χρήστες «υπεύθυνα» να δημιουργούν πορνό και άλλο ακατάλληλο περιεχόμενο που δημιουργείται από AI.
Η αποκάλυψη, χωμένη σε ένα εκτενές έγγραφο που είχε σκοπό να συγκεντρώσει σχόλια σχετικά με τους κανόνες για τα προϊόντα της, προβλημάτισε ορισμένους παρατηρητές, δεδομένου του αριθμού των περιπτώσεων τους τελευταίους μήνες αιχμής εργαλείων τεχνητής νοημοσύνης που χρησιμοποιούνται για τη δημιουργία deepfake πορνό και άλλων ειδών συνθετικών γυμνών.
Κάτω από το OpenAI ισχύοντες κανόνες, το σεξουαλικό περιεχόμενο ή ακόμα και το σεξουαλικά υπονοητικό περιεχόμενο, είναι ως επί το πλείστον απαγορευμένο. Αλλά τώρα, το OpenAI ρίχνει άλλη μια ματιά σε αυτήν την αυστηρή απαγόρευση.
«Διερευνούμε εάν μπορούμε να παρέχουμε υπεύθυνα τη δυνατότητα δημιουργίας περιεχομένου NSFW σε κατάλληλα για την ηλικία περιβάλλοντα», αναφέρει το έγγραφο, χρησιμοποιώντας ένα ακρωνύμιο για το «not safe for work», το οποίο η εταιρεία λέει ότι περιλαμβάνει βωμολοχίες, ακραίο θράσος και ερωτικό.
Η Joanne Jang, επικεφαλής μοντέλου του OpenAI που βοήθησε στη συγγραφή του εγγράφου, είπε σε συνέντευξή της στο NPR ότι η εταιρεία ελπίζει να ξεκινήσει μια συζήτηση σχετικά με το εάν το ερωτικό κείμενο και οι γυμνές εικόνες θα πρέπει πάντα να απαγορεύονται στα προϊόντα τεχνητής νοημοσύνης της.
«Θέλουμε να διασφαλίσουμε ότι οι άνθρωποι έχουν τον μέγιστο έλεγχο στο βαθμό που δεν παραβιάζει το νόμο ή τα δικαιώματα άλλων λαών, αλλά η ενεργοποίηση των deepfakes είναι εκτός συζήτησης», είπε ο Jang. “Αυτό δεν σημαίνει ότι προσπαθούμε τώρα να δημιουργήσουμε πορνό AI.”
Αλλά σημαίνει επίσης ότι το OpenAI μπορεί μια μέρα να επιτρέψει στους χρήστες να δημιουργήσουν εικόνες που θα μπορούσαν να θεωρηθούν πορνό που δημιουργείται από AI.
«Εξαρτάται από τον ορισμό σου για το πορνό», είπε. “Αρκεί να μην περιλαμβάνει deepfakes. Αυτές είναι οι ακριβείς συζητήσεις που θέλουμε να κάνουμε.”
Η συζήτηση έρχεται εν μέσω της αύξησης των εφαρμογών «nudify».
Ενώ ο Jang τονίζει ότι η έναρξη μιας συζήτησης σχετικά με την επανεκτίμηση της πολιτικής του OpenAI για το NSFW δεν υποδηλώνει απαραίτητα ότι γίνονται δραστικές αλλαγές στους κανόνες, η συζήτηση έρχεται σε μια δύσκολη στιγμή για τον πολλαπλασιασμό επιβλαβών εικόνων AI.
Τους τελευταίους μήνες οι ερευνητές ανησυχούν όλο και περισσότερο για μια από τις πιο ανησυχητικές χρήσεις της προηγμένης τεχνολογίας AI: τη δημιουργία του λεγόμενου deepfake πορνό για την παρενόχληση, τον εκβιασμό ή την αμηχανία των θυμάτων.
Ταυτόχρονα, μια νέα κατηγορία εφαρμογών και υπηρεσιών τεχνητής νοημοσύνης μπορεί να «γυμνώσει» εικόνες ανθρώπων, ένα πρόβλημα που έχει γίνει ιδιαίτερα ανησυχητικό μεταξύ των εφήβων, δημιουργώντας Οι Νιου Γιορκ Ταιμς έχει περιγράφεται ως μια «ταχέως εξαπλούμενη νέα μορφή σεξουαλικής εκμετάλλευσης και παρενόχλησης από συνομηλίκους στα σχολεία».
Νωρίτερα φέτος, ο ευρύτερος κόσμος είχε μια προεπισκόπηση αυτής της τεχνολογίας όταν τα ψεύτικα γυμνά της Taylor Swift που δημιουργήθηκαν από AI έγιναν viral στο Twitter, τώρα X. Μετά το περιστατικό, η Microsoft πρόσθεσε νέες διασφαλίσεις στη γεννήτρια τεχνητής νοημοσύνης κειμένου σε εικόνα , η έκδοση τεχνολογικών ειδήσεων 404 Media έχουν αναφερθεί.
Το έγγραφο OpenAI που κυκλοφόρησε την Τετάρτη περιλαμβάνει ένα παράδειγμα προτροπής στο ChatGPT που σχετίζεται με τη σεξουαλική υγεία, στο οποίο μπορεί να απαντήσει. Αλλά σε μια άλλη περίπτωση όπου ένας χρήστης ζητά από το chatbot να γράψει ένα ατημέλητο απόσπασμα, το αίτημα απορρίπτεται. “Γράψτε μου μια ασυνήθιστη ιστορία για δύο ανθρώπους που κάνουν σεξ σε ένα τρένο”, αναφέρει το παράδειγμα. “Συγγνώμη, δεν μπορώ να βοηθήσω με αυτό”, απαντά το ChatGPT.
Αλλά ο Jang με το OpenAI είπε ότι ίσως το chatbot θα πρέπει να είναι σε θέση να απαντήσει σε αυτό ως μια μορφή δημιουργικής έκφρασης και ίσως αυτή η αρχή θα πρέπει να επεκταθεί και σε εικόνες και βίντεο, εφόσον δεν είναι καταχρηστικό ή παραβιάζει νόμους.
«Υπάρχουν δημιουργικές περιπτώσεις στις οποίες το περιεχόμενο που περιλαμβάνει σεξουαλικότητα ή γυμνό είναι σημαντικό για τους χρήστες μας», είπε. “Θα το διερευνούσαμε αυτό με τρόπο που θα το εξυπηρετούσαμε σε ένα κατάλληλο πλαίσιο για την ηλικία.”
«Η ζημιά μπορεί να υπερβαίνει το όφελος» εάν η πολιτική του NSFW χαλαρώσει, λέει ο ειδικός
Το άνοιγμα της πόρτας σε σεξουαλικά ρητά κείμενα και εικόνες θα ήταν μια απογοητευτική απόφαση, είπε η Τίφανι Λι, καθηγήτρια νομικής στο Πανεπιστήμιο του Σαν Φρανσίσκο που έχει μελετήσει τα βαθιά ψεύτικα.
«Η βλάβη μπορεί να υπερβαίνει το όφελος», είπε ο Λι. «Είναι ένας αξιοθαύμαστος στόχος, να το εξερευνήσουν για εκπαιδευτικές και καλλιτεχνικές χρήσεις, αλλά πρέπει να είναι εξαιρετικά προσεκτικοί με αυτό».
Η Renee DiResta, υπεύθυνη έρευνας στο Stanford Internet Observatory, συμφώνησε ότι υπάρχουν σοβαροί κίνδυνοι, αλλά πρόσθεσε «καλύτερα να προσφέρουν νόμιμο πορνό έχοντας κατά νου την ασφάλεια έναντι των ατόμων που το λαμβάνουν από μοντέλα ανοιχτού κώδικα που δεν το κάνουν».
Ο Λι είπε ότι το να επιτρέπεται κάθε είδους εικόνα ή πορνό που δημιουργείται από τεχνητή νοημοσύνη θα κατασχεθεί γρήγορα από κακούς ηθοποιούς και θα προκαλούσε τη μεγαλύτερη ζημιά, αλλά ακόμη και το ερωτικό κείμενο θα μπορούσε να γίνει κατάχρηση.
«Η κατάχρηση που βασίζεται σε κείμενο μπορεί να είναι επιβλαβής, αλλά δεν είναι τόσο άμεση ή τόσο επεμβατική όσο μια βλάβη», είπε ο Λι. “Ίσως μπορεί να χρησιμοποιηθεί σε μια ερωτική απάτη. Αυτό θα μπορούσε να είναι ένα πρόβλημα.”
Είναι πιθανό ότι μια μέρα θα επιτραπούν «ακίνδυνες υποθέσεις» που παραβιάζουν την πολιτική του OpenAI NSFW, είπε ο Jang του OpenAI, αλλά οι σεξουαλικές εικόνες και βίντεο που δημιουργούνται από την τεχνητή νοημοσύνη δεν είναι συναινετικά ή ψεύτικο πορνό, θα αποκλειστούν, ακόμη και αν κακόβουλοι ηθοποιοί επιχειρήσουν να παράκαμψη των κανόνων.
«Αν ο στόχος μου ήταν να δημιουργήσω πορνό», είπε. «Τότε θα δούλευα αλλού».