Οι boffins του Πανεπιστημίου του Σικάγο κυκλοφόρησαν αυτήν την εβδομάδα το Nightshade 1.0, ένα εργαλείο που δημιουργήθηκε για να τιμωρεί τους αδίστακτους κατασκευαστές μοντέλων μηχανικής μάθησης που εκπαιδεύουν τα συστήματά τους σε δεδομένα χωρίς να λάβουν πρώτα άδεια.
Στρύχνος είναι ένα επιθετικό εργαλείο δηλητηρίασης δεδομένων, συνοδευτικό ενός εργαλείου προστασίας αμυντικού στυλ που ονομάζεται Στιλβώοι οποίες Το Μητρώο σκεπαστός τον Φεβρουάριο του περασμένου έτους.
Το Nightshade δηλητηριάζει αρχεία εικόνων για να προκαλέσει δυσπεψία σε μοντέλα που απορροφούν δεδομένα χωρίς άδεια. Σκοπός του είναι να κάνει αυτά τα εκπαιδευτικά μοντέλα που προσανατολίζονται στην εικόνα να σέβονται τις επιθυμίες των δημιουργών περιεχομένου σχετικά με τη χρήση της δουλειάς τους.
“Το Nightshade υπολογίζεται ως βελτιστοποίηση πολλαπλών στόχων που ελαχιστοποιεί τις ορατές αλλαγές στην αρχική εικόνα.” είπε η ομάδα που είναι υπεύθυνη για το έργο.
«Για παράδειγμα, τα ανθρώπινα μάτια μπορεί να δουν μια σκιασμένη εικόνα μιας αγελάδας σε ένα καταπράσινο χωράφι σε μεγάλο βαθμό αμετάβλητη, αλλά ένα μοντέλο τεχνητής νοημοσύνης μπορεί να δει μια μεγάλη δερμάτινη τσάντα να βρίσκεται στο γρασίδι».
Το Nightshade αναπτύχθηκε από τους διδακτορικούς φοιτητές του Πανεπιστημίου του Σικάγο Shawn Shan, Wenxin Ding και Josephine Passananti και τους καθηγητές Heather Zheng και Ben Zhao, μερικοί από τους οποίους βοήθησαν επίσης με το Glaze.
Περιγράφεται στο α ερευνητική εργασία Τον Οκτώβριο του 2023, το Nightshade είναι μια επίθεση δηλητηρίασης που σχετίζεται άμεσα. Η δηλητηρίαση μιας εικόνας περιλαμβάνει την επιλογή μιας ετικέτας (π.χ. μιας γάτας) που περιγράφει αυτό που πραγματικά απεικονίζεται προκειμένου να θολωθούν τα όρια αυτής της έννοιας όταν η εικόνα απορροφάται για εκπαίδευση μοντέλων.
Έτσι, ένας χρήστης ενός μοντέλου που έχει εκπαιδευτεί σε δηλητηριασμένες εικόνες Nightshade μπορεί να υποβάλει μια προτροπή για μια γάτα και να λάβει ειδοποίηση για μια εικόνα ενός σκύλου ή ενός ψαριού. Οι απρόβλεπτες αποκρίσεις αυτού του είδους καθιστούν τα μοντέλα κειμένου σε εικόνα σημαντικά λιγότερο χρήσιμα, πράγμα που σημαίνει ότι οι κατασκευαστές μοντέλων έχουν κίνητρο να διασφαλίζουν ότι εκπαιδεύονται μόνο σε δεδομένα που προσφέρονται ελεύθερα.
“Το Nightshade μπορεί να προσφέρει ένα ισχυρό εργαλείο για τους κατόχους περιεχομένου για να προστατεύσουν την πνευματική τους ιδιοκτησία από εκπαιδευτές μοντέλων που αγνοούν ή αγνοούν τις ειδοποιήσεις πνευματικών δικαιωμάτων, τις οδηγίες μη σκραπ/ανίχνευσης και τις λίστες εξαίρεσης”, αναφέρουν οι συγγραφείς στην εργασία τους.
Η αποτυχία να ληφθούν υπόψη οι επιθυμίες των δημιουργών και των ιδιοκτητών έργων τέχνης οδήγησε σε μήνυση κατατέθηκε πέρυσι, μέρος μιας ευρύτερης ώθησης κατά της συλλογής δεδομένων χωρίς άδεια προς όφελος των επιχειρήσεων τεχνητής νοημοσύνης. Ο ισχυρισμός επί παραβάσει, που υποβλήθηκε εκ μέρους πολλών καλλιτεχνών κατά των Stability AI, Deviant Art και Midjourney, ισχυρίζεται ότι το μοντέλο Stable Diffusion που χρησιμοποιούν οι εναγόμενες εταιρείες ενσωματώνει το έργο των καλλιτεχνών χωρίς άδεια. Η υπόθεση, που τροποποιήθηκε τον Νοέμβριο του 2023 για να συμπεριλάβει έναν νέο κατηγορούμενο, τον Runway AI, συνεχίζεται να εκδικαστεί.
Οι συγγραφείς προειδοποιούν ότι το Nightshade έχει ορισμένους περιορισμούς. Συγκεκριμένα, οι εικόνες που υποβάλλονται σε επεξεργασία με το λογισμικό ενδέχεται να διαφέρουν ελαφρώς από το πρωτότυπο, ιδιαίτερα το έργο τέχνης που χρησιμοποιεί επίπεδα χρώματα και ομαλό φόντο. Επίσης, παρατηρούν ότι μπορεί να αναπτυχθούν τεχνικές για την αναίρεση του Nightshade, αν και πιστεύουν ότι μπορούν να προσαρμόσουν το λογισμικό τους ώστε να συμβαδίζουν με τα αντίμετρα.
Ο Μάθιου Γκουζντιάλ, επίκουρος καθηγητής επιστήμης υπολογιστών στο Πανεπιστήμιο της Αλμπέρτα, δήλωσε σε ένα μέσο κοινωνικής δικτύωσης Θέση“Αυτή είναι ωραία και επίκαιρη δουλειά! Αλλά ανησυχώ ότι η λύση είναι υπερβολική. Λειτουργεί μόνο με μοντέλα που βασίζονται σε CLIP και σύμφωνα με τους συγγραφείς, θα απαιτούσε 8 εκατομμύρια εικόνες “δηλητηριασμένες” για να έχει σημαντικό αντίκτυπο στη δημιουργία παρόμοιων εικόνων για το LAION μοντέλα.”
Το Glaze, το οποίο έφτασε στο 1,0 τον περασμένο Ιούνιο, έχει μια διαδικτυακή έκδοσηκαι είναι τώρα σε αυτό 1.1.1 έκδοσηαλλάζει τις εικόνες για να εμποδίσει τα μοντέλα που έχουν εκπαιδευτεί σε αυτές τις εικόνες να αναπαράγουν το οπτικό στυλ του καλλιτέχνη.
Η μίμηση στυλ – διαθέσιμη μέσω κλειστών υπηρεσιών κειμένου σε εικόνα, όπως το Midjourney και μέσω μοντέλων ανοιχτού κώδικα όπως το Stable Diffusion – είναι δυνατή απλώς προτρέποντας ένα μοντέλο κειμένου σε εικόνα να παράγει μια εικόνα στο στυλ ενός συγκεκριμένου καλλιτέχνη.
Η ομάδα πιστεύει ότι οι καλλιτέχνες πρέπει να έχουν έναν τρόπο να αποτρέψουν την σύλληψη και την αναπαραγωγή των οπτικών τους στυλ.
«Ο μιμητισμός του στυλ παράγει μια σειρά από επιβλαβή αποτελέσματα που μπορεί να μην είναι προφανή με την πρώτη ματιά», αναφέρουν οι boffins. “Για τους καλλιτέχνες των οποίων τα στυλ αντιγράφονται σκόπιμα, όχι μόνο βλέπουν απώλεια σε προμήθειες και βασικό εισόδημα, αλλά και χαμηλής ποιότητας συνθετικά αντίγραφα διάσπαρτα στο Διαδίκτυο μειώνουν την επωνυμία και τη φήμη τους. Το πιο σημαντικό, οι καλλιτέχνες συνδέουν το στυλ τους με την ίδια τους την ταυτότητα.”
Παρομοιάζουν τον μιμητισμό στυλ με κλοπή ταυτότητας και λένε ότι αποθαρρύνει τους επίδοξους καλλιτέχνες να δημιουργήσουν νέα έργα.
Η ομάδα συνιστά στους καλλιτέχνες να χρησιμοποιούν και το Nightshade και το Glaze. Επί του παρόντος, τα δύο εργαλεία πρέπει να ληφθούν και να εγκατασταθούν ξεχωριστά, αλλά μια συνδυασμένη έκδοση αναπτύσσεται. ®