Συνελήφθη η αστυνομία της κομητείας της Βαλτιμόρης Ο πρώην αθλητικός διευθυντής του γυμνασίου Pikesville το πρωί της Πέμπτης και τον κατηγόρησε ότι φέρεται ότι χρησιμοποίησε τεχνητή νοημοσύνη για να υποδυθεί τον διευθυντή Eric Eiswert, κάνοντας το κοινό να πιστέψει ότι ο Eiswert έκανε ρατσιστικά και αντισημιτικά σχόλια πίσω από κλειστές πόρτες.
Ο Dazhon Darien κατηγορήθηκε για διατάραξη σχολικών δραστηριοτήτων, αφού οι ερευνητές διαπίστωσαν ότι είχαν παραποιήσει τη φωνή του και κυκλοφόρησαν τον ήχο στα μέσα κοινωνικής δικτύωσης τον Ιανουάριο, σύμφωνα με την Εισαγγελία της πολιτείας της Βαλτιμόρης. Το παρατσούκλι του Ντάριεν, DJ, ήταν μεταξύ των ονομάτων που αναφέρονται στα ηχητικά κλιπ που φέρεται να προσποιήθηκε.
Η φωνή του Eiswert, την οποία αστυνομία και Οι ειδικοί της τεχνητής νοημοσύνης πιστεύουν ότι έγινε προσομοίωσηέκανε απαξιωτικά σχόλια προς τους μαύρους μαθητές και την γύρω εβραϊκή κοινότητα, κυκλοφόρησε ευρέως στα μέσα κοινωνικής δικτύωσης.
Γρήγορα ακολούθησαν ερωτήσεις σχετικά με την αυθεντικότητα του ήχου. Η αστυνομία έγραψε σε έγγραφα τιμολόγησης ότι ο Darien είχε πρόσβαση στο δίκτυο του σχολείου σε πολλές περιπτώσεις τον Δεκέμβριο και τον Ιανουάριο αναζητώντας εργαλεία OpenAI και χρησιμοποίησε «Μεγάλα γλωσσικά μοντέλα» που εξασκούν τη «βαθιά μάθηση, η οποία περιλαμβάνει την άντληση τεράστιων ποσοτήτων δεδομένων από διάφορες πηγές Διαδίκτυο, μπορεί να αναγνωρίσει το κείμενο που εισάγει ο χρήστης και να παράγει αποτελέσματα συνομιλίας.” Συνέδεσαν επίσης τον Darien με έναν λογαριασμό email που είχε διανείμει την ηχογράφηση.
Πολλοί νυν και πρώην φοιτητές πίστευαν ότι ο Eiswert ήταν υπεύθυνος για τα προσβλητικά σχόλια, ενώ πρώην συνάδελφοι κατήγγειλαν τον ήχο και υπερασπίστηκαν τον χαρακτήρα του Eiswert. Ο ίδιος ο Eiswert αρνήθηκε ότι έκανε αυτά τα σχόλια και είπε ότι τα σχόλια δεν ευθυγραμμίζονται με τις απόψεις του.
Ο ήχος, δημοσιεύτηκε στον δημοφιλές λογαριασμό στο Instagram killer_ink_bmore, προκάλεσε έρευνα στα δημόσια σχολεία της κομητείας της Βαλτιμόρης και στην αστυνομία της κομητείας της Βαλτιμόρης. Ο Eiswert δεν εργάζεται στο σχολείο από τότε που ξεκίνησε η έρευνα.
Η φωνή αναφέρεται σε «αχάριστα μαύρα παιδιά που δεν μπορούν να δοκιμάσουν το δρόμο τους για να βγουν από μια χάρτινη σακούλα» και αμφισβητεί πόσο δύσκολο είναι να πείσουν αυτούς τους μαθητές να ανταποκριθούν στις προσδοκίες του επιπέδου του δημοτικού. Ο ΟΜΙΛΗΤΗΣ χρησιμοποιεί ονόματα ατόμων που φαίνεται να είναι μέλη του προσωπικού και λέει ότι δεν έπρεπε να έχουν προσληφθεί και αυτό θα πρέπει να ξεφορτωθεί ένα άλλο άτομο «με τον ένα ή τον άλλο τρόπο».
«Και αν χρειαστεί να πάρω ένα ακόμη παράπονο από έναν ακόμη Εβραίο σε αυτήν την κοινότητα, θα συμμετάσχω στην άλλη πλευρά», είπε η φωνή.
Η αστυνομία λέει ότι το βίντεο ελήφθη από τρεις δασκάλους το βράδυ πριν γίνει viral. Ο πρώτος ήταν ο Darien. Η τρίτη είπε ότι έλαβε το email και στη συνέχεια έλαβε μια κλήση από τον Darien και τη δασκάλα Shaena Ravenell που της είπαν να ελέγξει το email της. Η Ravenell είπε στην αστυνομία ότι είχε προωθήσει το email στο κινητό ενός μαθητή, «ο οποίος ήξερε ότι θα διέδιδε γρήγορα το μήνυμα σε διάφορα μέσα κοινωνικής δικτύωσης και σε όλο το σχολείο», και το έστειλε επίσης στα μέσα ενημέρωσης και στο NAACP, είπε η αστυνομία.
Δεν ανέφερε ότι το έλαβε από τον Ντάριεν μέχρι που αντιμετώπισε την εμπλοκή του. Ο Ράβενελ δεν έχει κατηγορηθεί για έγκλημα.
Η Έφορος Myriam Rogers εκείνη την εποχή χαρακτήρισε τα σχόλια «ανησυχητικά» και «άκρως προσβλητικές και ακατάλληλες δηλώσεις για Αφροαμερικανούς μαθητές, το προσωπικό του γυμνασίου Pikesville και την εβραϊκή κοινότητα του Pikesville».
Ο Billy Burke, επικεφαλής του Συμβουλίου Διοικητικών & Εποπτικών Υπαλλήλων, του σωματείου που εκπροσωπεί την Eiswert, ήταν ο μόνος αξιωματούχος που πρότεινε ότι ο ήχος δημιουργήθηκε από AI.
Ο Μπερκ είπε ότι ήταν απογοητευμένος από την υπόθεση του κοινού για την ενοχή του Άισβερτ. Σε μια συνεδρίαση του σχολικού συμβουλίου τον Ιανουάριο, είπε ότι ο διευθυντής χρειαζόταν αστυνομική παρουσία στο σπίτι του, επειδή αυτός και η οικογένειά του έχουν παρενοχληθεί και απειληθεί. Ο Μπερκ είχε λάβει επίσης ενοχλητικά μηνύματα ηλεκτρονικού ταχυδρομείου, είπε τότε.
Οι ειδικοί στην ανίχνευση πλαστών ήχου και βίντεο είπαν στο The Banner τον Μάρτιο ότι υπάρχουν συντριπτικά στοιχεία ότι η φωνή έχει δημιουργηθεί από AI. Παρατήρησαν τον επίπεδο τόνο, τους ασυνήθιστα καθαρούς ήχους φόντου και την έλλειψη σταθερών ήχων ή παύσεων αναπνοής ως χαρακτηριστικά της τεχνητής νοημοσύνης. Έτρεξαν επίσης τον ήχο μέσω πολλών διαφορετικών τεχνικών ανίχνευσης AI, οι οποίες κατέληξαν με συνέπεια στο συμπέρασμα ότι ήταν ψεύτικο, αν και δεν μπορούσαν να είναι 100% σίγουροι.
Τα εργαλεία δημιουργίας φωνής τεχνητής νοημοσύνης είναι πλέον ευρέως διαθέσιμα στο διαδίκτυο, η εγγραφή ενός λεπτού της φωνής κάποιου μπορεί να είναι αρκετή για να την προσομοιώσει με ένα εργαλείο τεχνητής νοημοσύνης 5 $ το μήνα. Το Nieman Journalism Lab ανέφερε τον Φεβρουάριο.
Υπάρχουν λίγοι κανονισμοί για την αποτροπή απομιμήσεων τεχνητής νοημοσύνης, που ονομάζονται deepfakes, και ελάχιστοι δράστες διώκονται ποινικά.