Ένα κατασκευασμένο ηχητικό απόσπασμα ενός διευθυντή λυκείου των ΗΠΑ προκάλεσε οργή, αφήνοντάς τον να παλεύει με κατηγορίες για ρατσισμό και αντισημιτισμό σε μια υπόθεση που έχει προκαλέσει νέο συναγερμό σχετικά με τη χειραγώγηση της τεχνητής νοημοσύνης.
Η αστυνομία κατηγόρησε ένα δυσαρεστημένο μέλος του προσωπικού του σχολείου του Μέριλαντ ότι κατασκεύασε την ηχογράφηση που εμφανίστηκε τον Ιανουάριο — φέρεται ότι ο διευθυντής Έρικ Άισβερτ έλεγε εναντίον των Εβραίων και των “αχάριστων μαύρων παιδιών” — χρησιμοποιώντας τεχνητή νοημοσύνη.
Το κλιπ, το οποίο άφησε τους διαχειριστές του γυμνασίου Pikesville να καταθέτουν μια πλημμύρα οργισμένων κλήσεων και απειλών, υπογραμμίζει την ευκολία με την οποία τα ευρέως διαθέσιμα εργαλεία τεχνητής νοημοσύνης και επεξεργασίας μπορούν να χρησιμοποιηθούν κατάχρηση για να υποδυθούν διασημότητες και καθημερινούς πολίτες.
Σε μια χρονιά μεγάλων εκλογών σε παγκόσμιο επίπεδο, συμπεριλαμβανομένων των Ηνωμένων Πολιτειών, το επεισόδιο καταδεικνύει επίσης τους κινδύνους των ρεαλιστικών deepfakes καθώς ο νόμος ανταποκρίνεται.
«Χρειάζεσαι μία εικόνα για να βάλεις ένα άτομο σε ένα βίντεο, χρειάζεσαι 30 δευτερόλεπτα ήχου για να κλωνοποιήσεις τη φωνή κάποιου», είπε στο Γαλλικό Πρακτορείο ο Χάνι Φαρίντ, ειδικός στην ψηφιακή εγκληματολογία στο Πανεπιστήμιο της Καλιφόρνια στο Μπέρκλεϊ.
«Δεν μπορείς να κάνεις σχεδόν τίποτα αν δεν κρυφτείς κάτω από έναν βράχο.
“Ο φορέας της απειλής έχει περάσει από τον Τζο Μπάιντεν και τους Τέιλορ Σουίφτς του κόσμου σε διευθυντές γυμνασίων, 15χρονους, δημοσιογράφους, δικηγόρους, αφεντικά, γιαγιάδες. Όλοι είναι πλέον ευάλωτοι”.
Μετά την επίσημη έρευνα, ο αθλητικός διευθυντής του σχολείου, Dazhon Darien, 31 ετών, συνελήφθη στα τέλη του περασμένου μήνα για το βίντεο.
Τα έγγραφα χρέωσης αναφέρουν ότι οι υπάλληλοι του γυμνασίου Pikesville ένιωσαν ανασφαλείς μετά την εμφάνιση του ήχου. Οι δάσκαλοι ανησύχησαν ότι η πανεπιστημιούπολη είχε παρασυρθεί με συσκευές εγγραφής, ενώ υβριστικά μηνύματα φώτιζαν τα μέσα κοινωνικής δικτύωσης του Eiswert.
«Ο κόσμος θα ήταν καλύτερος αν ήσουν στην άλλη πλευρά του χώματος», έγραψε ένας χρήστης του X στο Eiswert.
Ο Eiswert, ο οποίος δεν απάντησε στο αίτημα του AFP για σχόλιο, τέθηκε σε άδεια από το σχολείο και χρειαζόταν ασφάλεια στο σπίτι του.
– ‘Βλάβη’ –
Όταν η ηχογράφηση κυκλοφόρησε στα μέσα κοινωνικής δικτύωσης τον Ιανουάριο, ενισχυμένη από έναν δημοφιλή λογαριασμό στο Instagram του οποίου οι αναρτήσεις προσέλκυσαν χιλιάδες σχόλια, η κρίση έριξε το σχολείο στο επίκεντρο της χώρας.
Ο ήχος ενισχύθηκε από τον ακτιβιστή DeRay McKesson, ο οποίος ζήτησε την απόλυση του Eiswert στους σχεδόν ένα εκατομμύριο οπαδούς του στο X. Όταν εμφανίστηκαν οι κατηγορίες, παραδέχτηκε ότι είχε εξαπατηθεί.
«Συνεχίζω να ανησυχώ για τη ζημιά που έχουν προκαλέσει αυτές οι ενέργειες», δήλωσε ο Μπίλι Μπερκ, εκτελεστικός διευθυντής του συνδικάτου που εκπροσωπεί την Eiswert, αναφερόμενος στην ηχογράφηση.
Η χειραγώγηση έρχεται καθώς πολλά σχολεία των ΗΠΑ προσπαθούν να περιορίσουν την βαθιά ψεύτικη πορνογραφία με δυνατότητα AI, οδηγώντας σε παρενόχληση μαθητών εν μέσω έλλειψης ομοσπονδιακής νομοθεσίας.
Ο Scott Shellenberger, εισαγγελέας της πολιτείας της Βαλτιμόρης, δήλωσε σε συνέντευξη Τύπου ότι το περιστατικό στο Pikesville υπογραμμίζει την ανάγκη «να ενημερωθεί ο νόμος με την τεχνολογία».
Το γραφείο του διώκει τον Darien για τέσσερις κατηγορίες, συμπεριλαμβανομένης της ενόχλησης σχολικών δραστηριοτήτων.
– “Ένα εκατομμύριο εντολείς” –
Οι ερευνητές συνέδεσαν τον ήχο με τον αθλητικό διευθυντή εν μέρει συνδέοντάς τον με τη διεύθυνση ηλεκτρονικού ταχυδρομείου που τον διένειμε αρχικά.
Η αστυνομία λέει ότι η υποτιθέμενη δυσφήμιση ήρθε ως αντίποινα για μια έρευνα που άνοιξε ο Eiswert τον Δεκέμβριο για το εάν ο Darien ενέκρινε παράνομη πληρωμή σε έναν προπονητή που ήταν επίσης συγκάτοικός του.
Ο Ντάριεν έκανε αναζητήσεις για εργαλεία τεχνητής νοημοσύνης μέσω του δικτύου του σχολείου πριν βγει ο ήχος και χρησιμοποιούσε “μεγάλα γλωσσικά μοντέλα”, σύμφωνα με τα έγγραφα χρέωσης.
Ένας καθηγητής του Πανεπιστημίου του Κολοράντο που ανέλυσε τον ήχο για την αστυνομία κατέληξε στο συμπέρασμα ότι «περιείχε ίχνη περιεχομένου που δημιουργήθηκε από AI με ανθρώπινη επεξεργασία μετά το γεγονός».
Οι ερευνητές συμβουλεύτηκαν επίσης τον Φαρίντ, γράφοντας ότι ο εμπειρογνώμονας της Καλιφόρνια διαπίστωσε ότι ήταν «υπό χειρισμό και πολλές ηχογραφήσεις συνδέθηκαν μεταξύ τους χρησιμοποιώντας άγνωστο λογισμικό».
Το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη – και ιδιαίτερα ο ήχος, τον οποίο οι ειδικοί λένε ότι είναι ιδιαίτερα δύσκολο να εντοπιστεί – πυροδότησε εθνικό συναγερμό τον Ιανουάριο όταν μια ψεύτικη ρομποτική κλήση που υποδύθηκε τον Μπάιντεν προέτρεψε τους κατοίκους του Νιου Χάμσαϊρ να μην ψηφίσουν στις προκριματικές εκλογές της πολιτείας.
«Επηρεάζει τα πάντα, από ολόκληρες οικονομίες, σε δημοκρατίες, μέχρι τον διευθυντή γυμνασίου», είπε ο Farid για την κακή χρήση της τεχνολογίας.
Η περίπτωση του Eiswert ήταν μια κλήση αφύπνισης στο Pikesville, αποκαλύπτοντας πώς η παραπληροφόρηση μπορεί να ταράξει ακόμη και «μια πολύ δεμένη κοινότητα», είπε ο Parker Bratton, προπονητής γκολφ της σχολής.
“Υπάρχει ένας πρόεδρος. Υπάρχουν ένα εκατομμύριο διευθυντές. Οι άνθρωποι λένε: “Τι σημαίνει αυτό για μένα; Ποιες είναι οι πιθανές συνέπειες για μένα όταν κάποιος αποφασίσει απλώς ότι θέλει να τελειώσει την καριέρα μου;”
«Δεν θα μπορέσουμε ποτέ να ξεφύγουμε από αυτή την ιστορία».
bmc-ac/acb