- Της Μαριάννας Άνοιξη
- Ανταποκριτής παραπληροφόρησης και κοινωνικών μέσων του BBC
Ο δήμαρχος του Λονδίνου Sadiq Khan λέει ότι το deepfake ήχο που υποτίθεται ότι έκανε εμπρηστικά σχόλια πριν από την Ημέρα της Εκεχειρίας παραλίγο να προκαλέσει «σοβαρή αναταραχή».
Ο κ. Khan λέει ότι ο νόμος δεν είναι “κατάλληλος για το σκοπό” για την αντιμετώπιση των πλαστών τεχνητής νοημοσύνης, καθώς ο δημιουργός ήχου “το ξέφυγε”.
Ο άνδρας που δημοσίευσε πρώτος το βίντεο, το οποίο εντόπισε το BBC, μας είπε: «Είναι αυτό που όλοι ξέρουμε ότι σκέφτεται ο Σαντίκ».
Αλλά ένας άλλος χρήστης των μέσων κοινωνικής δικτύωσης που βοήθησε το ήχο να γίνει viral ζήτησε συγγνώμη λέγοντας: «Έκανα μεγάλο λάθος».
Το κλιπ χρησιμοποίησε την τεχνητή νοημοσύνη – τεχνητή νοημοσύνη – για να δημιουργήσει ένα αντίγραφο της φωνής του κ. Khan που έλεγε λέξεις σε σενάριο του πλαστογράφου, υποτιμώντας το Σαββατοκύριακο Μνήμης με μια καταιγιστική και καλώντας σε φιλοπαλαιστινιακές πορείες, που είχαν προγραμματιστεί για την ίδια μέρα τον περασμένο Νοέμβριο, να έχουν προτεραιότητα.
Με σκοπό να ακούγεται σαν μυστική ηχογράφηση, ανέφερε: «Αυτό που είναι σημαντικό και πρωταρχικό είναι η πορεία ενός εκατομμυρίου Παλαιστινίων να πραγματοποιηθεί το Σάββατο».
Το κλιπ μιμήθηκε τον κ. Khan, τον πρώτο μουσουλμάνο δήμαρχο του Λονδίνου, λέγοντας: «Ελέγχω τη Μετεωρολογική Αστυνομία, θα κάνουν ό,τι τους λέει ο Δήμαρχος του Λονδίνου» και λέγοντας «το βρετανικό κοινό πρέπει να πιάσει έλεγχο». Ανέφερε ότι η συνάντηση του πρωθυπουργού με τον επίτροπο της αστυνομίας σερ Μαρκ Ρόουλι ήταν «χάσιμο χρόνου» επειδή «τα χρήματα σταματούν μαζί μου».
Το κλιπ εξαπλώθηκε γρήγορα, μεταξύ άλλων και μεταξύ ακροδεξιών ομάδων, και πυροδότησε μια έξαρση σχολίων μίσους κατά του δημάρχου στα μέσα κοινωνικής δικτύωσης.
“Όταν έχεις φίλους και οικογένεια που βλέπουν αυτά τα πράγματα, είναι βαθιά αναστατωμένο. Θέλω να πω, έχω δύο κόρες, μια γυναίκα, έχω, ξέρετε, αδέρφια. Έχω μια μαμά”, είπε ο κ. είπε ο Khan στο BBC.
Το ψεύτικο AI εμφανίστηκε κατά τη διάρκεια μιας ήδη τεταμένης πολιτικής διαμάχης, καθώς ο πρωθυπουργός Rishi Sunak είπε ότι οι φιλοπαλαιστινιακές πορείες σε διαφορετικό σημείο του κεντρικού Λονδίνου ήταν «ασέβεια» την Ημέρα της Εκεχειρίας. Η τότε υπουργός Εσωτερικών Suella Braverman είχε ζητήσει να ακυρωθούν.
Ακούστε την ψεύτικη ηχογράφηση του δημάρχου του Λονδίνου Sadiq Khan
Η Ημέρα Ανακωχής σηματοδοτεί τη στιγμή που τελείωσε ο Πρώτος Παγκόσμιος Πόλεμος στις 11 Νοεμβρίου 1918, ενώ οι μνημόσιες τελετές πραγματοποιούνται στο Κενοτάφιο και σε ολόκληρη τη χώρα την πλησιέστερη Κυριακή, γνωστή ως Κυριακή Μνήμης.
«Το timing δεν θα μπορούσε να ήταν καλύτερο αν επιδιώκετε να σπείρετε δυσαρμονία και να δημιουργήσετε προβλήματα», είπε ο δήμαρχος του Λονδίνου στο BBC.
“Αυτό που ειπώθηκε ήταν ένα κόκκινο κουρέλι σε έναν ταύρο για τους ακροδεξιούς και άλλους. Αλλά αυτό που με απασχολούσε περισσότερο ήταν αν είσαι αθώος ακροατής αυτού. Επειδή είναι μια μυστική μυστική ηχογράφηση, σε ανεστραμμένα κόμματα, γιατί ακούγεται όπως εγώ, λόγω του χρόνου και του πλαισίου».
Και τα δύο γεγονότα πραγματοποιήθηκαν το Σάββατο 11 Νοεμβρίου, με την πορεία υπέρ των Παλαιστινίων να ξεκινά λίγες ώρες μετά την τήρηση των δύο λεπτών σιγή. Ωστόσο, οι αντιδιαδηλωτές, συμπεριλαμβανομένων ορισμένων ατόμων που συνδέονται με ακροδεξιές ομάδες, καταδικάστηκαν αργότερα από την αστυνομία μετά από συγκρούσεις και συνελήφθησαν για αδικήματα, συμπεριλαμβανομένης της υποκίνησης φυλετικού μίσους.
Μια από τις πιο τρολαρισμένες δημοσιογράφους του BBC, η Μαριάννα Σπρινγκ, βουτάει στα εισερχόμενά της και ερευνά εξαιρετικές περιπτώσεις διαδικτυακού μίσους. Συναντά τους ανθρώπους που βρίσκονται στο επίκεντρο αυτών των συγκρούσεων, και σε ορισμένες περιπτώσεις τους φέρνει κοντά, για να δει αν η κατανόηση -ακόμη και η συγχώρεση- είναι ποτέ δυνατή.
Ο κ. Khan είπε ότι το ψεύτικο AI είχε πυροδοτήσει την κατάσταση. «Σχεδόν είχαμε σοβαρή διαταραχή», είπε, προσθέτοντας ότι ο βαθύς ψεύτικος ήχος θα μπορούσε να έχει ανησυχητικό αντίκτυπο σε άλλες καταστάσεις – όπως σε κοντινές εκλογές ή δημοψήφισμα ή όπου υπάρχει αναταραχή στην κοινότητα.
“Οι άνθρωποι θα πρέπει να μπορούν να με επικρίνουν. Αλλά νομίζω ότι αυτό που δεν πρέπει να κάνετε είναι να χρησιμοποιήσετε την τεχνητή νοημοσύνη για να κατασκευάζετε ψέματα. Και νομίζω ότι το άτομο που το έκανε αυτό πρέπει να συνειδητοποιήσει τις συνέπειες εκείνο το Σάββατο.”
Ένας από τους μεγαλύτερους λογαριασμούς που διέδωσε τον ψεύτικο ήχο ήταν το Little Boats on X, το οποίο μοιράζεται περιεχόμενο κατά του Ισλάμ και κατά της μετανάστευσης και έχει περισσότερους από 58.000 ακόλουθους.
Ο Τζέρεμι Ντέιβις, ο οποίος είναι υπεύθυνος για τον λογαριασμό, είπε ότι εξακολουθεί να υποπτεύεται ότι ο Χαν έχει παρόμοιες πεποιθήσεις με αυτές του ήχου, αλλά ζήτησε συγγνώμη που μοιράστηκε το ψεύτικο.
«Ήταν μια έξυπνη δουλειά AI», είπε. «Δήμαρχε Χαν, ζητώ συγγνώμη, έκανα μεγάλο λάθος».
Αλλά ο κ. Davis δεν δημιούργησε τον ήχο.
Μέσω μιας λήψης οθόνης, εντόπισα την ηχογράφηση πίσω στο TikTok και σε αυτό που φαίνεται να είναι ο δημιουργός του κλιπ: έναν λογαριασμό που ονομάζεται HJB News με το ειρωνικό tagline “Keeping it real”. Ο λογαριασμός μοιράζεται περιεχόμενο κατά της μετανάστευσης και κάποιο ρατσιστικό υλικό.
Οι αντιδιαδηλωτές συγκρούστηκαν με την αστυνομία την Ημέρα της Εκεχειρίας
Οι λογαριασμοί του HJB News σε άλλα μέσα κοινωνικής δικτύωσης δείχνουν ότι μοιράστηκαν τον ήχο στις 9 Νοεμβρίου, ώρες πριν γίνει viral. Το γεγονός ότι δεν υπάρχει κανένα ίχνος του ήχου πουθενά αλλού στο Διαδίκτυο πριν το μοιραστεί το HJB News, καθιστά πιθανό ότι τον δημιούργησαν επίσης.
Αφού ανταλλάξαμε πολλά μηνύματα, με κάλεσε το άτομο πίσω από τον λογαριασμό. Έδωσε το όνομά του μόνο ως Henry και δεν με άφησε να τον ηχογραφήσω, αλλά κράτησα λεπτομερείς σημειώσεις της συνομιλίας.
Υποστήριξε ότι ήταν “ένα κλιπ στο TikTok που μοιράστηκα” και αρνήθηκε ότι το δημιούργησε, λέγοντας ότι “δεν θα ήθελε να σχολιάσει” όταν του επεσήμανα ότι ήταν ο πρώτος που το μοιράστηκε.
Είπε ότι ο λογαριασμός του δεν δημοσιεύει μόνο “ψεύτικα κλιπ”. «Δημοσιεύουμε νέα που θα μπορούσαν να είναι αληθινά με αίσθηση του χιούμορ».
Στις 11 Νοεμβρίου, η Μητροπολιτική Αστυνομία είπε ότι εξέτασε τον ήχο αλλά ότι «δεν αποτελεί ποινικό αδίκημα». Το HJB News είπε στο X, “καλά αυτό είναι μια ανακούφιση” με ένα emoji με μια χάντρα ιδρώτα να κυλάει σε ένα χαμογελαστό πρόσωπο.
Ο κ. Khan είπε ότι το ψεύτικο ήχο «δεν ήταν λίγο διασκεδαστικό» ή «σάτυρα» και ότι ο δημιουργός του δεν ήταν «αφελής» σχετικά με τις συνέπειες που θα μπορούσε να έχει.
Ο δήμαρχος του Λονδίνου είπε ότι, ωστόσο, αποδέχεται τη συγγνώμη των ανθρώπων που τη μοιράστηκαν εξαιτίας ενός «αθώου λάθους».
Ο κ. Khan είπε ότι οργανώσεις όπως η Εκλογική Επιτροπή, οι οποίες είναι υπεύθυνες για τη διατήρηση των εκλογών στο Ηνωμένο Βασίλειο «ελεύθερες και δίκαιες», χρειάζονται επίσης περισσότερες εξουσίες για να αντιμετωπίσουν τις πλαστές πληροφορίες.
Επί του παρόντος δεν υπάρχει ποινικό δίκαιο στο Ηνωμένο Βασίλειο που να καλύπτει συγκεκριμένα αυτού του είδους το σενάριο.
Ο δήμαρχος είπε ότι ήταν επίσης «πραγματικά ανησυχητικό» το γεγονός ότι οι εταιρείες κοινωνικής δικτύωσης δεν επικοινώνησαν μαζί του ή με τις αρχές σχετικά με τον πλαστό ήχο τη στιγμή που έγινε viral.
Επικοινώνησα με το X, το TikTok και το Instagram, όπου κοινοποιήθηκε το κλιπ. Ο Χ και το Instagram δεν απάντησαν. Σύμφωνα με εκπρόσωπο του TikTok, ο ιστότοπος κοινωνικής δικτύωσης “δεν επιτρέπει συνθετικά μέσα που περιέχουν την ομοιότητα οποιασδήποτε πραγματικής ιδιωτικής φιγούρας” και αφαιρεί αυτού του είδους το περιεχόμενο.
Η TikTok είπε ότι είχε μιλήσει τόσο με το γραφείο του δημάρχου όσο και με τη Μητροπολιτική Αστυνομία τον Νοέμβριο του 2023 σχετικά με την προσέγγιση της πλατφόρμας σε αυτό το περιεχόμενο και επισήμανε πώς παρόμοια ζητήματα θα μπορούσαν να τεθούν άμεσα στο μέλλον.