Η γυναίκα δηλώνει, στα μανδαρινικά με ελαφριά προφορά, ότι οι Κινέζοι πρέπει να παντρευτούν».εμείς οι Ρωσίδες.» Σε άλλα βίντεο στην κινεζική πλατφόρμα σύντομων βίντεο Douyin, περιγράφει πόσο της αρέσει το κινέζικο φαγητό και τα γεράκια αλάτι και σαπούνι από τη χώρα της. «Οι Ρώσοι δεν ξεγελούν τους Κινέζους», υπόσχεται.
Αλλά οι κινήσεις των χειλιών της δεν ταιριάζουν απόλυτα με τον ήχο των βίντεο, τα οποία δημοσιεύτηκαν πρόσφατα σε έναν λογαριασμό που χρησιμοποιεί το όνομα “Ladina”. Αυτό συμβαίνει επειδή είναι πλάνα από Shadé Zahrai, ένας Αυστραλός στρατηγός καριέρας με περισσότερους από 1,7 εκατομμύρια οπαδούς του TikTok, ο οποίος έχει τροποποιηθεί χρησιμοποιώντας τεχνητή νοημοσύνη. Κάποιος μετονόμασε τα βίντεο κλιπ της κ. Zahrai με μια φωνή που μιλούσε κινέζικα κινέζικα για να φαίνεται ότι πωλούσε ρωσικά προϊόντα.
Καλώς ήλθατε σε ένα ακμάζον είδος στα κινεζικά μέσα κοινωνικής δικτύωσης: βίντεο με χειραγώγηση τεχνητής νοημοσύνης που χρησιμοποιούν νεαρές, υποτιθέμενες Ρωσίδες, γυναίκες για να υποστηρίξουν τους δεσμούς Κίνας-Ρωσίας, πυροδοτούν πατριωτικό ενθουσιασμό ή βγάζουν χρήματα — και μερικές φορές και τα τρία ταυτόχρονα.
Δεν είναι σαφές ποιος βρίσκεται πίσω από πολλά από τα βίντεο, αλλά οι περισσότεροι οδηγούν τελικά τους θεατές σε έναν σύνδεσμο προϊόντος, υποδηλώνοντας ότι ο πρωταρχικός στόχος είναι εμπορικός. Και το κύριο κοινό-στόχος φαίνεται να είναι οι εθνικιστές Κινέζοι.
Τα βίντεο συχνά επισημαίνονται με ετικέτες κατακερματισμού όπως “Ρωσίδα σύζυγος” και “Ρωσική ομορφιά”. Οι γυναίκες που παρουσιάζονται περιγράφουν πόσο επιτήδειοι είναι οι Κινέζοι άνδρες ή παρακαλούν να σωθούν από τη φτώχεια ή τη λιγότερο ειδυλλιακή χώρα τους.
Ένα άλλο σύνολο βίντεο παρουσιάζει μια ξανθιά γυναίκα, που περιγράφει την ευγνωμοσύνη της που προσγειώθηκε στην Κίνα.
«Πραγματικά ζηλεύω τους Κινέζους φίλους μου. Γεννιέσαι με την πιο πολύτιμη ταυτότητα του κόσμου και την πιο βαθιά και γοητευτική γλώσσα», λέει σε ένα βίντεο που δημοσιεύτηκε σε μια άλλη πλατφόρμα, το Xiaohongshu, που μοιάζει με το Instagram.
Ένα διαφορετικό βίντεο δείχνει τη γυναίκα να ευχαριστεί τον κινεζικό λαό που στήριξε τη Ρωσία μέσα από την οικονομική δυσκολία της, αγοράζοντας ρωσικές σοκολάτες από αυτήν. «Τον προηγούμενο χρόνο, ολόκληρος ο κόσμος μποϊκοτάρει τη Ρωσία, επιβάλλοντάς μας κάθε είδους περιορισμούς και δυσκολίες. Η Κίνα είναι σαν σωτήρας», λέει.
Αυτά τα βίντεο έμοιαζαν πολύ πιο φυσικά, με τα χείλη της γυναίκας να συγχρονίζονται με τα άπταιστα Mandarin. Αλλά είναι και ψεύτικα. Ανακατασκευάστηκαν από βίντεο YouTube που δημοσιεύτηκαν από Όλγα Λόιεκμια φοιτήτρια κολεγίου της οποίας τα πραγματικά βίντεο αφορούν την αυτοβελτίωση και το κενό της έτος στη Γερμανία.
Η κυρία Λόιεκ δεν μιλάει κινέζικα. Και ποτέ δεν θα επαινούσε τη Ρωσία έτσι, είπε σε συνέντευξή της. Είναι από την Ουκρανία και κάποιοι συγγενείς της είναι ακόμα εκεί.
Οι δημιουργοί αυτών των βίντεο προσπαθούν να επωφεληθούν από μια αγορά που γεννήθηκε από την τρέχουσα στιγμή της Κίνας στη γεωπολιτική, την τεχνολογία και το δημόσιο αίσθημα.
Οι σχέσεις μεταξύ Ρωσίας και Κίνας έχουν βαθύνει σημαντικά τα τελευταία χρόνια, με τους ηγέτες των χωρών, Βλαντιμίρ Β. Πούτιν και Σι Τζινπίνγκ, να διακηρύσσουν μια εταιρική σχέση «χωρίς όρια» ενόψει της αυξανόμενης εχθρότητας από τη Δύση. Κύριε Πούτιν επισκέφτηκε το Πεκίνο την περασμένη εβδομάδα, όπου ο κ. Ξι τον καλωσόρισε με μεγάλη φανφάρα.
Η χρήση ξένων προσώπων για να επαινέσουν την Κίνα επιδιώκει επίσης να αξιοποιήσει μια αίσθηση εθνικής υπερηφάνειας ή εθνικισμού στο κινεζικό κοινό. Το εθνικιστικό περιεχόμενο έχει γίνει ένα από τα ασφαλέστεροι οδηγοί κίνησης στο Διαδίκτυο στην Κίνα, σε ένα περιβάλλον λογοκρισίας όπου όλο και περισσότερα θέματα είναι εκτός ορίων.
Αυτός ο εθνικισμός – όπως ο εθνικισμός σε όλο τον κόσμο – έχει συχνά συμπεριλάβει ένα είδος σεξισμού, είπε Τσέντσεν Ζανγκκαθηγητής διεθνών σχέσεων στο Πανεπιστήμιο Durham στην Αγγλία.
«Αυτή η αναπαράσταση νεαρών λευκών γυναικών με σεξουαλικά αντικειμενοποιημένους τρόπους είναι ένα τυπικό τροπάριο του έμφυλου εθνικισμού ή του εθνικιστικού σεξισμού», έγραψε ο καθηγητής Zhang σε ένα email. «Οι θεατές μπορούν να επιβεβαιώσουν τόσο την εθνικιστική όσο και την αντρική υπερηφάνεια τους με την κατανάλωση αυτού του περιεχομένου».
Σε πολλά από τα βίντεο που παρουσιάζουν τη χειραγωγημένη ομοιότητα της κας Zahrai, τον πλαστό χαρακτήρα κλήσεις οι θεατές της «μεγάλα αδέρφια». Η περσόνα σημειώνει επίσης ότι η Ρωσία δεν πουλά αυτά τα προϊόντα στην Ιαπωνία ή τη Νότια Κορέα, δύο χώρες με τις οποίες η Κίνα έχει γεμάτες σχέσεις.
Η κινεζική κυβέρνηση έχει συχνά ενθαρρύνει τον διαδικτυακό εθνικισμό, αλλά δεν υπάρχει καμία ένδειξη ότι έχει σχέση με τα βαθιά ψεύτικα βίντεο (αν και ορισμένες τοπικές κυβερνήσεις έχουν συνεργαστεί με πραγματικές Ρωσίδες για να προωθήσουν παρόμοια μηνύματα σχετικά με την έκκληση της Κίνας). Υπάρχει επίσης μια μικρή οικονομία πραγματικών Ρώσων επιρροών, πολλές από αυτές νεαρές γυναίκες, στα κινεζικά μέσα κοινωνικής δικτύωσης.
Πολλοί από τους κατασκευαστές βίντεο μπορεί απλώς να επωφελούνται από την Κίνα αγκαλιά των αγορών μέσω ζωντανής ροής και σύντομων βίντεο. Καθώς η τεχνολογία AI έχει γίνει πιο προηγμένη, ορισμένες κινεζικές εταιρείες έχουν ήδη αλλάξει από πραγματικούς σε εικονικούς πωλητές κάνω οικονομίες.
Τα τεχνητά δημιουργημένα βίντεο είναι πιθανό να γίνονται όλο και πιο κοινά ως τακτική πωλήσεων, καθώς η τεχνολογία AI έχει προχωρήσει τόσο γρήγορα και έχει γίνει πολύ πιο προσβάσιμη στο ευρύ κοινό, είπε Χάιμπινγκ Λουκαθηγητής στο Πανεπιστήμιο Santa Clara που μελετά τη διακυβέρνηση AI.
Η εταιρεία διαχείρισης της κ. Zahrai είπε σε ένα email ότι οι τροποποιήσεις της τεχνητής νοημοσύνης ήταν “κακής ποιότητας” και ότι “θα φαινόταν πιθανό να είναι ψεύτικες” ακόμη και σε περιστασιακούς θεατές. Μερικά από τα βίντεο του λογαριασμού είχαν μόνο μερικές δεκάδες προβολές, αν και αυτό που συζητούσε το γάμο με Ρωσίδες είχε 22.000.
Δεν φαινόταν να έχει σημασία. Ένας αυτοματοποιημένος μετρητής που εμφανίζεται σε ένα από τα βίντεο του λογαριασμού υποδηλώνει ότι η μάρκα αλατιού που παρουσιάζεται έχει ήδη αγοραστεί 360.000 φορές σε όλη την πλατφόρμα.
Όταν οι New York Times επικοινώνησαν με τον λογαριασμό Douyin με τα βίντεο της χειραγωγημένης κυρίας Zahrai, ο κάτοχος του λογαριασμού επιβεβαίωσε σε ηχητικό μήνυμα ότι είχε κάνει τα βίντεο. «Ρυθμίζετε τρία πράγματα: ήχο, βίντεο και στόμα. Μπορείς να φτιάξεις όποιο βίντεο θέλεις», είπε, πριν ξεκολλήσει από φίλους έναν δημοσιογράφο.
Τα επίπεδα πολυπλοκότητας ποικίλλουν. Μερικές από τις ψεύτικες γυναίκες εμφανίζονται εξ ολοκλήρου κατασκευασμένες από υπολογιστή, κινούνται άκαμπτα και φαίνονται σαν δοξασμένες Sims. Κάποια, όπως αυτά που παρουσιάζουν την ομοιότητα της κυρίας Loiek, είναι πολύ καλά.
«Αν και ήξερα ότι δεν ήμουν εγώ, ο ρεαλισμός ήταν τρομακτικός», είπε η κ. Loiek, η οποία πρόσφατα ανακάλυψε ότι περισσότεροι από 30 διαφορετικοί λογαριασμοί κοινωνικών μέσων στην Κίνα είχαν επιλέξει την εικόνα της. «Όταν αποφάσισα να δημιουργήσω το κανάλι μου στο YouTube, γνώριζα τους κινδύνους των deepfakes, αλλά πίστευα ότι ήταν πρωτίστως μια ανησυχία για διάσημες πολιτικές και ψυχαγωγικές προσωπικότητες. Τώρα συνειδητοποιώ ότι όποιος έχει βίντεο του εαυτού του στο διαδίκτυο μπορεί να επηρεαστεί».
Η κ. Loiek ανέφερε τους λογαριασμούς στο Xiaohongshu και έκανε ένα βίντεο στο YouTube για την εμπειρία της. Τελικά, τα περισσότερα από τα προφίλ που χρησιμοποιούν την ομοιότητα της έκλεισαν.
Τις τελευταίες εβδομάδες, οι πλατφόρμες μέσων κοινωνικής δικτύωσης έχουν εντείνει τον έλεγχο, αφαιρώντας βίντεο με τεχνητή νοημοσύνη ή προσθέτοντας ετικέτες σε ορισμένα από αυτά. Η Κίνα ήταν η πρώτη χώρα που θέσπισε κανονισμούς σχετικά με τη γενετική τεχνητή νοημοσύνη και στα χαρτιά, ορισμένες από τις πολιτικές της είναι πιο αυστηρές από αυτές στη Δύση.
Όμως, οι χώρες σε όλο τον κόσμο αγωνίζονται με την επιβολή των κανόνων τους. Η ανίχνευση αδικημάτων μπορεί να είναι ιδιαίτερα δύσκολη στην Κίνα, λόγω του κλειστού διαδικτυακού της περιβάλλοντος, όπου πολλά ξένα μέσα κοινωνικής δικτύωσης είναι απαγορευμένα.
Οι ξένοι influencers είναι απίθανο να γνωρίζουν ότι η εικόνα τους έχει χρησιμοποιηθεί στα κινεζικά μέσα κοινωνικής δικτύωσης και να υποβάλουν καταγγελία για πνευματικά δικαιώματα. Και οι κινεζικές πλατφόρμες μπορεί να μην βασίζονται σε περιεχόμενο στο εξωτερικό, όταν ελέγχουν για χειραγώγηση τεχνητής νοημοσύνης, είπε ένας 35χρονος άνδρας που διατηρούσε δύο λογαριασμούς με Ρωσίδες δημιουργημένες από AI. Ο άνδρας, ο οποίος έδωσε μόνο το επώνυμό του, Τσεν, είπε ότι κέρδιζε περίπου 1.000 δολάρια το μήνα από τους λογαριασμούς πριν τους κλείσει τον Μάρτιο, φοβούμενος μεγαλύτερη ρύθμιση.
Αλλά εξακολουθούν να πολλαπλασιάζονται περισσότερα. Και μπορεί η Ρωσία να είναι το καυτό θέμα τώρα, αλλά η πρακτική πιθανότατα σύντομα θα εξαπλωθεί σε οποιαδήποτε άλλη τάση είναι, είπε ο καθηγητής Lu στη Santa Clara.
«Οι άνθρωποι πίσω από αυτό θα χειραγωγούσαν οποιοδήποτε πιθανό θέμα για να προσελκύσουν την προσοχή των ανθρώπων», είπε. «Δείξτε «πώς να πηγαίνετε στα κορυφαία σχολεία» στους γονείς. «πώς να γίνεις όμορφη», στις νεαρές κυρίες. Πιστεύω ότι στο εξής, όλοι θα χρησιμοποιούν την τεχνολογία AI για να προσαρμόσουν τα θέματα ώστε να κάνουν τα βίντεο ελκυστικά σε ένα συγκεκριμένο κοινό.»