«Τα κινεζικά μέσα κοινωνικής δικτύωσης με μετέτρεψαν από ουκρανική σε ρωσική»

«Δεν θέλω να πιστεύει κανείς ότι είπα ποτέ αυτά τα φρικτά πράγματα στη ζωή μου. Χρησιμοποιώντας ένα κορίτσι από την Ουκρανία για ένα πρόσωπο που προωθεί τη Ρωσία. Είναι τρελό.”

Η Olga Loiek έχει δει το πρόσωπό της να εμφανίζεται σε διάφορα βίντεο στα κινεζικά μέσα κοινωνικής δικτύωσης – αποτέλεσμα των εύχρηστων εργαλείων τεχνητής νοημοσύνης που είναι διαθέσιμα στο διαδίκτυο.

«Μπορούσα να δω το πρόσωπό μου και να ακούσω τη φωνή μου. Αλλά όλα ήταν πολύ ανατριχιαστικά, γιατί είδα τον εαυτό μου να λέει πράγματα που δεν είπα ποτέ», λέει η 21χρονη, φοιτήτρια στο Πανεπιστήμιο της Πενσυλβάνια.

Οι λογαριασμοί που εμφανίζουν την ομοιότητα της είχαν δεκάδες διαφορετικά ονόματα όπως Σοφία, Νατάσα, Απρίλιος και Στέισι. Αυτά τα «κορίτσια» μιλούσαν στα Μανδαρινικά – μια γλώσσα που η Όλγα δεν είχε μάθει ποτέ. Προφανώς ήταν από τη Ρωσία και μιλούσαν για τη φιλία Κίνας-Ρωσίας ή διαφήμιζαν ρωσικά προϊόντα.

«Είδα ότι το 90% των βίντεο μιλούσαν για την Κίνα και τη Ρωσία, τη φιλία Κίνας – Ρωσίας, ότι πρέπει να είμαστε ισχυροί σύμμαχοι, καθώς και διαφημίσεις για φαγητό».

Ένας από τους μεγαλύτερους λογαριασμούς ήταν το «Natasha imported food» με περισσότερους από 300.000 ακόλουθους χρήστες. Η «Νατάσα» θα έλεγε πράγματα όπως «Η Ρωσία είναι η καλύτερη χώρα. Είναι λυπηρό που άλλες χώρες απομακρύνονται από τη Ρωσία και οι Ρωσίδες θέλουν να έρθουν στην Κίνα», πριν αρχίσουν να προωθούν προϊόντα όπως οι ρωσικές καραμέλες.

Αυτό εξόργισε προσωπικά την Όλγα, της οποίας η οικογένεια βρίσκεται ακόμα στην Ουκρανία.

Αλλά σε ένα ευρύτερο επίπεδο, η περίπτωσή της έχει επιστήσει την προσοχή στους κινδύνους μιας τεχνολογίας που αναπτύσσεται τόσο γρήγορα που η ρύθμισή της και η προστασία των ανθρώπων έχει γίνει μια πραγματική πρόκληση.

Οι εμφανίσεις τεχνητής νοημοσύνης της Όλγας που μιλούν μανδαρινικά άρχισαν να εμφανίζονται το 2023 – αμέσως μετά την έναρξη ενός καναλιού στο YouTube που δεν ενημερώνεται πολύ τακτικά.

Περίπου ένα μήνα αργότερα, άρχισε να λαμβάνει μηνύματα από ανθρώπους που ισχυρίστηκαν ότι την είδαν να μιλάει στα Mandarin στις κινεζικές πλατφόρμες κοινωνικών μέσων.

Ενδιαφερόμενη, άρχισε να ψάχνει τον εαυτό της και βρήκε τις ομοιότητές της με τεχνητή νοημοσύνη στο Xiaohongshu – μια πλατφόρμα όπως το Instagram – και το Bilibili, που είναι ένας ιστότοπος βίντεο παρόμοιος με το YouTube.

«Ήταν πολλοί από αυτούς [accounts]. Κάποιοι είχαν πράγματα όπως ρωσικές σημαίες στο βιογραφικό», είπε η Όλγα, η οποία έχει βρει περίπου 35 λογαριασμούς χρησιμοποιώντας την ομοιότητα της μέχρι στιγμής.

Μετά το tweet του αρραβωνιαστικού της σχετικά με αυτούς τους λογαριασμούς, η HeyGen, μια εταιρεία που ισχυρίζεται ότι ανέπτυξε το εργαλείο που χρησιμοποιείται για τη δημιουργία ομοιωμάτων τεχνητής νοημοσύνης, απάντησε.

Αποκάλυψαν ότι περισσότερα από 4.900 βίντεο έχουν δημιουργηθεί χρησιμοποιώντας το πρόσωπό της. Πρόσθεσαν ότι είχαν μπλοκάρει την εικόνα της από το να χρησιμοποιείται πλέον.

Ένας εκπρόσωπος της εταιρείας είπε στο BBC ότι το σύστημά τους παραβιάστηκε για να δημιουργηθεί αυτό που αποκαλούσαν «μη εξουσιοδοτημένο περιεχόμενο» και πρόσθεσε ότι ενημέρωσαν αμέσως τα πρωτόκολλα ασφάλειας και επαλήθευσης για να αποτρέψουν περαιτέρω κατάχρηση της πλατφόρμας τους.

Αλλά η Angela Zhang, από το Πανεπιστήμιο του Χονγκ Κονγκ, λέει ότι αυτό που συνέβη στην Όλγα είναι «πολύ συνηθισμένο στην Κίνα».

Η χώρα είναι «πατρίδα μιας τεράστιας παραοικονομίας που ειδικεύεται στην παραχάραξη, την κατάχρηση προσωπικών δεδομένων και την παραγωγή deepfakes», είπε.

Αυτό συμβαίνει παρά το γεγονός ότι η Κίνα είναι μια από τις πρώτες χώρες που προσπάθησε να ρυθμίσει την τεχνητή νοημοσύνη και σε τι μπορεί να χρησιμοποιηθεί. Έχει τροποποιήσει ακόμη και τον αστικό της κώδικα για να προστατεύσει τα δικαιώματα ομοιότητας από την ψηφιακή κατασκευή.

Στατιστικά στοιχεία που αποκαλύφθηκαν από το τμήμα δημόσιας ασφάλειας το 2023 δείχνουν ότι οι αρχές συνέλαβαν 515 άτομα για δραστηριότητες «ανταλλαγής προσώπων AI». Τα κινεζικά δικαστήρια έχουν επίσης χειριστεί υποθέσεις σε αυτόν τον τομέα.

Αλλά τότε πώς τόσα βίντεο της Όλγας έφτασαν στο διαδίκτυο;

Ένας λόγος θα μπορούσε να είναι επειδή προώθησαν την ιδέα της φιλίας μεταξύ Κίνας και Ρωσίας.

Το Πεκίνο και η Μόσχα έχουν πλησιάσει σημαντικά τα τελευταία χρόνια. Ο Κινέζος ηγέτης Σι Τζινπίνγκ και ο Ρώσος πρόεδρος Πούτιν είπαν ότι η φιλία μεταξύ των δύο χωρών έχει «χωρίς όρια“. Οι δυο τους πρόκειται να συναντηθούν στην Κίνα αυτή την εβδομάδα.

«Δεν είναι σαφές εάν αυτοί οι λογαριασμοί συντονίζονταν για συλλογικό σκοπό, αλλά η προώθηση ενός μηνύματος που συνάδει με την προπαγάνδα της κυβέρνησης σίγουρα τους ωφελεί», δήλωσε η Έμι Χάιν, ερευνήτρια νόμου και τεχνολογίας από το Πανεπιστήμιο της Μπολόνια και το KU Leuven.

«Ακόμα κι αν αυτοί οι λογαριασμοί δεν συνδέονται ρητά με το CCP [Chinese Communist Party]η προώθηση ενός ευθυγραμμισμένου μηνύματος μπορεί να μειώσει την πιθανότητα να αφαιρεθούν οι αναρτήσεις τους.”

Αλλά αυτό σημαίνει ότι οι απλοί άνθρωποι όπως η Όλγα παραμένουν ευάλωτοι και κινδυνεύουν να παραβιάσουν την κινεζική νομοθεσία, προειδοποιούν οι ειδικοί.

Η Kayla Blomquist, ερευνήτρια τεχνολογίας και γεωπολιτικής στο Πανεπιστήμιο της Οξφόρδης, προειδοποιεί ότι «υπάρχει κίνδυνος να πλαισιωθούν άτομα με τεχνητά δημιουργημένο, πολιτικά ευαίσθητο περιεχόμενο» που θα μπορούσαν να υπόκεινται σε «ταχείες τιμωρίες που θεσπίζονται χωρίς τη δέουσα διαδικασία».

Προσθέτει ότι η εστίαση του Πεκίνου σε σχέση με την τεχνητή νοημοσύνη και την διαδικτυακή πολιτική απορρήτου ήταν η οικοδόμηση δικαιωμάτων των καταναλωτών έναντι ληστρικών ιδιωτικών παραγόντων, αλλά τονίζει ότι «τα δικαιώματα των πολιτών σε σχέση με την κυβέρνηση παραμένουν εξαιρετικά αδύναμα».

Η κ. Hine εξηγεί ότι «ο θεμελιώδης στόχος των κανονισμών για την τεχνητή νοημοσύνη της Κίνας είναι η εξισορρόπηση της διατήρησης της κοινωνικής σταθερότητας με την προώθηση της καινοτομίας και της οικονομικής ανάπτυξης».

«Αν και οι κανονισμοί για τα βιβλία φαίνονται αυστηροί, υπάρχουν ενδείξεις επιλεκτικής επιβολής, ιδιαίτερα του κανόνα αδειοδότησης της γενετικής τεχνητής νοημοσύνης, που μπορεί να αποσκοπεί στη δημιουργία ενός περιβάλλοντος πιο φιλικού προς την καινοτομία, με τη σιωπηρή κατανόηση ότι ο νόμος παρέχει τη βάση για την καταστολή αν χρειαστεί», είπε.

Αλλά οι προεκτάσεις της υπόθεσης της Όλγας εκτείνονται πολύ πέρα ​​από την Κίνα – καταδεικνύει τη δυσκολία της προσπάθειας ρύθμισης μιας βιομηχανίας που φαίνεται να εξελίσσεται με ραγδαίους ρυθμούς και όπου οι ρυθμιστικές αρχές παίζουν διαρκώς να καλύψουν τη διαφορά. Αλλά αυτό δεν σημαίνει ότι δεν προσπαθούν.

Τον Μάρτιο, το Ευρωπαϊκό Κοινοβούλιο ενέκρινε την AI Act, το πρώτο ολοκληρωμένο πλαίσιο στον κόσμο για τον περιορισμό των κινδύνων της τεχνολογίας. Και τον περασμένο Οκτώβριο, ο πρόεδρος των ΗΠΑ Τζο Μπάιντεν ανακοίνωσε μια εκτελεστικό διάταγμα απαιτώντας από τους προγραμματιστές AI να μοιράζονται δεδομένα με την κυβέρνηση.

Ενώ οι κανονισμοί σε εθνικό και διεθνές επίπεδο προχωρούν αργά σε σύγκριση με την ταχεία κούρσα της ανάπτυξης της τεχνητής νοημοσύνης, χρειαζόμαστε «μια σαφέστερη κατανόηση και ισχυρότερη συναίνεση γύρω από τις πιο επικίνδυνες απειλές και πώς να τις μετριαστούν», λέει η κα Blomquist.

«Ωστόσο, οι διαφωνίες εντός και μεταξύ των χωρών εμποδίζουν την απτή δράση. Οι ΗΠΑ και η Κίνα είναι οι βασικοί παίκτες, αλλά η επίτευξη συναίνεσης και ο συντονισμός της απαραίτητης κοινής δράσης θα είναι πρόκληση», προσθέτει.

Εν τω μεταξύ, σε ατομικό επίπεδο, φαίνεται ότι υπάρχουν λίγα άτομα που δεν μπορούν να κάνουν παρά να μην δημοσιεύουν τίποτα στο διαδίκτυο.

«Το μόνο που πρέπει να κάνουμε είναι να μην τους δίνουμε υλικό για να δουλέψουν: να μην ανεβάζουμε φωτογραφίες, βίντεο ή ήχο του εαυτού μας στα δημόσια μέσα κοινωνικής δικτύωσης», λέει η κ. Hine. «Ωστόσο, οι κακοί ηθοποιοί θα έχουν πάντα κίνητρα να μιμούνται τους άλλους, και έτσι, ακόμα κι αν οι κυβερνήσεις καταπολεμήσουν, αναμένω ότι θα δούμε συνεπή ανάπτυξη εν μέσω του ρυθμιστικού φαινομένου».

Η Όλγα είναι «100% σίγουρη» ότι δεν θα είναι το τελευταίο θύμα της γενετικής τεχνητής νοημοσύνης. Όμως είναι αποφασισμένη να μην την αφήσει να την διώξει από το διαδίκτυο.

Έχει μοιραστεί τις εμπειρίες της στο κανάλι της στο YouTube και λέει ότι ορισμένοι Κινέζοι διαδικτυακοί χρήστες τη βοήθησαν σχολιάζοντας κάτω από τα βίντεο χρησιμοποιώντας την ομοιότητα της και επισημαίνοντας ότι είναι ψεύτικα.

Προσθέτει ότι πολλά από αυτά τα βίντεο έχουν πλέον καταργηθεί.

«Ήθελα να μοιραστώ την ιστορία μου, ήθελα να βεβαιωθώ ότι οι άνθρωποι θα καταλάβουν ότι δεν είναι αληθινά όλα όσα βλέπετε στο διαδίκτυο», λέει. «Μου αρέσει να μοιράζομαι τις ιδέες μου με τον κόσμο και κανένας από αυτούς τους απατεώνες δεν μπορεί να με εμποδίσει να το κάνω αυτό».