Ιστορικά, οι επιχειρήσεις προπαγάνδας βασίζονταν σε στρατούς χαμηλόμισθων εργαζομένων ή υψηλά συντονισμένες οργανώσεις πληροφοριών για την οικοδόμηση τοποθεσίες που φαίνονται θεμιτές. Αλλά η τεχνητή νοημοσύνη διευκολύνει σχεδόν οποιονδήποτε – είτε είναι μέλος μιας υπηρεσίας κατασκοπείας είτε απλώς ένας έφηβος στο υπόγειό του – να δημιουργήσει αυτά τα καταστήματα, παράγοντας περιεχόμενο που μερικές φορές είναι δύσκολο να διαφοροποιηθεί από τις πραγματικές ειδήσεις.
Ένα άρθρο που δημιουργήθηκε από την τεχνητή νοημοσύνη αφηγήθηκε μια φτιαχτή ιστορία για τον ψυχίατρο του Μπενιαμίν Νετανιάχου, σύμφωνα με έρευνα του NewsGuard, που ισχυριζόταν ότι είχε πεθάνει και άφησε πίσω του ένα σημείωμα που υποδηλώνει τη συμμετοχή του Ισραηλινού πρωθυπουργού. Ο ψυχίατρος φαίνεται να μην υπάρχει, αλλά ο ισχυρισμός εμφανίστηκε σε ιρανική τηλεοπτική εκπομπήκαι επανακυκλοφόρησε σε αραβικούς, αγγλικούς και ινδονησιακούς ιστότοπους μέσων ενημέρωσης και διαδόθηκε από χρήστες στο TikTok, το Reddit και το Instagram.
Η αυξημένη ανατροπή του πολωτικού και παραπλανητικού περιεχομένου μπορεί να καθιστά δύσκολο να γνωρίζουμε τι είναι αλήθεια — βλάπτοντας πολιτικούς υποψηφίους, στρατιωτικούς ηγέτες και τις προσπάθειες παροχής βοήθειας. Οι ειδικοί παραπληροφόρησης είπαν ότι η ταχεία ανάπτυξη αυτών των ιστότοπων είναι ιδιαίτερα ανησυχητική στο επόμενο διάστημα για τις εκλογές του 2024.
«Ορισμένοι από αυτούς τους ιστότοπους παράγουν εκατοντάδες αν όχι χιλιάδες άρθρα την ημέρα», δήλωσε ο Jack Brewster, ερευνητής στο NewsGuard που διεξήγαγε την έρευνα. «Γι’ αυτό τον αποκαλούμε τον επόμενο μεγάλο υπερδιανομέα παραπληροφόρησης».
Η γενετική τεχνητή νοημοσύνη έχει εγκαινιάσει μια εποχή στην οποία τα chatbots, οι δημιουργοί εικόνων και κλωνοποιητές φωνής μπορεί να παράγει περιεχόμενο που φαίνεται ανθρώπινο.
Καλοντυμένοι παρουσιαστές ειδήσεων που δημιουργούνται από την τεχνητή νοημοσύνη εκτοξεύουν προ-κινεζική προπαγάνδα, που ενισχύεται από δίκτυα bot που συμπαθούν το Πεκίνο. Στη Σλοβακία, οι πολιτικοί που είναι υποψήφιοι για εκλογές βρίσκουν τις φωνές τους κλωνοποιημένες για να πουν αμφιλεγόμενα πράγματα που δεν είπαν ποτέ, ημέρες πριν οι ψηφοφόροι προσέλθουν στις κάλπες. Ένας αυξανόμενος αριθμός ιστότοπων, με γενικές ονομασίες όπως το iBusiness Day ή το Ireland Top News, μεταδίδουν ψεύτικες ειδήσεις φτιαγμένες για να φαίνονται αυθεντικές, σε δεκάδες γλώσσες από τα αραβικά έως τα ταϊλανδικά.
Οι αναγνώστες μπορούν εύκολα να ξεγελαστούν από τους ιστότοπους.
Η Global Village Space, η οποία δημοσίευσε το άρθρο για τον υποτιθέμενο ψυχίατρο του Νετανιάχου, είναι πλημμυρισμένη από άρθρα για διάφορα σοβαρά θέματα. Υπάρχουν κομμάτια που περιγράφουν τις κυρώσεις των ΗΠΑ σε Ρώσους προμηθευτές όπλων. οι επενδύσεις της Saudi Aramco στο πετρελαϊκό μεγαθήριο στο Πακιστάν. και οι ολοένα και πιο αδύναμες σχέσεις των Ηνωμένων Πολιτειών με την Κίνα.
Ο ιστότοπος περιέχει επίσης δοκίμια γραμμένα από έναν εμπειρογνώμονα δεξαμενών σκέψης στη Μέση Ανατολή, έναν δικηγόρο με σπουδές στο Χάρβαρντ και τον διευθύνοντα σύμβουλο του ιστότοπου, τον Moeed Pirzada, παρουσιαστή τηλεοπτικών ειδήσεων από το Πακιστάν. (Η Pirzada δεν απάντησε σε αίτημα για σχόλιο. Δύο συνεισφέροντες επιβεβαίωσαν ότι έχουν γράψει άρθρα που εμφανίζονται στο Global Village Space.)
Αλλά μαζί με αυτές τις συνηθισμένες ιστορίες είναι άρθρα που δημιουργούνται από την τεχνητή νοημοσύνη, είπε ο Μπρούστερ, όπως το άρθρο για τον ψυχίατρο του Νετανιάχου, το οποίο χαρακτηρίστηκε ως «σάτυρα» αφού το NewsGuard επικοινώνησε με τον οργανισμό κατά τη διάρκεια της έρευνάς του. Το NewsGuard λέει ότι η ιστορία φαίνεται να βασίζεται σε ένα σατιρικό κομμάτι που δημοσιεύτηκε τον Ιούνιο του 2010, το οποίο έκανε παρόμοιους ισχυρισμούς για τον θάνατο ενός Ισραηλινού ψυχιάτρου.
Η ύπαρξη πραγματικών και ειδήσεων που δημιουργούνται από την τεχνητή νοημοσύνη δίπλα-δίπλα κάνει παραπλανητικές ιστορίες πιο πιστευτές. «Έχετε ανθρώπους που απλά δεν είναι αρκετά μορφωμένοι στα μέσα για να ξέρουν ότι αυτό είναι ψευδές», είπε ο Τζέφρι Μπλέβινς, ειδικός στην παραπληροφόρηση και καθηγητής δημοσιογραφίας στο Πανεπιστήμιο του Σινσινάτι. «Είναι παραπλανητικό».
Ιστότοποι παρόμοιοι με το Global Village Space ενδέχεται να πολλαπλασιαστούν κατά τη διάρκεια των εκλογών του 2024, αποτελώντας έναν αποτελεσματικό τρόπο διανομής παραπληροφόρησης, είπαν ειδικοί στα μέσα ενημέρωσης και την τεχνητή νοημοσύνη.
Οι τοποθεσίες λειτουργούν με δύο τρόπους, είπε ο Brewster. Ορισμένες ιστορίες δημιουργούνται με μη αυτόματο τρόπο, με τους ανθρώπους να ζητούν από τα chatbots άρθρα που ενισχύουν μια συγκεκριμένη πολιτική αφήγηση και να δημοσιεύουν το αποτέλεσμα σε έναν ιστότοπο. Η διαδικασία μπορεί επίσης να είναι αυτόματη, με web scrapers να αναζητούν άρθρα που περιέχουν συγκεκριμένες λέξεις-κλειδιά και να τροφοδοτούν αυτές τις ιστορίες σε ένα μεγάλο γλωσσικό μοντέλο που τις ξαναγράφει ώστε να ακούγονται μοναδικά και να αποφεύγουν τους ισχυρισμούς λογοκλοπής. Το αποτέλεσμα δημοσιεύεται αυτόματα στο διαδίκτυο.
Το NewsGuard εντοπίζει ιστότοπους που δημιουργούνται από AI σαρώνοντας μηνύματα σφάλματος ή άλλη γλώσσα που «υποδεικνύει ότι το περιεχόμενο παρήχθη από εργαλεία τεχνητής νοημοσύνης χωρίς επαρκή επεξεργασία», λέει ο οργανισμός.
Τα κίνητρα για τη δημιουργία αυτών των τοποθεσιών ποικίλλουν. Ορισμένα έχουν σκοπό να επηρεάσουν τις πολιτικές πεποιθήσεις ή να προκαλέσουν καταστροφές. Άλλοι ιστότοποι παράγουν πολωτικό περιεχόμενο για να προσελκύσουν κλικ και να αποσπάσουν έσοδα από διαφημίσεις, είπε ο Brewster. Αλλά η δυνατότητα υπερσυμπίεσης ψεύτικο περιεχόμενο είναι ένας σημαντικός κίνδυνος για την ασφάλεια, πρόσθεσε.
Η τεχνολογία τροφοδοτεί εδώ και καιρό την παραπληροφόρηση. Ενόψει των εκλογών του 2020, οι φάρμες τρολ της Ανατολικής Ευρώπης – επαγγελματικές ομάδες που προωθούν την προπαγάνδα – δημιούργησαν μεγάλο κοινό στο Facebook διαδίδοντας προκλητικό περιεχόμενο σε σελίδες μαύρων και χριστιανικών ομάδων, φτάνοντας 140 εκατομμύρια χρήστες κάθε μήνα.
Δημοσιογραφικές ιστοσελίδες Pink-slime, που πήραν το όνομά τους από το υποπροϊόν του κρέατος, εμφανίζονται συχνά σε μικρές πόλεις όπου τα τοπικά ειδησεογραφικά πρακτορεία έχουν εξαφανιστεί, δημιουργώντας άρθρα που ωφελούν τους χρηματοδότες που χρηματοδοτούν την επιχείρηση, σύμφωνα με την Poynter.
Αλλά ο Blevins είπε ότι αυτές οι τεχνικές είναι πιο εντατικές σε πόρους σε σύγκριση με την τεχνητή νοημοσύνη. «Ο κίνδυνος είναι το εύρος και η κλίμακα με την τεχνητή νοημοσύνη… ειδικά όταν συνδυάζονται με πιο εξελιγμένους αλγόριθμους», είπε. «Είναι ένας πόλεμος πληροφοριών σε κλίμακα που δεν έχουμε ξαναδεί».
Δεν είναι σαφές εάν οι υπηρεσίες πληροφοριών χρησιμοποιούν ειδήσεις που δημιουργούνται από την τεχνητή νοημοσύνη για εκστρατείες ξένης επιρροής, αλλά είναι μια μεγάλη ανησυχία. «Δεν θα ήμουν καθόλου σοκαρισμένος που θα χρησιμοποιηθεί – σίγουρα τον επόμενο χρόνο με τις εκλογές», είπε ο Μπρούστερ. «Είναι δύσκολο να μην δεις κάποιον πολιτικό να δημιουργεί έναν από αυτούς τους ιστότοπους για να παράγει χνουδωτό περιεχόμενο για αυτούς και παραπληροφόρηση για τον αντίπαλό του.
Ο Blevins είπε ότι οι άνθρωποι θα πρέπει να προσέχουν για ενδείξεις σε άρθρα, «κόκκινες σημαίες» όπως «πραγματικά περίεργη γραμματική» ή λάθη σε κατασκευή πρότασης. Αλλά το πιο αποτελεσματικό εργαλείο είναι η αύξηση της παιδείας στα μέσα επικοινωνίας μεταξύ των μέσων αναγνωστών.
«Ενημερώστε τους ανθρώπους ότι υπάρχουν τέτοιου είδους ιστότοποι που υπάρχουν εκεί έξω. Αυτό είναι το είδος της ζημιάς που μπορούν να προκαλέσουν», είπε. «Αλλά αναγνωρίστε επίσης ότι δεν είναι όλες οι πηγές εξίσου αξιόπιστες. Ακριβώς επειδή κάτι ισχυρίζεται ότι είναι ειδησεογραφικός ιστότοπος δεν σημαίνει ότι έχουν στην πραγματικότητα έναν δημοσιογράφο… που παράγει περιεχόμενο».
Ο κανονισμός, πρόσθεσε, είναι σε μεγάλο βαθμό ανύπαρκτος. Μπορεί να είναι δύσκολο για τις κυβερνήσεις να περιορίσουν το περιεχόμενο ψευδών ειδήσεων, από φόβο μήπως προσκρούσουν στην προστασία της ελευθερίας του λόγου. Αυτό το αφήνει στις εταιρείες κοινωνικής δικτύωσης, οι οποίες δεν έχουν κάνει καλή δουλειά μέχρι στιγμής.
Είναι αδύνατο να αντιμετωπίσουμε γρήγορα τον τεράστιο αριθμό τέτοιων τοποθεσιών. «Μοιάζει πολύ με το να παίζεις παιχνιδάκι», είπε ο Blevins.
«Εντοπίζεις ένα [site], το κλείνεις και δημιουργείται άλλος κάπου αλλού», πρόσθεσε. «Δεν πρόκειται ποτέ να το προλάβεις πλήρως».