Το chatbot τεχνητής νοημοσύνης του X, Grok, δημιούργησε έναν ψεύτικο πρωτοσέλιδο τάσεων σχετικά με το Ιράν που επιτίθεται στο Ισραήλ

Μια συγκλονιστική ιστορία προωθήθηκε στο «πρωτοσέλιδο» ή στο κεντρικό feed του Elon Musk’s X την Πέμπτη:

«Το Ιράν χτυπά το Τελ Αβίβ με βαρείς πυραύλους», έγραφε ο τίτλος.

Αυτό θα ήταν σίγουρα μια ανησυχητική παγκόσμια ειδησεογραφία. Νωρίτερα εκείνη την εβδομάδα, το Ισραήλ είχε διεξαχθεί αεροπορική επιδρομή στην πρεσβεία του Ιράν στη Συρία, σκοτώνοντας δύο στρατηγούς καθώς και άλλους αξιωματικούς. Τα αντίποινα από το Ιράν φαινόταν σαν ένα εύλογο γεγονός.

Όμως, υπήρχε ένα σημαντικό πρόβλημα: το Ιράν δεν επιτέθηκε στο Ισραήλ. Ο τίτλος ήταν ψεύτικος.

Ακόμη πιο ανησυχητικό, ο ψεύτικος τίτλος προφανώς δημιουργήθηκε από το επίσημο chatbot AI του X, το Grok, και στη συνέχεια προωθήθηκε από το δημοφιλές προϊόν ειδήσεων του X, Explore, την πρώτη κιόλας ημέρα μιας ενημερωμένης έκδοσης της δυνατότητας.

Το tweet μπορεί να έχει διαγραφεί

Πώς το άφησε ο Μασκ να συμβεί αυτό

Λίγα χρόνια προτού ο Έλον Μασκ αποκτήσει την πλατφόρμα, τότε γνωστή ως Twitter, η εταιρεία παρουσίασε ένα νέο χαρακτηριστικό που παρείχε γραπτό πλαίσιο για μοντέρνα θέματα. Η τεχνολογία που τροφοδοτεί τις γραπτές περιγραφές τάσεων; Του ανθρώπου.

Προηγουμένως, όταν μια ιστορία έβγαινε, οι αλγόριθμοι του Twitter έπιαναν τις σχετικές λέξεις-κλειδιά που δημοσιεύονταν και μοιράζονταν την τάση, αλλά μερικές φορές δεν ήταν προφανές γιατί ένα δεδομένο σύνολο λέξεων ήταν trending.

Όμως, το 2020, το Twitter συγκέντρωσε μια ομάδα ανθρώπινοι συντάκτες για την επιμέλεια των ειδήσεων και την τοποθέτηση των τάσεων στο πλαίσιο. Επιπλέον, τα κορυφαία tweets που εμφανίζονται σε ένα δημοφιλές θέμα δεν θα ταξινομούνται πλέον μόνο αλγοριθμικά, αλλά θα περιλαμβάνουν και ανθρώπινη επιμέλεια. Ένα χρόνο αργότερα, το Twitter συνεργαζόμενοι με το AP και το Reuters για να ενισχύσει περαιτέρω τις προσπάθειές του να παρέχει ανθρωπο-παρεχόμενο πλαίσιο σε θέματα της τάσης.

Λίγο αφότου ο Musk αγόρασε την εταιρεία τον Οκτώβριο του 2022, ωστόσο, το γραπτό πλαίσιο για τα μοντέρνα θέματα εξαφανίστηκε. Ο Μασκ είχε απολύσει τους ανθρώπινους συντάκτες του Twitter. Όπως ανέφερε το Reuters τον Νοέμβριο του 2022, «η ομάδα επιμέλειας του Twitter, η οποία ήταν υπεύθυνη για την «επισήμανση και τη δημιουργία συμφραζομένων των καλύτερων γεγονότων και ιστοριών που εκτυλίσσονται στο Twitter», είχε καταργηθεί».

Η πρόσφατα ενημερωμένη σελίδα Εξερεύνησης του X

Νωρίτερα αυτήν την εβδομάδα, μοιράστηκαν ορισμένοι λογαριασμοί θαυμαστών X, όπως το @XDaily στιγμιότυπα οθόνης της επερχόμενης σελίδας Εξερεύνησης του X επανεκκίνηση. Η σελίδα Εξερεύνηση του X περιλαμβάνει τη λίστα διαβόητων θεμάτων της πλατφόρμας μαζί με συγκεκριμένες ενότητες όπως “Ειδήσεις” και “Αθλητικά”, για να παρέχει στους χρήστες ιστορίες τάσεων σε κάθε συγκεκριμένη θεματική κατηγορία.

Το tweet μπορεί να έχει διαγραφεί

Η ενημερωμένη σελίδα Εξερεύνηση του Musk φαινόταν έτοιμη να επαναφέρει το γραπτό πλαίσιο που παρέχεται σε μοντέρνα θέματα και ιστορίες.

Στις 4 Απριλίου, το X άρχισε να κυκλοφορεί την πρόσφατα ενημερωμένη σελίδα Εξερεύνησης. Η ενημέρωση παρέχει κορυφαίες αναρτήσεις χρηστών για κάθε μεμονωμένο δημοφιλές θέμα, καθώς και μια εύληπτη περίληψη του θέματος πάνω από το περιεχόμενο του χρήστη. Στην κορυφή της σελίδας, ένας τίτλος που δημιουργήθηκε με X παρουσιάζει τις πληροφορίες στους αναγνώστες σαν να επρόκειτο να διαβάσουν ένα άρθρο σχετικά με το θέμα.

Επιπλέον, η ενημέρωση δίνει επίσης στο Explore μια νέα, περίοπτη τοποθεσία στην πλατφόρμα. Οι δημοφιλείς ιστορίες του Explore εμφανίζονται τώρα ενσωματωμένες απευθείας στη δεξιά πλαϊνή γραμμή της κύριας αρχικής σελίδας X, όπου βρισκόταν η λίστα με τα trending θέματα, την οποία βλέπουν καθημερινά εκατοντάδες εκατομμύρια καθημερινοί χρήστες του X.

Σε ένα στιγμιότυπο οθόνης που τραβήχτηκε από τη ροή του δημοφιλούς χρήστη του Twitch, Hasan Piker, η ψεύτικη επικεφαλίδα X που δημιουργείται από AI μπορεί να δει σε τάση στην πλαϊνή γραμμή της αρχικής σελίδας της πλατφόρμας.
Credit: Hasan Piker’s Twitch

Ωστόσο, ο Μασκ δεν επανέφερε την ομάδα επιμέλειας του Twitter, ούτε έχει προσλάβει νέους ανθρώπινους συντάκτες για να γράψουν το πλαίσιο που παρέχει τώρα το Χ.

Το πλαίσιο είναι γραμμένο από το chatbot AI του X, Grok.

Ο κίνδυνος του Χ ανάλογα με το AI

Γνωρίζουμε ότι το Grok, ένα χαρακτηριστικό AI σε μεγάλο βαθμό προωθούνται με Μόσχοςτροφοδοτεί τις περιλήψεις με βάση τα συμφραζόμενα του X επειδή το λέει ο ίδιος με ψιλά γράμματα σε κάθε σελίδα Εξερεύνησης.

Το tweet μπορεί να έχει διαγραφεί

“Το Grok είναι ένα πρώιμο χαρακτηριστικό και μπορεί να κάνει λάθη”, αναφέρει το μικροσκοπικό σημείωμα από το X κάτω από το γραπτό πλαίσιο που παρέχεται στη σελίδα Εξερεύνηση. “Επαληθεύστε τα αποτελέσματά του.”

Το Mashable παρατήρησε τη σελίδα του X “Iran Strikes Tel Aviv with Heavy Missiles” που διέδωσε ψευδείς ειδήσεις καθώς ήταν στην τάση την Πέμπτη.

Με βάση τις παρατηρήσεις μας, φαίνεται ότι το θέμα άρχισε να γίνεται δημοφιλές λόγω μιας ξαφνικής αύξησης λογαριασμών μπλε σημάδι επιλογής (χρήστες που πληρώνουν μηνιαία συνδρομή στο X για λειτουργίες Premium, συμπεριλαμβανομένου του σήματος επαλήθευσης) που στέλνουν ανεπιθύμητα την ίδια παραπληροφόρηση αντιγραφής και επικόλλησης σχετικά με την επίθεση στο Ιράν Ισραήλ. Οι επιμελημένες αναρτήσεις που παρέχονται από το X ήταν γεμάτες από αυτούς τους επαληθευμένους λογαριασμούς που διαδίδουν αυτές τις ψεύτικες ειδήσεις μαζί με ένα μη επαληθευμένο βίντεο που απεικονίζει εκρήξεις.

Μια παράπλευρη σύγκριση δύο ξεχωριστών αναρτήσεων στη σελίδα X Explore που εμφανίζει ψευδείς αναρτήσεις ειδήσεων από χρήστες blue check που ενημέρωσαν τον Grok.
Πίστωση: Mashable screenshot

Από εκεί, φαίνεται ότι οι αλγόριθμοι του X παρατήρησαν μια πιθανή τάση ιστορίας στις αναρτήσεις αυτών των χρηστών και δημιουργήθηκε μια σελίδα Εξερεύνηση ιστορίας. Μπορούμε να συμπεράνουμε από τους ισχυρισμούς του ίδιου του X σχετικά με τις εσωτερικές του λειτουργίες ότι ο Grok πρέπει να δημιούργησε μια γραπτή αφήγηση με επίσημη εμφάνιση, μαζί με έναν πιασάρικο τίτλο. Τα έκανε όλα αυτά με βάση επιλεγμένους χρήστες που μοιράζονται ψεύτικες ειδήσεις, σε μια αυτοματοποιημένη προσπάθεια να παράσχει το πλαίσιο για αυτό που η ίδια η πλατφόρμα φαινόταν να υποθέτει ότι ήταν μια πραγματική ιστορία.

Αυτό δεν θα ήταν η πρώτη φορά Ο Grok παρείχε στους χρήστες παραπληροφόρηση. Προηγούμενες αναφορές σχετικά με τις πρώτες εκδόσεις του chatbot του X διαπίστωσαν ότι συχνά δημιουργούσε ψευδείς ειδήσεις σε ιδιωτικές συνομιλίες με τους λίγους επιλεγμένους χρήστες που είχαν πρόσβαση σε αυτό. Ωστόσο, αυτό το πρόσφατο περιστατικό σε συνδυασμό με τη νέα δυνατότητα Εξερεύνησης παρουσιάζει την πρώτη φορά που ο X πήρε την παραπληροφόρηση του Grok, τη συσκεύασε ως μια πραγματική δημοσιογραφική είδηση ​​και την προώθησε σε ολόκληρη τη βάση χρηστών της, φαινομενικά ως πλαίσιο για ένα πραγματικό γεγονός.

Υπό τον Μασκ, η παραπληροφόρηση έχει εκτοξεύτηκε στα ύψη στην πλατφόρμα γνωστή ως X. Χάρη στο νέο προϊόν Explore, η εταιρεία προώθησε ένα ψέμα, που διαδόθηκε πληρώνοντας κακούς ηθοποιούς που θέλουν να βγάλουν λεφτά με αντάλλαγμα τη δημιουργία δεσμεύσεων.

Μια μέρα αφότου ο Grok δημιούργησε αυτήν την ψεύτικη ιστορία που η X στη συνέχεια προώθησε μέσω της σελίδας του Explore, της εταιρείας έλασης Απευθυνθείτε σε όλους τους χρήστες X που είναι εγγεγραμμένοι στο Premium, ώστε να μπορούν να χρησιμοποιήσουν και το chatbot AI που δημιουργεί παραπληροφόρηση.

Το tweet μπορεί να έχει διαγραφεί