Η εκστρατεία των Phillips πλήρωσε στον Kramer περίπου 250.000 δολάρια για να πάρει τον Phillips, τρίτο βουλευτή από τη Μινεσότα που αμφισβητεί τον Μπάιντεν, στο ψηφοδέλτιο στη Νέα Υόρκη και την Πενσυλβάνια, σύμφωνα με τα αρχεία της ομοσπονδιακής εκστρατείας. Η Ομοσπονδιακή Επιτροπή Επικοινωνιών του έχει εκδώσει κλήτευση για την εμπλοκή του, είπε ο Κράμερ.
Μετά το robocall, η Ομοσπονδιακή Επιτροπή Επικοινωνιών εξέδωσε απόφαση ότι η διευκρίνιση της δημιουργίας φωνής με τεχνητή νοημοσύνη για αυτοματοποιημένες κλήσεις είναι παράνομη και εξέδωσε αμέσως μια επιστολή παύσης και παραίτησης στον Kramer για «δημιουργία παράνομων πλαστών κλήσεων με τεχνητή νοημοσύνη με χρήση φωνής που δημιουργήθηκε από AI στο Νιου Χάμσαϊρ» και εξέδωσε δημόσια ειδοποίηση προς παρόχους φωνής που εδρεύουν στις ΗΠΑ σχετικά με τον αποκλεισμό της κυκλοφορίας που σχετίζεται με την κλήση.
«Ο οργανισμός εργάζεται επιμελώς – συμπεριλαμβανομένων όλων των εργαλείων που είναι διαθέσιμα μέσω των ερευνών του – για να διασφαλίσει ότι η επιβλαβής κακή χρήση τεχνολογιών τεχνητής νοημοσύνης δεν θέτει σε κίνδυνο την ακεραιότητα των δικτύων επικοινωνίας μας», δήλωσε ο εκπρόσωπος της FCC, Will Wiquist.
Ο Kramer μοιράστηκε επίσης λεπτομέρειες σχετικά με τον τρόπο που δημιούργησε το robocall, επιβεβαιώνοντας αρκετές λεπτομέρειες που προηγουμένως εικαζόταν. Χρησιμοποίησε λογισμικό από την εταιρεία κλωνοποίησης φωνής τεχνητής νοημοσύνης Έντεκα Εργαστήρια να δημιουργήσει μια βαθιά ψεύτικη φωνή του Μπάιντεν σε λιγότερο από 30 λεπτά.
Οι κλήσεις, πρόσθεσε, πραγματοποιήθηκαν από τη Voice Broadcasting, μια οντότητα που σχετίζεται με τη Life Co., η οποία βρέθηκε στο επίκεντρο της ποινικής έρευνας που άνοιξε ο γενικός εισαγγελέας του Νιού Χάμσαϊρ Τζον Φορμέλα στις αρχές Φεβρουαρίου σχετικά με τη ρομποτική κλήση του Μπάιντεν. Ο Kramer είπε ότι ο λόγος που δημιούργησε το robocall ήταν για να ευαισθητοποιήσει σχετικά με τους κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη στις πολιτικές εκστρατείες.
«Αν κάποιος μπορεί να το κάνει, τι πρόκειται να κάνει ένα άτομο με πραγματικά χρήματα ή μια οντότητα με πραγματικά χρήματα;» αυτός είπε.
Το περιστατικό του Kramer υπογραμμίζει την ευκολία και την προσβασιμότητα με την οποία η τεχνολογία τεχνητής νοημοσύνης εισχωρεί στον κύκλο της εκστρατείας του 2024, επιτρέποντας σχεδόν σε οποιονδήποτε να χρησιμοποιήσει μια μεγάλη ποικιλία εργαλείων για να προκαλέσει χάος και σύγχυση στη διαδικασία ψηφοφορίας.
Προμηνύει επίσης μια νέα πρόκληση για τις κρατικές ρυθμιστικές αρχές, καθώς τα όλο και πιο προηγμένα εργαλεία τεχνητής νοημοσύνης δημιουργούν νέες ευκαιρίες για παρέμβαση στις εκλογές σε όλο τον κόσμο δημιουργώντας πλαστές ηχογραφήσεις, φωτογραφίες, ακόμη και βίντεο υποψηφίων, λασπώνοντας τα νερά της πραγματικότητας.
Η έρευνα του γενικού εισαγγελέα του Νιου Χάμσαϊρ για τη ρομποτική κλήση «παραμένει ενεργή και συνεχής», δήλωσε ο Μάικλ Γκάριτι, εκπρόσωπος του γραφείου.
Ο Phillips και η εκστρατεία του έχουν καταδικασμένος τα robocalls. Η Katie Dolan, εκπρόσωπος της καμπάνιας των Phillips, είπε ότι το συμβόλαιο του Kramer ολοκληρώθηκε πριν λάβουν γνώση της εμπλοκής του στο robocall.
«Είμαστε αηδιασμένοι που μαθαίνουμε ότι ο κ. Kramer βρίσκεται πίσω από αυτή την κλήση και καταγγέλλουμε απολύτως τις ενέργειές του», είπε. Η εμπλοκή του Kramer αναφέρθηκε για πρώτη φορά από το NBC News.
Η ρομποκλήση χρησιμοποιώντας μια φωνή που δημιουργήθηκε από AI που ακουγόταν σαν Μπάιντεν στόχευσε χιλιάδες ψηφοφόρους στο Νιου Χάμσαϊρ το Σαββατοκύριακο πριν από τις προκριματικές εκλογές των Δημοκρατικών στο Νιου Χάμσαϊρ, λέγοντάς τους ότι η ψήφος τους δεν θα έκανε τη διαφορά, σύμφωνα με τους ερευνητές.
Η κλήση, η οποία ξεκίνησε με μια φράση του Μπάιντεν, αποκαλώντας τις εκλογές «ένα μάτσο κακοήθειες», είπε στους ψηφοφόρους: «Είναι σημαντικό να αποθηκεύσετε την ψήφο σας για τις εκλογές του Νοεμβρίου». Η κλήση φάνηκε να προέρχεται από τον αριθμό της πρώην προέδρου του Δημοκρατικού Κόμματος του Νιού Χάμσαϊρ, Κάθι Σάλιβαν, η οποία βοηθούσε σε μια προσπάθεια να πειστούν οι ψηφοφόροι να γράψουν στο όνομα του Μπάιντεν για να δείξουν την υποστήριξή τους στον πρόεδρο, παρόλο που δεν ήταν στο ψηφοδέλτιο. Ο Σάλιβαν και άλλοι ανέφεραν την κλήση στον γενικό εισαγγελέα της πολιτείας.
Στις αρχές Φεβρουαρίου, η Formella ανακοίνωσε μια ποινική έρευνα για το θέμα και έστειλε στην εταιρεία τηλεπικοινωνιών, Life Corp., μια επιστολή παύσης και παραίτησης με την εντολή να σταματήσει αμέσως να παραβιάζει τους νόμους της πολιτείας κατά της καταστολής ψηφοφόρων στις εκλογές.
Μια πολυπολιτειακή ομάδα εργασίας προετοιμάστηκε επίσης για πιθανές αστικές διαφορές εναντίον της εταιρείας και η FCC διέταξε τη Lingo Telecom να σταματήσει να επιτρέπει την παράνομη κυκλοφορία ρομποτικών κλήσεων, αφού μια κοινοπραξία του κλάδου διαπίστωσε ότι η εταιρεία με έδρα το Τέξας πραγματοποίησε τις κλήσεις στο δίκτυό της.
«Μην το δοκιμάσετε», είπε ο Φορμέλλα στη συνέντευξη Τύπου του Φεβρουαρίου. «Εάν το κάνετε, θα συνεργαστούμε για να ερευνήσουμε, θα συνεργαστούμε με εταίρους σε όλη τη χώρα για να σας βρούμε και θα προβούμε σε οποιαδήποτε ενέργεια επιβολής που είναι διαθέσιμη βάσει του νόμου. Οι συνέπειες για τις πράξεις σας θα είναι σοβαρές».
Το περιστατικό ρομποτικής κλήσης είναι επίσης ένα από τα πολλά επεισόδια που υπογραμμίζουν την ανάγκη για καλύτερες πολιτικές εντός των τεχνολογικών εταιρειών για να διασφαλίσουν ότι οι υπηρεσίες τεχνητής νοημοσύνης τους δεν χρησιμοποιούνται για τη στρέβλωση των εκλογών, είπαν ειδικοί στην τεχνητή νοημοσύνη.
Στα τέλη Ιανουαρίου, ο δημιουργός του ChatGPT OpenAI απαγόρευσε σε έναν προγραμματιστή να χρησιμοποιεί τα εργαλεία του, αφού ο προγραμματιστής δημιούργησε ένα bot που μιμείται τον Phillips. Η καμπάνια του είχε υποστηρίξει το bot, αλλά μετά το The Post έχουν αναφερθεί σε αυτό, το OpenAI έκρινε ότι παραβίασε τους κανόνες κατά της χρήσης της τεχνολογίας του για καμπάνιες.
Ο Paul Barrett, αναπληρωτής διευθυντής του Κέντρου Επιχειρήσεων και Ανθρωπίνων Δικαιωμάτων του Πανεπιστημίου της Νέας Υόρκης, δήλωσε σε ένα email ότι είναι προφανές πόσο ισχυρά μπορούν να είναι τα Deepfakes της τεχνητής νοημοσύνης στη διακοπή των εκλογών. «Η νέα τεχνολογία διευκολύνει πολύ τους μη ειδικούς να παράγουν εξαιρετικά πειστικό περιεχόμενο που είναι δόλιο και μπορεί ενδεχομένως να παραπλανήσει τους ανθρώπους σχετικά με το πότε, πώς ή πού να ψηφίσουν», είπε.
Δεν είναι επίσης η πρώτη φορά που ο Kramer χρησιμοποιεί AI για να παραπλανήσει τη φωνή ενός πολιτικού. Πέρυσι, δημιούργησε μια ρομποτική κλήση του γερουσιαστή Lindsey Graham (RS.C.) που δημιουργήθηκε από την τεχνητή νοημοσύνη, ρωτώντας σχεδόν 300 «πιθανούς Ρεπουμπλικάνους» ψηφοφόρους στη Νότια Καρολίνα ποιους θα υποστήριζαν εάν ο πρώην πρόεδρος Ντόναλντ Τραμπ δεν ήταν στο ψηφοδέλτιο.
Ο Kramer, ο οποίος είπε ότι σκοπεύει να υποστηρίξει τον Μπάιντεν εάν κερδίσει την υποψηφιότητα των Δημοκρατικών, είπε ότι ελπίζει οι ενέργειές του να έχουν εμπνεύσει τις ρυθμιστικές αρχές να λάβουν υπόψη τον πιθανό αντίκτυπο της τεχνητής νοημοσύνης στις εκλογές.
«Είναι εδώ τώρα», είπε, αναφερόμενος στην τεχνητή νοημοσύνη, «και έκανα κάτι γι’ αυτό».
Η Clara Ence Morse, η Eva Dou και ο Razzan Nakhlawi συνέβαλαν σε αυτήν την έκθεση.