Ορισμένοι υποστηρικτές της ιδιωτικής ζωής λένε ότι είναι τρομοκρατημένοι από την ανακοίνωση της Google αυτή την εβδομάδα ότι δοκιμάζει έναν τρόπο να σαρώνει τις τηλεφωνικές κλήσεις των ανθρώπων σε πραγματικό χρόνο για ενδείξεις οικονομικών απατών.
Η Google αποκάλυψε την ιδέα την Τρίτη στο Google I/O, το συνέδριό της για προγραμματιστές λογισμικού. Ο Dave Burke, αντιπρόεδρος της Google για θέματα μηχανικής, είπε ότι η εταιρεία δοκιμάζει μια λειτουργία που χρησιμοποιεί τεχνητή νοημοσύνη για να ανιχνεύει μοτίβα που σχετίζονται με απάτες και στη συνέχεια να ειδοποιεί τους χρήστες τηλεφώνων Android όταν υπάρχουν υπόνοιες απάτες.
Μπερκ περιέγραψε την ιδέα ως χαρακτηριστικό ασφαλείας και παρείχε ένα παράδειγμα. Στη σκηνή, έλαβε μια κλήση επίδειξης από κάποιον που υποδύθηκε μια τράπεζα και του πρότεινε να μεταφέρει τις αποταμιεύσεις του σε έναν νέο λογαριασμό για να τον κρατήσει ασφαλή. Το τηλέφωνο του Μπερκ έλαμψε μια ειδοποίηση: “Πιθανή απάτη: Οι τράπεζες δεν θα σας ζητήσουν ποτέ να μετακινήσετε τα χρήματά σας για να τα διατηρήσετε ασφαλή”, με μια επιλογή τερματισμού της κλήσης.
«Το Gemini Nano με ειδοποιεί τη στιγμή που ανιχνεύει ύποπτη δραστηριότητα», είπε ο Burke, χρησιμοποιώντας το όνομα ενός μοντέλου τεχνητής νοημοσύνης που αναπτύχθηκε από την Google. Δεν διευκρίνισε ποια σήματα χρησιμοποιεί το λογισμικό για να προσδιορίσει ότι μια συνομιλία είναι ύποπτη.
Η διαδήλωση απέσπασε χειροκροτήματα από το κοινό του συνεδρίου στο Mountain View της Καλιφόρνια, αλλά ορισμένοι υποστηρικτές της ιδιωτικής ζωής είπαν ότι η ιδέα απειλούσε να ανοίξει το κουτί της Πανδώρας καθώς οι εταιρείες τεχνολογίας συναγωνίζονται ο ένας τον άλλον σε λειτουργίες με δυνατότητα AI για τους καταναλωτές. Σε συνεντεύξεις και σε δηλώσεις στο διαδίκτυο, είπαν ότι υπήρχαν πολλοί τρόποι κατάχρησης του λογισμικού ιδιωτικές εταιρείες επιτήρησηςκυβερνητικούς πράκτορες, καταδιώκτες ή άλλους που μπορεί να θέλουν να κρυφακούουν τις τηλεφωνικές κλήσεις άλλων ανθρώπων.
Ο Burke είπε επί σκηνής ότι η λειτουργία δεν θα μεταφέρει δεδομένα από τηλέφωνα, παρέχοντας αυτό που είπε ήταν ένα επίπεδο πιθανής προστασίας «έτσι η επεξεργασία ήχου παραμένει εντελώς ιδιωτική».
Ωστόσο, οι υποστηρικτές του απορρήτου είπαν ότι η επεξεργασία στη συσκευή θα μπορούσε να είναι ακόμα ευάλωτη σε εισβολή αποφασιστικών χάκερ, γνωστών με πρόσβαση σε τηλέφωνα ή κυβερνητικών αξιωματούχων με κλήσεις που απαιτούν αρχεία ήχου ή μεταγραφές.
Ο Burke δεν είπε τι είδους ελέγχους ασφαλείας θα είχε η Google και η Google δεν απάντησε σε αιτήματα για πρόσθετες πληροφορίες.
«Τζ. Ο Edgar Hoover θα ζήλευε», δήλωσε ο Albert Fox Cahn, εκτελεστικός διευθυντής του Surveillance Technology Oversight Project, μιας ομάδας υπεράσπισης με έδρα τη Νέα Υόρκη. Ο Χούβερ, ο οποίος πέθανε το 1972, ήταν διευθυντής του FBI για δεκαετίες και χρησιμοποιημένες υποκλοπές εκτενώς, συμπεριλαμβανομένου του αριθμού των πολιτικών δικαιωμάτων.
Ο Cahn είπε ότι οι επιπτώσεις της ιδέας της Google ήταν «τρομακτικές», ειδικά για ευάλωτα άτομα, όπως πολιτικούς αντιφρονούντες ή άτομα που αναζητούν αμβλώσεις.
«Οι τηλεφωνικές κλήσεις που κάνουμε στις συσκευές μας μπορεί να είναι ένα από τα πιο ιδιωτικά πράγματα που κάνουμε», είπε.
«Είναι πολύ εύκολο για τους διαφημιστές να διαγράψουν κάθε αναζήτηση που κάνουμε, κάθε URL που κάνουμε κλικ, αλλά αυτό που λέμε πραγματικά στις συσκευές μας, στο μικρόφωνο, ιστορικά δεν έχει παρακολουθηθεί», είπε.
Δεν είναι σαφές πότε ή αν η Google θα εφαρμόσει την ιδέα. Ο Burke είπε στη σκηνή ότι η εταιρεία θα είχε περισσότερα να πει το καλοκαίρι. Οι εταιρείες τεχνολογίας συχνά δοκιμάζουν ιδέες που δεν δημοσιοποιούν ποτέ.
Η Google έχει ευρεία εμβέλεια στην αγορά κινητών τηλεφώνων επειδή βρίσκεται πίσω από την πιο ευρέως χρησιμοποιούμενη έκδοση του λειτουργικού συστήματος για κινητά Android. Περίπου το 43% των κινητών συσκευών στις ΗΠΑ λειτουργούν με Android και περίπου το 71% των κινητών συσκευών παγκοσμίως, σύμφωνα με το εταιρεία ανάλυσης StatCounter.
«Το Android μπορεί να σας προστατεύσει από τους κακούς, ανεξάρτητα από το πώς προσπαθούν να σας προσεγγίσουν», είπε ο Burke.
Η Meredith Whittaker, πρώην υπάλληλος της Google, ήταν μεταξύ εκείνων που επέκριναν την ιδέα ανίχνευσης απάτης. Ο Whittaker είναι τώρα πρόεδρος του Signal Foundation, μιας μη κερδοσκοπικής ομάδας που υποστηρίζει την εφαρμογή ανταλλαγής μηνυμάτων Signal με επίκεντρο το απόρρητο.
“Αυτό είναι απίστευτα επικίνδυνο,” Whittaker έγραψε στο Χ.
«Από την ανίχνευση «απατών» είναι ένα σύντομο βήμα μέχρι τον «ανίχνευση προτύπων που συνήθως σχετίζονται με την αναζήτηση αναπαραγωγικής φροντίδας» ή «που συνδέονται συνήθως με την παροχή πόρων LGBTQ» ή «που συνδέονται συνήθως με καταγγελίες εργαζομένων στον τομέα της τεχνολογίας»», έγραψε.
Όταν η Google δημοσιεύτηκε σχετικά με την ιδέα στο X, έλαβε εκατοντάδες απαντήσεις, συμπεριλαμβανομένων πολλών θετικών. Κάποιοι είπαν ότι η ιδέα ήταν έξυπνη και άλλοι είπαν ότι είχαν βαρεθεί τα συχνά τηλεφωνήματα από απατεώνες.
Αμερικανοί ηλικίας 60 ετών και άνω έχασαν 3,4 δισεκατομμύρια δολάρια πέρυσι λόγω δηλωμένης ψηφιακής απάτης, σύμφωνα με το FBI.
Οι εταιρείες τεχνολογίας έχουν μερικές φορές αντισταθεί στη σάρωση δεδομένων ανθρώπων σε στυλ dragnet. Πέρυσι η Apple απέρριψε ένα αίτημα να σαρώσει όλες τις φωτογραφίες που βασίζονται στο cloud για υλικό σεξουαλικής κακοποίησης παιδιών, λέγοντας ότι η σάρωση για έναν τύπο περιεχομένου ανοίγει την πόρτα για «μαζική παρακολούθηση», ανέφερε το περιοδικό Wired.
Ωστόσο, ορισμένες εταιρείες τεχνολογίας σαρώνουν τεράστιες ποσότητες δεδομένων για πληροφορίες που σχετίζονται με στοχευμένη διαδικτυακή διαφήμιση. Η Google σάρωνε τα μηνύματα ηλεκτρονικού ταχυδρομείου των χρηστών του Gmail που δεν πληρώνουν για διαφημιστικούς σκοπούς έως ότου τερμάτισε την πρακτική το 2017 σύμφωνα με κριτική από τους υποστηρικτές της ιδιωτικής ζωής.
Ο Kristian Hammond, καθηγητής επιστήμης υπολογιστών στο Northwestern University, είπε ότι η ιδέα σάρωσης κλήσεων της Google είναι το αποτέλεσμα ενός «πολέμου χαρακτηριστικών» στον οποίο οι μεγάλοι παίκτες της τεχνολογίας AI «προσπαθούν συνεχώς να ενωθούν ο ένας τον άλλον με το νεότερο whiz- χαρακτηριστικό bang.”
«Έχουμε αυτές τις μικρο-εκδόσεις που προχωρούν γρήγορα. Και δεν είναι απαραίτητα και δεν επικεντρώνονται στον καταναλωτή», είπε.
Είπε ότι οι εξελίξεις στα μοντέλα τεχνητής νοημοσύνης είναι θεμιτά συναρπαστικές, αλλά είπε ότι είναι ακόμη πολύ νωρίς για να δούμε ποιες ιδέες από εταιρείες τεχνολογίας θα απογειωθούν.
«Δεν έχουν καταλάβει ακόμα τι να κάνουν με αυτήν την τεχνολογία», είπε.