Σκόπιμη διαρροή δεδομένων σε AI

Πολλές εταιρείες διστάζουν να αγκαλιάσουν την τεχνητή νοημοσύνη επειδή φοβούνται ότι οι κινητήρες τεχνητής νοημοσύνης θα εκθέσουν τα ιδιόκτητα δεδομένα τους σε άλλες εταιρείες, συμπεριλαμβανομένων των ανταγωνιστών. Ταυτόχρονα, ορισμένες εταιρείες επιθυμούν να εισάγουν σκόπιμα τα δεδομένα τους σε κινητήρες τεχνητής νοημοσύνης ως μέρος της δημιουργίας επωνυμίας. Είναι αυτή μια ευκαιρία δισεκατομμυρίων δολαρίων ή ένα (άλλο) μοιραίο ελάττωμα στην εξέλιξη της τεχνητής νοημοσύνης;

Αυτή η αντίθετη ιδέα προέκυψε κατά τη διάρκεια μιας συζήτησης που διοργάνωσε ο Επόμενη Πρόσβασημια εταιρεία συμβούλων που συμβουλεύει τους πελάτες σχετικά με τον καλύτερο τρόπο χρήσης της τεχνητής νοημοσύνης για να βελτιώσουν τις στρατηγικές τους για τη διάθεση προϊόντων στην αγορά και τη δημιουργία εσόδων.

Επιτρέψτε μου να ξεκινήσω από την αρχή. Με απλά λόγια, ένας κινητήρας AI έχει δύο εξαρτήματα. Το πρώτο είναι μια εκτεταμένη βάση δεδομένων περιεχομένου, που ονομάζεται μοντέλο μεγάλων γλωσσών (LLM), που περιέχει όλες τις πληροφορίες που μπορεί να βρει η εταιρεία τεχνητής νοημοσύνης. Αυτό περιλαμβάνει όλη τη Wikipedia, τους New York Times και άλλο δημοσίως διαθέσιμο περιεχόμενο. (Υπάρχει σοβαρή και αυξανόμενη διαμάχη σχετικά με τις παραβιάσεις πνευματικών δικαιωμάτων, αλλά αυτό είναι ένα θέμα για άλλη φορά.)

Το δεύτερο στοιχείο μιας μηχανής AI είναι ένας αλγόριθμος που χρησιμοποιεί τα δεδομένα LLM για να συνθέσει απαντήσεις σε ερωτήματα. Αν ζητήσω από μια μηχανή τεχνητής νοημοσύνης να ολοκληρώσει την πρόταση, “Ο σκύλος έτρεξε μέχρι το…”, ο αλγόριθμος ελέγχει το LLM για να δει πόσο συχνά υπάρχει ήδη αυτό το τμήμα και ποιες λέξεις ολοκληρώνουν συνήθως την πρόταση. Στη συνέχεια δίνει στον χρήστη τη στατιστικά πιο πιθανή επόμενη λέξη. Σε αυτήν την περίπτωση, το “hill” είναι μια τυπική απάντηση, ενώ το “casserole” όχι.

Μια εταιρεία που προσπαθεί να αξιοποιήσει την τεχνητή νοημοσύνη μπορεί να ξεκινήσει κάνοντας ερωτήσεις. Για παράδειγμα, μια εταιρεία ρούχων μπορεί να ρωτήσει: “Ποια είναι η τελευταία τάση στα ανδρικά υποδήματα;” Ωστόσο, και μόνο κάνοντας αυτήν την ερώτηση, ο κινητήρας AI γνωρίζει ότι η εταιρεία ρούχων σκέφτεται ένα νέο προϊόν στην κατηγορία, κάτι που είναι πληροφορίες που η εταιρεία θα ήθελε να κρύψει από τους ανταγωνιστές της.

Μια πολύ πιο αποτελεσματική χρήση της τεχνητής νοημοσύνης θα έκανε την εταιρεία να ανεβάσει ορισμένα από τα δεδομένα της –αντιδράσεις πελατών ή ιστορικό πωλήσεων– και στη συνέχεια να ζητήσει από τη μηχανή AI να βρει μοτίβα και να τα συγκρίνει με οποιαδήποτε άλλη πληροφορία στο LLM της. Ωστόσο, πολλές μηχανές τεχνητής νοημοσύνης προσθέτουν τα μεταφορτωμένα εταιρικά δεδομένα στα LLM τους, έτσι ώστε ένα άτομο από άλλη εταιρεία με ακριβώς τη σωστή ερώτηση να μπορεί να δημιουργήσει μια απάντηση που αποκαλύπτει αυτά τα δεδομένα. Παρόλο που οι περισσότερες εταιρείες τεχνητής νοημοσύνης έχουν πολιτικές και άλλες προστασίες για την προστασία από αυτή τη διαρροή δεδομένων, σε αρκετές πρόσφατες μελέτες, το 60-75% των εταιρειών έχουν απαγορεύσει τη χρήση της τεχνητής νοημοσύνης επειδή ανησυχούν ότι αυτές οι προστασίες είναι ανεπαρκείς. (Υπάρχουν πολλοί άλλοι λόγοι για τους οποίους οι εταιρείες διστάζουν, αλλά το απόρρητο δεδομένων κατατάσσεται σταθερά στην κορυφή.)

Παρά αυτές τις εταιρικές απαγορεύσεις, υποψιάζομαι ότι κάθε εταιρεία στον κόσμο έχει τουλάχιστον έναν υπάλληλο που έχει χρησιμοποιήσει μηχανή τεχνητής νοημοσύνης –ίσως σε προσωπικό υπολογιστή χωρίς εταιρική σχέση– για να λύσει ένα επιχειρηματικό πρόβλημα.

Στο Επόμενη Πρόσβαση συζήτηση σε πάνελ, ένας συμμετέχων διευθύνει μια εταιρεία συμβούλων. Σε ευθεία αντίθεση με τις περισσότερες άλλες εταιρείες, λαχταρά ενεργά να εισαγάγει τα δεδομένα της εταιρείας της σε LLM, ειδικά αν μπορεί να συνδεθεί με κάποιο τρόπο με το εμπορικό σήμα της εταιρείας της. Εάν κάποιος υποβάλει ένα ερώτημα σε μια μηχανή τεχνητής νοημοσύνης όπου τα δεδομένα της εταιρείας της θα βελτίωναν την απόκριση, θέλει ο ερωτών να δει την εταιρεία της ως την πηγή της σοφίας, ελπίζοντας ότι μπορεί να οδηγήσει σε νέες δεσμεύσεις πελατών.

Η τοποθέτηση της σοφίας και της επωνυμίας μιας εταιρείας μπροστά σε όσους αναζητούν πληροφορίες δεν είναι μια νέα ιδέα. Η Βελτιστοποίηση για Μηχανές Αναζήτησης (SEO) είναι η πρακτική να γίνεται ο ιστότοπος μιας εταιρείας πιο διαθέσιμος σε μηχανές αναζήτησης όπως η Google, έτσι ώστε ο σύνδεσμος ιστού της εταιρείας να εμφανίζεται σε περισσότερα ερωτήματα της Google. Αυτή η πρακτική έχει δημιουργήσει μια ολόκληρη βιομηχανία συμβουλευτικών και τεχνολογικών εταιρειών που μπορούν να βοηθήσουν τις επωνυμίες να σχεδιάσουν τους ιστότοπούς τους για μέγιστη ορατότητα στα εργαλεία σάρωσης της Google. Οι εταιρείες μπορούν ακόμη και να πληρώσουν στην Google για να εμφανίζεται ο σύνδεσμος ιστού τους στην κορυφή της σελίδας για σχετικά ερωτήματα. Είναι σημαντικό ότι αυτά τα “χορηγούμενα” αποτελέσματα επισημαίνονται με σαφήνεια, ώστε ο ταξιδιώτης στο διαδίκτυο να γνωρίζει ποιες απαντήσεις Google βασίζονται σε οργανικό περιεχόμενο και ποιες σε εταιρικές πληρωμές.

Η Google μας έχει εκπαιδεύσει όλους να γνωρίζουμε ότι τα αποτελέσματα από τη μηχανή αναζήτησής της δεν παρέχουν απαραίτητα τη σωστή —ή ακόμα και την καλύτερη— απάντηση στην ερώτηση. Το να κάνετε κλικ σε πολλαπλούς συνδέσμους για να σαρώσετε τους ιστότοπους προέλευσης έχει γίνει μια συνηθισμένη, αναμενόμενη ρουτίνα για όσους αναζητούν τον ιστό.

Οι χρήστες κινητήρων AI έχουν αυτήν τη στιγμή διαφορετικές προσδοκίες. Υποθέτουν ότι ο κινητήρας AI παρέχει την καλύτερη δυνατή απάντηση. Ακόμη και τα γνωστά ελαττώματα της τεχνητής νοημοσύνης, όπως η προκατάληψη και οι παραισθήσεις, γίνονται λιγότερο συχνά σε νέους, πιο ισχυρούς κινητήρες τεχνητής νοημοσύνης. Η εμπιστοσύνη των χρηστών στην ακρίβεια AI αυξάνεται.

Η έλξη πρόσθετων εσόδων θα πείσει τις εταιρείες τεχνητής νοημοσύνης να αποκαλύψουν μερικά από τα αλγοριθμικά μυστικά τους για να δημιουργήσουν έναν κλάδο βελτιστοποίησης μηχανών AI (AEO), έτσι ώστε οι εταιρείες να μπορούν να αναδιατάξουν τα δεδομένα τους με τρόπο που είναι ιδιαίτερα εύκολο για τις εταιρείες τεχνητής νοημοσύνης τα LLM και να αυξηθεί η πιθανότητα αναφοράς στα δεδομένα και το εμπορικό σήμα της εταιρείας στις απαντήσεις AI στα ερωτήματα των χρηστών; Θα προσφέρουν οι μηχανές τεχνητής νοημοσύνης πληρωμένη τοποθέτηση (ιδανικά με μια σημείωση περιεχομένου χορηγίας) σε επωνυμίες που επιδιώκουν να εμφανίζονται στις απαντήσεις AI;

Και πώς θα αντιδράσουν οι χρήστες AI; Θα εκτιμήσουν πιο σχετικές, συγκεκριμένες απαντήσεις; Ή θα αμφισβητήσουν την αντικειμενικότητα και την ουδετερότητα της εταιρείας AI; Αυτά τα ανοιχτά ερωτήματα καταδεικνύουν ότι η τεχνητή νοημοσύνη είναι και σε αντίθεση με τα προηγούμενα τεχνολογικά εργαλεία και, ως εκ τούτου, δεν έχει ακόμη διευθετηθεί στην πορεία που θα ακολουθήσει. Μείνετε συντονισμένοι.