- Η OpenAI διόρισε τον πρώην διευθυντή της NSA Paul Nakasone στο διοικητικό συμβούλιο της.
- Η πρόσληψη του Nakasone στοχεύει να ενισχύσει την ασφάλεια της τεχνητής νοημοσύνης, αλλά εγείρει ανησυχίες σχετικά με την παρακολούθηση.
- Η ομάδα εσωτερικής ασφάλειας της εταιρείας έχει επίσης ουσιαστικά διαλυθεί.
Υπάρχουν ανατριχιαστικοί μυστικοί φρουροί ασφαλείας έξω το γραφείο του. Μόλις διόρισε έναν πρώην διευθυντή της NSA στο διοικητικό της συμβούλιο. Και η εσωτερική ομάδα εργασίας της που είχε σκοπό να προωθήσει την ασφαλή χρήση της τεχνητής νοημοσύνης έχει ουσιαστικά διαλύσει.
Το OpenAI αισθάνεται λίγο λιγότερο ανοιχτό κάθε μέρα.
Στην τελευταία της κίνηση, η εταιρεία είπε την Παρασκευή είχε διορίσει τον πρώην διευθυντή της NSA Paul Nakasone στο διοικητικό συμβούλιο της.
Εκτός από την ηγεσία της NSA, ο Nakasone ήταν επικεφαλής της Διοίκησης Κυβερνοχώρου των ΗΠΑ – του τμήματος κυβερνοασφάλειας του Υπουργείου Άμυνας. Η OpenAI λέει ότι η πρόσληψη της Nakasone αντιπροσωπεύει τη «δέσμευσή της για ασφάλεια και ασφάλεια» και τονίζει τη σημασία της κυβερνοασφάλειας καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται.
“Η αφοσίωση του OpenAI στην αποστολή του ευθυγραμμίζεται στενά με τις δικές μου αξίες και την εμπειρία μου στη δημόσια υπηρεσία”, δήλωσε ο Nakasone σε μια δήλωση. «Ανυπομονώ να συνεισφέρω στις προσπάθειες του OpenAI να διασφαλίσει ότι η τεχνητή γενική νοημοσύνη είναι ασφαλής και ωφέλιμη για τους ανθρώπους σε όλο τον κόσμο».
Αλλά οι επικριτές ανησυχούν ότι η πρόσληψη του Nakasone μπορεί να αντιπροσωπεύει κάτι άλλο: την επιτήρηση.
Έντουαρντ Σνόουντεν, ο αμερικανός πληροφοριοδότης που διέρρευσαν απόρρητα έγγραφα σχετικά με την επιτήρηση το 2013, είπε στο α ανάρτηση στο Χ ότι η πρόσληψη του Nakasone ήταν μια «υπολογισμένη προδοσία στα δικαιώματα κάθε ανθρώπου στη Γη».
«Έχουν κάνει πλήρη μάσκα: μην εμπιστεύεστε ποτέ το OpenAI ή τα προϊόντα του (ChatGPT κ.λπ.)» έγραψε ο Σνόουντεν.
Σε ένα άλλο σχόλιο στο ΧΟ Σνόουντεν είπε ότι «η διασταύρωση της τεχνητής νοημοσύνης με τον ωκεανό των δεδομένων μαζικής επιτήρησης που συσσωρεύονται τις τελευταίες δύο δεκαετίες θα θέσει πραγματικά τρομερές δυνάμεις στα χέρια λίγων ακαταλόγιστων».
Ο γερουσιαστής Mark Warner, Δημοκρατικός από τη Βιρτζίνια και επικεφαλής της Επιτροπής Πληροφοριών της Γερουσίας, από την άλλη πλευρά, περιέγραψε την πρόσληψη του Nakasone ως «τεράστια επιτυχία».
“Δεν υπάρχει κανένας στην κοινότητα ασφαλείας, γενικά, αυτός είναι πιο σεβαστός,” Warner είπε ο Αξιός.
Η τεχνογνωσία του Nakasone στην ασφάλεια μπορεί να χρειαστεί στο OpenAI, όπου οι επικριτές ανησυχούν ότι ζητήματα ασφάλειας θα μπορούσαν να το ανοίξουν σε επιθέσεις.
Η OpenAI απέλυσε το πρώην μέλος του διοικητικού συμβουλίου Leopold Aschenbrenner τον Απρίλιο, αφού έστειλε ένα υπόμνημα που περιγράφει λεπτομερώς ένα «μείζον περιστατικό ασφαλείαςΠεριέγραψε την ασφάλεια της εταιρείας ως «εξαιρετικά ανεπαρκή» για την προστασία από κλοπές από ξένους παράγοντες.
Λίγο αργότερα, η ομάδα υπερευθυγράμμισης του OpenAI – η οποία επικεντρώθηκε στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης συμβατά με τα ανθρώπινα συμφέροντα – διαλύθηκε απότομα μετά από δύο από τις Οι περισσότεροι επιφανείς ερευνητές ασφάλειας παραιτήθηκαν.
Ο Jan Leike, ένας από τους ερευνητές που αποχώρησαν, είπε ότι «διαφωνούσε με την ηγεσία του OpenAI σχετικά με τις βασικές προτεραιότητες της εταιρείας εδώ και αρκετό καιρό».
Ο Ilya Sutskever, ο επικεφαλής επιστήμονας του OpenAI που ξεκίνησε αρχικά την ομάδα υπερευθυγράμμισης, ήταν πιο επιφυλακτικός σχετικά με τους λόγους της αποχώρησής του. Αλλά είπαν οι γνώστες της εταιρείας βρισκόταν σε κλονισμένο έδαφος λόγω του ρόλου του στην αποτυχημένη ανατροπή του CEO Sam Altman. Ο Sutskever αποδοκίμασε την επιθετική προσέγγιση του Altman στην ανάπτυξη της τεχνητής νοημοσύνης, η οποία τροφοδότησε τη μάχη για την εξουσία τους.
Και αν όλα αυτά δεν ήταν αρκετά, ακόμη και ντόπιοι που ζουν και εργάζονται κοντά στο γραφείο του OpenAI στο Σαν Φρανσίσκο λένε ότι η εταιρεία αρχίζει να τους παρασύρει. Το είπε ένας ταμίας σε ένα γειτονικό κατάστημα κατοικίδιων ζώων Το Πρότυπο του Σαν Φρανσίσκο ότι το γραφείο έχει μια «μυστική ατμόσφαιρα».
Αρκετοί εργαζόμενοι σε γειτονικές επιχειρήσεις λένε ότι άνδρες που μοιάζουν με μυστικούς φύλακες στέκονται έξω από το κτίριο, αλλά δεν λένε ότι εργάζονται για το OpenAI.
“[OpenAI] δεν είναι κακός γείτονας», είπε ένας. «Αλλά είναι μυστικοπαθείς».