Συντελεστές εικόνας: TechCrunch
Για να δώσει στις γυναίκες ακαδημαϊκές και σε άλλες γυναίκες που εστιάζουν στην τεχνητή νοημοσύνη τον άξιο —και καθυστερημένο— χρόνο τους στο επίκεντρο, το TechCrunch εγκαινιάζει ένα σειρά συνεντεύξεων εστιάζοντας σε αξιόλογες γυναίκες που συνέβαλαν στην επανάσταση της τεχνητής νοημοσύνης. Θα δημοσιεύσουμε πολλά κομμάτια καθ’ όλη τη διάρκεια του έτους καθώς η άνθηση της τεχνητής νοημοσύνης συνεχίζεται, επισημαίνοντας τη βασική δουλειά που συχνά δεν αναγνωρίζεται. Διαβάστε περισσότερα προφίλ εδώ.
Η Sandra Wachter είναι καθηγήτρια και ανώτερη ερευνήτρια σε θέματα ηθικής δεδομένων, τεχνητής νοημοσύνης, ρομποτικής, αλγορίθμων και κανονισμών στο Ινστιτούτο Διαδικτύου της Οξφόρδης. Είναι επίσης πρώην συνεργάτης του Ινστιτούτου Alan Turing, του εθνικού ινστιτούτου του Ηνωμένου Βασιλείου για την επιστήμη δεδομένων και την τεχνητή νοημοσύνη.
Ενώ ήταν στο Ινστιτούτο Turing, ο Watcher αξιολόγησε τις ηθικές και νομικές πτυχές της επιστήμης των δεδομένων, επισημαίνοντας περιπτώσεις όπου οι αδιαφανείς αλγόριθμοι έχουν γίνει ρατσιστικοί και σεξιστικοί. Εξέτασε επίσης τρόπους ελέγχου της τεχνητής νοημοσύνης για την αντιμετώπιση της παραπληροφόρησης και την προώθηση της δικαιοσύνης.
Q&A
Εν συντομία, πώς ξεκινήσατε με την τεχνητή νοημοσύνη; Τι σας τράβηξε στο χώρο;
Δεν θυμάμαι κάποια στιγμή στη ζωή μου που δεν πίστευα ότι η καινοτομία και η τεχνολογία έχουν απίστευτες δυνατότητες να κάνουν τη ζωή των ανθρώπων καλύτερη. Ωστόσο, γνωρίζω επίσης ότι η τεχνολογία μπορεί να έχει καταστροφικές συνέπειες για τις ζωές των ανθρώπων. Και έτσι, πάντα με οδηγούσε – κυρίως λόγω της έντονης αίσθησης της δικαιοσύνης μου – να βρω έναν τρόπο να εγγυηθώ αυτή την τέλεια μέση λύση. Ενεργοποίηση της καινοτομίας με παράλληλη προστασία των ανθρωπίνων δικαιωμάτων.
Πάντα ένιωθα ότι το δίκαιο έχει να παίξει πολύ σημαντικό ρόλο. Ο νόμος μπορεί να είναι ο ενδιάμεσος τρόπος που προστατεύει τους ανθρώπους αλλά επιτρέπει την καινοτομία. Η Νομική ως πειθαρχία μου ήρθε πολύ φυσικά. Μου αρέσουν οι προκλήσεις, μου αρέσει να καταλαβαίνω πώς λειτουργεί ένα σύστημα, να δω πώς μπορώ να το παίξω, να βρω κενά και στη συνέχεια να τα κλείσω.
Το AI είναι μια απίστευτα μεταμορφωτική δύναμη. Εφαρμόζεται στα οικονομικά, την απασχόληση, την ποινική δικαιοσύνη, τη μετανάστευση, την υγεία και την τέχνη. Αυτό μπορεί να είναι καλό και κακό. Και το αν είναι καλό ή κακό είναι θέμα σχεδιασμού και πολιτικής. Φυσικά με τράβηξε γιατί ένιωσα ότι η νομοθεσία μπορεί να συμβάλει ουσιαστικά στη διασφάλιση ότι η καινοτομία ωφελεί όσο το δυνατόν περισσότερους ανθρώπους.
Για ποια δουλειά είστε περισσότερο περήφανοι (στον τομέα της τεχνητής νοημοσύνης);
Νομίζω ότι το έργο για το οποίο είμαι περισσότερο περήφανος αυτή τη στιγμή είναι ένα έργο που συνυπογράφει ο Brent Mittelstadt (φιλόσοφος), ο Chris Russell (επιστήμονας υπολογιστών) και εμένα ως δικηγόρο.
Η τελευταία μας δουλειά για την προκατάληψη και τη δικαιοσύνη, “Η αδικία της δίκαιης μηχανικής μάθησης», αποκάλυψε τον επιβλαβή αντίκτυπο της επιβολής πολλών μέτρων «ομαδικής δικαιοσύνης» στην πράξη. Συγκεκριμένα, η δικαιοσύνη επιτυγχάνεται με το να «ισοπεδώνουμε» ή να κάνουμε τους πάντες χειρότερα, αντί να βοηθάμε τις μειονεκτούσες ομάδες. Αυτή η προσέγγιση είναι πολύ προβληματική στο πλαίσιο του δικαίου της ΕΕ και του Ηνωμένου Βασιλείου για την απαγόρευση των διακρίσεων, καθώς και ηθικά προβληματική. Σε ένα κομμάτι σε Wired Συζητήσαμε πόσο επιβλαβής μπορεί να είναι η ισοπέδωση στην πράξη — στην υγειονομική περίθαλψη, για παράδειγμα, η επιβολή ομαδικής δικαιοσύνης θα μπορούσε να σημαίνει την απώλεια περισσότερων περιπτώσεων καρκίνου από ό,τι είναι απολύτως απαραίτητο, ενώ παράλληλα καθιστά ένα σύστημα λιγότερο ακριβές συνολικά.
Για εμάς αυτό ήταν τρομακτικό και κάτι που είναι σημαντικό να γνωρίζουν οι άνθρωποι της τεχνολογίας, της πολιτικής και πραγματικά κάθε άνθρωπος. Στην πραγματικότητα, έχουμε συνεργαστεί με ρυθμιστικές αρχές του Ηνωμένου Βασιλείου και της ΕΕ και μοιραστήκαμε μαζί τους τα ανησυχητικά μας αποτελέσματα. Ελπίζω βαθιά ότι αυτό θα δώσει στους υπεύθυνους χάραξης πολιτικής τον απαραίτητο μοχλό για την εφαρμογή νέων πολιτικών που εμποδίζουν την τεχνητή νοημοσύνη να προκαλέσει τόσο σοβαρές βλάβες.
Πώς αντιμετωπίζετε τις προκλήσεις της ανδροκρατούμενης βιομηχανίας τεχνολογίας και, κατ’ επέκταση, της ανδροκρατούμενης βιομηχανίας τεχνητής νοημοσύνης
Το ενδιαφέρον είναι ότι ποτέ δεν είδα την τεχνολογία ως κάτι που «ανήκει» στους άνδρες. Μόνο όταν ξεκίνησα το σχολείο, η κοινωνία μου είπε ότι η τεχνολογία δεν έχει χώρο για ανθρώπους σαν εμένα. Θυμάμαι ακόμα ότι όταν ήμουν 10 χρονών το πρόγραμμα σπουδών υπαγόρευε ότι τα κορίτσια έπρεπε να κάνουν πλέξιμο και ράψιμο ενώ τα αγόρια έχτιζαν σπίτια για πουλιά. Ήθελα επίσης να φτιάξω ένα σπιτάκι πουλιών και ζήτησα να με μεταφέρουν στην τάξη των αγοριών, αλλά οι δάσκαλοί μου μου είπαν ότι «τα κορίτσια δεν το κάνουν αυτό». Πήγα ακόμη και στον διευθυντή του σχολείου προσπαθώντας να ανατρέψω την απόφαση αλλά δυστυχώς απέτυχα εκείνη τη στιγμή.
Είναι πολύ δύσκολο να παλέψεις ενάντια σε ένα στερεότυπο που λέει ότι δεν πρέπει να είσαι μέρος αυτής της κοινότητας. Μακάρι να μπορούσα να πω ότι τέτοια πράγματα δεν συμβαίνουν πια, αλλά αυτό δυστυχώς δεν είναι αλήθεια.
Ωστόσο, ήμουν απίστευτα τυχερός που συνεργάστηκα με συμμάχους όπως ο Brent Mittelstadt και ο Chris Russell. Είχα το προνόμιο απίστευτων μεντόρων όπως το διδακτορικό μου. ο επόπτης και εγώ έχουμε ένα αυξανόμενο δίκτυο ομοϊδεατών ανθρώπων όλων των φύλων που κάνουν ό,τι καλύτερο μπορούν για να κατευθύνουν το μονοπάτι προς τα εμπρός για να βελτιώσουν την κατάσταση για όλους όσους ενδιαφέρονται για την τεχνολογία.
Τι συμβουλή θα δίνατε στις γυναίκες που θέλουν να εισέλθουν στον τομέα της τεχνητής νοημοσύνης;
Πάνω απ’ όλα προσπαθήστε να βρείτε ομοϊδεάτες και συμμάχους. Το να βρείτε τους ανθρώπους σας και να υποστηρίζετε ο ένας τον άλλον είναι ζωτικής σημασίας. Η πιο σημαντική δουλειά μου προέρχεται πάντα από τη συνομιλία με ανοιχτόμυαλα άτομα από άλλο υπόβαθρο και κλάδους για την επίλυση κοινών προβλημάτων που αντιμετωπίζουμε. Η αποδεκτή σοφία από μόνη της δεν μπορεί να λύσει νέα προβλήματα, επομένως οι γυναίκες και άλλες ομάδες που ιστορικά αντιμετώπισαν εμπόδια στην είσοδο στην τεχνητή νοημοσύνη και σε άλλους τεχνολογικούς τομείς διαθέτουν τα εργαλεία για να καινοτομήσουν πραγματικά και να προσφέρουν κάτι νέο.
Ποια είναι μερικά από τα πιο πιεστικά ζητήματα που αντιμετωπίζει η τεχνητή νοημοσύνη καθώς εξελίσσεται;
Πιστεύω ότι υπάρχει ένα ευρύ φάσμα θεμάτων που χρήζουν σοβαρής νομικής και πολιτικής εξέτασης. Για να αναφέρουμε μερικά, η τεχνητή νοημοσύνη μαστίζεται από μεροληπτικά δεδομένα που οδηγούν σε μεροληπτικά και άδικα αποτελέσματα. Η τεχνητή νοημοσύνη είναι εγγενώς αδιαφανής και δυσνόητη, ωστόσο έχει την αποστολή να αποφασίσει ποιος θα πάρει δάνειο, ποιος θα πάρει τη δουλειά, ποιος πρέπει να πάει φυλακή και ποιος επιτρέπεται να πάει στο πανεπιστήμιο.
Το Generative AI έχει σχετικά ζητήματα, αλλά συμβάλλει επίσης στην παραπληροφόρηση, είναι γεμάτο παραισθήσεις, παραβιάζει την προστασία δεδομένων και τα δικαιώματα πνευματικής ιδιοκτησίας, θέτει σε κίνδυνο τις δουλειές των ανθρώπων και συμβάλλει περισσότερο στην κλιματική αλλαγή από ό,τι η αεροπορική βιομηχανία.
Δεν έχουμε χρόνο για χάσιμο. πρέπει να έχουμε αντιμετωπίσει αυτά τα ζητήματα χθες.
Ποια είναι ορισμένα ζητήματα που πρέπει να γνωρίζουν οι χρήστες τεχνητής νοημοσύνης;
Νομίζω ότι υπάρχει μια τάση να πιστεύουμε μια συγκεκριμένη αφήγηση σύμφωνα με το «AI είναι εδώ και εδώ για να μείνει, να επιβιβαστεί ή να μείνει πίσω». Πιστεύω ότι είναι σημαντικό να σκεφτούμε ποιος ωθεί αυτήν την αφήγηση και ποιος κερδίζει από αυτήν. Είναι σημαντικό να θυμάστε πού βρίσκεται η πραγματική δύναμη. Η δύναμη δεν ανήκει σε αυτούς που καινοτομούν, αλλά σε αυτούς που αγοράζουν και εφαρμόζουν την τεχνητή νοημοσύνη.
Επομένως, οι καταναλωτές και οι επιχειρήσεις θα πρέπει να αναρωτηθούν: «Με βοηθά πραγματικά αυτή η τεχνολογία και από ποια άποψη;» Οι ηλεκτρικές οδοντόβουρτσες έχουν πλέον ενσωματωμένο το “AI”. Για ποιον είναι αυτό; Ποιος το χρειάζεται αυτό; Τι βελτιώνεται εδώ;
Με άλλα λόγια, αναρωτηθείτε τι είναι χαλασμένο και τι χρειάζεται επιδιόρθωση και εάν η τεχνητή νοημοσύνη μπορεί πραγματικά να το διορθώσει.
Αυτός ο τύπος σκέψης θα μετατοπίσει την ισχύ της αγοράς και η καινοτομία ελπίζουμε ότι θα κατευθυνθεί προς μια κατεύθυνση που εστιάζει στη χρησιμότητα για μια κοινότητα και όχι απλώς στο κέρδος.
Ποιος είναι ο καλύτερος τρόπος για να δημιουργήσετε υπεύθυνα AI;
Έχοντας σε ισχύ νόμους που απαιτούν υπεύθυνη τεχνητή νοημοσύνη. Και εδώ, μια πολύ άχρηστη και αναληθής αφήγηση τείνει να κυριαρχεί: ότι η ρύθμιση καταπνίγει την καινοτομία. Αυτό δεν είναι αληθινό. Ο κανονισμός καταπνίγει επιβλαβής καινοτομία. Οι καλοί νόμοι προάγουν και τρέφουν την ηθική καινοτομία. Αυτός είναι ο λόγος που έχουμε ασφαλή αυτοκίνητα, αεροπλάνα, τρένα και γέφυρες. Η κοινωνία δεν χάνει εάν η ρύθμιση εμποδίζει την
δημιουργία τεχνητής νοημοσύνης που παραβιάζει τα ανθρώπινα δικαιώματα.
Οι κανονισμοί κυκλοφορίας και ασφάλειας για τα αυτοκίνητα λέγεται επίσης ότι «πνίγουν την καινοτομία» και «περιορίζουν την αυτονομία». Αυτοί οι νόμοι εμποδίζουν τους ανθρώπους να οδηγούν χωρίς δίπλωμα, εμποδίζουν την είσοδο στην αγορά αυτοκινήτων που δεν διαθέτουν ζώνες ασφαλείας και αερόσακους και τιμωρούν άτομα που δεν οδηγούν σύμφωνα με το όριο ταχύτητας. Φανταστείτε πώς θα ήταν το ιστορικό ασφάλειας της αυτοκινητοβιομηχανίας αν δεν είχαμε νόμους για τη ρύθμιση των οχημάτων και των οδηγών. Η τεχνητή νοημοσύνη βρίσκεται επί του παρόντος σε ένα παρόμοιο σημείο καμπής και το λόμπι της βαριάς βιομηχανίας και η πολιτική πίεση σημαίνει ότι παραμένει ακόμη ασαφές ποιο δρόμο θα ακολουθήσει.
Πώς μπορούν οι επενδυτές να πιέσουν καλύτερα για υπεύθυνη τεχνητή νοημοσύνη;
Έγραψα ένα χαρτί πριν από μερικά χρόνια με τίτλο “Πώς η δίκαιη τεχνητή νοημοσύνη μπορεί να μας κάνει πλουσιότερους.» Πιστεύω βαθιά ότι η τεχνητή νοημοσύνη που σέβεται τα ανθρώπινα δικαιώματα και είναι αμερόληπτη, εξηγήσιμη και βιώσιμη δεν είναι μόνο το νομικά, ηθικά και ηθικά σωστό πράγμα, αλλά μπορεί να είναι και κερδοφόρο.
Ελπίζω πραγματικά ότι οι επενδυτές θα καταλάβουν ότι εάν πιέζουν για υπεύθυνη έρευνα και καινοτομία, θα αποκτήσουν επίσης καλύτερα προϊόντα. Τα κακά δεδομένα, οι κακοί αλγόριθμοι και οι κακές επιλογές σχεδιασμού οδηγούν σε χειρότερα προϊόντα. Ακόμα κι αν δεν μπορώ να σας πείσω ότι πρέπει να κάνετε το ηθικό πράγμα επειδή είναι το σωστό, ελπίζω να δείτε ότι το ηθικό πράγμα είναι επίσης πιο κερδοφόρο. Η ηθική πρέπει να θεωρείται ως επένδυση και όχι ως εμπόδιο που πρέπει να ξεπεραστεί.