Ως καταναλωτές, όλοι έχουμε υποστεί την «ανώτερη πώληση» ή την πίεση να πληρώσουμε λίγο περισσότερο για ένα προϊόν που είναι ελαφρώς καλύτερο.
Είναι ένα πράγμα αν αγοράζετε, ας πούμε, ένα αυτοκίνητο ή ένα ρούχο. Τα ηθικά ερωτήματα γίνονται πολύ πιο περίπλοκα στην υγειονομική περίθαλψη.
Κάποιοι πάροχοι έχουν ξεκινήσει ενσωμάτωση της τεχνητής νοημοσύνης σε διαγνωστικές διαδικασίες, συμπεριλαμβανομένων των προληπτικών εξετάσεων για καρκίνο του μαστού. Τα εργαλεία ενδέχεται να είναι διαθέσιμα με επιπλέον κόστος και έχουν τεθεί ερωτήματα σχετικά με την ακρίβειά τους.
Η Lily Jamali του Marketplace μίλησε με Μέρεντιθ Μπρουσσάρκαθηγήτρια δημοσιογραφίας στο Πανεπιστήμιο της Νέας Υόρκης, σχετικά με την ενσωμάτωση της τεχνητής νοημοσύνης στις μαστογραφίες και την προσωπική της εμπειρία από την ενασχόληση με την τεχνολογία.
Ακολουθεί μια επεξεργασμένη απομαγνητοφώνηση της συνομιλίας τους.
Meredith Broussard: Πριν από μερικά χρόνια, άρχισα να ψάχνω για μαστογραφία AI για ένα έργο που έκανα για το τελευταίο μου βιβλίο, “Περισσότερο από ένα σφάλμα: Αντιμετώπιση μεροληψίας φυλής, φύλου και ικανότητας στην τεχνολογία.” Και αυτό που ανακάλυψα ήταν ότι, παρόλο που είμαστε ενθουσιασμένοι με νέα είδη τεχνητής νοημοσύνης και μαστογραφίες, στην πραγματικότητα οι άνθρωποι προσπαθούν να ανιχνεύσουν τον καρκίνο χρησιμοποιώντας τεχνητή νοημοσύνη και υποβοηθούμενη από υπολογιστή τεχνικές από τη δεκαετία του 1990. Και δεν είχε επιτυχία όλο αυτό το διάστημα.
Lily Jamali: Και στο βιβλίο σας, στην περιγραφή της εμπειρίας που είχατε, φαίνεστε, λόγω έλλειψης καλύτερου όρου ή φράσης, «περίεργος» επειδή υπάρχει ένας ρόλος για μια τεχνητή νοημοσύνη στη διάγνωση που λάβατε. Πώς ήταν η εμπειρία για εσάς;
Broussard: Λοιπόν, νομίζω ότι το περίεργο είναι μια καλή περιγραφή του πώς ένιωσα. Θα πρέπει να ξεκινήσω λέγοντας ότι είχα καρκίνο του μαστού και έκανα θεραπεία για αυτόν. Και είμαι τόσο ευγνώμων στους γιατρούς και τους επαγγελματίες υγείας που με φρόντισαν. Και μετά, μετά την ανάρρωσή μου, άρχισα να εξετάζω την κατάσταση της τέχνης στην ανίχνευση καρκίνου με βάση την τεχνητή νοημοσύνη, επειδή παρατήρησα κάτι στο γράφημά μου που έλεγε: «Αυτές οι ταινίες διαβάστηκαν από AI. Και επειδή είμαι ερευνητής τεχνητής νοημοσύνης, σκέφτηκα, «Εντάξει, ποιανού AI ήταν; Πόσο αποτελεσματικό ήταν αυτό το AI; Τι βρήκε το AI;» Και δεν μπορούσα να πάρω απαντήσεις σε κανένα από αυτά τα πράγματα. Αυτό που αποφάσισα λοιπόν ήταν να κάνω αυτό που ονομάζεται πείραμα αντιγραφής. Επρόκειτο να πάρω τις δικές μου σαρώσεις και να τις εκτελέσω μέσω μιας τεχνητής νοημοσύνης ανοιχτού κώδικα για να γράψω για την τελευταία λέξη της τεχνολογίας στην ανίχνευση καρκίνου με βάση την τεχνητή νοημοσύνη. Έτσι, η όλη κατάσταση ήταν απλώς πολύ, πολύ περίεργη στην αρχή. Ένιωσα άβολα που η τεχνητή νοημοσύνη διάβαζε τις σαρώσεις μου επειδή δεν είχα αρκετές πληροφορίες.
Jamali: Και επειδή δεν είχες συναινέσει σε αυτό, σωστά;
Broussard: Ακριβώς. Αυτό είναι κάτι με το οποίο οι άνθρωποι προσπαθούν πραγματικά να παλέψουν επειδή η τεχνολογία AI αναπτύσσεται χρησιμοποιώντας εικόνες στις οποίες οι άνθρωποι έχουν συναινέσει, σωστά; Έτσι, το συγκεκριμένο νοσοκομείο στο οποίο πήγα δεν μου είχε πει πριν κάνω τη μαστογραφία ότι θα υπήρχε τεχνητή νοημοσύνη στην ανάγνωση των σαρώσεων μου. Και πρέπει επίσης να πω ότι η τεχνητή νοημοσύνη δεν ήταν η μόνη που διάβασε τις σαρώσεις μου. Έτσι, ο τρόπος που λειτουργεί σχεδόν όλη την ώρα είναι ότι ένας γιατρός διαβάζει πρώτα τις σαρώσεις. Και μετά, αφού ο γιατρός υποβάλει τη διάγνωσή τους, αποκτούν πρόσβαση στα αποτελέσματα της AI.
Jamali: Με βάση όλη την έρευνα που κάνατε, έχετε τώρα μια αρκετά καλή αίσθηση, νομίζετε, για το πόσο συχνή ή ασυνήθιστη είναι η ενσωμάτωση της τεχνητής νοημοσύνης όταν πρόκειται για αυτές τις πολύ σημαντικές, δυνητικά αλλαγές στη ζωή διαγνώσεις;
Broussard: Τείνουμε λοιπόν να θεωρούμε ότι η τεχνολογία είναι αυτό το τοπίο που έχει πολλούς και πολλούς παίκτες. Στην πραγματικότητα όμως ισχύει το αντίθετο. Υπάρχουν μερικοί σημαντικοί παίκτες. Έτσι, υπάρχουν μερικές μεγάλες εταιρείες τεχνολογίας και, στη συνέχεια, στον κόσμο της ιατρικής απεικόνισης, υπάρχουν μερικές μεγάλες εταιρείες. Και ναι, όλες αυτές οι μεγάλες εταιρείες προσπαθούν να κάνουν κάτι με την τεχνητή νοημοσύνη. Αλλά είτε έχουν επιτυχία είτε όχι, η κριτική επιτροπή είναι ακόμα έξω. Όταν ξεκινάτε πραγματικά να διαβάζετε τις μελέτες και να εξετάζετε την ακρίβεια αυτών των συστημάτων, προσωπικά δεν ήμουν αρκετά σίγουρος ότι θα ήθελα να βάλω τη μοίρα μου στα χέρια αυτών των αλγορίθμων.
Jamali: Και μιλήσατε με αρκετούς γιατρούς και για αυτό. Τι έχουν να πουν για τον τρόπο με τον οποίο η τεχνητή νοημοσύνη χρησιμοποιείται σε αυτό το πλαίσιο ως υπηρεσία υγειονομικής περίθαλψης για τις γυναίκες, είτε αυξάνει τη δουλειά που επιτελούν είτε σε ορισμένες περιπτώσεις, ίσως ακόμη και την αντικατάστασή της, ίσως στην πορεία;
Broussard: Λοιπόν, νομίζω ότι υπάρχουν δύο πράγματα που πρέπει να σκεφτούμε. Ένα είναι τα χρήματα και ένα είναι η ροή εργασίας. Έτσι, όσον αφορά τη ροή εργασιών, οι γιατροί λαμβάνουν την αξιολόγηση AI αφού εισαγάγουν στο σύστημα υπολογιστών τη δική τους αξιολόγηση. Έτσι, η τεχνητή νοημοσύνη είναι επί του παρόντος ένα επιπλέον βήμα για τους γιατρούς. Και οι γιατροί έχουν πραγματικά διαφορετικές απόψεις για τα ηλεκτρονικά ιατρικά αρχεία και για τα ψηφιακά βήματα στις ροές εργασίας τους. Εξέτασα την πιο ενδιαφέρουσα μελέτη που διάβασα γιατρούς διαφορετικών ειδικοτήτων και πώς ένιωσαν για την τεχνητή νοημοσύνη στον κλάδο τους. Και έτσι οι γιατροί του καρκίνου του μαστού θεώρησαν ότι το AI ήταν άχρηστο. Δεν εντυπωσιάστηκαν βλέποντας τα αποτελέσματα του AI. Δεν ένιωθαν ότι τους βοήθησε στη διάγνωσή τους. Και στους γιατρούς του καρκίνου του πνεύμονα άρεσε πολύ. Έλεγαν, «Ω, ναι, η τεχνητή νοημοσύνη επικυρώνει αυτό που ήδη νόμιζα ότι ήταν αλήθεια». Άρα είναι πολύ ενδιαφέρον, σωστά; Τείνουμε να σκεφτόμαστε την τεχνητή νοημοσύνη ως μονόλιθο, αλλά στην πραγματικότητα εξαρτάται από το είδος της τεχνητής νοημοσύνης. Εξαρτάται από το πόσο καλό είναι το AI. Εξαρτάται από την πειθαρχία. Και εξαρτάται από τον γιατρό ξεχωριστά.
Jamali: Οποιαδήποτε αίσθηση του γιατί μια συγκεκριμένη εξειδίκευση, όπως οι γιατροί του καρκίνου του πνεύμονα, μπορεί να είναι πιο άνετα ή να πιστεύουν περισσότερο στην τεχνολογία, στον τρόπο που χρησιμοποιείται στην ειδικότητά τους, σε σύγκριση με τους άλλους;
Broussard: Υπάρχει μια άλλη πολύ ενδιαφέρουσα μελέτη όπου πήραν την τεχνητή νοημοσύνη και την έτρεξαν σε σαρώσεις στο τρία διαφορετικά νοσοκομεία. Και το AI ήταν εξαιρετικά ακριβές σε κάθε νοσοκομείο. Αλλά όταν πήραν το μοντέλο που είχε εκπαιδευτεί στο νοσοκομείο Α και το έτρεξαν στις σαρώσεις στο νοσοκομείο Β, τα αποτελέσματα κατέρρευσαν. Το AI δεν ήταν πλέον ακριβές. Η εκπαίδευση μιας τεχνητής νοημοσύνης σε εικόνες από έναν ιστότοπο και στη συνέχεια η εκτέλεση σαρώσεων από διαφορετικό ιστότοπο σάς προσφέρει διαφορετικά επίπεδα ακρίβειας. Θα μπορούσε να είναι κάτι τόσο μικρό όσο η ετικέτα για τη σάρωση στην ιατρική εικόνα, σωστά; Η τεχνητή νοημοσύνη θα μπορούσε να συλλαμβάνει κάτι που το ανθρώπινο μάτι απλώς δεν παρατηρεί. Επομένως, δεν πρέπει πραγματικά να μας εκπλήσσει το γεγονός ότι τα συστήματα αναγνώρισης εικόνων στη διάγνωση καρκίνου ή στην ιατρική διάγνωση, ότι αυτά τα συστήματα είναι εξίσου εύθραυστα με τα συστήματα αναγνώρισης προσώπου.