Υπερεκτιμούμε τις δυνατότητες της τεχνητής νοημοσύνης (AI); Πόσο έξυπνο είναι; Θα φτάσει ποτέ στο επίπεδο ανθρώπινης νοημοσύνης? Αυτές είναι μερικές από τις ερωτήσεις που θέτει η 55χρονη Melanie Mitchell στο βιβλίο της Τεχνητή Νοημοσύνη: Ένας οδηγός για τους σκεπτόμενους ανθρώπους. Η απάντησή της είναι ξεκάθαρη: απέχουμε πολύ από το να δημιουργήσουμε μια υπερευφυΐα, όσο κι αν κάποιες εταιρείες λένε το αντίθετο. Και ένας από τους θεμελιώδεις λόγους είναι επειδή οι μηχανές δεν λογίζονται όπως εμείς. Μπορούν να κάνουν σχεδόν κάθε εργασία καλύτερα από οποιονδήποτε άλλον, αλλά καταλαβαίνουν τον κόσμο χειρότερα από ένα μωρό ενός έτους.
Ο Mitchell παρέχει ένα κρίσιμο πλαίσιο για τη μέτρηση του φαινομένου της AI, μια τεχνολογία που έχει κυριάρχησε στη δημόσια συζήτηση αφού εργαλεία όπως ChatGPT εμφανίστηκε πριν από δύο χρόνια. Πολιτικοί, επιχειρηματίες και ακαδημαϊκοί προειδοποίησαν πρόσφατα για τους κινδύνους αυτών των συστημάτων, τα οποία έχουν θαμπώσει τον κόσμο δημιουργώντας περίτεχνα κείμενα και υπερρεαλιστικές εικόνες και βίντεο.
Στο βιβλίο της, η Mitchell — Davis Professor of Complexity στο Ινστιτούτο Santa Fe και καθηγητής στο Portland State University — περιγράφει πώς η τα πιο προηγμένα συστήματα AI εργάζονται και τα αντιπαραβάλλει με τον ανθρώπινο συλλογισμό. Το συμπέρασμά της: βασικές πτυχές όπως η διαίσθηση ή η επίγνωση του περιβάλλοντος είναι, αυτή τη στιγμή, πέρα από κάθε μηχανή. Η Μίτσελ μιλά στην EL PAÍS μέσω βιντεοκλήσης από το σπίτι της στη Σάντα Φε του Νέου Μεξικού.
Ερώτηση. Τι είναι ικανό το AI σήμερα;
Απάντηση. Υπήρξε πραγματικά ένα μεγάλο άλμα στις ικανότητες πριν από μερικά χρόνια με την εμφάνιση της γενετικής τεχνητής νοημοσύνης, η οποία περιλαμβάνει πράγματα όπως το ChatGPT και το Dall-E. Αλλά αυτά τα συστήματα, ενώ μπορούν να κάνουν πολλά πράγματα, δεν έχουν το ίδιο είδος κατανόησης του κόσμου όπως εμείς. Δεν έχουν αξιοπιστία, έχουν ορισμένα είδη περιορισμών που συχνά είναι δύσκολο να προβλεφθούν. Πιστεύω λοιπόν ότι, ενώ αυτά τα συστήματα μπορεί να είναι πολύ χρήσιμα, και τα χρησιμοποιώ όλη την ώρα, πρέπει να προσέχουμε πόσο πολύ τα εμπιστευόμαστε, ειδικά αν δεν υπάρχει άνθρωπος στο βρόχο.
Q. Γιατί;
ΕΝΑ. Μπορούν να κάνουν επιβλαβή λάθη. Ένα ξεκάθαρο παράδειγμα είναι τα αυτόνομα αυτοκίνητα. Ένας από τους λόγους που δεν είναι ακόμα μαζί μας είναι ότι κάνουν λάθη που σπάνια θα έκανε ένας άνθρωπος, όπως να μην αναγνωρίσει έναν πεζό ή ένα εμπόδιο. Ένα άλλο παράδειγμα είναι αυτόματο συστήματα αναγνώρισης προσώπου. Τα μηχανήματα είναι εξαιρετικά καλά στο να αναγνωρίζουν πρόσωπα στις εικόνες, αλλά είναι χειρότερα στην αναγνώριση ατόμων με πιο σκούρο δέρμα ή γυναικών. Με το ChatGPT, έχουμε δει αμέτρητες περιπτώσεις όπου έχει δημιουργηθεί αυτό που είπε.
Q. Βοηθά ή βλάπτει την ανάπτυξη του κλάδου η έκρηξη στη γενετική τεχνητή νοημοσύνη;
ΕΝΑ. Κατά κάποιο τρόπο, αυτή η διαφημιστική εκστρατεία αυξάνει τις προσδοκίες των ανθρώπων και αυτό στη συνέχεια προκαλεί απογοήτευση. Αυτό είναι κάτι που συνέβη σε όλη την ιστορία της τεχνητής νοημοσύνης. Τις δεκαετίες του 1950 και του 1960, οι άνθρωποι ισχυρίζονταν ότι θα είχαμε Μηχανές AI με νοημοσύνη σε ανθρώπινο επίπεδο μέσα σε λίγα χρόνια. Αυτό δεν συνέβη. Έφτασε ο λεγόμενος χειμώνας της τεχνητής νοημοσύνης: η χρηματοδότηση για την έρευνα τελείωσε και οι εταιρείες έμειναν εκτός λειτουργίας. Τώρα βρισκόμαστε σε μια περίοδο μεγάλων προσδοκιών. Θα είναι πραγματικά η στιγμή που οι αισιόδοξοι προγνωστικοί έχουν δίκιο; Ή μήπως θα υπάρξει άλλου είδους μεγάλη απογοήτευση; Και είναι δύσκολο να το προβλέψεις.
Q. Μόλις πριν από τρία χρόνια, το το μέλλον θα ήταν το μετασύμπαν. Σήμερα κανείς δεν μιλάει πια γι’ αυτό. Πιστεύετε ότι κάτι παρόμοιο θα μπορούσε να συμβεί με την τεχνητή νοημοσύνη;
ΕΝΑ. Συμβαίνει συνεχώς με μεγάλες τεχνολογικές καινοτομίες: υπάρχει ένα είδος μεγάλης διαφημιστικής φούσκας, τότε οι προσδοκίες δεν ικανοποιούνται και οι άνθρωποι απογοητεύονται και τελικά η τεχνολογία βγαίνει μπροστά. Η εξέλιξη αποδεικνύεται χρήσιμη, αλλά όχι τόσο λαμπρή όσο περίμενε ο κόσμος. Αυτό είναι πιθανό να συμβεί με την τεχνητή νοημοσύνη.
Q. Υποστηρίζετε ότι τα συστήματα AI στερούνται σημασιολογικής κατανόησης ή κοινής λογικής και επομένως δεν μπορούν να είναι πραγματικά έξυπνα. Πιστεύετε ότι αυτό θα αλλάξει κάποια στιγμή;
ΕΝΑ. Είναι δυνατό. Δεν υπάρχει κανένας λόγος για τον οποίο δεν μπορούσαμε να έχουμε ένα τέτοιο μηχάνημα. Το ερώτημα είναι πώς θα φτάσουμε εκεί; Το ChatGPT έχει εκπαιδευτεί σε όλα τα διαθέσιμα ψηφιακά βιβλία και κείμενα, καθώς και σε όλα τα βίντεο και τις εικόνες στο διαδίκτυο. Αλλά υπάρχουν πολλά πράγματα σχετικά με την κοινή λογική και τη γνώση που δεν είναι κωδικοποιημένα στη γλώσσα, που προέρχονται απλώς από την εμπειρία. Ίσως για να κάνει μια μηχανή να έχει πραγματικά μια ανθρώπινη κατανόηση, θα πρέπει να βιώσει πραγματικά τον κόσμο όπως εμείς. Αυτό είναι ένα θέμα μεγάλης συζήτησης στον κόσμο της τεχνητής νοημοσύνης. Υποψιάζομαι ότι το μεγάλο άλμα θα γίνει όταν ένα μηχάνημα όχι μόνο εκπαιδεύεται παθητικά στη γλώσσα, αλλά βιώνει ενεργά τον κόσμο όπως κάνει ένα παιδί.
Q. Όταν είναι σε μορφή ρομπότ.
ΕΝΑ. Ναί. Ένα AI που εισάγεται σε ένα ρομπότ θα μπορούσε να έχει το ίδιο είδος εκπαίδευσης ή ανάπτυξης με ένα παιδί. Είναι κάτι για το οποίο ο Άλαν Τούρινγκ, ένας από τους πατέρες της πληροφορικής, εικάζε τη δεκαετία του 1950. Αυτή η ιδέα έχει περισσότερο νόημα τώρα.
Q. Στο βιβλίο, περιγράφετε πώς λειτουργεί η τεχνητή νοημοσύνη και πόσο μικρή σχέση έχει αυτή η διαδικασία με τον δικό μας τρόπο συλλογισμού. Έχει σημασία η διαδικασία αν εκπληρώνει τη λειτουργία της;
ΕΝΑ. Εξαρτάται από τι θέλετε να χρησιμοποιήσετε το σύστημα. Το GPS του αυτοκινήτου μου μπορεί να βρει μια διαδρομή προς και από όπου θέλω να πάω. Δεν καταλαβαίνει την έννοια του δρόμου ή της κυκλοφορίας, αλλά κάνει φανταστική δουλειά. Το ερώτημα είναι, εάν πραγματικά θέλουμε τα συστήματα να αλληλεπιδρούν γενικότερα με τον ανθρώπινο κόσμο μας, σε ποιο βαθμό θα πρέπει να τον κατανοήσουν; Υπήρχε περίπτωση που α αυτοοδηγούμενο αυτοκίνητο χτύπησε τα φρένα κάποια στιγμή και ο οδηγός δεν ήξερε γιατί. Αποδείχθηκε ότι υπήρχε μια διαφημιστική πινακίδα με μια διαφήμιση που είχε μια πινακίδα στοπ. Μπορείς να αποφύγεις τέτοια λάθη; Μόνο όταν καταλαβαίνεις τον κόσμο όπως εμείς.
Q. Πόσο μακριά πιστεύετε ότι μπορεί να φτάσει η τεχνητή νοημοσύνη;
ΕΝΑ. Δεν νομίζω ότι υπάρχει λόγος για τον οποίο δεν μπορούμε να έχουμε μηχανές με νοημοσύνη σε ανθρώπινο επίπεδο. Αλλά θα είναι δύσκολο να φτάσουμε εκεί, δεν νομίζω ότι είμαστε τόσο κοντά αυτή τη στιγμή. Πίσω στη δεκαετία του 1970, οι άνθρωποι πίστευαν ότι αν μια μηχανή μπορούσε παίζουν σκάκι σε επίπεδο μεγάλου μάστερ, αυτό θα απαιτούσε νοημοσύνη σε ανθρώπινο επίπεδο. Αποδείχθηκε ότι δεν το έκανε. Τότε ειπώθηκε ότι θα απαιτούσε η μετάφραση κειμένων ή η διατήρηση συνομιλιών. Ούτε όμως έγινε. Όλη η ιστορία της τεχνητής νοημοσύνης έχει δείξει ότι η διαίσθησή μας για τη δική μας νοημοσύνη είναι συχνά λανθασμένη, ότι είναι στην πραγματικότητα πολύ πιο περίπλοκη από ό,τι πιστεύαμε. Και νομίζω ότι αυτό θα συνεχίσει να ισχύει. Θα μάθουμε πολλά περισσότερα για το τι σημαίνει πραγματικά να είσαι έξυπνος.
Το να λέμε ότι τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να ξεφύγουν από τον έλεγχο και να καταστρέψουν την ανθρωπότητα είναι, τουλάχιστον, ένας εξαιρετικά απίθανος και κερδοσκοπικός ισχυρισμός.
Q. Τότε θα άξιζε τον κόπο.
ΕΝΑ. Ένας από τους στόχους της τεχνητής νοημοσύνης είναι να βοηθήσει στην κατανόηση του τι εννοούμε με τον όρο νοημοσύνη. Και, όταν προσπαθούμε να το εφαρμόσουμε σε μηχανές, συχνά συνειδητοποιούμε ότι η νοημοσύνη περιλάμβανε πραγματικά πολλά πράγματα που ποτέ δεν είχαμε σκεφτεί.
Q. Ορισμένοι πρωτοπόροι της τεχνητής νοημοσύνης, όπως ο Geoffrey Hinton, πιστεύουν ότι η τεχνολογία μπορεί να γίνει δύσκολο να ελεγχθεί. Τι νομίζετε;
ΕΝΑ. Υπάρχουν πολλά είδη κινδύνων με την τεχνητή νοημοσύνη. Μπορεί να χρησιμοποιηθεί για την παραγωγή παραπληροφόρησης και παραποιήσεων. Υπάρχουν αλγοριθμικές προκαταλήψεις, όπως αυτή που ανέφερα στην περίπτωση της αναγνώρισης προσώπου. Ο Hinton και άλλοι προχωρούν παραπέρα και λένε ότι αυτά τα συστήματα θα μπορούσαν πραγματικά να ξεφύγουν από τον έλεγχο και να καταστρέψουν την ανθρωπότητα. Αυτός ο ισχυρισμός είναι, τουλάχιστον, πολύ απίθανος και εικαστικός. Αν αναπτύξουμε ένα υπερευφυές σύστημα, δεν πιστεύω ότι δεν θα νοιαζόταν για τις αξίες μας, όπως δεν είναι σωστό να σκοτώνουμε όλους τους ανθρώπους. Η εστίαση σε αυτή τη δραματική ιδέα των υπαρξιακών απειλών για την ανθρωπότητα απομακρύνει μόνο την εστίαση από πράγματα που είναι πραγματικά σημαντικά αυτήν τη στιγμή.
Q. Πιστεύετε ότι, ως κοινωνία, αντιμετωπίζουμε επαρκώς αυτές τις απειλές που αντιμετωπίζουμε σήμερα;
ΕΝΑ. Ναι, αν και είναι δύσκολο για τους κανονισμούς και τη νομοθεσία να συμβαδίσουν με την τεχνολογία. Η ΕΕ έκανε ένα πρώτο βήμα με τον ευρωπαϊκό νόμο για την τεχνητή νοημοσύνη. Ένα από τα πράγματα που βλέπουμε στις ΗΠΑ είναι πολλές αγωγές για παραβίαση πνευματικών δικαιωμάτων. Όλα αυτά τα συστήματα εκπαιδεύονται σε τεράστιες ποσότητες κειμένου και εικόνων. Εάν δεν έχουν πληρώσει για τη χρήση του, είναι αυτό παραβίαση πνευματικών δικαιωμάτων; Ο νόμος είναι ασαφής επειδή η τεχνολογία δεν υπήρχε όταν θεσπίστηκε. Θα δούμε πώς θα λυθεί αυτό.
Q. Ποια είναι η πιο εντυπωσιακή εφαρμογή AI που έχετε δει τελευταία;
ΕΝΑ. Αυτό που με ενθουσιάζει περισσότερο είναι η εφαρμογή αυτών των συστημάτων σε επιστημονικά προβλήματα. DeepMindΓια παράδειγμα, εργάζεται για τη χρήση της τεχνητής νοημοσύνης για την πρόβλεψη της δομής των πρωτεϊνών. Χρησιμοποιείται επίσης για την ανάπτυξη νέων βιομηχανικών και φαρμάκων. Βρισκόμαστε σε μια νέα εποχή της επιστήμης, ίσως τόσο σημαντική όσο αυτή που είδαμε όταν εφευρέθηκαν οι υπολογιστές.
Q. Λέτε στο βιβλίο σας ότι όσοι βαθμονομούν συστήματα βαθιάς μάθησης, την πιο προηγμένη τεχνική AI, μοιάζουν περισσότερο με αλχημιστές παρά με επιστήμονες, επειδή προσαρμόζουν τις παραμέτρους στις μηχανές χωρίς να γνωρίζουν ακριβώς τι κάνουν.
ΕΝΑ. Λίγο μετά τη συγγραφή του βιβλίου, οι άνθρωποι άρχισαν να μιλούν γι’ αυτό άμεσοι μηχανικοί [the instructions given to generative AI tools]. Η δουλειά τους είναι να προσπαθήσουν να κάνουν το σύστημα να αποδώσει όσο το δυνατόν καλύτερα. Αποδεικνύεται ότι υπάρχουν άνθρωποι που βγάζουν πολλά χρήματα κάνοντας αυτή τη δουλειά. Αλλά είναι καθαρή αλχημεία, δεν υπάρχει καμία επιστήμη πίσω από αυτό. Είναι απλώς να δοκιμάσεις πράγματα. Κάποια υλικά λειτουργούν και άλλα όχι, και δεν έχουμε ιδέα γιατί.
Q. Είναι ειρωνικό ότι οι άνθρωποι που προσπαθούν να βελτιστοποιήσουν μια από τις πιο εξελιγμένες τεχνολογίες στην ιστορία της ανθρωπότητας το κάνουν στα τυφλά.
ΕΝΑ. Αυτά τα συστήματα είναι κατά μία έννοια μαύρα κουτιά. Είναι εξαιρετικά πολύπλοκα συστήματα λογισμικού που δεν έχουν προγραμματιστεί ρητά για να κάνουν πράγματα, αλλά μάλλον έχουν εκπαιδευτεί, έχουν μάθει από δεδομένα και κανείς δεν μπορεί να καταλάβει γιατί λειτουργούν με τον τρόπο που κάνουν. Οι νευροεπιστήμονες επίσης δεν καταλαβαίνουν πώς λειτουργεί ο εγκέφαλος και κάνουν πειράματα για να προσπαθήσουν να τον κατανοήσουν. Αυτό συμβαίνει τώρα με το Generative AI.
Εγγραφείτε το εβδομαδιαίο μας ενημερωτικό δελτίο για να λάβετε περισσότερη κάλυψη ειδήσεων στην αγγλική γλώσσα από την EL PAÍS USA Edition