Οι συμβατικοί ψηφιακοί υπολογιστές, δίνοντας προτεραιότητα στην αξιοπιστία, έχασαν, είπε ο νικητής του βραβείου Turing, Geoffrey Hinton, «σε όλα τα είδη μεταβλητών, στοχαστικών, μελανοταινιών, αναλογικών, αναξιόπιστων ιδιοτήτων του υλικού, που μπορεί να είναι πολύ χρήσιμες για εμάς». NeurIPS 2022
Οι μορφές τεχνητής νοημοσύνης μηχανικής μάθησης πρόκειται να επιφέρουν επανάσταση στα συστήματα υπολογιστών, ένα νέο είδος ένωσης υλικού-λογισμικού που μπορεί να βάλει την τεχνητή νοημοσύνη στην τοστιέρα σας, σύμφωνα με τον πρωτοπόρο της τεχνητής νοημοσύνης Geoffrey Hinton.
Hinton, προσφέροντας την κεντρική ομιλία κλεισίματος την Πέμπτη στο φετινό Συνέδριο Neural Information Processing SystemsNeurIPS, στη Νέα Ορλεάνη, είπε ότι η ερευνητική κοινότητα μηχανικής μάθησης «άργησε να συνειδητοποιήσει τις επιπτώσεις της βαθιάς μάθησης στον τρόπο κατασκευής των υπολογιστών».
Και συνέχισε, «Αυτό που νομίζω είναι ότι θα δούμε έναν εντελώς διαφορετικό τύπο υπολογιστή, όχι για μερικά χρόνια, αλλά υπάρχει κάθε λόγος να ερευνήσουμε αυτόν τον εντελώς διαφορετικό τύπο υπολογιστή».
Όλοι οι ψηφιακοί υπολογιστές μέχρι σήμερα έχουν κατασκευαστεί για να είναι «αθάνατοι», όπου το υλικό έχει σχεδιαστεί ώστε να είναι αξιόπιστο έτσι ώστε το ίδιο λογισμικό να τρέχει οπουδήποτε. «Μπορούμε να τρέξουμε τα ίδια προγράμματα σε διαφορετικό φυσικό υλικό… η γνώση είναι αθάνατη».
Αυτή η απαίτηση σημαίνει ότι οι ψηφιακοί υπολογιστές έχουν χάσει, είπε ο Hinton, «κάθε είδους μεταβλητές, στοχαστικές, λεπτές, αναλογικές, αναξιόπιστες ιδιότητες του υλικού, οι οποίες μπορεί να είναι πολύ χρήσιμες για εμάς». Αυτά τα πράγματα θα ήταν πολύ αναξιόπιστα για να αφήσουμε “δύο διαφορετικά κομμάτια υλικού να συμπεριφέρονται ακριβώς με τον ίδιο τρόπο στο επίπεδο των οδηγιών”.
Τα μελλοντικά συστήματα υπολογιστών, είπε ο Hinton, θα ακολουθήσουν μια διαφορετική προσέγγιση: θα είναι “νευρομορφικά” και θα είναι “θνητά”, που σημαίνει ότι κάθε υπολογιστής θα είναι ένας στενός δεσμός του λογισμικού που αντιπροσωπεύει νευρωνικά δίκτυα με υλικό που είναι ακατάστατο , με την έννοια ότι έχουμε αναλογικά και όχι ψηφιακά στοιχεία, τα οποία μπορούν να ενσωματώσουν στοιχεία αβεβαιότητας και μπορούν να αναπτυχθούν με την πάροδο του χρόνου.
«Τώρα, η εναλλακτική λύση σε αυτό, που πραγματικά δεν αρέσει στους επιστήμονες υπολογιστών επειδή προσβάλλει μία από τις θεμελιώδεις αρχές τους, είναι να πούμε ότι θα εγκαταλείψουμε τον διαχωρισμό υλικού και λογισμικού», εξήγησε ο Hinton.
Επίσης: LeCun, Hinton, Bengio: Συνωμότες τεχνητής νοημοσύνης βραβεύτηκαν με το διάσημο βραβείο Turing
«Θα κάνουμε αυτό που αποκαλώ υπολογισμό θνητών, όπου η γνώση που έχει μάθει το σύστημα και το υλικό είναι αδιαχώριστα».
Αυτοί οι θνητοί υπολογιστές θα μπορούσαν να «καλλιεργηθούν», είπε, απαλλαγώντας από ακριβά εργοστάσια κατασκευής τσιπ.
“Αν το κάνουμε αυτό, μπορούμε να χρησιμοποιήσουμε αναλογικό υπολογισμό πολύ χαμηλής ισχύος, μπορείτε να έχετε παραλληλισμό τρισεκατομμυρίων τρόπων χρησιμοποιώντας πράγματα όπως memristors για τα βάρη”, είπε, αναφερόμενος σε ένα είδος δεκαετιών. πειραματικό τσιπ που βασίζεται σε μη γραμμικά στοιχεία κυκλώματος.
“Και επίσης θα μπορούσατε να αναπτύξετε υλικό χωρίς να γνωρίζετε την ακριβή ποιότητα της ακριβούς συμπεριφοράς διαφορετικών κομματιών του υλικού.”
Οι νέοι θνητοί υπολογιστές δεν θα αντικαταστήσουν τους παραδοσιακούς ψηφιακούς υπολογιστές, είπε η Hilton στο πλήθος του NeurIPS. “Δεν θα είναι ο υπολογιστής που θα είναι υπεύθυνος για τον τραπεζικό σας λογαριασμό και θα ξέρει ακριβώς πόσα χρήματα έχετε”, είπε ο Hinton.
“Θα χρησιμοποιηθεί για να βάλετε κάτι άλλο: Θα χρησιμοποιηθεί για να βάλετε κάτι σαν GPT-3 στην τοστιέρα σας για ένα δολάριο, οπότε όταν τρέχετε σε λίγα watt, μπορείτε να συνομιλήσετε με την τοστιέρα σας.”
Ο Hinton κλήθηκε να δώσει την ομιλία στο συνέδριο ως αναγνώριση της εργασίας του πριν από μια δεκαετία, “Ταξινόμηση ImageNet με βαθιά συνελικτικά νευρωνικά δίκτυα», έγραψε με τους αποφοίτους του Alex Krizhevsky και Ilya Sutskever. Η εργασία τιμήθηκε με το βραβείο “Test of Time” του συνεδρίου για μια “τεράστια επίδραση” στο πεδίο. Η εργασία, που δημοσιεύτηκε το 2012, ήταν η πρώτη φορά που ένα συνελικτικό νευρωνικό δίκτυο διαγωνίστηκε σε ανθρώπινο επίπεδο στον διαγωνισμό αναγνώρισης εικόνας ImageNet και ήταν το γεγονός που ξεκίνησε την τρέχουσα εποχή της τεχνητής νοημοσύνης.
Ο Hinton, ο οποίος είναι αποδέκτης του βραβείου ACM Turing για τα επιτεύγματά του στην επιστήμη των υπολογιστών, το αντίστοιχο του βραβείου Νόμπελ στον τομέα, αποτέλεσε το Συνωμοσία βαθιάς μάθησηςμια ομάδα που αναζωογόνησε το ετοιμοθάνατο πεδίο της μηχανικής μάθησης με τους συναδέλφους του Turing αποδέκτες, τον Yann LeCun του Meta και τον Yoshua Bengio από το ινστιτούτο MILA του Μόντρεαλ για την Τεχνητή Νοημοσύνη.
Υπό αυτή την έννοια, ο Hinton είναι μέλος της τεχνητής νοημοσύνης στη θέση του στον τομέα.
Στην προσκεκλημένη ομιλία του, ο Hinton πέρασε τον περισσότερο χρόνο του μιλώντας για μια νέα προσέγγιση στα νευρωνικά δίκτυα, που ονομάζεται δίκτυο προς τα εμπρός, που καταργεί την τεχνική της οπισθοδιάδοσης που χρησιμοποιείται σχεδόν σε όλα τα νευρωνικά δίκτυα. Πρόσφερε ότι με την αφαίρεση των διχτυών προς τα πίσω, προς τα εμπρός προς τα εμπρός θα μπορούσε να προσεγγίσει πιο εύλογα αυτό που συμβαίνει στον εγκέφαλο στην πραγματική ζωή.
Ένα προσχέδιο της εργασίας προς τα εμπρός είναι δημοσιεύτηκε στην αρχική σελίδα του Hinton (PDF) στο Πανεπιστήμιο του Τορόντο, όπου είναι ομότιμος καθηγητής.
Η προσέγγιση προς τα εμπρός μπορεί να είναι κατάλληλη για το υλικό υπολογιστών θνητών, είπε ο Hinton.
«Τώρα, αν συμβεί κάτι τέτοιο, πρέπει να έχουμε μια διαδικασία εκμάθησης που θα εκτελείται σε ένα συγκεκριμένο κομμάτι υλικού και μαθαίνουμε να χρησιμοποιούμε τις συγκεκριμένες ιδιότητες αυτού του συγκεκριμένου υλικού χωρίς να γνωρίζουμε τι όλες αυτές οι ιδιότητες είναι», εξήγησε ο Hinton. «Αλλά νομίζω ότι ο αλγόριθμος προς τα εμπρός είναι ένας πολλά υποσχόμενος υποψήφιος για το τι μπορεί να είναι αυτή η μικρή διαδικασία».
Επίσης: Το νέο τεστ Turing: Είσαι άνθρωπος;
Ένα εμπόδιο στην κατασκευή των νέων αναλογικών θνητών υπολογιστών, είπε, είναι ότι οι άνθρωποι είναι προσηλωμένοι στην αξιοπιστία της εκτέλεσης ενός λογισμικού σε εκατομμύρια συσκευές.
«Θα το αντικαθιστούσατε με το καθένα από αυτά τα κινητά τηλέφωνα που θα έπρεπε να ξεκινήσει ως ένα μωρό κινητό τηλέφωνο και θα έπρεπε να μάθει πώς να είναι κινητό τηλέφωνο», πρότεινε. «Και αυτό είναι πολύ οδυνηρό».
Ακόμη και οι μηχανικοί που είναι πιο έμπειροι στην τεχνολογία που εμπλέκεται θα αργήσουν να εγκαταλείψουν το παράδειγμα των τέλειων, πανομοιότυπων αθάνατων υπολογιστών υπό το φόβο της αβεβαιότητας.
«Μεταξύ των ανθρώπων που ενδιαφέρονται για τον αναλογικό υπολογισμό, υπάρχουν πολύ λίγοι ακόμα που είναι πρόθυμοι να εγκαταλείψουν την αθανασία», είπε. Αυτό οφείλεται στην προσκόλληση στη συνέπεια, την προβλεψιμότητα, είπε. “Αν θέλετε το αναλογικό σας υλικό να κάνει το ίδιο πράγμα κάθε φορά… Έχετε ένα πραγματικό πρόβλημα με όλα αυτά τα αδέσποτα ηλεκτρικά πράγματα και άλλα.”