Το AI αποκαλύπτει νέες δυνατότητες στον πολλαπλασιασμό μήτρας

Οι μαθηματικοί αγαπούν ένα καλό παζλ. Ακόμη και κάτι τόσο αφηρημένο όπως ο πολλαπλασιασμός πινάκων (δισδιάστατοι πίνακες αριθμών) μπορεί να μοιάζει με παιχνίδι όταν προσπαθείτε να βρείτε τον πιο αποτελεσματικό τρόπο για να το κάνετε. Είναι λίγο σαν να προσπαθείς να λύσεις έναν κύβο του Ρούμπικ με όσο το δυνατόν λιγότερες κινήσεις — προκλητική, αλλά δελεαστική. Εκτός από το ότι για έναν κύβο του Ρούμπικ, ο αριθμός των πιθανών κινήσεων σε κάθε βήμα είναι 18. για πολλαπλασιασμό πίνακα, ακόμη και σε σχετικά απλές περιπτώσεις, κάθε βήμα μπορεί να παρουσιάζει περισσότερα από 10¹² επιλογές.

Τα τελευταία 50 χρόνια, οι ερευνητές έχουν προσεγγίσει αυτό το πρόβλημα με πολλούς τρόπους, όλοι βασισμένοι σε αναζητήσεις στον υπολογιστή με τη βοήθεια της ανθρώπινης διαίσθησης. Τον περασμένο μήνα, μια ομάδα της εταιρείας τεχνητής νοημοσύνης DeepMind έδειξε πώς να αντιμετωπίσει το πρόβλημα από μια νέα κατεύθυνση, αναφέροντας σε χαρτί in Φύση ότι είχαν εκπαιδεύσει επιτυχώς ένα νευρωνικό δίκτυο για να ανακαλύψουν νέους γρήγορους αλγόριθμους για πολλαπλασιασμό πινάκων. Ήταν σαν να είχε βρει η τεχνητή νοημοσύνη μια άγνωστη στρατηγική για την επίλυση ενός τερατώδους περίπλοκου κύβου του Ρούμπικ.

«Είναι ένα πολύ καλό αποτέλεσμα», είπε Τζος Άλμαν, επιστήμονας υπολογιστών στο Πανεπιστήμιο Κολούμπια. Αλλά ο ίδιος και άλλοι ειδικοί πολλαπλασιασμού μητρών τόνισαν επίσης ότι μια τέτοια βοήθεια τεχνητής νοημοσύνης θα συμπληρώσει αντί να αντικαταστήσει τις υπάρχουσες μεθόδους — τουλάχιστον βραχυπρόθεσμα. «Είναι σαν μια απόδειξη της ιδέας για κάτι που θα μπορούσε να γίνει μια σημαντική ανακάλυψη», είπε ο Alman. Το αποτέλεσμα απλώς θα βοηθήσει τους ερευνητές στην αναζήτησή τους.

Σαν να αποδεικνύεται το θέμα, τρεις μέρες μετά το Φύση βγήκε χαρτί, ένα ζευγάρι Αυστριακών ερευνητών απεικόνισε πώς νέες και παλιές μέθοδοι μπορεί να αλληλοσυμπληρώνονται. Χρησιμοποίησαν μια συμβατική αναζήτηση με τη βοήθεια υπολογιστή περαιτέρω βελτίωση ένας από τους αλγόριθμους που είχε ανακαλύψει το νευρωνικό δίκτυο.

Τα αποτελέσματα υποδηλώνουν ότι, όπως και η διαδικασία επίλυσης ενός κύβου του Ρούμπικ, η διαδρομή προς καλύτερους αλγόριθμους θα είναι γεμάτη ανατροπές και στροφές.

Πίνακες πολλαπλασιασμού

Ο πολλαπλασιασμός πίνακα είναι μια από τις πιο θεμελιώδεις και πανταχού παρούσες πράξεις σε όλα τα μαθηματικά. Για να πολλαπλασιάσετε ένα ζεύγος n-με-n πίνακες, καθεμία με n² στοιχεία, πολλαπλασιάζετε και προσθέτετε αυτά τα στοιχεία μαζί σε συγκεκριμένους συνδυασμούς για να δημιουργήσετε το προϊόν, ένα τρίτο n-με-n μήτρα. Η τυπική συνταγή για τον πολλαπλασιασμό δύο n-με-n μήτρες απαιτεί n³ πράξεις πολλαπλασιασμού, επομένως ένας πίνακας 2 επί 2, για παράδειγμα, απαιτεί οκτώ πολλαπλασιασμούς.

Για μεγαλύτερους πίνακες, με χιλιάδες σειρές και στήλες, αυτή η διαδικασία γίνεται γρήγορα δυσκίνητη. Αλλά το 1969, ο μαθηματικός Volker Strassen ανακάλυψε μια διαδικασία για τον πολλαπλασιασμό ενός ζεύγους πινάκων 2 επί 2 χρησιμοποιώντας επτά και όχι οκτώ βήματα πολλαπλασιασμού, με κόστος εισαγωγής περισσότερων βημάτων πρόσθεσης.

Ο αλγόριθμος του Strassen είναι άσκοπα μπερδεμένος εάν θέλετε απλώς να πολλαπλασιάσετε ένα ζεύγος πινάκων 2 επί 2. Αλλά συνειδητοποίησε ότι θα λειτουργούσε και για μεγαλύτερες μήτρες. Αυτό συμβαίνει επειδή τα στοιχεία ενός πίνακα μπορεί να είναι από μόνα τους πίνακες. Για παράδειγμα, ένας πίνακας με 20,000 σειρές και 20,000 στήλες μπορεί να επαναληφθεί ως ένας πίνακας 2 επί 2 του οποίου τα τέσσερα στοιχεία είναι 10,000 επί 10,000 πίνακες. Κάθε ένας από αυτούς τους πίνακες μπορεί στη συνέχεια να υποδιαιρεθεί σε τέσσερα μπλοκ 5,000 επί 5,000 κ.ο.κ. Ο Στράσεν θα μπορούσε να εφαρμόσει τη μέθοδό του για να πολλαπλασιάσει πίνακες 2 επί 2 σε κάθε επίπεδο αυτής της ένθετης ιεραρχίας. Καθώς το μέγεθος του πίνακα αυξάνεται, η εξοικονόμηση πόρων από λιγότερους πολλαπλασιασμούς αυξάνεται.

Η ανακάλυψη του Strassen οδήγησε σε μια αναζήτηση αποτελεσματικών αλγορίθμων για πολλαπλασιασμό πινάκων, που έκτοτε έχει εμπνεύσει δύο διαφορετικά υποπεδία. Το ένα εστιάζει σε ένα ζήτημα αρχής: Αν φανταστείτε να πολλαπλασιάσετε δύο n-με-n μήτρες και ας n τρέχει προς το άπειρο, πώς κλιμακώνεται ο αριθμός των βημάτων πολλαπλασιασμού στην ταχύτερη δυνατή κλίμακα αλγορίθμου n; ο τρέχουσα εγγραφή για την καλύτερη κλιμάκωση, n^2.3728596, ανήκει στον Άλμαν και Βιρτζίνια Βασιλέβσκα Γουίλιαμς, επιστήμονας υπολογιστών στο Τεχνολογικό Ινστιτούτο της Μασαχουσέτης. (Ένα πρόσφατο αδημοσίευτο προεκτύπωση ανέφερε μια μικροσκοπική βελτίωση χρησιμοποιώντας μια νέα τεχνική.) Αλλά αυτοί οι αλγόριθμοι έχουν καθαρά θεωρητικό ενδιαφέρον, κερδίζοντας μεθόδους όπως αυτή του Strassen μόνο για παράλογα μεγάλους πίνακες.

Το δεύτερο υποπεδίο σκέφτεται σε μικρότερη κλίμακα. Λίγο μετά το έργο του Strassen, ο Ισραηλινός Αμερικανός επιστήμονας υπολογιστών Shmuel Winograd έδειξε ότι ο Strassen είχε φτάσει σε ένα θεωρητικό όριο: Δεν είναι δυνατός ο πολλαπλασιασμός πινάκων 2 επί 2 με λιγότερα από επτά βήματα πολλαπλασιασμού. Αλλά για όλα τα άλλα μεγέθη μήτρας, ο ελάχιστος αριθμός απαιτούμενων πολλαπλασιασμών παραμένει ανοιχτό ερώτημα. Και οι γρήγοροι αλγόριθμοι για μικρούς πίνακες θα μπορούσαν να έχουν μεγάλο αντίκτυπο, καθώς οι επαναλαμβανόμενες επαναλήψεις ενός τέτοιου αλγορίθμου θα μπορούσαν να ξεπεράσουν τον αλγόριθμο του Strassen όταν πολλαπλασιάζονται πίνακες λογικού μεγέθους.

Δυστυχώς, ο τεράστιος αριθμός των δυνατοτήτων είναι τεράστιος. Ακόμη και για πίνακες 3 επί 3, «ο αριθμός των πιθανών αλγορίθμων υπερβαίνει τον αριθμό των ατόμων στο σύμπαν», είπε Alhussein Fawzi, ερευνητής του DeepMind και ένας από τους ηγέτες της νέας εργασίας.

Αντιμέτωποι με αυτό το ιλιγγιώδες μενού επιλογών, οι ερευνητές σημείωσαν πρόοδο μετατρέποντας τον πολλαπλασιασμό πινάκων σε κάτι που φαίνεται σαν ένα εντελώς διαφορετικό μαθηματικό πρόβλημα - ένα πρόβλημα που είναι πιο εύκολο να χειριστούν οι υπολογιστές. Είναι δυνατό να αναπαρασταθεί η αφηρημένη εργασία του πολλαπλασιασμού δύο πινάκων ως ένα συγκεκριμένο είδος μαθηματικού αντικειμένου: ένας τρισδιάστατος πίνακας αριθμών που ονομάζεται τανυστής. Οι ερευνητές μπορούν στη συνέχεια να σπάσουν αυτόν τον τανυστή σε ένα άθροισμα στοιχειωδών συστατικών, που ονομάζονται τανυστές "rank-1". καθένα από αυτά θα αντιπροσωπεύει ένα διαφορετικό βήμα στον αντίστοιχο αλγόριθμο πολλαπλασιασμού πινάκων. Αυτό σημαίνει ότι η εύρεση ενός αποτελεσματικού αλγορίθμου πολλαπλασιασμού ισοδυναμεί με την ελαχιστοποίηση του αριθμού των όρων σε μια αποσύνθεση τανυστή — όσο λιγότεροι είναι οι όροι, τόσο λιγότερα τα βήματα που εμπλέκονται.

Με αυτόν τον τρόπο, οι ερευνητές ανακάλυψαν νέα αλγόριθμοι που πολλαπλασιάζονται n-με-n πίνακες που χρησιμοποιούν λιγότερες από τις τυπικές n³ βήματα πολλαπλασιασμού για πολλά μικρά μεγέθη μήτρας. Αλλά οι αλγόριθμοι που ξεπερνούν όχι μόνο τον τυπικό αλλά και τον αλγόριθμο του Strassen για μικρούς πίνακες παρέμειναν απρόσιτοι — μέχρι τώρα.

Το παιχνίδι είναι ενεργοποιημένο

Η ομάδα του DeepMind προσέγγισε το πρόβλημα μετατρέποντας την αποσύνθεση του τανυστή σε ένα παιχνίδι για έναν παίκτη. Ξεκίνησαν με έναν αλγόριθμο βαθιάς μάθησης που προέρχεται από το AlphaGo - ένα άλλο DeepMind AI που το 2016 έμαθε να παίζει το επιτραπέζιο παιχνίδι Go αρκετά καλά για να νικήσει τους κορυφαίους παίκτες.

Όλοι οι αλγόριθμοι βαθιάς μάθησης είναι χτισμένοι γύρω από νευρωνικά δίκτυα: ιστοί τεχνητών νευρώνων ταξινομημένων σε επίπεδα, με συνδέσεις που μπορεί να ποικίλλουν σε ισχύ που αντιπροσωπεύουν πόσο επηρεάζει κάθε νευρώνας αυτούς στο επόμενο επίπεδο. Η ισχύς αυτών των συνδέσεων τροποποιείται σε πολλές επαναλήψεις μιας εκπαιδευτικής διαδικασίας, κατά την οποία το νευρωνικό δίκτυο μαθαίνει να μετατρέπει κάθε είσοδο που λαμβάνει σε έξοδο που βοηθά τον αλγόριθμο να επιτύχει τον γενικό του στόχο.

Στον νέο αλγόριθμο της DeepMind, που ονομάζεται AlphaTensor, οι είσοδοι αντιπροσωπεύουν βήματα στην πορεία προς ένα έγκυρο σχήμα πολλαπλασιασμού μήτρας. Η πρώτη είσοδος στο νευρωνικό δίκτυο είναι ο αρχικός τανυστής πολλαπλασιασμού μήτρας και η έξοδος του είναι ο τανυστής κατάταξης-1 που έχει επιλέξει το AlphaTensor για την πρώτη του κίνηση. Ο αλγόριθμος αφαιρεί αυτόν τον τανυστή κατάταξης-1 από την αρχική είσοδο, δίνοντας έναν ενημερωμένο τανυστή που τροφοδοτείται πίσω στο δίκτυο ως νέα είσοδος. Η διαδικασία επαναλαμβάνεται έως ότου τελικά κάθε στοιχείο στον αρχικό τανυστή έχει μειωθεί στο μηδέν, που σημαίνει ότι δεν υπάρχουν άλλοι τανυστές κατάταξης 1 για να αφαιρέσετε.

Σε εκείνο το σημείο, το νευρωνικό δίκτυο ανακάλυψε μια έγκυρη αποσύνθεση τανυστή, καθώς είναι μαθηματικά εγγυημένο ότι το άθροισμα όλων των τανυστών κατάταξης-1 είναι ακριβώς ίσο με τον αρχικό τανυστή. Και τα βήματα που έγιναν για να φτάσετε εκεί μπορούν να μεταφραστούν ξανά σε βήματα του αντίστοιχου αλγορίθμου πολλαπλασιασμού πινάκων.

Εδώ είναι το παιχνίδι: Το AlphaTensor αποσυνθέτει επανειλημμένα έναν τανυστή σε ένα σύνολο στοιχείων κατάταξης-1. Κάθε φορά, το AlphaTensor ανταμείβεται εάν βρει τρόπο να μειώσει τον αριθμό των βημάτων. Αλλά οι συντομεύσεις για τη νίκη δεν είναι καθόλου διαισθητικές, όπως μερικές φορές πρέπει να ανακατέψετε ένα τέλεια διατεταγμένο πρόσωπο σε έναν κύβο του Ρούμπικ προτού μπορέσετε να λύσετε το όλο θέμα.

Η ομάδα είχε πλέον έναν αλγόριθμο που θα μπορούσε, θεωρητικά, να λύσει το πρόβλημά της. Απλώς έπρεπε να το εκπαιδεύσουν πρώτα.

Νέα Μονοπάτια

Όπως όλα τα νευρωνικά δίκτυα, το AlphaTensor χρειάζεται πολλά δεδομένα για εκπαίδευση, αλλά η αποσύνθεση του τανυστή είναι ένα πολύ δύσκολο πρόβλημα. Υπήρχαν λίγα παραδείγματα αποτελεσματικών αποσυνθέσεων που οι ερευνητές μπορούσαν να τροφοδοτήσουν το δίκτυο. Αντίθετα, βοήθησαν τον αλγόριθμο να ξεκινήσει εκπαιδεύοντάς τον στο πολύ πιο εύκολο αντίστροφο πρόβλημα: αθροίζοντας μια δέσμη τανυστών κατάταξης που δημιουργήθηκαν τυχαία.

"Χρησιμοποιούν το εύκολο πρόβλημα για να παράγουν περισσότερα δεδομένα για το δύσκολο πρόβλημα", είπε Μάικλ Λίτμαν, επιστήμονας υπολογιστών στο Πανεπιστήμιο Μπράουν. Ο συνδυασμός αυτής της διαδικασίας εκμάθησης προς τα πίσω με την ενισχυτική μάθηση, όπου το AlphaTensor παρήγαγε τα δικά του δεδομένα εκπαίδευσης καθώς μπερδεύονταν αναζητώντας αποτελεσματικές αποσυνθέσεις, λειτούργησε πολύ καλύτερα από κάθε μέθοδο εκπαίδευσης από μόνη της.

Η ομάδα του DeepMind εκπαίδευσε το AlphaTensor να αποσυνθέτει τανυστές που αντιπροσωπεύουν τον πολλαπλασιασμό πινάκων έως και 12 επί 12. Αναζήτησε γρήγορους αλγόριθμους για τον πολλαπλασιασμό πινάκων συνηθισμένων πραγματικών αριθμών και επίσης αλγόριθμους ειδικούς για μια πιο περιορισμένη ρύθμιση γνωστή ως αριθμητική modulo 2. (Αυτά είναι μαθηματικά που βασίζονται μόνο σε δύο αριθμούς, επομένως τα στοιχεία του πίνακα μπορούν να είναι μόνο 0 ή 1 και 1 + 1 = 0.) Οι ερευνητές συχνά ξεκινούν με αυτόν τον πιο περιορισμένο αλλά ακόμα τεράστιο χώρο, με την ελπίδα ότι οι αλγόριθμοι που ανακαλύφθηκαν εδώ μπορούν να προσαρμοστούν σε εργασία σε πίνακες πραγματικών αριθμών.

Μετά την προπόνηση, ο AlphaTensor ανακάλυψε ξανά τον αλγόριθμο του Strassen μέσα σε λίγα λεπτά. Στη συνέχεια ανακάλυψε έως και χιλιάδες νέους γρήγορους αλγόριθμους για κάθε μέγεθος πίνακα. Αυτοί ήταν διαφορετικοί από τους πιο γνωστούς αλγόριθμους αλλά είχαν τον ίδιο αριθμό βημάτων πολλαπλασιασμού.

Σε λίγες περιπτώσεις, το AlphaTensor ξεπέρασε ακόμη και τα υπάρχοντα ρεκόρ. Οι πιο εκπληκτικές ανακαλύψεις του έγιναν στην αριθμητική modulo 2, όπου βρήκε έναν νέο αλγόριθμο για τον πολλαπλασιασμό πινάκων 4 επί 4 σε 47 βήματα πολλαπλασιασμού, μια βελτίωση σε σχέση με τα 49 βήματα που απαιτούνται για δύο επαναλήψεις του αλγορίθμου του Strassen. Ξεπέρασε επίσης τον πιο γνωστό αλγόριθμο για πίνακες 5 επί 5 modulo 2, μειώνοντας τον αριθμό των απαιτούμενων πολλαπλασιασμών από το προηγούμενο ρεκόρ των 98 σε 96. (Αλλά αυτό το νέο ρεκόρ εξακολουθεί να υστερεί σε σχέση με τα 91 βήματα που θα απαιτούνταν να νικηθούν Ο αλγόριθμος του Strassen χρησιμοποιώντας πίνακες 5 επί 5.)

Το νέο αποτέλεσμα υψηλού προφίλ δημιούργησε πολύ ενθουσιασμό, με μερικοί ερευνητές σωρό επαίνους για τη βελτίωση που βασίζεται στην τεχνητή νοημοσύνη στο status quo. Αλλά δεν ήταν όλοι στην κοινότητα πολλαπλασιασμού μήτρας τόσο εντυπωσιασμένοι. «Ένιωσα σαν να ήταν λίγο υπερβολικό», είπε η Vassilevska Williams. «Είναι άλλο ένα εργαλείο. Δεν είναι σαν «Ω, οι υπολογιστές νίκησαν τους ανθρώπους», ξέρεις;».

Οι ερευνητές τόνισαν επίσης ότι οι άμεσες εφαρμογές του αλγορίθμου 4-από-4 που σπάει ρεκόρ θα είναι περιορισμένες: Όχι μόνο ισχύει μόνο στην αριθμητική modulo 2, αλλά στην πραγματική ζωή υπάρχουν σημαντικά ζητήματα εκτός από την ταχύτητα.

Ο Fawzi συμφώνησε ότι πραγματικά, αυτή είναι μόνο η αρχή. «Υπάρχουν πολλά περιθώρια βελτίωσης και έρευνας, και αυτό είναι καλό», είπε.

Μια τελική ανατροπή

Η μεγαλύτερη δύναμη του AlphaTensor σε σχέση με τις καθιερωμένες μεθόδους αναζήτησης υπολογιστή είναι και η μεγαλύτερη αδυναμία του: Δεν περιορίζεται από την ανθρώπινη διαίσθηση σχετικά με το πώς μοιάζουν οι καλοί αλγόριθμοι, επομένως δεν μπορεί να εξηγήσει τις επιλογές του. Αυτό καθιστά δύσκολο για τους ερευνητές να μάθουν από τα επιτεύγματά του.

Αλλά αυτό μπορεί να μην είναι τόσο μεγάλο μειονέκτημα όσο φαίνεται. Λίγες μέρες μετά το αποτέλεσμα του AlphaTensor, ο μαθηματικός Μανουέλ Κάουερς και ο μεταπτυχιακός φοιτητής του Jakob Moosbauer, αμφότεροι του Πανεπιστημίου Johannes Kepler Linz στην Αυστρία, ανέφεραν ένα ακόμη βήμα προς τα εμπρός.

Όταν κυκλοφόρησε το έγγραφο DeepMind, ο Kauers και ο Moosbauer βρίσκονταν στη διαδικασία αναζήτησης νέων αλγορίθμων πολλαπλασιασμού χρησιμοποιώντας μια συμβατική αναζήτηση με τη βοήθεια υπολογιστή. Αλλά σε αντίθεση με τις περισσότερες τέτοιες αναζητήσεις, οι οποίες ξεκινούν εκ νέου με μια νέα κατευθυντήρια αρχή, η μέθοδός τους λειτουργεί τροποποιώντας επανειλημμένα έναν υπάρχοντα αλγόριθμο με την ελπίδα να συμπιέσει περισσότερες εξοικονομήσεις πολλαπλασιασμού από αυτόν. Λαμβάνοντας ως σημείο εκκίνησης τον αλγόριθμο του AlphaTensor για πίνακες 5 επί 5 modulo 2, διαπίστωσαν έκπληκτοι ότι η μέθοδός τους μείωσε τον αριθμό των βημάτων πολλαπλασιασμού από 96 σε 95 μετά από λίγα δευτερόλεπτα υπολογισμού.

Το AlphaTensor τους βοήθησε επίσης να κάνουν άλλη μια βελτίωση έμμεσα. Προηγουμένως, ο Kauers και ο Moosbauer δεν είχαν μπει στον κόπο να εξερευνήσουν το χώρο των πινάκων 4 επί 4, πιστεύοντας ότι δεν θα ήταν δυνατό να νικήσουν δύο επαναλήψεις του αλγορίθμου του Strassen. Το αποτέλεσμα του AlphaTensor τους ώθησε να το ξανασκεφτούν και μετά από μια εβδομάδα υπολογιστικού χρόνου που ξεκίνησε από την αρχή, η μέθοδός τους έδειξε έναν άλλο αλγόριθμο 47 βημάτων που δεν σχετίζεται με αυτόν που είχε ανακαλύψει ο AlphaTensor. «Αν κάποιος μας έλεγε ότι υπάρχει κάτι να ανακαλύψουμε για το 4-από-4, θα μπορούσαμε να το είχαμε κάνει νωρίτερα», είπε ο Kauers. «Αλλά εντάξει, καλά, έτσι λειτουργεί».

Ο Littman αναμένει περισσότερες τέτοιες εκπλήξεις, παρομοιάζοντας την κατάσταση με την πρώτη φορά που ένας δρομέας τερμάτισε ένα μίλι σε λιγότερο από τέσσερα λεπτά, ένα κατόρθωμα που είχε ευρέως θεωρηθεί αδύνατο. «Οι άνθρωποι έλεγαν «Ω, περίμενε, μπορούμε να το κάνουμε αυτό», και τώρα πολλοί άνθρωποι μπορούν να το κάνουν», είπε.

Προσβλέποντας στο μέλλον, ο Fawzi ελπίζει να γενικεύσει το AlphaTensor για να αντιμετωπίσει ένα ευρύτερο φάσμα μαθηματικών και υπολογιστικών εργασιών, όπως ο πρόγονός του AlphaGo τελικά διακλαδίστηκε σε άλλα παιχνίδια.

Ο Κάουερς το βλέπει αυτό ως την αληθινή λυδία λίθο για την εφαρμογή της μηχανικής μάθησης στην ανακάλυψη νέων αλγορίθμων. Επισημαίνει ότι η αναζήτηση αλγορίθμων πολλαπλασιασμού γρήγορων πινάκων είναι ένα συνδυαστικό πρόβλημα στο οποίο ταιριάζουν οι αναζητήσεις σε υπολογιστή, με ή χωρίς ανθρώπινη βοήθεια. Αλλά δεν είναι τόσο εύκολο να εντοπιστούν όλα τα μαθηματικά προβλήματα. Εάν η μηχανική μάθηση μπορέσει να ανακαλύψει μια ποιοτικά νέα αλγοριθμική ιδέα, είπε, «αυτό θα άλλαζε το παιχνίδι».