AlphaTensor perustuu AlphaZeroon, agenttiin, joka on osoittanut yli-inhimillistä suorituskykyä lautapeleissä, kuten shakissa, gossa ja shogissa, ja tämä teos näyttää AlphaZeron matkan pelien pelaamisesta ratkaisemattomien matemaattisten ongelmien ratkaisemiseen ensimmäistä kertaa.
Muinaiset egyptiläiset loivat algoritmin kahden luvun kertomiseksi ilman kertotaulukkoa, ja kreikkalainen matemaatikko Euclid kuvaili algoritmin suurimman yhteisen jakajan laskemiseksi, joka on edelleen käytössä.
Islamilaisen kultakauden aikana persialainen matemaatikko Muhammad ibn Musa al-Khwarizmi suunnitteli uusia algoritmeja lineaaristen ja toisen asteen yhtälöiden ratkaisemiseksi. Itse asiassa al-Khwarizmin nimi, käännetty latinaksi Algoritmiksi, johti termiin algoritmi. Mutta vaikka algoritmit tunnetaan nykyään – joita käytetään kaikkialla yhteiskunnassa luokkahuonealgebrasta huipputieteelliseen tutkimukseen – uusien algoritmien löytäminen on uskomattoman vaikeaa ja esimerkki ihmismielen hämmästyttävistä päättelykyvyistä.
Ne julkaistiin Naturessa. AlphaTensor on ensimmäinen tekoäly (AI) -järjestelmä, joka löytää uusia, tehokkaita ja todistetusti oikeita algoritmeja perustehtäviin, kuten matriisin kertomiseen. Tämä valaisee 50 vuotta vanhaa matematiikan avointa kysymystä nopeimman tavan löytämisestä kahden matriisin kertomiseen.
Tyhjästä opetettu AlphaTensor löytää matriisin kertolaskualgoritmit, jotka ovat tehokkaampia kuin olemassa olevat ihmisten ja tietokoneiden suunnittelemat algoritmit. Huolimatta parannuksista tunnettuihin algoritmeihin verrattuna, he huomauttavat, että AlphaTensorin rajoituksena on tarve määrittää ennalta joukko potentiaalisia tekijämerkintöjä F, mikä diskretisoi hakuavaruuden, mutta voi mahdollisesti johtaa tehokkaiden algoritmien menettämiseen. Mielenkiintoinen suunta tulevalle tutkimukselle on mukauttaa AlphaTensor F-hakuun. Yksi AlphaTensorin tärkeä vahvuus on sen joustavuus tukea monimutkaisia stokastisia ja ei-differoioituvia palkkioita (tensorin arvosta käytännön tehokkuuteen tietyllä laitteistolla) algoritmien löytämisen lisäksi. mukautettuja operaatioita varten useissa eri tiloissa (kuten äärellisissä kentissä). He uskovat, että tämä kannustaa AlphaTensorin sovelluksia suunnittelemaan algoritmeja, jotka optimoivat mittareita, joita emme huomioineet tässä, kuten numeerinen vakaus tai energiankäyttö.
Matriisin kertolaskualgoritmien löytämisellä on kauaskantoisia seurauksia, koska matriisikertominen on monien laskennallisten tehtävien ytimessä, kuten matriisin inversiossa, determinantin laskemisessa ja lineaaristen järjestelmien ratkaisemisessa.
Algoritmisen etsinnän automatisoinnin prosessi ja eteneminen
Ensin he muunsivat ongelman löytää tehokkaita algoritmeja matriisin kertomista varten yhden pelaajan peliksi. Tässä pelissä lauta on kolmiulotteinen tensori (lukutaulukko), joka kuvaa kuinka kaukana oikeasta nykyinen algoritmi on. Sallittujen liikkeiden avulla, jotka vastaavat algoritmin ohjeita, pelaaja yrittää muokata tensoria ja nollata sen merkinnät. Kun pelaaja onnistuu tekemään niin, tuloksena on todistetusti oikea matriisin kertolaskualgoritmi mille tahansa matriisiparille, ja sen tehokkuus mitataan tensorin nollaamiseksi tehtyjen vaiheiden lukumäärällä.
Tämä peli on uskomattoman haastava – mahdollisten algoritmien määrä on paljon suurempi kuin maailmankaikkeuden atomien määrä, jopa pienissä matriisin kertolaskutapauksissa. Verrattuna Go-peliin, joka oli haaste tekoälylle vuosikymmeniä, mahdollisten siirtojen määrä pelin jokaisessa vaiheessa on 30 suuruusluokkaa suurempi (yli 10^33 yhdellä heidän harkitsemistaan asetuksista).
Pohjimmiltaan, jotta voit pelata tätä peliä hyvin, sinun on löydettävä pienimmät neulat valtavasta mahdollisuuksien heinäsuovasta. Tämän perinteisistä peleistä merkittävästi poikkeavan toimialueen haasteisiin vastaamiseksi kehitimme useita tärkeitä komponentteja, mukaan lukien uuden hermoverkkoarkkitehtuurin, joka sisältää ongelmakohtaisia induktiivisia harhoja, menetelmän hyödyllisen synteettisen datan luomiseksi ja reseptin, jolla hyödynnetään symmetriaa. ongelma.
Sen jälkeen he kouluttivat AlphaTensor-agentin vahvistamisoppimisen avulla pelin pelaamiseen aloittaen ilman mitään tietoa olemassa olevista matriisin kertolaskualgoritmeista. Oppimisen avulla AlphaTensor kehittyy vähitellen ajan myötä ja löytää uudelleen historialliset nopeat matriisin kertolaskualgoritmit, kuten Strassenin, lopulta ylittää ihmisen intuition alan ja löytää algoritmeja nopeammin kuin aiemmin tiedettiin.
Tutkitaan vaikutuksia tulevaisuuden tutkimukseen ja sovelluksiin
Matemaattisesta näkökulmasta niiden tulokset voivat ohjata jatkotutkimusta kompleksisuusteoriassa, jonka tavoitteena on määrittää nopeimmat algoritmit laskennallisten ongelmien ratkaisemiseen. AlphaTensor tutkii mahdollisten algoritmien tilaa tehokkaammin kuin aikaisemmat lähestymistavat, ja se auttaa ymmärtämään matriisin kertolaskualgoritmien rikkautta. Tämän tilan ymmärtäminen voi avata uusia tuloksia, jotka auttavat määrittämään matriisin kertolaskujen asymptoottisen monimutkaisuuden, joka on yksi tietojenkäsittelytieteen perustavanlaatuisimmista avoimista ongelmista.
Koska matriisikertominen on keskeinen komponentti monissa laskentatehtävissä, jotka kattavat tietokonegrafiikan, digitaalisen viestinnän, hermoverkkokoulutuksen ja tieteellisen laskennan, AlphaTensorin löytämät algoritmit voisivat tehdä laskennasta näillä aloilla huomattavasti tehokkaampia. AlphaTensorin joustavuus ottaa huomioon kaikenlaiset tavoitteet voisi myös kannustaa uusiin sovelluksiin sellaisten algoritmien suunnitteluun, jotka optimoivat mittareita, kuten energiankulutusta ja numeerista vakautta, mikä auttaa estämään pieniä pyöristysvirheitä lumipallolta, koska algoritmi toimii.
Vaikka he keskittyivät tässä erityiseen matriisin kertolaskuongelmaan, toivomme, että artikkelimme inspiroi muita käyttämään tekoälyä ohjaamaan algoritmien löytämistä muihin perustavanlaatuisiin laskentatehtäviin. Heidän tutkimuksensa osoittaa myös, että AlphaZero on tehokas algoritmi, jota voidaan laajentaa perinteisten pelien ulkopuolelle ratkaisemaan matematiikan avoimia ongelmia. Tutkimuksemme pohjalta he toivovat saavansa lisää työtä – soveltaa tekoälyä auttamaan yhteiskuntaa ratkaisemaan joitakin matematiikan ja tieteiden tärkeimmistä haasteista.
Luonto – Nopeampien matriisin kertolaskualgoritmien löytäminen vahvistusoppimisen avulla
Abstrakti
Peruslaskutoimialgoritmien tehokkuuden parantamisella voi olla laaja vaikutus, koska se voi vaikuttaa suuren laskentamäärän kokonaisnopeuteen. Matriisikertominen on yksi sellaisista primitiivisistä tehtävistä, joita esiintyy monissa järjestelmissä - hermoverkoista tieteellisiin laskentarutiineihin. Automaattinen algoritmien löytäminen koneoppimisen avulla tarjoaa mahdollisuuden päästä ihmisen intuitiota pidemmälle ja ylittää nykyiset parhaat ihmisen suunnittelemat algoritmit. Algoritmien etsintämenettelyn automatisointi on kuitenkin monimutkaista, koska mahdollisten algoritmien tila on valtava. Tässä raportoimme AlphaZero1:een perustuvan syvävahvistusoppimislähestymistavan tehokkaiden ja todistetusti oikeiden algoritmien löytämiseksi mielivaltaisten matriisien kertomiseen. Agenttimme AlphaTensor on koulutettu pelaamaan yksinpeliä, jossa tavoitteena on löytää tensorihajoja rajallisen tekijän avaruudessa. AlphaTensor löysi algoritmeja, jotka ylittävät huippuluokan monimutkaisuuden monien matriisikokojen osalta. Erityisen merkityksellinen on 4 × 4 matriisien tapaus äärellisessä kentässä, jossa AlphaTensorin algoritmi parantaa tietojemme mukaan ensimmäistä kertaa Strassenin kaksitasoista algoritmia sen jälkeen, kun se löydettiin 50 vuotta sitten2. Esittelemme edelleen AlphaTensorin joustavuutta erilaisissa käyttötapauksissa: algoritmeilla, joissa on huippuluokan monimutkaisuus strukturoidun matriisin kertomiseen ja parannettu käytännön tehokkuus optimoimalla matriisikertominen tietyn laitteiston ajon aikana. Tuloksemme korostavat AlphaTensorin kykyä nopeuttaa algoritmista etsintäprosessia useissa ongelmissa ja optimoida eri kriteerit.
Brian Wang on futuristisen ajattelun johtaja ja suosittu Science -bloggaaja, jolla on miljoona lukijaa kuukaudessa. Hänen bloginsa Nextbigfuture.com on sijalla 1 Science News Blog. Se kattaa monia häiritseviä tekniikoita ja suuntauksia, kuten avaruus, robotiikka, tekoäly, lääketiede, ikääntymistä estävä biotekniikka ja nanoteknologia.
Hän tunnetaan huipputeknologioiden tunnistamisesta, ja hän on tällä hetkellä perustaja ja varainkeräys korkean mahdollisen alkuvaiheen yrityksille. Hän on syvän teknologian investointien tutkimuksen johtaja ja Space Angelsin enkelisijoittaja.
Hän on usein puhunut yrityksissä, hän on ollut TEDx -puhuja, Singularity University -puhuja ja vieraana lukuisissa radio- ja podcast -haastatteluissa. Hän on avoin julkiselle puhumiselle ja neuvoille.
