Deep Mind on laiendanud AlphaZero matemaatikale, et avada uusi võimalusi uurimisalgoritmide jaoks.
AlphaTensor tugineb AlphaZerole, agendile, kes on näidanud üliinimlikku jõudlust lauamängudes, nagu male, Go ja shogi, ning see töö näitab AlphaZero teekonda mängude mängimisest kuni lahendamata matemaatiliste probleemide lahendamiseni esimest korda.
Muistsed egiptlased lõid algoritmi kahe arvu korrutamiseks ilma korrutustabelit nõudmata ning Kreeka matemaatik Euclid kirjeldas algoritmi suurima ühisjagaja arvutamiseks, mis on kasutusel ka tänapäeval.
Islami kuldajastul töötas Pärsia matemaatik Muhammad ibn Musa al-Khwarizmi välja uued algoritmid lineaarsete ja ruutvõrrandite lahendamiseks. Tegelikult viis al-Khwarizmi nimi, tõlgitud ladina keelde kui Algoritmi, termini algoritm. Kuid vaatamata sellele, et tänapäeval tuntakse algoritme – mida kasutatakse kogu ühiskonnas alates klassiruumi algebrast kuni tipptasemel teadusuuringuteni – on uute algoritmide avastamise protsess uskumatult keeruline ja see on näide inimmõistuse hämmastavatest arutlusvõimetest.
Nad avaldasid ajakirjas Nature. AlphaTensor on esimene tehisintellekti (AI) süsteem uudsete, tõhusate ja tõestatavalt õigete algoritmide avastamiseks selliste põhiülesannete jaoks nagu maatrikskorrutamine. See heidab valgust 50-aastasele matemaatikas avatud küsimusele, kuidas leida kiireim viis kahe maatriksi korrutamiseks.
Algusest peale koolitatud AlphaTensor avastab maatriksikorrutusalgoritmid, mis on tõhusamad kui olemasolevad inimese ja arvuti loodud algoritmid. Vaatamata tuntud algoritmide täiustamisele märgivad nad, et AlphaTensori piirang seisneb vajaduses eelnevalt määratleda potentsiaalsete faktorite kirjete komplekt F, mis diskretiseerib otsinguruumi, kuid võib viia tõhusate algoritmide kasutamata jätmiseni. Huvitav suund tulevaste uuringute jaoks on AlphaTensori kohandamine F otsimiseks. AlphaTensori üheks oluliseks tugevuseks on selle paindlikkus toetada lisaks algoritmide leidmisele ka keerulisi stohhastilisi ja mittediferentseeruvaid hüvesid (alates tensori auastmest kuni konkreetse riistvara praktilise efektiivsuseni). kohandatud toimingute jaoks väga erinevates ruumides (nt piiratud väljad). Nad usuvad, et see tõukab AlphaTensori rakendusi kavandama algoritme, mis optimeerivad mõõdikuid, mida me siin ei arvestanud, näiteks numbriline stabiilsus või energiakasutus.
Maatrikskorrutamisalgoritmide avastamisel on kaugeleulatuvad tagajärjed, kuna maatrikskorrutamine on paljude arvutusülesannete, nagu maatriksi inversioon, determinandi arvutamine ja lineaarsete süsteemide lahendamine, keskmes.
Algoritmilise avastamise automatiseerimise protsess ja edenemine
Esiteks muutsid nad maatriksi korrutamise tõhusate algoritmide leidmise probleemi ühe mängijaga mänguks. Selles mängus on tahvliks kolmemõõtmeline tensor (arvude massiiv), mis fikseerib, kui kaugel õigest praegune algoritm on. Lubatud käikude komplekti kaudu, mis vastavad algoritmi juhistele, püüab mängija muuta tensorit ja nullida selle kirjed. Kui mängijal see õnnestub, saadakse iga maatriksipaari jaoks tõestatavalt õige maatriksi korrutusalgoritm ja selle tõhusust kajastab tensori nullimiseks tehtud sammude arv.
See mäng on uskumatult keeruline – võimalike algoritmide arv on palju suurem kui universumi aatomite arv, isegi maatriksi korrutamise väikeste juhtumite korral. Võrreldes mänguga Go, mis jäi tehisintellektile aastakümneteks väljakutseks, on nende mängu igal etapil võimalike käikude arv 30 suurusjärku suurem (üle 10^33 ühe nende poolt arvestatava seade puhul).
Põhimõtteliselt tuleb selle mängu edukaks mängimiseks tuvastada hiiglaslikust võimaluste hulgast kõige pisemad nõelad. Selle traditsioonilistest mängudest oluliselt kõrvalekalduva domeeni väljakutsetega toimetulemiseks töötasime välja mitu olulist komponenti, sealhulgas uudse närvivõrgu arhitektuuri, mis sisaldab probleemispetsiifilisi induktiivseid eelarvamusi, kasulike sünteetiliste andmete genereerimise protseduuri ja retsepti sümmeetriate võimendamiseks. probleem.
Seejärel koolitasid nad AlphaTensori agenti, kasutades mängu mängimiseks tugevdusõpet, alustades ilma teadmisteta olemasolevate maatriksi korrutamisalgoritmide kohta. Õppimise kaudu täiustab AlphaTensor aja jooksul järk-järgult, avastades uuesti ajaloolised kiired maatriksi korrutamisalgoritmid, nagu Strasseni oma, ületades lõpuks inimese intuitsiooni ja avastades algoritme senisest kiiremini.
Mõju uurimine tulevastele teadusuuringutele ja rakendustele
Matemaatilisest vaatenurgast võivad nende tulemused suunata keerukuse teooria edasist uurimistööd, mille eesmärk on määrata arvutusprobleemide lahendamise kiireimad algoritmid. Uurides võimalike algoritmide ruumi varasematest lähenemisviisidest tõhusamal viisil, aitab AlphaTensor edendada meie arusaamist maatriksi korrutamisalgoritmide rikkusest. Selle ruumi mõistmine võib avada uusi tulemusi, mis aitavad määrata maatriksi korrutamise asümptootilist keerukust, mis on arvutiteaduse üks põhilisemaid avatud probleeme.
Kuna maatrikskorrutamine on paljude arvutusülesannete põhikomponent, mis hõlmab arvutigraafikat, digitaalset sidet, närvivõrkude koolitust ja teaduslikku andmetöötlust, võivad AlphaTensori avastatud algoritmid muuta nendes valdkondades arvutused oluliselt tõhusamaks. AlphaTensori paindlikkus igasuguste eesmärkide arvestamisel võib samuti ärgitada uusi rakendusi selliste algoritmide kujundamiseks, mis optimeerivad mõõdikuid, nagu energiakasutus ja arvuline stabiilsus, aidates vältida väikeste ümardamisvigade lumepallide tekkimist, kuna algoritm töötab.
Kuigi nad keskendusid siin maatriksi korrutamise konkreetsele probleemile, loodame, et meie artikkel inspireerib teisi kasutama AI-d, et suunata algoritmilist avastamist muude põhiliste arvutusülesannete jaoks. Nende uuringud näitavad ka, et AlphaZero on võimas algoritm, mida saab laiendada traditsiooniliste mängude valdkonnast kaugemale, et aidata lahendada matemaatika avatud probleeme. Tuginedes meie uuringutele, loodavad nad ergutada suuremat hulka tööd – rakendades tehisintellekti, et aidata ühiskonnal lahendada mõned kõige olulisemad väljakutsed matemaatikas ja erinevates teadustes.
Loodus – kiiremate maatriksikorrutamisalgoritmide avastamine koos tugevdusõppega
Abstraktne
Põhiliste arvutuste algoritmide tõhususe parandamine võib avaldada laialdast mõju, kuna see võib mõjutada suure hulga arvutuste üldist kiirust. Maatriksi korrutamine on üks sellistest primitiivsetest ülesannetest, mis esineb paljudes süsteemides – alates närvivõrkudest kuni teadusliku andmetöötluse rutiinideni. Algoritmide automaatne avastamine masinõppe abil pakub väljavaateid jõuda kaugemale inimese intuitsioonist ja ületada praegused parimad inimese loodud algoritmid. Algoritmi avastamise protseduuri automatiseerimine on aga keeruline, kuna võimalike algoritmide ruum on tohutu. Siin kirjeldame AlphaZero1-l põhinevat sügavat tugevdamise õppimisviisi, et leida tõhusad ja tõestatavalt õiged algoritmid suvaliste maatriksite korrutamiseks. Meie agent AlphaTensor on koolitatud mängima ühe mängijaga mängu, mille eesmärk on leida lõpliku teguri ruumis tensorite lagunemisi. AlphaTensor avastas algoritmid, mis ületavad paljude maatriksisuuruste tipptasemel keerukuse. Eriti asjakohane on 4 × 4 maatriksi juhtum piiratud väljas, kus AlphaTensori algoritm täiustab meie teadmiste kohaselt esimest korda Strasseni kahetasandilist algoritmi alates selle avastamisest 50 aastat tagasi2. Lisaks tutvustame AlphaTensori paindlikkust erinevatel kasutusjuhtudel: tipptasemel keerukusega algoritmid struktureeritud maatriksi korrutamiseks ja täiustatud praktiline tõhusus, optimeerides maatriksi korrutamist konkreetse riistvara käitusaja jaoks. Meie tulemused rõhutavad AlphaTensori võimet kiirendada algoritmilise avastamise protsessi mitmesuguste probleemide korral ja optimeerida erinevate kriteeriumide järgi.
Brian Wang on futuristide mõttejuht ja populaarne teadusblogija, kellel on miljon lugejat kuus. Tema ajaveeb Nextbigfuture.com on teadusuudiste ajaveeb. See hõlmab paljusid häirivaid tehnoloogiaid ja suundumusi, sealhulgas kosmos, robootika, tehisintellekt, meditsiin, vananemisvastane biotehnoloogia ja nanotehnoloogia.
Tuntud tipptasemel tehnoloogiate tuvastamise poolest, on ta praegu suure potentsiaaliga varajases staadiumis ettevõtete käivitamise ja korjanduse kaasasutaja. Ta on süvatehnoloogiainvesteeringuteks eraldatavate teadusuuringute juht ja ingelinvestor Space Angels'is.
Korporatsioonides sagedane esineja, ta on olnud TEDx -esineja, Singularity University esineja ja külaline paljudel raadio- ja taskuhäälingusaadete intervjuudel. Ta on avatud avalikule esinemisele ja nõustamistegevustele.
