DeepMind on seda taas teinud.
Pärast põhiprobleemi lahendamist bioloogiasvalgu struktuuri ennustamine—Ja sõlmeteooria matemaatika lahtiharutamine, on selle eesmärgiks võetud põhiline arvutusprotsess, mis on manustatud tuhandetesse igapäevastesse rakendustesse. Alates piltide sõelumisest kuni ilma modelleerimine või isegi tehisnärvivõrkude sisemist tööd uurides võib AI teoreetiliselt kiirendada arvutusi paljudes valdkondades, suurendades tõhusust, vähendades samal ajal energiatarbimist ja kulusid.
Kuid muljetavaldavam on kuidas nad tegid seda. Rekordi purustav algoritm, nimega AlphaTensor, on selle kõrval AlfaZero, mis tõrjus kuulsalt inimmängijaid males ja go-s.
"Algoritme on kogu maailma tsivilisatsioonides põhiliste toimingute tegemiseks kasutatud tuhandeid aastaid," kirjutas kaasautorid Drs. Matej Balog ja Alhussein Fawzi DeepMindis. "Algoritmide avastamine on aga väga keeruline."
AlphaTensor viib raja uude maailma, kus tehisintellekt kavandab programme, mis ületavad kõike, mida inimesed insenerid suudavad, täiustades samal ajal oma masina „aju”.
"See töö tungib kaardistamata territooriumile, kasutades AI-d optimeerimisprobleemi lahendamiseks, mille kallal inimesed on aastakümneid töötanud... leitud lahendusi saab kohe välja töötada, et parandada arvutuslikku tööaega," ütles dr Federico Levi, ettevõtte vanemtoimetaja dr Federico Levi. loodus, Mis avaldatud õping.
Sisestage maatrikskorrutis
Probleem, millega AlphaTensor silmitsi seisab, on maatriksi korrutamine. Kui näete järsku roheliste numbrite ridu ja veerge, mis kerivad ekraanil allapoole, pole te üksi. Jämedalt öeldes on maatriks omamoodi – numbrite ruudustik, mis esindab digitaalselt teie valitud andmeid. Need võivad olla pildi pikslid, heliklipi sagedused või tegelaste välimus ja tegevused videomängudes.
Maatrikskorrutamine võtab kaks arvude ruudustikku ja korrutab üksteisega. See on arvutus, mida sageli õpetatakse keskkoolis, kuid see on oluline ka arvutisüsteemide jaoks. Siin korrutatakse ühe maatriksi numbrite read teise maatriksi veergudega. Tulemused loovad tulemuse – näiteks käsu videomängustseeni vaate sissesuumimiseks või kallutamiseks. Kuigi need arvutused toimivad kapoti all, sõltub igaüks, kes kasutab telefoni või arvutit, nende tulemustest iga päev.
Näete, kuidas probleem võib muutuda äärmiselt keeruliseks, ülikiireks. Suurte maatriksite korrutamine on uskumatult energia- ja ajakulukas. Uue maatriksi koostamiseks tuleb iga numbripaar eraldi korrutada. Maatriksite kasvades muutub probleem kiiresti vastuvõetamatuks – veelgi enam kui parima male või Go käikude ennustamine. Mõned eksperdid arvavad, et neid on rohkem viise lahendada maatriksi korrutamine kui aatomite arv universumis.
1969. aastal näitas Saksa matemaatik Volker Strassen, et on olemas viise nurkade lõikamiseks, vähendades ühe vooru kaks korda kahe maatriksi korrutamist. kokku kaheksa kuni seitse. See ei pruugi tunduda muljetavaldav, kuid Strasseni meetod näitas, et maatriksikorrutamise puhul on võimalik ületada kaua kehtinud tehtestandardeid, st algoritme. Tema lähenemisviis, Strasseni algoritm, on valitsenud kõige tõhusama lähenemisviisina üle 50 aasta.
Aga mis siis, kui on olemas veelgi tõhusamad meetodid? "Keegi ei tea selle lahendamiseks parimat algoritmi," ütles dr François Le Gall Jaapani Nagoya ülikoolist, kes ei osalenud töös. ütles MIT Technology Review. "See on arvutiteaduse üks suurimaid lahtisi probleeme."
AI tagaajamise algoritmid
Kui inimese intuitsioon kõikub, siis miks mitte kasutada mehhaanilist mõistust?
Uues uuringus muutis DeepMindi meeskond maatriksi korrutamise mänguks. Sarnaselt oma eelkäijaga AlphaZero kasutab AlphaTensor sügavat tugevdamistõpet, masinõppemeetodit, mis on inspireeritud bioloogilise aju õppimisest. Siin suhtleb AI agent (sageli tehisnärvivõrk) oma keskkonnaga mitmeastmelise probleemi lahendamiseks. Kui see õnnestub, teenib see "preemia" – st tehisintellekti võrguparameetreid värskendatakse, nii et tulevikus õnnestub see tõenäoliselt uuesti.
See on nagu pannkoogi ümberpööramise õppimine. Alguses kukuvad palju põrandale, kuid lõpuks õpivad teie närvivõrgud käte ja käte liigutused täiuslikuks ümberpööramiseks.
AlphaTensori treeningväljak on omamoodi 3D-lauamäng. See on sisuliselt ühe mängijaga pusle, mis sarnaneb Sudokuga. Tehisintellekt peab korrutama arvude ruudustikke võimalikult väheste sammudega, valides samal ajal lugematute lubatud käikude hulgast – neist üle triljoni.
Need lubatud käigud olid AlphaTensorisse hoolikalt kavandatud. Pressibriifingul selgitas kaasautor dr Hussain Fawzi: "Algoritmilise avastamise ruumi sõnastamine on väga keeruline... veelgi raskem on see, kuidas me saame selles ruumis navigeerida."
Teisisõnu, kuidas me saame neid kitsendada, kui oleme silmitsi hämmastava hulga valikutega, et parandada oma võimalusi nõel heinakuhjast leida? Ja kuidas saaksime kõige paremini strateegiat teha, et nõela juurde jõuda ilma tervet heinakuhja läbi kaevamata?
Üks trikk, mille meeskond AlphaTensorisse kaasas, on meetod, mida nimetatakse puuotsinguks. Selle asemel, et metafooriliselt öeldes juhuslikult heinakuhjast läbi kaevata, uurib tehisintellekt siin "teid", mis võivad viia parema tulemuseni. Vahepealsed õpingud aitavad tehisintellektil kavandada oma järgmist sammu, et suurendada eduvõimalusi. Meeskond näitas ka edukate mängude algoritmi näidiseid, näiteks õpetas lapsele male avakäike. Lõpuks, kui tehisintellekt avastas väärtuslikud käigud, lubas meeskond tal need toimingud parema tulemuse otsimiseks kohandatud õppimiseks ümber korraldada.
Uue maa murdmine
AlphaTensor mängis hästi. Testide seerias esitas meeskond tehisintellektile väljakutse leida kõige tõhusamad lahendused kuni viis korda viis maatriksite jaoks, st igas reas või veerus viis numbrit.
Algoritm avastas kiiresti uuesti Strasseni algse häkkimise, kuid ületas seejärel kõik inimmõistuse poolt varem välja mõeldud lahendused. Testides tehisintellekti erineva suurusega maatriksitega, leidis AlphaTensor tõhusamaid lahendusi üle 70 inimese jaoks. „Tegelikult avastab AlphaTensor tavaliselt iga maatriksi suuruse jaoks tuhandeid algoritme,“ ütles meeskond. "See on mõistusevastane."
Ühel juhul, korrutades viis korda viie maatriksi neljaga viiega, kärpis tehisintellekt senise 80 individuaalse korrutamise rekordi vaid 76-ni. See paistis ka suurematele maatriksitele, vähendades kahe jaoks vajalike arvutuste arvu. üksteist korda üksteist maatriksit vahemikus 919 kuni 896.
Kontseptsiooni tõestus käes, asus meeskond praktilise kasutamise poole. Arvutikiibid on sageli loodud erinevate arvutuste optimeerimiseks – näiteks graafika jaoks mõeldud GPU-d või AI kiibid masinõppeks— ja algoritmi sobitamine kõige sobivama riistvaraga suurendab tõhusust.
Siin kasutas meeskond AlphaTensorit, et leida algoritme kahele masinõppes populaarsele kiibile: NVIDIA V100 GPU ja Google TPU. Kokkuvõttes suurendasid AI väljatöötatud algoritmid arvutuskiirust kuni 20 protsenti.
Raske öelda, kas tehisintellekt võib kiirendada ka nutitelefone, sülearvuteid või muid igapäevaseid seadmeid. Kuid "see areng oleks väga põnev, kui seda saaks praktikas kasutada," ütles MIT-i dr Virginia Williams. "Toimivuse suurendamine parandaks paljusid rakendusi."
AI mõistus
Vaatamata sellele, et AlphaTensor purustas maatriksikorrutamise uusima inimrekordi, ei suuda DeepMindi meeskond veel selgitada, miks.
"Neid mänge mängides on tal see hämmastav intuitsioon," ütles DeepMindi teadlane ja kaasautor dr Pushmeet Kohli pressibriifingul.
Ka arenevad algoritmid ei pea olema inimene versus masinad.
Kuigi AlphaTensor on hüppelaud kiiremate algoritmide poole, võiksid olla veelgi kiiremad. "Kuna see peab piirama oma otsingut konkreetse vormi algoritmidega, võib see puududa teist tüüpi algoritmidest, mis võivad olla tõhusamad," kirjutasid Balog ja Fawzi.
Võib-olla ühendaks veelgi intrigeerivam tee inimese ja masina intuitsiooni. "Oleks tore välja mõelda, kas see uus meetod hõlmab tegelikult kõiki eelnevaid või saate neid kombineerida ja saada midagi veelgi paremat." ütles Williams. Teised eksperdid nõustuvad. Kuna nende käsutuses on palju algoritme, saavad teadlased hakata neid lahkama, et leida vihjeid selle kohta, mis pani AlphaTensori lahendused tiksuma, sillutades teed järgmisele läbimurdele.
Pildi krediit: DeepMind
