DeepMind on tehnyt sen taas.
Ratkaistuaan perustavanlaatuisen biologian haasteenennustaa proteiinin rakennetta-ja solmuteorian matematiikan selvittäminen, sen tavoitteena on perustavanlaatuinen laskentaprosessi, joka on upotettu tuhansiin jokapäiväisiin sovelluksiin. Kuvien jäsentämisestä sään mallinnus tai jopa tutkimalla keinotekoisten hermoverkkojen sisäistä toimintaa, tekoäly voisi teoriassa nopeuttaa laskelmia useilla aloilla, mikä lisää tehokkuutta ja vähentää energian käyttöä ja kustannuksia.
Mutta vaikuttavampi on miten he tekivät sen. Ennätysalgoritmi, nimeltään AlphaTensor, on sivuvaikutus alfanolla, joka tunnetusti tyrmäsi ihmispelaajia shakissa ja gossa.
"Algoritmeja on käytetty kaikkialla maailman sivilisaatioissa perustoimintojen suorittamiseen tuhansien vuosien ajan." kirjoitti kirjoittajat Drs. Matej Balog ja Alhussein Fawzi DeepMindissä. "Algoritmien löytäminen on kuitenkin erittäin haastavaa."
AlphaTensor kulkee polkua uuteen maailmaan, jossa tekoäly suunnittelee ohjelmia, jotka ylittävät kaikki ihmisten suunnittelemat ja samalla parantavat omia kone-aivojaan.
"Tämä työ tunkeutuu kartoittamattomalle alueelle käyttämällä tekoälyä optimointiongelmaan, jonka parissa ihmiset ovat työskennelleet vuosikymmeniä... sen löytämiä ratkaisuja voidaan kehittää välittömästi laskennallisten ajoaikojen parantamiseksi", sanoi Dr. Federico Levi, vanhempi toimittaja luonto, Joka julkaistu tutkimus.
Syötä matriisikertolasku
AlphaTensorin kohtaama ongelma on matriisin kertominen. Jos yhtäkkiä kuvittelet vihreiden numeroiden rivien ja sarakkeiden rullaavan alas näytölläsi, et ole yksin. Karkeasti sanottuna matriisi on sellainen – numeroruudukko, joka edustaa digitaalisesti valitsemaasi dataa. Se voi olla kuvan pikseleitä, äänileikkeen taajuuksia tai videopelien hahmojen ulkoasua ja toimintaa.
Matriisikertolasku ottaa kaksi lukuruudukkoa ja kertoo toisillaan. Se on laskenta, jota usein opetetaan lukiossa, mutta se on myös kriittinen tietokonejärjestelmille. Tässä yhden matriisin numerorivit kerrotaan toisen matriisin sarakkeilla. Tulokset luovat tuloksen – esimerkiksi komennon lähentää tai kallistaa näkymääsi videopelikohtauksesta. Vaikka nämä laskelmat toimivat konepellin alla, jokainen puhelinta tai tietokonetta käyttävä riippuu tuloksistaan joka ikinen päivä.
Voit nähdä, kuinka ongelma voi muuttua erittäin vaikeaksi, erittäin nopeasti. Suurten matriisien kertominen on uskomattoman energia- ja aikaintensiivistä. Jokainen lukupari on kerrottava erikseen uuden matriisin muodostamiseksi. Kun matriisit kasvavat, ongelmasta tulee nopeasti kestämätön - jopa enemmän kuin parhaan shakin tai Go-liikkeiden ennustaminen. Jotkut asiantuntijat arvioivat, että niitä on lisää tapoja ratkaista matriisin kertolasku kuin maailmankaikkeuden atomien määrä.
Jo vuonna 1969 saksalainen matemaatikko Volker Strassen osoitti, että on olemassa tapoja leikata kulmia, leikkaamalla yhden kierroksen kaksi kertaa kahdella matriisikertolaskusta. yhteensä kahdeksasta seitsemään. Se ei ehkä kuulosta vaikuttavalta, mutta Strassenin menetelmä osoitti, että matriisin kertolaskussa on mahdollista päihittää pitkään vallinneet operaatiostandardit – eli algoritmit. Hänen lähestymistapansa, Strassen-algoritmi, on hallinnut tehokkaimpana lähestymistapana yli 50 vuoden ajan.
Mutta entä jos on olemassa vielä tehokkaampia menetelmiä? "Kukaan ei tiedä parasta algoritmia sen ratkaisemiseksi", tohtori François Le Gall Nagoyan yliopistosta Japanista, joka ei ollut mukana työssä, kertoi MIT-teknologian katsaus. "Se on yksi tietojenkäsittelytieteen suurimmista avoimista ongelmista."
AI Chasing Algorithms
Jos ihmisen intuitio horjuu, miksi ei voisi käyttää mekaanista mieltä?
Uudessa tutkimuksessa DeepMind-tiimi muutti matriisin kertomisen peliksi. Kuten edeltäjänsä AlphaZero, AlphaTensor käyttää syvää vahvistusoppimista, koneoppimismenetelmää, joka on saanut inspiraationsa tavasta, jolla biologiset aivot oppivat. Täällä tekoälyagentti (usein keinotekoinen hermoverkko) on vuorovaikutuksessa ympäristönsä kanssa ratkaistakseen monivaiheisen ongelman. Jos se onnistuu, se ansaitsee "palkinnon" eli tekoälyn verkkoparametrit päivitetään, jotta se onnistuu todennäköisesti uudelleen tulevaisuudessa.
Se on kuin opettelisi kääntämään pannukakkua. Aluksi erät putoavat lattialle, mutta lopulta hermoverkkosi oppivat käsivarren ja käden liikkeet täydellisen kääntöä varten.
AlphaTensorin harjoituskenttä on eräänlainen 3D-lautapeli. Se on pohjimmiltaan yhden pelaajan palapeli, joka on suunnilleen samanlainen kuin Sudoku. Tekoälyn täytyy kertoa numeroruudukot mahdollisimman vähissä vaiheissa, samalla kun valitaan lukemattomista sallituista liikkeistä – yli biljoonasta niistä.
Nämä sallitut liikkeet on suunniteltu huolellisesti AlphaTensoriin. Lehdistötilaisuudessa toinen kirjoittaja tohtori Hussain Fawzi selitti: "Algoritmisen löydön tilan muotoilu on erittäin monimutkaista... vielä vaikeampaa on, kuinka voimme navigoida tässä tilassa."
Toisin sanoen, kun edessämme on hämmästyttävä valikoima vaihtoehtoja, kuinka voimme rajata niitä parantaaksemme mahdollisuuksiamme löytää neula heinäsuovasta? Ja kuinka voimme parhaiten strategoida päästäksemme neulaan kaivamatta läpi koko heinäsuovasta?
Yksi temppu, jonka tiimi sisällytti AlphaTensoriin, on menetelmä nimeltä puuhaku. Sen sijaan, että metaforisesti sanottuna kaivettaisiin satunnaisesti heinäsuovasta läpi, tekoäly tutkii tässä "teitä", jotka voisivat johtaa parempaan lopputulokseen. Keskitason oppimiset auttavat sitten tekoälyä suunnittelemaan seuraavaa siirtoaan menestyksen mahdollisuudet parantamiseksi. Ryhmä näytti myös onnistuneiden pelien algoritminäytteitä, kuten shakin avausliikkeitä opettavan lapselle. Lopuksi, kun tekoäly havaitsi arvokkaita liikkeitä, tiimi antoi sen järjestää nämä toiminnot uudelleen räätälöityä oppimista varten paremman tuloksen saavuttamiseksi.
Breaking New Ground
AlphaTensor pelasi hyvin. Testisarjassa ryhmä haastoi tekoälyn löytämään tehokkaimmat ratkaisut matriiseille, joiden suuruus on viisi kertaa viisi, eli viisi numeroa rivillä tai sarakkeessa.
Algoritmi löysi nopeasti uudelleen Strassenin alkuperäisen hakkeroinnin, mutta ylitti sitten kaikki ihmismielen aiemmin keksimät ratkaisut. Testaamalla tekoälyä erikokoisilla matriiseilla AlphaTensor löysi tehokkaampia ratkaisuja yli 70:lle. "Itse asiassa AlphaTensor löytää tyypillisesti tuhansia algoritmeja kullekin matriisikokolle", tiimi sanoi. "Se on mieletöntä."
Yhdessä tapauksessa tekoäly kertoi viisi kertaa viidellä matriisin neljällä viidellä ykkösellä. Tekoäly leikkasi aiemman 80 yksittäisen kertolaskuennätyksen vain 76:een. Se loisti myös suurempia matriiseja, mikä vähensi kahdelle tarvittavien laskelmien määrää. yksitoista kertaa yksitoista matriisit 919:stä 896:een.
Käsitteen todisteena tiimi siirtyi käytännön käyttöön. Tietokonesirut on usein suunniteltu optimoimaan erilaisia laskutoimituksia – esimerkiksi grafiikkapiirit grafiikkaa varten tai AI-sirut koneoppimiseen– ja algoritmin sovittaminen parhaiten soveltuvaan laitteistoon lisää tehokkuutta.
Täällä tiimi käytti AlphaTensoria löytääkseen algoritmeja kahdelle suositulle koneoppimisen sirulle: NVIDIA V100 GPU:lle ja Google TPU:lle. Kaiken kaikkiaan tekoälyn kehittämät algoritmit lisäsivät laskentanopeutta jopa 20 prosenttia.
On vaikea sanoa, voiko tekoäly nopeuttaa myös älypuhelimia, kannettavia tietokoneita tai muita jokapäiväisiä laitteita. Kuitenkin "tämä kehitys olisi erittäin jännittävää, jos sitä voidaan käyttää käytännössä", sanoi MIT:n tohtori Virginia Williams. "Suorituskyvyn parantaminen parantaisi monia sovelluksia."
Tekoälyn mieli
Huolimatta siitä, että AlphaTensor rikkoi viimeisimmän ihmisennätyksen matriisin kertomisessa, DeepMind-tiimi ei voi vielä selittää miksi.
"Se on saanut tämän hämmästyttävän intuition pelaamalla näitä pelejä", sanoi DeepMind-tutkija ja toinen kirjoittaja tohtori Pushmeet Kohli lehdistötilaisuudessa.
Kehittyvien algoritmien ei myöskään tarvitse olla ihminen vastaan koneita.
Vaikka AlphaTensor on ponnahduslauta kohti nopeampia algoritmeja, vielä nopeampiakin voisi olla olemassa. "Koska sen on rajoitettava hakunsa tietyn muotoisiin algoritmeihin, se voi jättää huomiotta muun tyyppiset algoritmit, jotka saattavat olla tehokkaampia", Balog ja Fawzi kirjoittivat.
Ehkä vieläkin kiehtovampi polku yhdistäisi ihmisen ja koneen intuition. "Olisi kiva selvittää, kattaako tämä uusi menetelmä kaikki aikaisemmat, vai voiko niitä yhdistää ja saada jotain vielä parempaa" sanoi Williams. Muut asiantuntijat ovat samaa mieltä. Kun käytössään on runsaasti algoritmeja, tutkijat voivat alkaa tutkia niitä löytääkseen vihjeitä siitä, mikä sai AlphaTensorin ratkaisut tikkumaan, mikä tasoittaa tietä seuraavalle läpimurtolle.
Kuvahyvitys: DeepMind
