DeepMind bruker matrisematematikk for å automatisere oppdagelsen av bedre matrisematteteknikker

Google-eide DeepMind har brukt forsterkede læringsteknikker til multiplikasjon av matematiske matriser, overgått noen menneskeskapte algoritmer som har vart i 50 år og arbeidet mot forbedringer innen informatikk.

Grunnlagt i London i 2010, har DeepMind blitt kjent for å slå verdensmesteren i brettspillet Go med sine AlphaGo AI og å ta på seg den ufattelig komplekse utfordringen med proteinfolding AlphaFold.

I en hjul-i-hjul-bevegelse har den siden rettet blikket mot matematiske problemer selv.

Spesielt sa laboratoriet at det utviklet en måte å automatisere oppdagelsen av algoritmer som fungerer som snarveier når man multipliserer matriser – årsaken til hodepine for mang en tenåringsmattestudent.

I årevis har matematikere brukt algoritmer på disse komplekse array-multiplikasjonene, hvorav noen brukes i informatikk, spesielt innen maskinlæring og AI.

Vi blir fortalt at DeepMind-forsker Alhussein Fawzi og hans kolleger brukte dyp forsterkning for å gjenoppdage tidligere matrisemultiplikasjonsalgoritmer og finne nye. Teamet opprettet et system, kalt AlphaTensor, som spiller et spill der målet er å finne den beste tilnærmingen til å multiplisere to matriser. Hvis AI-agenten gjør det bra, forsterkes den for å gjøre fremtidig suksess mer sannsynlig.

Denne prosessen gjentas om og om igjen ved å bruke denne tilbakemeldingen slik at agenten genererer interessante og forbedrede måter å multiplisere matriser på. Det sies at DeepMinds agent ble utfordret til å fullføre matrisemattearbeid i så få trinn som mulig, og måtte finne ut den beste veien videre fra potensielt billioner av mulige trekk.

Vi legger merke til at denne AI-agenten sannsynligvis brukte matrisematematikk i læringsprosessen og under inferens; derfor ble matriseoperasjoner brukt for å finne raskere måter å utføre matriseoperasjoner på.

Fawzi fortalte en pressekonferanse denne uken at arbeidet var komplekst, men resulterte i utviklingen av algoritmer for problemer som ikke har blitt forbedret i mer enn 50 år med menneskelig forskning, sa han.

Forskerne hevdet at teknikkene kan være til nytte for beregningsoppgaver som bruker multiplikasjonsalgoritmer – som AI – samt demonstrere hvordan forsterkende læring kan brukes til å finne nye og uventede løsninger på kjente problemer, samtidig som de noterer seg noen begrensninger. For eksempel er forhåndsdefinerte komponenter nødvendig for å unngå at systemet mangler et undersett av effektive algoritmer.

Skeptikere kan peke på bruken av AlphaFold, som lovet gjennombrudd innen legemiddeloppdagelse via AI-støttet proteinforskning. Selv om modellen har spådd nesten alle kjente proteinstrukturer som er oppdaget, er dens evne til å hjelpe forskere oppdager at nye medikamenter fortsatt er uprøvde.

Uansett ser dette for oss ut som maskinlæring som brukes til å akselerere maskinlæring. ®