Az AlphaTensor az AlphaZero-ra épít, egy olyan ügynökre, amely emberfeletti teljesítményt mutatott olyan társasjátékokon, mint a sakk, a Go és a shogi, és ez a munka bemutatja az AlphaZero utazását a játékoktól a megoldatlan matematikai problémák megoldásáig.
Az ókori egyiptomiak létrehoztak egy algoritmust két szám szorzására anélkül, hogy szorzótábla kellett volna, a görög matematikus pedig Eukleidész egy algoritmust írt le a legnagyobb közös osztó kiszámítására, amely ma is használatos.
Az iszlám aranykorában Mohamed ibn Musa al-Khwarizmi perzsa matematikus új algoritmusokat tervezett lineáris és másodfokú egyenletek megoldására. Valójában al-Khwarizmi neve, latinra Algoritmiként fordítva, vezetett az algoritmus kifejezéshez. De annak ellenére, hogy ma ismerik az algoritmusokat – amelyeket a társadalom egészében használnak az osztálytermi algebrától a legmodernebb tudományos kutatásig – az új algoritmusok felfedezésének folyamata hihetetlenül nehéz, és az emberi elme csodálatos érvelési képességeinek példája.
A Nature-ben publikáltak. Az AlphaTensor az első mesterséges intelligencia (AI) rendszer, amely új, hatékony és bizonyíthatóan helyes algoritmusokat fedez fel olyan alapvető feladatokhoz, mint a mátrixszorzás. Ez rávilágít egy 50 éves matematikai nyitott kérdésre, amely a két mátrix szorzásának leggyorsabb módjának megtalálásáról szól.
A semmiből kiképzett AlphaTensor olyan mátrixszorzó algoritmusokat fedez fel, amelyek hatékonyabbak, mint a meglévő emberi és számítógépes algoritmusok. Annak ellenére, hogy javítanak az ismert algoritmusokhoz képest, megjegyzik, hogy az AlphaTensor korlátja az F potenciális faktorbejegyzések előre definiálása, ami diszkretizálja a keresési teret, de esetleg hatékony algoritmusok kihagyásához vezethet. A jövőbeli kutatások egyik érdekes iránya az AlphaTensor adaptálása az F keresésére. Az AlphaTensor egyik fontos erőssége az, hogy az algoritmusok keresése mellett rugalmasan támogatja az összetett sztochasztikus és nem differenciálható jutalmakat (a tenzor rangtól a gyakorlati hatékonyságig bizonyos hardvereken). egyedi műveletekhez a legkülönfélébb terekben (például véges mezőkben). Úgy vélik, hogy ez arra ösztönzi az AlphaTensor alkalmazásait, hogy olyan algoritmusokat tervezzenek, amelyek olyan mutatókat optimalizálnak, amelyeket itt nem vettünk figyelembe, például a numerikus stabilitást vagy az energiafelhasználást.
A mátrixszorzó algoritmusok felfedezésének messzemenő következményei vannak, mivel a mátrixszorzás számos számítási feladat középpontjában áll, mint például a mátrix inverziója, a determináns kiszámítása és a lineáris rendszerek megoldása.
Az algoritmikus felfedezés automatizálásának folyamata és előrehaladása
Először egyjátékossá alakították át a mátrixszorzás hatékony algoritmusainak megtalálásának problémáját. Ebben a játékban a tábla egy háromdimenziós tenzor (számok tömbje), amely rögzíti, hogy az aktuális algoritmus milyen messze van a helyestől. Az algoritmus utasításainak megfelelő megengedett lépések sorozatán keresztül a játékos megpróbálja módosítani a tenzort és nullázni a bejegyzéseit. Ha a játékosnak sikerül ezt megtennie, ez egy bizonyíthatóan helyes mátrixszorzó algoritmust eredményez bármely mátrixpárra, és ennek hatékonyságát a tenzor nullázásához megtett lépések száma rögzíti.
Ez a játék hihetetlenül nagy kihívást jelent – a figyelembe veendő lehetséges algoritmusok száma sokkal nagyobb, mint az univerzum atomjainak száma, még kis mátrixszorzás esetén is. A Go játékhoz képest, amely évtizedekig kihívást jelentett a mesterséges intelligencia számára, a lehetséges lépések száma a játék minden lépésében 30 nagyságrenddel nagyobb (10^33 felett az egyik általuk figyelembe vett beállításnál).
Lényegében ahhoz, hogy jól játsszuk ezt a játékot, azonosítani kell a legapróbb tűket is a lehetőségek gigantikus szénakazaljában. A hagyományos játékoktól jelentősen eltérő tartomány kihívásainak leküzdésére számos kulcsfontosságú összetevőt fejlesztettünk ki, köztük egy új neurális hálózati architektúrát, amely magában foglalja a probléma-specifikus induktív torzításokat, egy eljárást hasznos szintetikus adatok generálására, valamint egy receptet a játék szimmetriájának kihasználására. probléma.
Ezután egy AlphaTensor ügynököt betanítottak megerősítő tanulással a játékhoz, a meglévő mátrixszorzó algoritmusok ismerete nélkül. A tanulás révén az AlphaTensor idővel fokozatosan javul, újra felfedezi a történelmi gyors mátrixszorzó algoritmusokat, mint például a Strassen-féle, végül túlszárnyalja az emberi intuíció birodalmát, és a korábban ismertnél gyorsabb algoritmusokat fedez fel.
A jövőbeli kutatásokra és alkalmazásokra gyakorolt hatás feltárása
Eredményeik matematikai szempontból iránymutatást adhatnak a további komplexitáselméleti kutatásokhoz, amelyek célja a számítási problémák megoldásának leggyorsabb algoritmusainak meghatározása. Azzal, hogy a lehetséges algoritmusok terét a korábbi megközelítéseknél hatékonyabban tárja fel, az AlphaTensor segít jobban megérteni a mátrixszorzó algoritmusok gazdagságát. Ennek a térnek a megértése új eredményeket nyithat meg a mátrixszorzás aszimptotikus összetettségének meghatározásában, amely a számítástechnika egyik legalapvetőbb nyitott problémája.
Mivel a mátrixszorzás számos számítási feladat alapvető összetevője, beleértve a számítógépes grafikát, a digitális kommunikációt, a neurális hálózatok képzését és a tudományos számítástechnikát, az AlphaTensor által felfedezett algoritmusok jelentősen hatékonyabbá tehetik a számításokat ezeken a területeken. Az AlphaTensor rugalmassága, hogy bármilyen célt figyelembe vegyen, új alkalmazásokat is ösztönözhet olyan algoritmusok tervezésére, amelyek optimalizálják az olyan mérőszámokat, mint az energiafelhasználás és a numerikus stabilitás, és segít megelőzni a kis kerekítési hibákat a hógolyózástól, mivel az algoritmus működik.
Miközben itt a mátrixszorzás sajátos problémájára összpontosítottak, reméljük, hogy írásunk másokat is ösztönözni fog az AI használatában, hogy irányítsák az algoritmikus felfedezést más alapvető számítási feladatokhoz. Kutatásaik azt is kimutatták, hogy az AlphaZero egy hatékony algoritmus, amely jóval a hagyományos játékok tartományán túlra is kiterjeszthető, hogy segítsen megoldani a matematikai nyitott problémákat. Kutatásainkra építve azt remélik, hogy további munkára ösztönözhetnek – a mesterséges intelligencia alkalmazása révén, hogy segítsenek a társadalomnak megoldani néhány matematikai és tudományági legfontosabb kihívást.
Természet – Gyorsabb mátrixszorzó algoritmusok felfedezése megerősítő tanulással
Absztrakt
Az alapvető számításokhoz használt algoritmusok hatékonyságának javítása széles körben elterjedt hatással lehet, mivel nagy mennyiségű számítás általános sebességét befolyásolhatja. A mátrixszorzás egy ilyen primitív feladat, amely számos rendszerben előfordul – a neurális hálózatoktól a tudományos számítási rutinokig. Az algoritmusok gépi tanulást használó automatikus felfedezése lehetőséget kínál arra, hogy túlmutassunk az emberi intuíción, és felülmúlják a jelenlegi legjobb ember által tervezett algoritmusokat. Az algoritmus-felderítési eljárás automatizálása azonban bonyolult, mivel a lehetséges algoritmusok tere óriási. Itt egy AlphaZero1-en alapuló mély megerősítő tanulási megközelítésről számolunk be, amely hatékony és bizonyíthatóan helyes algoritmusokat fedez fel tetszőleges mátrixok szorzásához. Ügynökünk, AlphaTensor olyan egyjátékos játékra van kiképezve, ahol a cél a tenzorbontások keresése egy véges tényezős téren belül. Az AlphaTensor olyan algoritmusokat fedezett fel, amelyek sok mátrixméret esetén felülmúlják a legmodernebb komplexitást. Különösen releváns a 4 × 4-es mátrixok esete egy véges mezőben, ahol az AlphaTensor algoritmusa tudomásunk szerint először javít a Strassen-féle kétszintű algoritmuson, annak 50 évvel ezelőtti felfedezése óta2. Továbbá bemutatjuk az AlphaTensor rugalmasságát különböző felhasználási eseteken keresztül: a legmodernebb komplexitású algoritmusok a strukturált mátrixszorzáshoz és a jobb gyakorlati hatékonyság a mátrixszorzás optimalizálása révén a futási időre bizonyos hardvereken. Eredményeink rávilágítanak arra, hogy az AlphaTensor képes felgyorsítani az algoritmikus felderítés folyamatát számos probléma esetén, és optimalizálni tud a különböző kritériumokra.
Brian Wang futurista gondolatvezető és népszerű tudományos blogger, havi 1 millió olvasóval. Blogja a Nextbigfuture.com a Science News Blog első helyén van. Számos zavaró technológiát és trendet fed le, beleértve az űrt, a robotikát, a mesterséges intelligenciát, az orvostudományt, az öregedésgátló biotechnológiát és a nanotechnológiát.
A legmodernebb technológiák azonosításáról ismert, jelenleg társalapítója a nagy potenciállal rendelkező korai stádiumú cégek indításának és adománygyűjtésének. Ő a mélytechnológiai beruházások elosztásának kutatási vezetője és egy angyalbefektető a Space Angels -nél.
A vállalatok gyakori előadója, volt TEDx -előadó, a Szingularitás Egyetem előadója és számos rádió- és podcast -interjú vendége. Nyitott a nyilvános beszédre és tanácsadásra.
