A DoE egy dobozban átveszi az Intel legújabb agyát

A DoE egy dobozban átveszi az Intel legújabb agyát

Időbélyeg: 17. április 2024. 12:05

Az Intel Labs szerdán bemutatta legnagyobb neuromorf számítógépét, egy 1.15 milliárd idegsejtből álló rendszert, amely szerinte nagyjából egy bagoly agyához hasonlít.

De ne aggódjon, az Intel nem hozta létre újra a Fallout-ot Robobrain. Szerves neuronok és szinapszisok hálózata helyett az Intel Hala Pointja mindegyiket szilíciumban emulálja.

Körülbelül 20 W-nál agyunk meglepően hatékonyan képes feldolgozni az egyes érzékszervekből bármely adott pillanatban beáramló nagy mennyiségű információt. A neuromorfok területe, amelynek kutatásával az Intel és az IBM az elmúlt néhány évben foglalkozott, az agy idegsejt- és szinapszishálózatának emulálását célozza, hogy olyan számítógépeket építsenek, amelyek a hagyományos gyorsítóknál hatékonyabban képesek feldolgozni az információkat.

Mennyire hatékony? Az Intel szerint legújabb rendszere, egy nagyjából egy mikrohullámú sütő méretű, 6 W-ot fogyasztó 2,600U-os doboza állítólag akár 15 TOPS/W-os mély neurális hálózati hatékonyságot is képes elérni 8 bites pontossággal. Hogy ezt szemléltessük, az Nvidia legerősebb rendszere, a Blackwell-alapú GB200 NVL72, amelyet még nem is szállítottak, kezeli mindössze 6 TOPS/W az INT8-nál, míg a jelenlegi DGX H100 rendszerei körülbelül 3.1 TOPS/W teljesítményt képesek kezelni.

A Sandia National Labs kutatói átveszik az Intel 1.15 milliárd neuronból álló Hala Point neuromorf számítógépét

A Sandia National Labs kutatói átveszik az Intel 1.15 milliárd neuronból álló Hala Point neuromorf számítógépét – kattintson a nagyításhoz

Ezt a teljesítményt 1,152 Intel Loihi 2 processzorral érik el, amelyek háromdimenziós rácsban vannak összefűzve összesen 1.15 milliárd neuronnal, 128 milliárd szinapszissal, 140,544 2,300 processzormaggal és 86 beágyazott xXNUMX maggal, amelyek kezelik a szükséges műveleteket. folytassa a dolgot.

Hogy világos legyen, ezek nem tipikus x86-os magok. „Nagyon-nagyon egyszerűek, kicsi x86-os magok. Nem olyanok, mint a legújabb magjaink vagy az Atom processzoraink” – mondta Mike Davies, az Intel neuromorf számítástechnikai igazgatója. A regisztráció.

Ha a Loihi 2 csenget, az azért van, mert a chip megvolt körbekopogtatva egy ideje már 2021-ben debütált, mint az elsők között az Intel 7 nm-es folyamattechnológiájával gyártott chipek között.

Kora ellenére az Intel szerint a Loihi-alapú rendszerek akár 50-szer gyorsabban is képesek megoldani bizonyos mesterséges intelligencia-következtetési és optimalizálási problémákat, mint a hagyományos CPU és GPU architektúrák, miközben 100-szor kevesebb energiát fogyasztanak. Úgy tűnik, ezek a számok voltak elért [PDF] egyetlen Loihi 2 lapkával az Nvidia apró Jetson Orin Nano-jához és egy Core i9 i9-7920X CPU-hoz.

Még ne dobja ki a GPU-kat

Bár ez lenyűgözően hangzik, Davies elismeri, hogy neuromorf gyorsítói még nem állnak készen arra, hogy minden munkaterhelésnél lecseréljék a GPU-kat. "Ez semmiképpen sem általános célú AI-gyorsító" - mondta.

Az egyik, a mesterséges intelligencia vitathatatlanul legnépszerűbb alkalmazása, a nagy nyelvi modellek (LLM) olyan alkalmazások, mint a ChatGPT, nem fognak futni a Hala Pointon, legalábbis még nem.

„Jelenleg egyetlen LLM-t sem rendelünk Hala Pointhoz. Nem tudjuk, hogyan kell ezt csinálni. Őszintén szólva, a neuromorf kutatási terület nem rendelkezik a transzformátor neuromorf változatával” – mondta Davies, megjegyezve, hogy van néhány érdekes kutatás arról, hogyan lehet ezt elérni.

Ennek ellenére Davies csapata sikereket ért el a hagyományos mély neurális hálózatok, egy többrétegű perceptron működtetésében a Hala Pointon, bizonyos kikötésekkel.

"Ha ritkítani tudja a hálózati tevékenységet és a vezetőképességet abban a hálózatban, akkor igazán nagy nyereséget érhet el" - mondta. „Ez azt jelenti, hogy folyamatos bemeneti jelet kell feldolgoznia… egy video- vagy hangfolyamot, olyasmit, ahol van némi korreláció mintától mintáig.”

Az Intel Labs bemutatta a Loihi 2-ben rejlő lehetőségeket a videó- ​​és hangfeldolgozás terén közzétett [PDF] tavaly év végén. A tesztelés során azt találták, hogy a chip jelentős javulást ért el az energiahatékonyságban, a késleltetésben és a jelfeldolgozás átviteli sebességében, néha három nagyságrendet is meghaladó mértékben a hagyományos architektúrákhoz képest. A legnagyobb nyereség azonban az alacsonyabb pontosság rovására ment.

A valós idejű adatok alacsony teljesítményű és késleltetésű feldolgozásának képessége vonzóvá tette a technológiát olyan alkalmazások számára, mint az autonóm járművek, drónok és robotika.

Egy másik ígéretes használati eset a kombinatorikus optimalizálási problémák, például a szállítójármű útvonaltervezése, amelynek egy forgalmas városközpontban kell navigálnia.

Ezek a munkaterhelések hihetetlenül bonyolultak megoldani, mivel az olyan apró változásokat, mint a járműsebesség, a balesetek és a sávlezárások menet közben kell számolni. A hagyományos számítási architektúrák nem alkalmasak az ilyen exponenciális bonyolultságra, ezért láttunk olyan sok kvantumszámítógép-szállítót célzás optimalizálási problémák.

Davies azonban azzal érvel, hogy az Intel neuromorf számítási platformja „sokkal érettebb, mint ezek a többi kísérleti kutatási alternatíva”.

Növekszik a szoba

Davies szerint még mindig bőven van szabad mozgástér. „Szomorúan kell azt mondanom, hogy a szoftver korlátai miatt a mai napig nem használják ki teljesen” – mondta a Loihi 2 chipekről.

A hardveres szűk keresztmetszetek azonosítása és a szoftveroptimalizálás az oka annak, hogy az Intel Labs bevezette a prototípust a Sandiánál.

"A korlátok megértése, különösen a hardver szintjén, nagyon fontos része ezeknek a rendszereknek a bevezetésében" - mondta Davies. "Megjavíthatjuk a hardverproblémákat, javíthatunk rajta, de tudnunk kell, milyen irányba optimalizáljunk."

Nem ez lenne az első alkalom, hogy Sandia boffinok rábukkannak az Intel neuromorf technológiájára. Egy papírban közzétett 2022 elején a kutatók úgy találták, hogy a technológiában lehetőség van a HPC és az AI számára. Ezek a kísérletek azonban az Intel első generációs Loihi chipjeit használták, amelyek nagyjából nyolcaddal rendelkeznek az utód neuronjainak számáról (128,000 1 vs. XNUMX millió). ®

Időbélyeg:

Még több A regisztráció