Op hersenen geïnspireerde chips beloven ultra-efficiënte AI, dus waarom zijn ze niet overal?

Interview Elke keer dat een chipmaker of onderzoeker een vooruitgang in neuromorfisme aankondigt, is het onvermijdelijk hetzelfde verhaal: een hersenachtige AI-chip die in staat is tot verbluffende prestaties per watt in vergelijking met traditionele versnellers.

Intuïtief is het idee heel logisch. Onze hersenen zijn behoorlijk goed in het begrijpen van de wereld, dus waarom zou een chip die is ontworpen om te werken zoals zij er ook niet goed in zijn?

Maar na jaren van ontwikkeling en de steun van enorme technologiebedrijven zoals IBM en Intel, zijn deze hersenachtige chips nog jaren verwijderd van hun weg naar consumentenproducten.

Dat heeft de technologie er niet van weerhouden om in de loop der jaren de krantenkoppen te halen. Neuromorfe chips tot 16 keer efficiënter; hersenachtige chips mogelijk aandrijven toekomstige supercomputers; Samsung wil reverse engineering de hersenen; IBM recreëren een kikkerbrein in silicium. Je snapt het idee.

Hoewel de chips veelbelovend zijn, is de realiteit dat het veld van neuromorfica zich nog in een zeer experimenteel stadium bevindt en voor veel uitdagingen staat die moeten worden opgelost voordat ze klaar zijn voor prime time, legt Karl Freund, hoofdanalist bij Cambrian AI Research, uit in een interview met Het register.

Dit kan een van de redenen zijn waarom veel van de meer veelbelovende neuromorfische processors schijnbaar tot stilstand zijn gekomen.

IBM heeft bijvoorbeeld al meer dan vier jaar geen update gegeven over zijn True North-neuromorfische chips, die in staat zijn om meer dan een miljoen neuronen te simuleren. SpiNNaker, een andere veelbelovende neurale netwerkprocessor, ontving in 8 een subsidie ​​van € 8.15 miljoen (c $ 2019 miljoen) om een ​​tweede generatie chip te ontwikkelen op basis van het ontwerp. Het bedrijf achter de chip, het in Dresden gevestigde SpiNNcloud, komt nu echter pas van de grond.

De Loihi- en Loihi 2-processors van Intel komen het dichtst in de buurt van een commerciële lancering, voor zover Intel naast de Lava-softwareontwikkelingskit ontwikkelborden beschikbaar heeft gesteld aan externe onderzoekers.

De Sandia National Laboratories van het Department of Energy zijn bijvoorbeeld: het verkennen van hoe deze chips kunnen worden gebruikt om supercomputers te versnellen. In een paper gepubliceerd in het tijdschrift Nature Electronics, demonstreerden onderzoekers van Sandia hoe Intel's Loihi-chips "complexere problemen kunnen oplossen dan die van kunstmatige intelligentie en zelfs een plaats kunnen verdienen in high-performance computing."

Toch heeft Intel, in ieder geval vanaf april, geen plannen om zijn Loihi-chips binnenkort te produceren.

Waarom is er vertraging?

Dus wat geeft? Waarom zijn deze chips, die zo veelbelovend zijn in het laboratorium, niet sneller gerijpt gezien de onverzadigbare vraag naar AI/ML?

Volgens Freund komt een van de grootste problemen neer op de financiering.

"Ik heb geprobeerd een aantal durfkapitalisten met elkaar in contact te brengen in zowel neuromorfe als analoge [computing] en een redelijk consistent antwoord, zelfs voordat de huidige kapitaalcrisis 'we investeren niet in onderzoek' was", zegt hij. "Hun mening is vrijwel hetzelfde als de mijne, wat is dat de meeste technologieën, misschien allemaal, zich nog in de onderzoeksfase bevinden."

Als gevolg hiervan is de vooruitgang bij het produceren van neuromorfisch computergebruik beperkt tot grote bedrijven met diepe R&D-budgetten, zei hij.

Maar niet alleen de financiering staat in de weg. Freund stelt dat de omvang van het probleem voor neuromorfica alleen maar groter is geworden naarmate de technologie volwassener is geworden.

Met de eerste neuromorfische testchips waren wetenschappers vooral gericht op het bereiken van een punt waarop ze nuttig werk konden doen, legt hij uit.

Het produceren van een dergelijke chip betekent echter het oplossen van andere problemen, zoals hoe u gegevens effectief in en uit de chip krijgt.

Dit is op geen enkele manier een probleem dat uniek is voor neuromorfica. Het is er een die wordt geassocieerd met kwantumcomputing en zelfs traditionele versnellers, die de afgelopen generaties knelpunten hebben opgehoopt vanwege de snelheid waarmee de gegevens kunnen worden voor- en naverwerkt en/of opgenomen en verwijderd van de chip, legde Freund uit.

Ten slotte is er de kwestie van het ontwikkelen van software die kan profiteren van deze versnellers.

"Er is echt een hele gemeenschap van onderzoekers nodig om het programmeerbaarheidsprobleem van neuromorfe computers op te lossen", zegt Freund.

Traditionele versnellers zijn goed genoeg

Misschien wel de grootste reden dat neuromorfe computers het niet hebben overgenomen, is dat traditionele versnellers gewoon snel genoeg krachtiger en efficiënter worden.

“Wat ze ontdekken is dat platforms, zoals Nvidia Jetson Orin of nieuwe nieuwe platforms van startups, het probleem heel snel oplossen. Dus de noodzaak om iets superexotisch te doen, wordt steeds kleiner naarmate de stand van de techniek in bestaande technologieën evolueert”, zegt Freund. "Als je kijkt naar wat Qualcomm heeft gedaan met hun AI-engine, dan heb je het over milliwatt... en wat het doet als je een foto maakt, is verbazingwekkend."

Als gevolg hiervan kunnen betekenisvolle problemen worden opgelost in de vermogensenvelop die vereist is voor bestaande digitale technologieën.

Hoewel neuromorfica misschien niet snel klaar is om traditionele versnellers te vervangen, gelooft Freund dat de technologie uiteindelijk de mainstream zal bereiken.

"Deze dingen hebben tijd nodig om te rijpen", zegt hij, waarbij hij de opkomst van Arm-processors in het datacenter aanhaalt als iets dat meer dan 10 jaar in beslag nam. “En dat was voor CPU's; CPU's zijn eenvoudig vergeleken met zaken als kwantum- en neuromorfisch computergebruik." ®