Intel ser pc'er som bolværk mod Nvidia i AI-arenaen

Intel ser pc'er som bolværk mod Nvidia i AI-arenaen

Tidsstempel: 19. september 2023 kl. 11
Intel eyes PCs as bulwark against Nvidia in AI arena PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Intels administrerende direktør Pat Gelsinger brugte sin keynote på chipgigantens innovationskonference i San Jose i tirsdags til gentagne gange at hamre ideen om at køre store sprogmodeller og andre maskinlæringsopgaver, såsom Llama 2 eller Stable Diffusion, lokalt, privat og sikkert på. brugernes egne pc'er.

"AI omstrukturerer fundamentalt videnskaben og så mange domæner, frigør nye applikationer og nye erfaringer inden for produktivitet og kreativitet," sagde han. "Men vi tror også, at det indvarsler den næste æra af pc'en: AI pc-generationen."

Alt til booste dem PC-salgstal, hva'? Exec krediterede det arbejde, som OpenAIs administrerende direktør Sam Altman, Microsofts CTO Kevin Scott og Nvidias chef Jensen Huang udfører med AI i den høje ende, men han argumenterede for, at den større mulighed var at bringe disse modeller til masserne ved at lade dem køre. lokalt og privat på deres egne pc'er.

Gelsinger indrømmer, at den såkaldte AI-pc står over for udfordringer, og dens succes vil i høj grad afhænge af oprettelsen af ​​dræber-apps. Så det er ingen overraskelse, at en solid del af hans keynote blev brugt på at vise forskellige AI-forbedrede apps frem, der kører oven på Intels OpenVINO inferencing platform ved hjælp af processorgigantens hardware.

Disse demoer inkluderede plugins til billed- og musikgenerering til populær open source-software, såsom Audacity og GNU Image Manipulation Program (GIMP), som vi er sikre på, at Adobe var begejstret for at se efter lancering sin egen generative kunstplatform, kaldet Firefly, i sidste uge.

Bortset fra en demo, der kører Stable Diffusion i GIMP på Intels næste generation af Lunar Lake-processorer – forventet i slutningen af ​​2024 – fremhævede de fleste af demoerne producentens kommende 7nm Core Ultra-processorer, tidligere kodenavnet Meteor Lake. Chipsene er blandt Intels første klientprocessorer, der har en multi-die-arkitektur, der parrer en Intel CPU-die med en TSMC-fabrikeret GPU.

Mikroprocessorerne har også en integreret neural-processing engine (NPU) afledt af Intels Movidius vision processing unit (VPU).

At integrere NPU-funktionalitet i mobile processorer er på ingen måde nyt. NPU'er har været en fast bestanddel af mobile chips, inklusive Apples A- og M-serier, i årevis. I mellemtiden implementerede AMD lignende teknologi i sin Ryzen 7040 mobile processorer tidligere i år.

Desværre for alle, der håber at se nyt silicium annonceret på Innovation-shindig, ankommer Intels Meteor Lake og femte generation af Emerald Rapids Xeons ikke før tidligst den 14. december.

Og apropos det næste: Intels Sierra Forest Xeon SP skal ankomme i 2024 med 288 energieffektive CPU-kerner, eller E-kerner, kodenavnet Sierra Glen.

Tager OpenVINO til kanten

Mens de fleste af de demoer, der blev vist under Gelsingers keynote, fokuserede på pc'er og notebooks, der udfører AI-inferencing - beslutningstagning og indholdsgenerering af trænede modeller - ser teknologigiganten også en mulighed for at underminere sine konkurrenter på kanten af ​​netværket.

Intel afslørede Project Strata, som søger at løse udfordringer omkring nul-touch-provisionering, administration, sikkerhed og patching af apparater, så latens- og båndbreddefølsomme arbejdsbelastninger, AI eller andet, nemmere kan implementeres af udviklere på kanten.

"I de sidste 15 år har den dominerende udviklermodel været cloud-native," sagde Gelsinger. "Vi mener, at det næste årti eller to med udvikling ikke er cloud-native, dets edge native."

Mærkeligt nok involverer denne strategi også at udvide understøttelsen af ​​OpenVINO til Arm-processorer. Sachin Katti, senior veep fra Intels Edge-gruppe, fortalte Registret Dette partnerskab er beregnet til at imødekomme behovet for at køre AI-inferens på systemer med lav effekt, såsom Internet of Things-sensorer, som typisk drives af Arm-kompatible controllere og chipsæt.

“Vi ønsker ikke at efterlade vores kunder strandet, fordi de vil have en portefølje, der skal spænde over alt dette; de vil have enheder som sensorer med det niveau af beregning,” sagde han og tilføjede, at Intel positionerer OpenVINO som midlet til at køre AI-inferens på kanten uanset den underliggende infrastruktur.

Intel har ikke opgivet træningen

Mens meget af vægten hos Intel Innovation drejede sig om AI-inferens enten på pc'er eller på kanten, har virksomheden stadig til hensigt at konkurrere med Nvidia og andre på AI-træningsfronten.

På scenen drillede Gelsinger, hvad han hævdede ville være "verdens største AI-supercomputer i Europa" og en af ​​"top 15 AI-supercomputere i verden." Bygget i samarbejde med Stability AI, firmaet bag den populære Stable Diffusion-billedgenereringsmodel, vil alt-Intel-systemet angiveligt udnytte en kombination af Xeon-processorer og 4,000 Gaudi2 AI-acceleratorer.

For dem, der ikke kan huske, dumpede Intel sin Nervana AI-acceleratorudvikling til fordel for Habana Labs i en aftale værdiansættes til 2 milliarder dollar tilbage i 2020. Frugten af ​​det opkøb var Guadi2, som lanceret sidste forår og pralede omtrent det dobbelte af ydeevnen af ​​Nvidias to år gamle A100, i det mindste i ResNet-50 billedklassificeringen og BERT naturlig sprogbehandlingsmodeller.

Intel er planlagt til at lancere sin tredje generation af Gaudi-processorer næste år, og Gelsinger sagde, at de allerede var ude af fabrikken og i færd med at blive pakket til lancering. I mellemtiden har Intels næste generations AI-acceleratorer, kodenavnet Falcon Shores, været det skubbet tilbage til 2025, men vil nu inkorporere IP fra både sine GPU Max- og Habana-porteføljer. ®

Tidsstempel:

Mere fra Registret