Intel pusht AI-referentiekits om zijn silicium te helpen verkopen

Intel pusht AI-referentiekits om zijn silicium te helpen verkopen

Intel pusht AI-referentiekits om zijn silicium PlatoBlockchain Data Intelligence te helpen verkopen. Verticaal zoeken. Ai.

Om techneuten en ingenieurs aan te moedigen om zijn AI-versnellingshardware uit te proberen, heeft Intel een aantal softwarereferentiekits samengesteld die volgens hem de tijd en middelen die nodig zijn om machine learning-systemen op zijn silicium te implementeren, zullen verminderen.

Zoals je zou verwachten, de 34 open source referentiekits aanpakken van een verscheidenheid aan veelvoorkomende AI/ML-workloads, variërend van grote taalmodellen die worden gebruikt om chatbots en andere generatieve AI aan te sturen, tot meer alledaagse taken zoals objectdetectie, spraakgeneratie en voorspelling van financiële risico's.

Intel zegt dat elke kit, ontwikkeld in samenwerking met Accenture, alle benodigde modelcode, trainingsgegevens, bibliotheken, openAPI-componenten en instructies bevat die nodig zijn om ze op Intel-hardware te implementeren. Er is ons verteld dat de referentiekits periodiek zullen worden bijgewerkt op basis van feedback van de community.

Voor alle duidelijkheid, deze kits lijken puur software te zijn: je levert de (Intel inside) hardware en gebruikt vervolgens de gegeven kits om er applicaties op te bouwen.

Intel heeft nogal wat versnellers en GPU's die dit soort AI-apps kunnen uitvoeren, waaronder de Habana Gaudi2-trainingsprocessors, Ponte Vecchio GPU's en de Advanced Matrix Extensions die zijn ingebakken in Intel's Sapphire Rapids Xeon Scalable-processors.

Ondanks alle hype rond generatieve AI, genoten de versnellers van Intel echter niet van de publieke aandacht en brede acceptatie die de GPU's van Nvidia hebben. Maar vanwege de grote clusters van GPU-knooppunten die nodig zijn om de grootste en meest indrukwekkende modellen te trainen - de grote cloudproviders zetten juist om deze reden tienduizenden GPU's en versnellers in - kan Intel uiteindelijk overwinningen behalen, simpelweg omdat klanten Nvidia's kaarten niet in voldoende hoeveelheden of redelijke prijzen kunnen bemachtigen.

Zoals gemeld door onze broer of zus site Het volgende platform, Nvidia's H100 PCIe-kaarten - niet eens de krachtigste versie van de GPU - zijn geweest gevlekt verkopen voor maar liefst $ 40,000 per stuk op eBay.

Dus als Intel de drempel voor het inzetten van AI-workloads op zijn versnellers kan verlagen, spreekt het voor zich dat de x86-titan het gemakkelijker zou moeten hebben om klanten te overtuigen om zijn onderdelen te kopen, vooral de duurdere.

Natuurlijk staat Intel niet alleen in deze strategie. Nvidia heeft al veel succes geboekt bij het ontwikkelen en commercialiseren van software die wordt versneld door zijn GPU's. Vorig jaar benadrukte CFO Colette Kress het belang van dergelijke abonnementssoftware om de inkomsten van de acceleratiekampioen naar een hoog niveau te tillen $ 1 biljoen.

AMD is ook agressiever geworden in het pushen van zijn eigen GPU's en versnellers voor AI. In juni het gedetailleerd zijn Instinct MI300 APU's en GPU's, die zijn ontworpen om de strijd aan te gaan met Nvidia in zowel de HPC- als de AI/ML-arena's. Naast het nieuwe silicium ook de chipmaker aangekondigd een strategisch partnerschap met Hugging Face, dat tools ontwikkelt voor het bouwen van ML-apps, om populaire AI-modellen te optimaliseren voor AMD's Instinct GPU's, Alveo FPGA's en Epyc- en Ryzen-CPU's. ®

Tijdstempel:

Meer van Het register