GPU-mangel kveler konkurransen innen AI

GPU-mangel kveler konkurransen innen AI

Tidsstempel: 26. januar 2024 10:00
GPU shortages are stifling competition in AI PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Panel Dominansen til storteknologi innen cloud computing, kombinert med mangel på brikker, hindrer mindre AI-programvare og maskinvare-oppstarter fra å konkurrere rettferdig, ifølge paneldeltakere på FTC Tech Summit denne uken.

Samtalen ble satt på bakgrunn av kunngjøringen fra US Federal Trade Commission om at de var det lansere en undersøkelse som undersøker de store aktørene: Amazon, Microsoft, Google og deres partnerskap med de beste utviklerne av store språkmodeller: Anthropic og OpenAI.

Amazon og Google har investert 6 milliarder dollar totalt i Anthropic, mens Microsoft har lovet over 10 milliarder dollar for et eksklusivt forhold til OpenAI så langt. Til gjengjeld får skygigantene tilgang til de nyeste generative AI-modellene bygget av Anthropic og OpenAI, mens de begge får dataressurser. 

Disse alliansene lar alle parter konkurrere med hverandre, men utelukker potensielt alle andre, sier FTC.

Under styreleder Lina Khan undersøker kommisjonen nå partnerskapene deres mer detaljert, og har bedt om å ta en titt på avtalene, produktutgivelsesstrategiene og innvirkningen på AI-økosystemet. Den store trioen kontrollerer en anslått 66 prosent av cloud computing-markedet, og har kontroll over hvem som får GPUer til å trene og kjøre modeller. 

Siden disse brikkene er knappe, kan de være tilbøyelige til å gi dem til partnerne sine, noe som undergraver konkurransen blant AI-utviklere. Andre startups som prøver å bygge store språkmodeller så dyktige som Anthropics Claude eller OpenAIs ChatGPT kan slite med å sikre ressursene som trengs.

"Vi står overfor grunnleggende spørsmål om makt og styring," sa Khan i åpningsreplikken for organisasjonen FTCs Tech Summit denne uka. "Vil dette være et øyeblikk for å åpne opp markeder for rettferdig og fri konkurranse, og frigjøre det fulle potensialet til nye teknologier? Eller vil en håndfull dominerende firmaer konsentrere kontrollen over disse verktøyene, og låse oss inn i en fremtid de selv velger?» spurte hun.

Spillefeltet er ulikt på grunn av det begrensede antallet GPUer. Men problemet går dypere og koker ned til maskinvareleverandører og produsenter, ifølge eksperter som talte på toppmøtets paneldiskusjon om AI, brikker og skyinfrastruktur. 

"Jeg tror den største utfordringen vi ser er at alle veier fører til Nvidia. De er en flaskehals på alt dette, bare litt etterfulgt av de store skyleverandørene som er deres primære kunder,» Corey Quinn, Chief Cloud Economist hos The Duckbill Group, som hjelper selskaper med å administrere AWS-regningene deres.

Som toppleverandøren av GPUer har Nvidia dratt godt av AI-hypen. Fra denne måneden har markedsverdien nådd 1.53 billioner dollar og forventes å vokse. Nvidia dominerer forhandlinger med skyleverandører, og velger hvor mange sjetonger som skal selges til hver enkelt og for hvor mye. I mellomtiden har rivaler, som har bygget sine egne AI-akseleratorer, ikke fått mye grep på skymarkedet.

Daven Rauchwerk, en gründer, som har grunnlagt maskinvarevirksomheter, sa at mangelen på valg hemmer konkurransen blant halvlederselskaper og påvirker skyindustrien også. Investorer risikerer mindre å tape penger på å støtte oppstart som går opp mot Nvidia, Amazon, Microsoft og Google, noe som fører til mindre innovasjon. 

«Hvis du vil ha flere brikkeselskaper, trenger du flere skyselskaper. Vi har for få skyselskaper. De store kjøper faktisk ikke sjetonger fra [andre] selskaper. Hvis det ikke er noe marked for disse forskjellige settene med sjetonger … vel, hvorfor skulle en ventureinvestor investere i et chipselskap?» sa han.

De eneste leverandørene som kan konkurrere med Nvidia er skyleverandørene selv. Amazon, Google og Microsoft har bygget tilpassede AI-akseleratorer for sine egne plattformer, slik at de kan kontrollere tilgangen til maskinvare og AI-modeller. Paneldeltakerne var bekymret for at det kunne bety at trioen kan ha mer insentiv til å øke prisene på AI-tjenestene deres.

En måte å motvirke dette på vil være å gjøre det enklere for kundene å bytte leverandør, sa Tania Van den Brande, økonomidirektør i Storbritannias kommunikasjonsregulator, Ofcom.

"Jeg tror det som er viktig her er at ikke bare [vil det] muliggjøre utfordrere, men det sørger også for at skyleverandørene fortsetter å bli motivert til å gå etter hverandres kundebaser. Det kan være mindre tilfellet hvis en kunde først har flyttet inn, ikke er mer eller mindre innelåst, konkluderte hun. ®

Tidstempel:

Mer fra Registeret