Nahranite ogenj AI s centralizacijo

Sponzorirana funkcija Stalen tok revolucionarnih tehnologij in odkritij – ogenj, poljedelstvo, kolo, tiskarski stroj in internet, če naštejemo le nekatere – so temeljito oblikovali človeški razvoj in civilizacijo. In ta cikel inovacij se nadaljuje z umetno inteligenco (AI). 

Raziskovalno podjetje IDC je šlo tako daleč, da je ugotovilo, da je umetna inteligenca res odgovor na skoraj "vse". Rasmus Andsbjerg, pridruženi podpredsednik za podatke in analitiko pri IDC pravi: »Resnica je, da umetna inteligenca ponuja rešitve za vse, s čimer se soočamo v tem trenutku. Umetna inteligenca je lahko vir za hitro sledenje poti digitalne preobrazbe, omogoča prihranke pri stroških v času osupljive stopnje inflacije in podpira prizadevanja za avtomatizacijo v času pomanjkanja delovne sile.«

Vsekakor in v vseh panogah in funkcijah organizacije končnih uporabnikov začenjajo odkrivati ​​prednosti umetne inteligence, saj se pojavljajo vedno močnejši algoritmi in osnovna infrastruktura, ki omogoča boljše odločanje in večjo produktivnost. 

Svetovni prihodki trga umetne inteligence (AI), vključno s pripadajočo programsko opremo, strojno opremo in storitvami za aplikacije, osredotočene in neosredotočene na AI, so leta 383.3 znašali 2021 milijarde USD. To je bilo 20.7 % več kot leto prej, glede na večino nedavno Svetovni polletni sledilnik umetne inteligence International Data Corporation (IDC)..

Podobno še naprej stalno raste uvajanje programske opreme AI v oblak. IDC pričakuje, da bodo različice v oblaku na novo kupljene programske opreme AI leta 2022 presegle uvedbe na mestu uporabe.

Nebo je meja za AI

Dr. Ronen Dar, glavni tehnološki direktor podjetja Run:ai, specialista za umetno inteligenco, ki je ustvaril platformo za upravljanje računalništva za umetno inteligenco, verjame, da je nebo meja za nastajajoči sektor umetne inteligence v podjetjih. 

»AI je trg, za katerega vidimo, da zelo hitro raste. Kar zadeva podjetja, opažamo povpraševanje po strojnem učenju in umetni inteligenci ter sprejemanju. In mislim, da je zdaj tu nova tehnologija, ki prinaša nove zmogljivosti, ki bodo spremenile svet; ki bodo revolucionirali podjetja,« ugotavlja Dar. 

Obstaja tudi vse bolj jasno razumevanje, da je treba začeti raziskovati in eksperimentirati z umetno inteligenco ter razumeti, kako integrirati umetno inteligenco v poslovne modele.

Dar verjame, da lahko umetna inteligenca prinese "neverjetne koristi" za izboljšanje obstoječih poslovnih procesov podjetja: "V smislu optimizacije in dokazovanja trenutnega poslovanja vidimo veliko primerov uporabe okoli umetne inteligence in strojnega učenja, ki izboljšuje delovanje in način sprejemanja odločitev okoli ponudbe in povpraševanja."

Poudarja, da lahko novi modeli globokega učenja, ki temeljijo na nevronskih mrežah, izboljšajo procese, sprejemanje odločitev in natančnost kritičnih poslovnih procesov, kot je odkrivanje goljufij v industriji finančnih storitev. Zdravstveno varstvo je še en sektor, kjer je potencial umetne inteligence "ogromen", zlasti v smislu pomoči zdravnikom pri sprejemanju boljših kliničnih odločitev ter pomoči pri odkrivanju in razvoju novih zdravil. 

In če pogledamo dlje, Dar napoveduje, da bo tehnologija umetne inteligence pomagala ponuditi povsem nove komercialne priložnosti, ki trenutno ne obstajajo v sektorjih, kot so samovozeča vozila in poglobljeno igranje iger. 

Infrastrukturne ovire, ki jih je treba premagati

Kljub očitnemu potencialu za umetno inteligenco in strojno učenje v podjetju Dar priznava, da komercialno uvajanje umetne inteligence zavirajo težave v zvezi z zagotavljanjem infrastrukture. Svetuje, da morajo podjetja najprej preučiti način, kako umetna inteligenca pride v organizacijo.

Običajno to vključuje neusklajen proces od oddelka do oddelka, pri katerem različne ekipe neodvisno zagotavljajo tehnologijo in vire, kar vodi do ločenih uvajanj. IT ne more učinkovito nadzorovati teh ad hoc projektov in nima vpogleda v dogajanje. Zaradi tega je težko, če ne nemogoče, izračunati donosnost naložbe v infrastrukturo AI. 

»To je klasična težava: nekoč je bil IT v senci, zdaj pa umetna inteligenca v senci,« pravi Dar. 

Poleg tega je najsodobnejša infrastruktura, potrebna za AI/ML, naložba, saj podjetja potrebujejo zmogljivo računalniško strojno opremo, pospešeno z GPU, za obdelavo zelo kompleksnih podatkov in usposabljanje modelov. 

»Ekipe AI potrebujejo veliko računalniške moči za usposabljanje modelov, običajno z uporabo grafičnih procesorjev, ki so vrhunski viri podatkovnih centrov, ki jih je mogoče ločiti in ne uporabljati učinkovito,« pravi Dar. "Zagotovo lahko povzroči veliko zapravljenega denarja." 

Ta izolirana infrastruktura lahko na primer povzroči manj kot 10-odstotno stopnjo izkoriščenosti.

Glede na anketo Run:ai, Raziskava o stanju infrastrukture umetne inteligence 2021, objavljeno oktobra 2021, je 87 odstotkov anketirancev reklo, da imajo določene težave z dodeljevanjem GPU/računalniških virov, 12 odstotkov pa jih je reklo, da se to pogosto dogaja. Posledično je 83 odstotkov anketiranih podjetij poročalo, da ne uporabljajo v celoti svoje GPU in strojne opreme AI. Pravzaprav je skoraj dve tretjini (61 odstotkov) navedlo, da sta njihova GPE in strojna oprema AI večinoma na "zmerni" ravni izkoriščenosti.

Centralizacija AI

Za rešitev teh težav Dar zagovarja centralizacijo zagotavljanja virov umetne inteligence. Run:AI je razvil platformo za upravljanje računalništva za AI, ki počne prav to, centralizira in virtualizira računalniški vir GPE. Z združevanjem grafičnih procesorjev v eno navidezno plast in avtomatiziranim razporejanjem delovne obremenitve za 100-odstotno izkoriščenost ta pristop ponuja prednosti v primerjavi z izoliranimi sistemi na ravni oddelka. 

Centralizacija infrastrukture vrača nadzor in preglednost, hkrati pa podatkovne znanstvenike osvobodi režijskih stroškov upravljanja infrastrukture. Ekipe umetne inteligence si delijo univerzalni računalniški vir umetne inteligence, ki ga je mogoče dinamično klicati navzgor in navzdol, ko se povpraševanje poveča ali zmanjša, s čimer se odpravijo ozka grla pri povpraševanju in obdobja premajhne izkoriščenosti. 

Dar trdi, da lahko ta pristop pomaga organizacijam, da kar najbolje izkoristijo svojo strojno opremo, in osvobodi podatkovne znanstvenike omejitev osnovnih omejitev virov. Vse to pomeni, da lahko izvajajo več delovnih mest in uvedejo več modelov AI v proizvodnjo. 

Primer je naveden iz London Medical Imaging & Artificial Intelligence Centre for Value Based Healthcare, ki ga vodi King's College London in ima sedež v bolnišnici St. Thomas'. Uporablja medicinske slike in elektronske zdravstvene podatke za urjenje sofisticiranih algoritmov globokega učenja za računalniški vid in obdelavo naravnega jezika. Ti algoritmi se uporabljajo za ustvarjanje novih orodij za učinkovito presejanje, hitrejšo diagnozo in prilagojene terapije.

Center je ugotovil, da njegova podedovana infrastruktura umetne inteligence trpi zaradi težav z učinkovitostjo: skupna izkoriščenost GPE je bila pod 30 odstotki s "pomembnimi" obdobji nedejavnosti za nekatere komponente. Po prehodu na reševanje teh težav s sprejetjem centraliziranega modela zagotavljanja računalništva z umetno inteligenco, ki temelji na platformi Run:ai, se je njegova izkoriščenost GPU povečala za 110 odstotkov, z vzporednimi izboljšavami v hitrosti eksperimentiranja in splošni raziskovalni učinkovitosti.

»Naši poskusi lahko trajajo dneve ali minute, pri čemer uporabimo delček računalniške moči ali celotno gručo,« pravi dr. M. Jorge Cardoso, izredni profesor in višji predavatelj umetne inteligence na King's College London in tehnični direktor Centra za umetno inteligenco. »Zmanjšanje časa do rezultatov zagotavlja, da lahko postavljamo in odgovarjamo na več kritičnih vprašanj o zdravju in življenju ljudi,« 

Centralizacija virov AI GPU je prinesla tudi dragocene komercialne koristi Wayveu, londonskemu podjetju, ki razvija programsko opremo AI za samovozeče avtomobile. Njegova tehnologija je zasnovana tako, da ni odvisna od zaznavanja, temveč se osredotoča na večjo inteligenco za boljšo avtonomno vožnjo v gosto naseljenih mestnih območjih.

Wayve Fleet Learning Loop vključuje neprekinjen cikel zbiranja podatkov, urejanja, usposabljanja modelov, ponovne simulacije in modelov licenciranja pred uvedbo v floto. Primarna poraba računalništva GPE podjetja izvira iz proizvodnega usposabljanja Fleet Learning Loop. Usposablja osnovno linijo izdelka s celotnim naborom podatkov in se nenehno znova usposablja za zbiranje novih podatkov s ponovitvami učne zanke voznega parka.

Podjetje se je začelo zavedati, da trpi zaradi »grozljivega« načrtovanja GPE: čeprav je bilo skoraj 100 odstotkov njegovih razpoložljivih virov GPU dodeljenih raziskovalcem, je bilo ob začetnem testiranju uporabljenih manj kot 45 odstotkov. 

»Ker so bili grafični procesorji statično dodeljeni raziskovalcem, ko raziskovalci niso uporabljali svojih dodeljenih grafičnih procesorjev, drugi niso mogli dostopati do njih, kar je ustvarilo iluzijo, da so bili grafični procesorji za usposabljanje modelov napolnjeni, čeprav je veliko grafičnih procesorjev mirovalo,« ugotavlja Wayve. 

Delo z Run:ai je to težavo rešilo z odstranitvijo silosov in odpravo statičnega dodeljevanja virov. Ustvarjeni so bili bazeni skupnih grafičnih procesorjev, ki ekipam omogočajo dostop do več grafičnih procesorjev in izvajanje več delovnih obremenitev, kar je vodilo do 35-odstotnega izboljšanja njihove uporabe. 

Zrcalne izboljšave učinkovitosti procesorja

Zrcaljenje načina, na katerega je VMware v zadnjih letih prinesel bistvene izboljšave učinkovitosti pri uporabi strežniških CPE-jev do največje zmogljivosti, zdaj prihajajo nove inovacije za optimizacijo učinkovitosti uporabe GPE-ja za računalniške delovne obremenitve AI. 

»Če pomislite na sklad programske opreme, ki deluje na CPE-jih, je bil zgrajen z veliko VMware in virtualizacijo,« pojasnjuje Dar. »GPU-ji so razmeroma novi v podatkovnih centrih, programska oprema za AI in virtualizacijo – kot npr NVIDIA AI Enterprise – je tudi nedavni razvoj.« 

»Na to področje prinašamo napredno tehnologijo z zmogljivostmi, kot so frakcijski GPU, zamenjava delovnih mest in. omogoča delovnim obremenitvam učinkovito skupno rabo grafičnih procesorjev,« pravi Dar in dodaja, da se načrtujejo nadaljnje izboljšave.

Run:ai tesno sodeluje z NVIDIA za izboljšanje in poenostavitev uporabe grafičnih procesorjev v podjetju. Najnovejše sodelovanje vključuje omogočanje fleksibilnosti GPU v več oblakih za podjetja, ki uporabljajo GPU v oblaku, in integracijo z NVIDIA Triton Inference Server programsko opremo za poenostavitev postopka uvajanja modelov v proizvodnjo.

Glede na to, da so velike inovacije skozi zgodovino močno vplivale na človeštvo in svet, Dar ugotavlja, da bo treba moč umetne inteligence izkoristiti previdno, da bi povečali njene potencialne koristi, hkrati pa obvladovali morebitne slabosti. Umetno inteligenco primerja z najbolj prvinsko inovacijo od vseh: ognjem. 

»Je kot ogenj, ki je prinesel veliko velikih stvari in spremenil človeška življenja. Nevarnost je prinašal tudi požar. Tako so ljudje razumeli, kako živeti z ognjem,« pravi Dar. "Mislim, da je to danes tudi tukaj v AI." 

Sponzor Run:ai.