Toitage tehisintellekti tuld tsentraliseerimisega

Sponsoreeritud funktsioon Revolutsiooniliste tehnoloogiate ja avastuste pidev voog – tulekahju, põllumajandus, ratas, trükipress ja internet, kui nimetada vaid mõnda – on inimarengut ja tsivilisatsiooni põhjalikult kujundanud. Ja see innovatsioonitsükkel jätkub tehisintellektiga (AI). 

Uuringufirma IDC on jõudnud nii kaugele, et jõudnud järeldusele, et AI on tõesti vastus peaaegu kõigele. Rasmus Andsbjerg, IDC andmete ja analüütika asepresident, ütleb: „Tegelikkus on see, et AI pakub lahendusi kõigele, millega me praegu silmitsi seisame. Tehisintellekt võib olla allikaks kiireks jälgimiseks digitaalse transformatsiooni teekonnale, võimaldada kulude kokkuhoidu jalustrabavate inflatsioonimäärade ajal ja toetada automatiseerimispüüdlusi tööjõupuuduse ajal.

Kindlasti ja kõigis tööstusharudes ja funktsioonides on lõppkasutajate organisatsioonid hakanud avastama tehisintellekti eeliseid, kuna üha võimsamad algoritmid ja nende aluseks olev infrastruktuur võimaldavad paremat otsuste langetamist ja suuremat tootlikkust. 

Tehisintellekti (AI) turu ülemaailmne tulu, sealhulgas seotud tarkvara, riistvara ja teenused nii tehisintellekti-kesksetele kui ka tehisintellektile mittekesksetele rakendustele, ulatusid 383.3. aastal 2021 miljardi dollarini. See oli 20.7% rohkem kui eelmisel aastal. hiljutine International Data Corporation (IDC) ülemaailmne poolaastane tehisintellekti jälgija.

Samamoodi näitab AI-tarkvara pilves juurutamine jätkuvalt pidevat kasvu. IDC loodab, et äsja ostetud tehisintellekti tarkvara pilvversioonid ületavad 2022. aastal kohapealset juurutamist.

Taevas on AI piir

AI-spetsialisti Run:ai tehnoloogiajuht dr Ronen Dar, kes on loonud tehisintellekti jaoks arvutushaldusplatvormi, usub, et tekkiva ettevõtte tehisintellekti sektori jaoks on taevas piir. 

„AI on turg, mis kasvab väga kiiresti. Ja ettevõtete osas näeme nõudlust ja kasutuselevõttu masinõppe ja AI järele. Ja ma arvan, et praegu on siin uus tehnoloogia, mis toob kaasa uusi võimalusi, mis muudavad maailma; mis muudavad ettevõtted revolutsiooniliseks,” märgib Dar. 

Üha selgemini mõistetakse ka vajadust alustada tehisintellektiga uurimist ja katsetamist ning mõista, kuidas AI ärimudelitesse integreerida.

Dar usub, et tehisintellekt võib tuua "hämmastavaid eeliseid" olemasolevate ettevõtte äriprotsesside parandamiseks: "Praeguse äritegevuse optimeerimise ja tõestamise osas näeme AI ja masinõppega seotud palju kasutusjuhtumeid, mis parandavad toiminguid ja otsuste langetamist. pakkumise ja nõudluse ümber."

Ta juhib tähelepanu sellele, et uued närvivõrkudel põhinevad süvaõppe mudelid võivad parandada protsesse, otsuste tegemist ja kriitiliste äriprotsesside täpsust, nagu näiteks pettuste tuvastamine finantsteenuste sektoris. Tervishoid on teine ​​sektor, kus tehisintellekti potentsiaal on "tohutu", eriti seoses arstide paremate kliiniliste otsuste tegemise ning uute ravimite avastamisel ja väljatöötamisega. 

Ja kaugemale tulevikku vaadates ennustab Dar, et AI-tehnoloogia aitab pakkuda täiesti uusi ärivõimalusi, mida praegu pole sellistes sektorites nagu isejuhtivad sõidukid ja kaasahaaravad mängud. 

Infrastruktuuri tõkked, mida ületada

Vaatamata tehisintellekti ja masinõppe ilmsele potentsiaalile ettevõttes tunnistab Dar, et tehisintellekti kaubanduslikku kasutuselevõttu takistavad infrastruktuuri pakkumisega seotud probleemid. Ta soovitab ettevõtetel kõigepealt uurida, kuidas tehisintellekt organisatsiooni siseneb.

Tavaliselt hõlmab see koordineerimata, osakondade kaupa protsessi, mille käigus erinevad meeskonnad varustavad tehnoloogiat ja ressursse iseseisvalt, mille tulemusel juurutamine on katkenud. IT ei saa neid ad hoc projekte tõhusalt kontrollida ega näe toimuvat. Ja see muudab AI infrastruktuuri kulutuste ROI arvutamise keeruliseks, kui mitte võimatuks. 

"See on klassikaline probleem: tol ajal oli see vari-IT ja nüüd on see vari-AI," ütleb Dar. 

Lisaks on tehisintellekti/ML-i jaoks vajalik tipptasemel infrastruktuur investeering, kuna ettevõtted vajavad võimsat GPU-kiirendusega andmetöötlusriistvara väga keeruliste andmete töötlemiseks ja mudelite koolitamiseks. 

„AI-meeskonnad vajavad mudelite koolitamiseks palju arvutusvõimsust, kasutades tavaliselt GPU-sid, mis on esmaklassilised andmekeskuse ressursid, mida saab vaigistada ja mida ei saa tõhusalt kasutada,“ ütleb Dar. "See võib kindlasti põhjustada palju raha raiskamist." 

Näiteks võib see silutud infrastruktuur põhjustada alla 10% kasutustaseme.

Run:ai küsitluse kohaselt 2021. aasta tehisintellekti infrastruktuuri seisukord2021. aasta oktoobris avaldatud 87 protsenti vastanutest ütles, et neil on GPU/arvutusressursside jaotamisel teatud tasemel probleeme, 12 protsenti vastas, et seda juhtub sageli. Selle tulemusena teatas 83 protsenti küsitletud ettevõtetest, et nad ei kasuta oma GPU-d ja AI riistvara täielikult ära. Tegelikult märkis peaaegu kaks kolmandikku (61 protsenti), et nende GPU ja AI riistvara on enamasti "mõõdukal" kasutustasemel.

AI tsentraliseerimine

Nende probleemide lahendamiseks pooldab Dar tehisintellekti ressursside pakkumise tsentraliseerimist. Run:AI on välja töötanud tehisintellekti jaoks arvutushaldusplatvormi, mis teeb just seda, tsentraliseerides ja virtualiseerides GPU arvutusressursse. GPU-de ühendamine üheks virtuaalseks kihiks ja töökoormuse ajastamise automatiseerimine 100-protsendiliseks kasutamiseks pakub see lähenemine eeliseid võrreldes osakondade tasemel siledate süsteemidega. 

Taristu tsentraliseerimine annab tagasi kontrolli ja nähtavuse, vabastades samal ajal andmeteadlased infrastruktuuri haldamise üldkuludest. AI meeskonnad jagavad universaalset tehisintellekti arvutusressurssi, mida saab nõudluse suurenedes või vähenedes dünaamiliselt üles ja alla valida, kõrvaldades nõudluse kitsaskohad ja alakasutamise perioodid. 

Dar väidab, et selline lähenemine võib aidata organisatsioonidel oma riistvarast maksimumi võtta ja vabastada andmeteadlased ressursside piiratuse piirangutest. Kõik see tähendab, et nad saavad teha rohkem töid ja tuua tootmisse rohkem AI mudeleid. 

Näide on toodud Londoni meditsiinilise pildistamise ja tehisintellekti väärtuspõhise tervishoiu keskusest, mida juhib Londoni King’s College ja mis asub St. Thomase haiglas. See kasutab meditsiinilisi pilte ja elektroonilisi tervishoiuandmeid, et koolitada arvutinägemise ja loomuliku keele töötlemise keerukaid süvaõppe algoritme. Neid algoritme kasutatakse uute tööriistade loomiseks tõhusaks sõeluuringuks, kiiremaks diagnoosimiseks ja isikupärastatud ravimeetoditeks.

Keskus mõistis, et selle pärand AI infrastruktuur kannatas tõhususe probleemide all: GPU kogukasutus oli alla 30 protsendi ja mõne komponendi puhul oli "märkimisväärne" jõudeaeg. Pärast nende probleemide lahendamist Run:ai platvormil põhineva tsentraliseeritud tehisintellekti varustamise mudeli kasutuselevõtuga tõusis selle GPU kasutus 110 protsenti, paralleelselt paranes katse kiirus ja üldine teadustöö tõhusus.

"Meie katsed võivad kesta päevi või minuteid, kasutades arvutusvõimsust või tervet klastrit," ütleb dr M. Jorge Cardoso, Londoni King's College'i AI vanemlektor ja tehisintellekti keskuse tehnoloogiajuht. "Tulemuste saavutamise aja lühendamine tagab, et saame küsida inimeste tervise ja elu kohta kriitilisemaid küsimusi ja neile vastata," 

AI GPU ressursside tsentraliseerimine andis väärtuslikku ärilist kasu ka Wayve'ile, Londonis asuvale ettevõttele, mis arendab isejuhtivate autode AI-tarkvara. Selle tehnoloogia on loodud nii, et see ei sõltuks sensorist, vaid keskendub selle asemel suuremale intelligentsusele, et tagada parem autonoomne sõit tihedates linnapiirkondades.

Wayve’i sõidukipargi õppetsükkel hõlmab pidevat andmete kogumise, kureerimise, mudelite väljaõppe, simulatsiooni ja mudelite litsentsimise tsüklit enne laevastiku kasutuselevõttu. Ettevõtte peamine GPU arvutustarbimine pärineb Fleet Learning Loopi tootmiskoolitusest. See treenib toote baasjoont kogu andmestikuga ja treenib pidevalt uuesti, et koguda uusi andmeid sõidukipargi õppetsükli iteratsioonide kaudu.

Ettevõte hakkas mõistma, et kannatab GPU ajastamise "õuduse" all: kuigi peaaegu 100 protsenti olemasolevatest GPU ressurssidest eraldati teadlastele, kasutati testimise alguses vähem kui 45 protsenti. 

"Kuna GPU-d määrati teadlastele staatiliselt, siis kui teadlased neile määratud GPU-sid ei kasutanud, ei saanud teised neile juurde pääseda, luues illusiooni, et mudelitreeningu GPU-d olid võimelised isegi siis, kui paljud GPU-d seisid jõude," märgib Wayve. 

Koostöö Run:ai-ga lahendas selle probleemi silohoidlate eemaldamise ja ressursside staatilise jaotamise kaotamise kaudu. Loodi jagatud GPU-de kogumid, mis võimaldasid meeskondadel pääseda juurde rohkematele GPU-dele ja kasutada rohkem töökoormust, mis viis nende kasutamise 35% paranemiseni. 

Peegelprotsessori tõhususe täiustused

Peegeldades seda, kuidas VMware on viimastel aastatel oluliselt parandanud serveri protsessorite maksimaalset võimsust kasutamist, on nüüd jõudmas uued uuendused, et optimeerida GPU kasutamise tõhusust tehisintellekti arvutamise töökoormuse jaoks. 

"Kui mõelda tarkvarapinule, mis töötab protsessorite peal, siis see ehitati suure hulga VMware ja virtualiseerimisega," selgitab Dar. "GPU-d on andmekeskuses suhteliselt uued ning tehisintellekti ja virtualiseerimise tarkvara, nagu näiteks NVIDIA AI Enterprise – on samuti hiljutine areng. 

„Toome sellesse valdkonda täiustatud tehnoloogia koos selliste võimalustega nagu fraktsionaalne GPU, töökohtade vahetamine ja. võimaldades töökoormustel GPU-sid tõhusalt jagada, ”ütleb Dar ja lisab, et plaanitakse täiendavaid täiustusi.

Run:ai teeb tihedat koostööd NVIDIAga, et parandada ja lihtsustada GPU-de kasutamist ettevõttes. Viimane koostöö hõlmab mitme pilve GPU paindlikkuse võimaldamist ettevõtetele, kes kasutavad GPU-sid pilves, ja integreerimist NVIDIA Tritoni järeldusserver tarkvara mudelite tootmises juurutamise protsessi lihtsustamiseks.

Ajaloo jooksul toimunud suurematel uuendustel on olnud inimkonnale ja maailmale sügav mõju, märgib Dar, et tehisintellekti võimsust tuleb hoolikalt kasutada, et maksimeerida selle potentsiaalset kasu, samal ajal hallata võimalikke puudusi. Ta võrdleb tehisintellekti kõige ürgsema uuendusega: tulega. 

"See on nagu tuli, mis tõi palju suuri asju ja muutis inimelusid. Tulekahju tõi ka ohtu. Seega mõistsid inimesed, kuidas tulega elada, ”ütleb Dar. "Ma arvan, et see on tänapäeval ka siin AI-s." 

Sponsoriks Run:ai.