Et sett med AI-smak med HPC-spådommer for 2023

Mange spådommer for HPC-AI i 2023 kom over akterspeilet vårt de siste ukene, her er utdrag fra de vi fant mest interessante, friske, innsiktsfulle – til og med motstridende.

Altair Sjefforsker Rosemary Francis:
Gå stort eller gå hjem – HPCs større arbeidsbelastninger.Ettersom HPC-arbeidsmengder tar på seg store dataapplikasjoner, for eksempel innen biovitenskap og partikkelakseleratorer som Storbritannias Diamond Light Source (for større forskning og eksperimentering) ser vi en eksplosjon i arbeidsflytverktøy. Fra 2023 vil denne transformasjonen til flerdimensjonal planlegging være den største drivkraften for endring innen HPC ettersom industrien søker å modernisere seg selv og tilpasse seg disse store tilkoblede applikasjonene.

HPC takler dyp læring:Etter hvert som dyp læring blir mer utbredt i 2023, vil vi se et ytterligere skifte i HPC-arbeidsmengden. Selv om de fleste maskinlæringsarbeidsbelastninger i utgangspunktet ble kjørt på Kubernetes eller andre containerorkestreringsrammeverk, har det blitt klart at disse systemene er designet for mikrotjenester, ikke for de eksplosive, datamaskinintensive maskinarbeidsbelastningene som nå kreves for dyp læring. Kommersielle HPC-arbeidsbelastningsledere trenger omfattende containerstøtte slik at organisasjoner kan spolere databehandlingen og begynne å dra nytte av batchplanlegging, skybrudd og prisdeling – alle nøkkelaspekter ved effektiv HPC.

Joe Fitzsimons, administrerende direktør i Horizon Quantum Computing, om døden til NISQ og et skifte til feiltoleranse i kvanteberegning
"I de siste årene har applikasjonsutvikling for kvantedatabehandling sett et spesielt fokus på NISQ-regimet, med henvisning til Noisy Intermediate Scale Quantum-prosessorer. 'Støyen' i denne tittelen refererer til qubiters mottakelighet for interferens fra miljøfaktorer, som spenner fra nærheten til andre qubits til kollisjoner fra kosmiske stråler. Denne støyen introduserer potensielt fatale feil i prosessene med kvanteberegning. Det har lenge vært kjent at det er, i det minste teoretisk, mulig å bygge kvantedatamaskiner som inneholder feilkorrigering, slik at en i hovedsak perfekt datamaskin kan bygges av ufullkomne komponenter. Fokuset til NISQ-forskningen har imidlertid vært på å utvikle variasjonsalgoritmer som er håpet å være robuste mot mindre forstyrrelser forårsaket av miljøstøy, noe som gir kvantefordeler uten feilkorrigering.

"Dessverre er det relativt lite bevis på at slike NISQ-algoritmer faktisk vil gi en fordel i forhold til konvensjonelle datamaskiner for det brede spekteret av optimaliserings- og maskinlæringsoppgaver som de vurderes for. Selv om det er god grunn til å tro at tidlige kvantefordeler kan sees i felt som kjemi, der problemet som skal løses er kvantemekanisk i naturen, er det tegn på fornyet fokus på å nå feiltoleranseregimet, der feil er aktivt korrigert og som det er mye sterkere bevis for kvantefordel.»

Dell Technologies' John Roese, Global CTO – Et kvante nyttårsforsett
Jeg vil etablere tidlige ferdighetssett for å dra nytte av kvante. Kvantedatabehandling blir virkelig, og hvis du ikke har noen i virksomheten din som forstår hvordan denne teknologien fungerer og hvordan den påvirker virksomheten din, vil du gå glipp av denne teknologibølgen. Identifiser teamet, verktøyene og oppgavene du vil bruke til kvante og begynn å eksperimentere. Bare forrige måned annonserte vi den lokale Dell Quantum Computing Solution som gjør det mulig for organisasjoner på tvers av bransjer å begynne å dra nytte av akselerert databehandling gjennom kvanteteknologi som ellers ikke er tilgjengelig for dem i dag. Å investere i kvantesimulering og sette datavitenskap og AI-team i stand til å lære de nye språkene og evnene til kvante er avgjørende i 2023.

Motstridende synspunkter på ML fra Gideon Mendels, administrerende direktør og medgründer av MLOps-plattformen Komet
Når data blir tørre: De fleste forbedringene som er sett i ML har kommet fra treningsmodeller med mer og mer data, men vi kommer til et punkt hvor vi ikke vil kunne gjøre det. Noe interessant forskning har nettopp kommet ut som viser at vi kan gå tom for data innen 2026. Hvis denne oppgaven holder, kommer vi til å slutte å se forbedringer med mindre vi kan bygge bedre modeller på samme datasett.

Miljøpåvirkning av generative modeller: Generative modeller produserer ekstremt imponerende resultater, men det er ikke klart hvilken innvirkning de har på en faktisk virksomhet. Det som er klart er karbonutslippseffekten av å trene disse massive modellene. Beregningskravene er vanvittige. Så det reiser spørsmålet: "Er resultatene verdt miljøkostnadene?"

Gå bort fra en programvaretankegang: ML har fulgt løpet av programvareutvikling så langt, men etter hvert som ML modnes, faller denne tilnærmingen fra hverandre. Ingen enkelt leverandør kan gjøre alt. Team i dag velger de beste tilgjengelige verktøyene som er relevante for det de prøver å gjøre. Leverandører som prøvde å være alt for et team, mislykkes. For at ML skal nå sitt potensiale, må vi tenke annerledes for å bygge den rette ML-stakken for våre spesifikke forretningsbehov.

Bias er overhypet: Bias er et konsept som får mye oppmerksomhet – og vil fortsette å få mer med AI Bill of Rights – det er ikke noe mange ML-utøvere er opptatt av fra dag til dag. De står selvfølgelig for det, men solide ML-utøvere forstår problemene og vet hva de skal gjøre for å forhindre skjevhet i å påvirke resultatene negativt.

Jonas Kubilius fra Oxylabs Advisory Board på Generativ AI
Jonas Kubilius, medgründer og administrerende direktør i Three Thirds og medlem av Oxylabs Advisory Board, forventer en økt utvikling av Stable Diffusion, GPT-3, GitHub Copilot og andre innholdsgenereringsteknikker til lønnsomme produkter som brukes av utviklere og innholdsskapere i real- verdensapplikasjoner. Han la til at vi ville se en økt interesse for multimodale modeller som kan håndtere tekst, bilder, lyd og andre innganger for flere oppgaver.

"Vi vil begynne å se et skifte fra å bruke AI for statiske oppgaver, som klassifisering, til språkmodelldrevne interaktive arbeidsflyter som hjelper folk å utføre oppgavene sine mer effektivt," sa Kubilius.

Peter Mattson, president for MLCommons, på offentlige datasett
"Vi vil møte en kombinasjon av krevende nye forskningsutfordringer rundt multimodal og konversasjons-AI, i tillegg til juridiske, etiske og rettferdighetsbekymringer med nettskrapte data i gjeldende offentlige datasett. Bransjen som helhet vil også trenge bedre støtte, ikke bare forskning, men også utbredte ML-applikasjoner og nye forskrifter (f.eks. gjennom testsett av industriell kvalitet).

For å støtte en «neste generasjon av offentlige data», forutsier Mattson et behov for sterke investeringer i datasett for de mest presserende samfunnsmessige og tekniske problemene, og kanalisere denne investeringen gjennom åpen kildekode-lignende infrastruktur som gjør det mulig for hele samfunnet å bidra til og gjennomgå dataen.

Moses Guttmann, administrerende direktør og medgründer av MLOps-plattformen ClearML, på ML Trends to Watch

Automatisering og mangel på ML-ferdigheter Selv om vi har sett mange toppteknologiselskaper kunngjøre permitteringer i siste del av 2022, er det sannsynligvis ingen av (dem) som permitterer sitt mest talentfulle maskinlæringspersonell. Men for å fylle tomrommet ... på dypt tekniske team, vil bedrifter måtte lene seg enda lenger inn i automatisering for å holde produktiviteten oppe og sikre at prosjekter blir fullført. Vi forventer også å se selskaper som bruker ML-teknologi sette flere systemer på plass for å overvåke og styre ytelse og ta mer datadrevne beslutninger om hvordan de skal administrere ML eller datavitenskapsteam...

ML Talenthamstring er over  Oppsigelser av ML-arbeidere er sannsynligvis blant de siste ansettelsene, i motsetning til de mer langsiktige ML-ansatte .... Siden ML og AI har blitt en mer vanlig teknologi det siste tiåret, begynte mange store teknologiselskaper å ansette denne typen arbeidere fordi de kunne håndtere de økonomiske kostnadene og holde dem borte fra konkurrenter – ikke nødvendigvis fordi de var nødvendige. (Så) det er ikke overraskende å se så mange ML-arbeidere bli permittert... Men når epoken med ML-talenthamstring slutter, kan det innlede en ny bølge av innovasjon og muligheter for startups. Med så mye talent nå på jakt etter arbeid, vil vi sannsynligvis se mange av disse menneskene sive ut av storteknologien og inn i små og mellomstore bedrifter eller oppstarter.

ML Prosjektprioritering  Jeg ser maskinlæringsprosjekter kokt ned til to typer: salgbare funksjoner som ledelsen tror vil øke salget og vinne mot konkurrentene, og inntektsoptimaliseringsprosjekter ... Selgbare funksjonsprosjekter vil sannsynligvis bli utsatt, siden de er vanskelige å få ut raskt, og i stedet , vil de nå mindre ML-teamene fokusere mer på inntektsoptimalisering ettersom det kan generere reelle inntekter. Ytelse i dette øyeblikket er avgjørende for alle forretningsenheter, og ML er ikke immun mot det.

Unified ML  En av faktorene som bremser bruken av MLOs er mengden av punktløsninger. Det er ikke for å si at de ikke fungerer, men at de kanskje ikke integreres godt sammen og etterlater hull i arbeidsflyten. På grunn av det er jeg overbevist om at 2023 er året da industrien beveger seg mot enhetlige, ende-til-ende-plattformer bygget av moduler som kan brukes individuelt og også integreres sømløst med hverandre (i tillegg til enkelt å integrere med andre produkter) . Denne typen plattformtilnærming, med fleksibiliteten til individuelle komponenter, gir den typen smidig opplevelse dagens spesialister ser etter. Det er enklere enn å kjøpe poengprodukter og lappe dem sammen; det er raskere enn å bygge din egen infrastruktur fra bunnen av (når du burde bruke den tiden til å bygge modeller)...

NVIDIA tilbød en rekke spådommer på tvers av en rekke AI- og maskinlæringsfelt:

Anima Anandkumar, direktør for ML Research, og Bren Professor ved Caltech
Digitale tvillinger blir fysiske: Vi vil se storskala digitale tvillinger av fysiske prosesser som er komplekse og flerskala, som vær- og klimamodeller, seismiske fenomener og materialegenskaper. Dette vil akselerere nåværende vitenskapelige simuleringer så mye som en million ganger, og muliggjøre ny vitenskapelig innsikt og oppdagelser.

Generalist AI-agenter: AI-agenter vil løse åpne oppgaver med naturlige språkinstruksjoner og forsterkende læring i stor skala, mens de utnytter grunnleggende modeller – de store AI-modellene som er trent på en stor mengde umerkede data i stor skala – for å aktivere agenter som kan analysere alle typer forespørsel og tilpasse seg nye typer spørsmål over tid.

Manuvir Das, visepresident, Enterprise Computing
Software Advances End AI Siloer: Bedrifter har lenge måttet velge mellom cloud computing og hybridarkitekturer for AI-forskning og utvikling – en praksis som kan kvele utviklernes produktivitet og senke innovasjonen.

I 2023 vil programvare gjøre det mulig for bedrifter å forene AI-rørledninger på tvers av alle infrastrukturtyper og levere en enkelt, tilkoblet opplevelse for AI-utøvere. Dette vil tillate virksomheter å balansere kostnader mot strategiske mål, uavhengig av prosjektstørrelse eller kompleksitet, og gi tilgang til tilnærmet ubegrenset kapasitet for fleksibel utvikling.

Generativ AI transformerer bedriftsapplikasjoner: Hypen om generativ AI blir realitet i 2023. Det er fordi grunnlaget for ekte generativ AI endelig er på plass, med programvare som kan transformere store språkmodeller og anbefalingssystemer til produksjonsapplikasjoner som går utover bilder for å intelligent svare på spørsmål, lage innhold og til og med gnistfunn….

Kimberly Powell, Visepresident, helsevesen
Kirurgi 4.0: Flysimulatorer tjener til å trene piloter og forske på ny flykontroll. Det samme gjelder nå for kirurger og produsenter av robotkirurgi. Digitale tvillinger som kan simulere i alle skalaer, fra operasjonsstuemiljøet til den medisinske roboten og pasientens anatomi, bryter ny mark innen personlige kirurgiske øvelser og utforming av AI-drevne interaksjoner mellom mennesker og maskiner. Lange opphold vil ikke være den eneste måten å produsere en erfaren kirurg på. Mange vil bli ekspertoperatører når de utfører sin første robotassisterte operasjon på en ekte pasient.

Danny Shapiro, visepresident for bilindustrien
Trening av autonome kjøretøy i metaverset: De mer enn 250 bil- og lastebilprodusentene, startups, transport og mobilitet-som-en-tjenesteleverandører som utvikler autonome kjøretøy, takler en av vår tids mest komplekse AI-utfordringer. Det er rett og slett ikke mulig å møte hvert scenario de må være i stand til å håndtere ved å teste på veien, så mye av industrien i 2023 vil henvende seg til den virtuelle verdenen for å hjelpe. Datainnsamling på veien vil bli supplert med virtuelle flåter som genererer data for opplæring og testing av nye funksjoner før utplassering. High-fidelity-simulering vil kjøre autonome kjøretøy gjennom et praktisk talt uendelig utvalg av scenarier og miljøer...

Rev Lebardedian, visepresident, Omniverse og simuleringsteknologi
Metaverse Universal Translator: Akkurat som HTML er standardspråket for 2D-nettet, Beskrivelse av universell scene er satt til å bli det kraftigste, utvidbare, åpne språket for 3D-nettet. Som 3D-standarden for å beskrive virtuelle verdener i metaversen, vil USD tillate bedrifter og til og med forbrukere å flytte mellom forskjellige 3D-verdener ved å bruke ulike verktøy, seere og nettlesere på den mest sømløse og konsekvente måten.

Ronnie Vasishta, Senior Vice President, Telecoms
Kutte ledningen på AR/VR over 5G-nettverk: Mens mange virksomheter vil flytte til skyen for utvikling av maskinvare og programvare, vil kantdesign og samarbeid også vokse etter hvert som 5G-nettverk blir mer fullstendig distribuert over hele verden. Bildesignere kan for eksempel ta på seg hodesett med utvidet virkelighet og streame det samme innholdet de ser over trådløse nettverk til kolleger over hele verden, fremskynde samarbeidsendringer og utvikle innovative løsninger i rekordfart. 5G vil også føre til akselerert distribusjon av tilkoblede roboter på tvers av bransjer – brukt til å fylle opp butikkhyller, rengjøre gulv, levere pizza og plukke og pakke varer i fabrikker.

Bob Pette, visepresident, profesjonell visualisering
En industriell revolusjon via simulering: Alt bygget i den fysiske verden vil først bli simulert i en virtuell verden som adlyder fysikkens lover. Disse digitale tvillingene – inkludert i store miljøer, som fabrikker, byer og til og med hele planeten – og det industrielle metaverset er satt til å bli kritiske komponenter i digitale transformasjonsinitiativer. Eksempler florerer allerede: Siemens tar industriell automasjon til et nytt nivå. BMW simulerer hele fabrikkgulv for å planlegge produksjonsprosesser optimalt. Lockheed Martin simulerer oppførselen til skogbranner for å forutse hvor og når ressursene skal settes inn. DNEG, SONY Pictures, WPP og andre øker produktiviteten gjennom globalt distribuerte kunstavdelinger som gjør det mulig for skapere, kunstnere og designere å iterere på scener praktisk talt i sanntid.

Nytenkning av Enterprise IT-arkitektur: Akkurat som mange bedrifter forsøkte å tilpasse kulturen og teknologiene sine for å møte utfordringene med hybridarbeid, vil det nye året bringe en re-arkitektur av mange selskapers hele IT-infrastruktur. Bedrifter vil søke kraftige klientenheter som er i stand til å takle de stadig økende kravene til applikasjoner og komplekse datasett. Og de vil omfavne fleksibilitet og flytte til skyen for eksponentiell skalering. Bruken av distribuerte dataprogramvareplattformer vil gjøre det mulig for en globalt spredt arbeidsstyrke å samarbeide og holde seg produktiv under de mest forskjellige arbeidsmiljøene.

På samme måte vil utvikling og opplæring av kompleks AI-modell kreve kraftig datainfrastruktur i datasenteret og skrivebordet. Bedrifter vil se på kurerte AI-programvarestabler for ulike industrielle brukstilfeller for å gjøre det enkelt for dem å bringe AI inn i arbeidsflytene sine og levere produkter og tjenester av høyere kvalitet til kunder raskere.

Azita Martin, visepresident, AI for Retail and Consumer Products Group
AI for å optimalisere forsyningskjeder: Selv de mest sofistikerte forhandlerne og e-handelsselskapene har hatt problemer de siste to årene med å balansere tilbud med etterspørsel. Forbrukere omfavnet hjemmehandel under pandemien og strømmet deretter tilbake til fysiske butikker etter at sperringene ble opphevet. Etter at inflasjonen slo til, endret de kjøpsvanene sine nok en gang, noe som ga leverandørkjedeledere passe. AI vil muliggjøre hyppigere og mer nøyaktige prognoser, og sikre at riktig produkt er i riktig butikk til rett tid. Forhandlere vil også ta i bruk programvare for ruteoptimalisering og simuleringsteknologi for å gi et mer helhetlig syn på muligheter og fallgruver.

Malcolm deMayo, visepresident for finansielle tjenester
Cloud-First for Financial Services: Banker har et nytt imperativ: bli raskt smidig. I møte med økende konkurranse fra ikke-tradisjonelle finansinstitusjoner, endrede kundeforventninger som stiger fra deres erfaringer i andre bransjer og bekledd med eldre infrastruktur, vil banker og andre institusjoner omfavne en sky-først AI-tilnærming. Men som en svært regulert bransje som krever operativ robusthet, et bransjebegrep som betyr at systemene dine kan absorbere og overleve sjokk (som en pandemi), vil bankene se etter åpne, bærbare, herdede hybridløsninger. Som et resultat er bankene forpliktet til å kjøpe støtteavtaler når de er tilgjengelige.

David Reber, sikkerhetssjef
Dataforskere er ditt nye cyberressurs: Tradisjonelle cyberfagfolk kan ikke lenger forsvare seg effektivt mot de mest sofistikerte truslene fordi hastigheten og kompleksiteten til angrep og forsvar effektivt har overskredet menneskelig kapasitet. Dataforskere og andre menneskelige analytikere vil bruke AI til å se objektivt på alle dataene og oppdage trusler. Brudd kommer til å skje, så datavitenskapelige teknikker som bruker AI og mennesker vil hjelpe deg med å finne nålen i høystakken og reagere raskt.

Kari Briski, visepresident, AI og HPC Software
Umerkede data finner sin hensikt: Store språkmodeller og strukturerte data vil også strekke seg til mengden av bilder, lydopptak, tweets og mer for å finne skjulte mønstre og ledetråder for å støtte gjennombrudd i helsevesenet, fremskritt innen vitenskap, bedre kundeengasjement og til og med store fremskritt innen selvkjørende transport. I 2023 vil det å legge til alle disse ustrukturerte dataene i blandingen bidra til å utvikle nevrale nettverk som for eksempel kan generere syntetiske profiler for å etterligne helsejournalene de har lært av. Denne typen uovervåket maskinlæring kommer til å bli like viktig som overvåket maskinlæring.

Det nye kundesenteret: Hold et øye med kundesenteret i 2023, hvor bruk av flere og lettere implementerte arbeidsflyter for tale-AI vil gi forretningsfleksibilitet i hvert trinn i kundeinteraksjonspipelinen – fra å endre modellarkitekturer til å finjustere modeller på proprietære data og tilpasse pipelines. Etter hvert som tilgjengeligheten til AI-arbeidsflyter for tale utvides, vil vi se en utvidelse av bedriftsadopsjon og en enorm økning i kundesenterproduktiviteten ved å øke tiden til løsning. AI vil hjelpe agenter med å trekke riktig informasjon ut av en massiv kunnskapsbase til rett tid, og minimere ventetiden for kundene.

Deepu Talla, visepresident, Embedded and Edge Computing
Roboter får en million liv: Flere roboter vil bli trent i virtuelle verdener ettersom fotorealistisk gjengivelse og nøyaktig fysikkmodellering kombineres med muligheten til å simulere parallelt millioner av forekomster av en robot på GPUer i skyen. Generative AI-teknikker vil gjøre det enklere å lage svært realistiske 3D-simuleringsscenarier og ytterligere akselerere bruken av simulering og syntetiske data for å utvikle mer kapable roboter.

 Marc Spieler, seniordirektør, energi
AI-drevet energinett: Etter hvert som nettet blir mer komplekst på grunn av den enestående frekvensen av distribuerte energiressurser som legges til, vil elselskaper kreve edge AI for å forbedre driftseffektiviteten, forbedre funksjonell sikkerhet, øke nøyaktigheten av last- og etterspørselsprognoser og akselerere tilkoblingstiden for fornybar energi , som sol og vind. AI på kanten vil øke nettets motstandskraft, samtidig som energisvinn og kostnader reduseres.