GenAI og automatisering: akselerere datasenterfremtiden

GenAI og automatisering: akselerere datasenterfremtiden

Tidsstempel: 23. juni 2023 9:31

oppdrag I en tid med automatisering og generativ AI (GenAI), er det på tide å tenke nytt over hva "datasenter" egentlig betyr. For de som har investert mye i offentlig sky, er kanskje ikke datasenteret det første stedet du tenker på når det kommer til automatisering og GenAI, men disse teknologiene endrer raskt hva som er mulig i alle miljøer.

For ti eller femten år siden, da bedrifter begynte å omgå IT ved å sveipe kredittkort og sette utviklere løs på skyressurser, var den offentlige skyen det absolutt riktige grepet. I de fleste store organisasjoner ble interne kunder ofte ignorert, eller behovene deres ble ikke fullt ut dekket. De ønsket fleksibilitet, de ønsket skalerbarhet og de trengte lave forhåndskostnader for å la inkubasjonsprosjekter blomstre.

Hvis tiden sto stille, ville kanskje de alvorlige prognosene for slutten av datasenteret hatt rett. Selv var jeg ganske skyevangelist før jeg lærte mer om den andre siden av gjerdet. Så hvorfor har ikke denne hendelsen på utryddelsesnivå skjedd? Fordi datasenteret har tilpasset seg. Jada, det er "aaS" og abonnementsmodeller nå tilgjengelig på stedet; men den virkelige stabiliserende kraften har vært automatisering.

Noe som bringer oss til dagens historie: GenAI og hvordan det kan øke automatiseringen i datasenteret til å bli en opplevelse nesten på nivå med den offentlige skyen. Før vi kommer dit må vi imidlertid se på rollen automatisering og skripting har spilt i datasenteret. Vi starter med å forklare noen vesentlige ting, så skal vi pakke ut hvorfor automatisering og GenAI har endret det som er mulig på stedet.

Skydriftsmodell og infrastruktur som kode

La oss starte med det grunnleggende: Grunnlaget for skyen var infrastruktur som kode og ideen om å konsumere IT som en tjeneste. Utviklerne dine trengte aldri å snakke med en lagringsadministrator, IT-operatør eller nettverksteamet for raskt å snurre opp et miljø og komme på jobb. Dette bør være bordinnsats i 2023, og den gode nyheten er det fullt mulig å bygge det selv. Å ta i bruk denne operasjonsmodellen betyr at IT utnytter policyer og prosesser sammen med automatisering for å fjerne friksjon fra miljøet.

Prosjektmentalitet

Prosjektmentalitet – Klikk for å forstørre

Visuell representasjon av sluttopplevelsen når du har automatisert en skydriftsmodell

Automatiseringsverktøysett og telemetridata

I dag er det mange automatiserings-, administrasjons- og telemetri/AIOps-produkter tilgjengelig som gir uovertruffen kontroll og innsikt i datasentre. Data er grunnlaget for AI og for å administrere et datasenter effektivt. Kontrollen og synligheten nå i datasentre er ofte et supersett av hva som kan oppnås i den offentlige skyen – selv om hyperskalerne har gjort en god jobb i den avdelingen også. Gitt skyens multitenant-natur, må skyleverandører skjule noe av driftskunnskapen for å holde hver kunde sikker. Dette resulterer i arkitektoniske beslutninger som begrenser hvordan enkelte overvåkingssystemer kan distribueres og hvilke data som kan samles inn. Et viktig fokuspunkt er å sikre at du i stor grad integrerer disse løsningene, omfavner automatisering og infrastruktur som kode, måler/overvåker alt og bruker en sammenhengende arbeidsflyt for alle rollene dine.

Felles automatisering/administrasjonsstabel

Vanlig automatisering/administrasjonsstabel – Klikk for å forstørre

Visuell representasjon av en felles automatiserings-/administrasjonsstabel

Den neste bølgen av IT-automatisering med GenAI

Dette bringer oss til den neste utviklingen av datasenteret med GenAI. La meg dele en morsom historie om en tidligere rolle der kunden fikk markedskonsulenten til å bygge et HCI-distribusjons-praktisk laboratorium for fysisk og virtuell infrastruktur, og deretter ikke ga noen fageksperter til å hjelpe. Hvis det ikke er klart, var den markedskonsulenten meg, og det var sannsynligvis et av de mest utfordrende prosjektene jeg noen gang har jobbet med. Jeg brukte kodebiter og YouTube-veiledninger for å komme til grunnlaget for hvordan man gjør en slik oppgave. Jeg brukte uker på å sette sammen puslespillet, og finne ut hvordan hver puslespillbrikke passet sammen. Ved et mirakel klarte jeg faktisk å få det til, selv om jeg ikke kunne så mye om koding. Uansett, her er wonderwall... jeg mener her er GenAI som gjør det.

Kodemonteringsmaskin

GenAI er søkemotoren og kodemonteringsmaskinen vi lette etter

Husk nå i mitt praktiske laboratorium, jeg gjorde mye mer enn bare å installere Windows Server, men det er ingen tvil i tankene mine at hvis jeg ba den om å gi resten av prosessen, kunne den. Det som er så viktig er at med infrastruktur-som-kode-mentaliteten, og i nye miljøer der utviklere kanskje ikke er kjent med denne typen samtaler eller runbooks, er GenAI en ny alliert som virkelig kan hjelpe. Mange mennesker innser ikke at tilgang til vanlige infrastrukturskript er utbredt – og ofte er det skrevet av teknologiselskapene selv. Både maskinvare- og programvareleverandører har store runbook-lager, noen ganger er det bare å finne dem: skriv inn GenAI. En annen viktig faktor er at selve infrastrukturen er intelligent og sikker. Disse kommandoene kan skyves ut til tusenvis av servere for fjernadministrasjonsformål. Dette senker betraktelig baren for å administrere miljøet ditt.

GenAI og prosessbygging

En av mine favoritthistorier om kundeengasjement høres kanskje litt lang ut – litt som historiene om å gå tapt eller ute av stand til å nå noen som er ufattelige for de som vokste opp med smarttelefoner. Vi hører massevis av snakk om containere, men da jeg tok opp dette emnet med en kunde, sa han: "Jeg kan ikke engang beholde VMware-administratorene mine, hva får deg til å tro at jeg noen gang kunne gjøre containere?" Dette er noe jeg har tenkt mye på, og det er sannsynligvis den største utfordringen med teknologi: hvis jeg ikke har ferdighetene, hvordan kan jeg eventuelt ombord det? Gå inn i GenAIs neste utrolige friksjonsredusering: skrive eller finne dokumentasjon.

Spør 1

Spør 2

På bare to oppfordringer har vi en rutinemessig og svært verdifull prosess dokumentert og klar til bruk

Vi har lenge hatt tilgang til en utrolig mengde informasjon, men tidligere har det ikke vært mulig å analysere alt. Alt dette endres med GenAI. Nå, i stedet for å navigere søk og sile gjennom kodelagre, gir en enkel spørring eller forespørsel om naturlig språk akkurat den dokumentasjonen som trengs. I stedet for timer med å lete etter svar, er omfattende dokumentasjon tilgjengelig på få minutter. Dette ødelegger fullstendig alle barrierer for å omfavne teknologi. Imposter-syndrom, ferdighetshull og byttekostnader: du er på varsel.

Tusenvis av muligheter, men AI Ops er neste

Jeg ønsker å anerkjenne mengden av måter denne teknologien kan hjelpe oss med å drive et datasenter. Sannsynligvis den neste som tilfører betydelig verdi er AI Ops. At rike telemetridata kan fortelle oss mye, men har også en tendens til å ha et signal-til-støy-forholdsproblem. Vi genererer rett og slett for mye data til at mennesker kan analysere og forstå alt. Ved å presse disse dataene inn i GenAI og bruke naturlig språk som grensesnitt, vil vi utvide innsikten til et bredere publikum og gjøre det mulig å stille spørsmål vi kanskje aldri har tenkt på når vi ser på diagrammer og rådata. Den gjennomsnittlige tiden til oppløsning vil synke når vi bruker denne typen data. Men det er en enorm ulempe, som bringer oss til vårt siste punkt.

GenAI og automatisering endrer det som er mulig, men vi må bruke det forsiktig

To av de store utfordringene med GenAI må løses. De er: lekkasje av intellektuell eiendom (IP) og dens evne til å "hallusinere” eller finne på ting. La oss pakke ut hver og finne ut hvordan vi skal omfavne teknologien uten å snuble under implementeringen.

La oss først diskutere IP-lekkasje. I ethvert scenario der data sendes til GenAI-modeller som leveres som en tjeneste, risikerer vi å lekke IP. Akkurat som de tidlige dagene med offentlig sky og åpne S3-bøtter, tidlige eksperimentører i deres misbruk eller misforståelser, skapte risiko for deres selskaper. Den beste måten å motvirke dette på er å ha en sentralisert IT-strategi, sette dem inn i dine vanlige arbeidsflyter eller utviklingspipeline, og til slutt prioritere å bygge din egen GenAI på stedet for svært sensitive data som ikke kan gå til en AIaaS som stadig lærer av deg data.

Den andre fordelen med å ta med en stor språkmodell (LLM) i huset er at du også kan gjøre den mer presis og sette rekkverk på den. Dette gjør svarene den genererer mer presise og i sammenheng med din egen virksomhet. Rekkverkene kan også stoppe noe av "hallusineringen", dvs. når GenAI er tvunget til å svare, men gir unøyaktig og/eller oppdiktet informasjon for å etterkomme forespørselen. Dette er et vanlig problem med GenAI. Realiteten er at disse verktøyene fortsatt er i sin spede begynnelse. Akkurat som de fleste vil jobbe med å teste inn i utgivelsesrørledningen, er dette også et område der det bør legges mer strenghet før de presses til produksjon. Jeg er en stor talsmann for human in the loop, eller menneskelig assistert maskinlæring, som en måte å redusere feil med AI.

Fremtiden er automatisert

Datasenteret er kommet for å bli, men det kan transformeres radikalt med GenAI og automatisering. Disse verktøyene kan forsterke arbeidsflytene våre og hjelpe IT-operatorer og utviklere med å oppnå overmenneskelige evner, men de er ikke en direkte erstatning for mennesker. Når du ruller ut AI- og automatiseringsstrategiene dine, er det viktig å tenke på hva du prøver å oppnå og hvilket nivå automatisering organisasjonen din er komfortabel med. Fremtiden er lys og evnen til å innovere hvor som helst er nå en realitet.

Lær hvordan vår Dell APEX-portefølje hjelper organisasjoner med å omfavne en konsistent skyopplevelse overalt, slik at de kan ta i bruk teknologier som AI og akselerere innovasjon.

Levert til deg av Dell Technologies.

Tidstempel:

Mer fra Registeret