GenAI och automation: accelererar datacenterframtiden

GenAI och automation: accelererar datacenterframtiden

Tidsstämpel: 23 juni 2023 9:31

Bemyndigad I en tid av automatisering och generativ AI (GenAI) är det dags att ompröva vad "datacenter" egentligen betyder. För de som har investerat hårt i det offentliga molnet är datacentret kanske inte det första du tänker på när det kommer till automation och GenAI, men dessa teknologier förändrar snabbt vad som är möjligt i alla miljöer.

För tio eller femton år sedan, när företag började kringgå IT genom att dra kreditkort och släppa loss utvecklare på molnresurser, var det offentliga molnet helt rätt drag. I de flesta stora organisationer ignorerades ofta interna kunder, eller så uppfylldes inte deras behov helt. De ville ha flexibilitet, de längtade efter skalbarhet och de behövde en låg initial kostnad för att tillåta inkubationsprojekt att blomstra.

Om tiden stått stilla, kanske de fruktansvärda förutsägelserna av datacentrets slut hade haft rätt. Jag var själv ganska moln evangelist innan jag lärde mig mer om andra sidan av stängslet. Så varför har inte denna händelse på utrotningsnivå inträffat? Eftersom datacentret har anpassat sig. Visst, det finns "aaS" och prenumerationsmodeller nu tillgängliga på plats; men den verkliga stabiliserande kraften har varit automatisering.

Vilket för oss till dagens historia: GenAI och hur det kan utöka automatiseringen i datacentret för att bli en upplevelse nästan i nivå med det offentliga molnet. Innan vi kommer dit måste vi dock titta på vilken roll automatisering och skript har spelat i datacentret. Vi börjar med att förklara några väsentliga saker, sedan packar vi upp varför automatisering och GenAI har förändrat vad som är möjligt på plats.

Molndriftmodell och infrastruktur som kod

Låt oss börja med grunderna: grunden för molnet var infrastruktur som kod och idén om att konsumera IT som en tjänst. Dina utvecklare behövde aldrig prata med en lagringsadministratör, IT-operator eller nätverksteamet för att snabbt skapa en miljö och komma igång. Detta borde vara bordsinsatser 2023, och de goda nyheterna är att det är fullt möjligt att bygga det själv. Att anta denna verksamhetsmodell innebär att IT utnyttjar policyer och processer vid sidan av automatisering för att ta bort friktion från miljön.

Projektmentalitet

Projektmentalitet – Klicka för att förstora

Visuell representation av slutupplevelsen när du har automatiserat en molnoperativ modell

Automationsverktygsuppsättningar och telemetridata

Idag finns det många automatiserings-, hanterings- och telemetri/AIOps-produkter tillgängliga som ger oöverträffad kontroll och insikter i datacenter. Data är grunden för AI och för att effektivt hantera ett datacenter. Kontrollen och synligheten nu i datacenter är ofta en superuppsättning av vad som kan uppnås i det offentliga molnet – även om hyperskalarna har gjort ett bra jobb även på den avdelningen. Med tanke på molnets multitenant-karaktär måste molnleverantörer dölja en del av den operativa kunskapen för att hålla varje kund säker. Detta resulterar i arkitektoniska beslut som begränsar hur vissa övervakningssystem kan distribueras och vilken data som kan samlas in. Ett viktigt fokus är att se till att du kraftigt integrerar dessa lösningar, omfamnar automation och infrastruktur som kod, mäter/övervakar allt och använder ett sammanhängande arbetsflöde för alla dina roller.

Gemensam automatisering/hanteringsstack

Vanlig automatisering/hanteringsstack – Klicka för att förstora

Visuell representation av en vanlig automations-/hanteringsstack

Nästa våg av IT-automatisering med GenAI

Detta för oss till nästa utveckling av datacentret som innehåller GenAI. Låt mig dela med mig av en rolig historia om en tidigare roll där kunden fick marknadskonsulten att bygga ett HCI-implementeringslabb för fysisk och virtuell infrastruktur, och sedan inte tillhandahöll några ämnesexperter till hjälp. Om det inte är klart så var den marknadskonsulten jag, och det var förmodligen ett av de mest utmanande projekt jag någonsin jobbat med. Jag använde kodavsnitt och YouTube-tutorials för att komma till grunden för hur man gör en sådan uppgift. Jag tillbringade veckor med att lägga pusslet och ta reda på hur varje pusselbit passade ihop. Genom något mirakel lyckades jag faktiskt få det rätt, även om jag inte kunde så mycket om kodning. Hur som helst, här är wonderwall... Jag menar här är GenAI som gör det.

Kodmonteringsmaskin

GenAI är sökmotorn och kodmonteringsmaskinen vi letade efter

Kom nu ihåg i mitt praktiska labb, jag gjorde mycket mer än att bara installera Windows Server, men det råder inga tvivel i mitt sinne om jag bad den att tillhandahålla resten av den processen, skulle det kunna göra det. Det som är så viktigt är att med mentaliteten infrastruktur-som-kod, och i nya miljöer där utvecklare kanske inte är bekanta med dessa typer av samtal eller runbooks, är GenAI en ny allierad som verkligen kan hjälpa. Många människor inser inte att tillgång till vanliga infrastrukturskript är utbredd – och ofta skrivs det av teknikföretagen själva. Både hårdvaru- och mjukvaruleverantörer har stora runbook-förråd, ibland är det bara att hitta dem: ange GenAI. En annan viktig faktor är att själva infrastrukturen är intelligent och säker. Dessa kommandon kan skickas ut till tusentals servrar för fjärrhanteringsändamål. Detta sänker ribban avsevärt för att hantera din miljö.

GenAI och processbyggnad

En av mina favorithistorier om kundengagemang kanske låter lite lång i tanden – ungefär som de där historierna om att gå vilse eller inte kunna nå någon som är outgrundliga för dem som växte upp med smartphones. Vi hör massor av prat om containrar, men när jag tog upp det här ämnet med en kund sa han: "Jag kan inte ens behålla mina VMware-administratörer, vad får dig att tro att jag någonsin skulle kunna göra containrar?" Det här är något jag har tänkt mycket på och det är förmodligen den största utmaningen med teknik: om jag inte har kompetensen, hur skulle jag kunna ombord på det? Gå in i GenAI:s nästa otroliga friktionsreducerare: skriva eller hitta dokumentation.

Fråga 1

Fråga 2

På bara två uppmaningar har vi en rutinmässig och mycket värdefull process dokumenterad och redo att användas

Vi har länge haft tillgång till en otrolig mängd information, men tidigare har det inte funnits någon möjlighet att analysera allt. Allt detta förändras med GenAI. Nu, istället för att navigera efter sökning och sålla genom kodlager, ger en enkel fråga eller prompt på naturligt språk exakt den dokumentation som behövs. Istället för timmar av att leta efter svar finns omfattande dokumentation till hands på några minuter. Detta förstör fullständigt alla hinder för att anamma teknik. Imposter-syndrom, kompetensluckor och byteskostnader: du är på varsel.

Tusentals möjligheter men AI Ops är nästa

Jag vill erkänna rikedomen av sätt som denna teknik kan hjälpa oss att driva ett datacenter. Förmodligen nästa som tillför betydande värde är AI Ops. Att rika telemetridata kan säga oss mycket men tenderar också att ha problem med signal-brusförhållandet. Vi genererar helt enkelt för mycket data för att människor ska kunna analysera och förstå allt. Genom att skjuta in denna data i GenAI och använda naturligt språk som gränssnitt, kommer vi att utöka insikter till en bredare publik och göra det möjligt att ställa frågor som vi kanske aldrig har tänkt på när vi tittar på diagram och rådata. Medeltiden till upplösning kommer att sjunka när vi använder den här typen av data. Men det finns en stor nackdel, som för oss till vår sista punkt.

GenAI och automation förändrar vad som är möjligt, men vi måste använda det försiktigt

Två av de stora utmaningarna med GenAI måste lösas. De är: Intellectual Property (IP) läckage och dess förmåga att "hallucinera” eller hitta på saker. Låt oss packa upp var och en och bestämma hur vi ska ta till oss tekniken utan att snubbla under implementeringen.

Låt oss först diskutera IP-läckage. I alla scenarion där data skickas till GenAI-modeller som levereras som en tjänst riskerar vi att läcka IP. Ungefär som de första dagarna av offentliga moln och öppna S3-hinkar, tidiga experimenterande i deras missbruk eller missförstånd, skapade risk för sina företag. Det bästa sättet att motverka detta är att ha en centraliserad IT-strategi, infoga dem i dina vanliga arbetsflöden eller utvecklingspipeline, och slutligen prioritera att bygga din egen GenAI på plats för mycket känslig data som inte kan gå till en AIaaS som ständigt lär sig av din data.

Den andra fördelen med att ta med en stor språkmodell (LLM) i huset är att du också kan göra den mer exakt och sätta skyddsräcken på den. Detta gör svaren den genererar mer exakta och i sammanhanget med ditt eget företag. Skyddsräckena kan också stoppa en del av "hallucinerandet", dvs när GenAI är tvungen att svara men tillhandahåller felaktig och/eller påhittad information för att uppfylla begäran. Detta är ett vanligt problem med GenAI. Verkligheten är att dessa verktyg fortfarande är i sin linda. Precis som de flesta skulle arbeta med att testa in sin releasepipeline, är detta också ett område där mer noggrannhet bör läggas på innan man skjuter till produktion. Jag är en stor förespråkare för human in the loop, eller mänsklig assisterad maskininlärning, som ett sätt att minska misstag med AI.

Framtiden är automatiserad

Datacentret är här för att stanna, men det kan omvandlas radikalt med GenAI och automatisering. Dessa verktyg kan utöka våra arbetsflöden och hjälpa IT-operatorer och utvecklare att uppnå övermänskliga förmågor, men de är inte en direkt ersättning för människor. När du rullar ut dina AI- och automationsstrategier är det viktigt att tänka på vad du försöker åstadkomma och vilken nivå automatisering som din organisation är bekväm med. Framtiden är ljus och förmågan att förnya var som helst är nu verklighet.

Lär dig hur våra Dell APEX-portfölj hjälper organisationer att anamma en konsekvent molnupplevelse överallt så att de kan använda tekniker som AI och påskynda innovation.

Tillhandahålls av Dell Technologies.

Tidsstämpel:

Mer från Registret