Säkerhet måste ge AI-utvecklare nu

Det råder ingen tvekan om att GenAI kommer att förändra hur affärer görs. Forskningsföretagen uppskattar enorma produktivitetsvinster över alla sektorer, vilket om det uppfylldes skulle helt förändra varje bransch. Med så stor potentiell vinst är det tydligt varför varje företag strävar efter att göra det möjligt för sina team att bygga AI-drivna applikationer så snabbt som möjligt. Säkerhetsteam måste dock agera nu för att säkerställa att dessa appar kommer att hålla upp till granskning.

Kapplöpet för att fånga AI-affärsvärdet först

Vissa företag har redan byggt hundratals AI-drivna appar hittills. Utvecklingshastigheten är bara otrolig, med anmärkningsvärda exempel som Microsoft släpper Copilot-applikationer i en takt långt över vad ett stort företag vanligtvis levererar.

På grund av omognaden i ramarna och verktygen runt omkring AI app utveckling, dessa byggs med ett brett utbud av teknologier. Utvecklingsramverk som bygger på de få grundläggande modellerna är många och varierar avsevärt, och de dyker upp hela tiden. Ramar som Langkedja och AutoGPT har vunnit betydande popularitet i en aldrig tidigare skådad takt. I ett större företag kan du lätt förvänta dig att hitta tiotals olika ramverk som används för att bygga dessa applikationer.

De första organisationerna som kan fånga produktivitetsvinster från AI innan andra kommer att ha en enorm vinst. Därför är vi med i ett lopp där vi får nöja oss med de ramar som finns just nu och bara få saker gjorda. Det kommer förmodligen att ta lång tid för ramverk att standardisera, och vid den tiden kommer du redan vara sen till spelet.

Vi måste möta verkligheten: Verksamheten omformas – med oprövade verktyg, ramverk och hotmodeller – i en aldrig tidigare skådad takt.

Säkerhet: Var börjar vi ens?

Att bygga så många nya applikationer på så kort tid har enorma säkerhetskonsekvenser. För det första är detta bara fler applikationer, med samma säkerhetsrisker som alla andra applikationer introducerar; de måste få rätt identitet, dataflöde och hemlig hantering, för att nämna några problem. För det andra skapar GenAI några unika säkerhetsutmaningar, vilka ramverk som OWASP LLM Topp 10 hjälpa till att fånga och utbilda om.

Avancerade säkerhetsorganisationer, i samarbete med IT, sätter samman dedikerade centra för att inventera, utvärdera och säkra dessa applikationer. Observera att dessa kräver att man skapar helt nya processer och nyligen delegerade ansvarsområden. Helst kan dessa centra fungera som en möjliggörande resurs för utvecklare och erbjuda tjänster för hotmodellering och designgranskning för att säkerställa att säkra standarder uppfylls.

Att skapa en centraliserad resurs som dessa är inte en lätt bedrift. Att hitta alla AI-drivna projekt i ett företag är en enorm utmaning, liksom lager är alltid. Att utveckla de tekniska färdigheter som krävs för att granska dessa applikationer är också svårt - särskilt på grund av spridningen av olika AI-ramverk, var och en med sina egna egenskaper och gotchas. Att övervaka dessa appar i produktion är ytterligare en utmaning, både ur ett tekniskt perspektiv att få rätt data från omogna utvecklingsramverk och ur säkerhetsanalysperspektivet att veta vad man ska leta efter.

Dessa är dock inte oöverstigliga utmaningar. Faktum är att de följer den typiska applikationssäkerhetsproblemformeln för inventering, säkerhetsbedömning och körtidsskydd. För att komma framåt och göra det möjligt för vår verksamhet att fånga AI-revolutionen först, måste vi börja göra framsteg med att lösa dessa problem.

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://www.darkreading.com/edge/security-must-empower-ai-developers-now