Sikkerhet må styrke AI-utviklere nå

Sikkerhet må styrke AI-utviklere nå

Tidsstempel: 16. oktober 2023 7
Sikkerhet må styrke AI-utviklere nå PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

Det er ingen tvil om at GenAI kommer til å endre hvordan virksomheten gjøres. Forskningsfirmaer anslår enorme produktivitetsgevinster på tvers av alle sektorer, som hvis de blir oppfylt vil fullstendig transformere alle bransjer. Med en så stor potensiell gevinst er det klart hvorfor hver bedrift streber etter å sette teamene deres i stand til å bygge AI-drevne applikasjoner så raskt som mulig. Sikkerhetsteam må imidlertid handle nå for å sikre at disse appene tåler gransking.

Kappløpet om å fange AI-forretningsverdi først

Noen bedrifter har allerede bygget hundrevis av AI-drevne apper så langt. Utviklingshastigheten er bare utrolig, med bemerkelsesverdige eksempler som Microsoft slipper Copilot-applikasjoner med en hastighet langt utover det en stor bedrift vanligvis leverer.

På grunn av umodenhet av rammeverk og verktøy rundt AI-apputvikling, disse bygges med et bredt spekter av teknologier. Utviklingsrammer som bygger på toppen av de få grunnleggende modellene er mange og varierer betydelig, og de dukker stadig opp. Rammer som Langkjede og AutoGPT har fått betydelig popularitet i et enestående tempo. I en større bedrift kan du lett forvente å finne titalls forskjellige rammeverk som brukes til å bygge disse applikasjonene.

De første organisasjonene som er i stand til å fange produktivitetsgevinster fra AI før andre vil ha en stor gevinst. Derfor er vi med på et løp der vi må nøye oss med de rammene som er tilgjengelig akkurat nå og bare få ting gjort. Det vil sannsynligvis ta lang tid før rammeverk blir standardisert, og på den tiden vil du allerede være sent ute til spillet.

Vi må se virkeligheten i øynene: Virksomheten omformes – med uprøvde verktøy, rammeverk og trusselmodeller – i et enestående tempo.

Sikkerhet: Hvor begynner vi til og med?

Å bygge så mange nye applikasjoner på en så kort tidsramme har enorme sikkerhetsimplikasjoner. For det første er dette bare flere applikasjoner, med samme sikkerhetsrisiko som alle andre applikasjoner introduserer; de trenger å få riktig identitet, dataflyt og hemmelig administrasjon, for å nevne noen bekymringer. For det andre skaper GenAI noen unike sikkerhetsutfordringer, som rammeverk som OWASP LLM Topp 10 bidra til å fange opp og utdanne.

Avanserte sikkerhetsorganisasjoner, i samarbeid med IT, setter sammen dedikerte sentre for å inventere, vurdere og sikre disse applikasjonene. Merk at disse krever opprettelse av helt nye prosesser og nylig delegert ansvar. Ideelt sett kan disse sentrene fungere som en mulig ressurs for utviklere, og tilby trusselmodellering og designvurderingstjenester for å sikre at sikre standarder oppfylles.

Å skape en sentralisert ressurs som disse er ikke en lett prestasjon. Å finne alle AI-drevne prosjekter på tvers av en bedrift er en stor utfordring inventar alltid er. Å utvikle de tekniske ferdighetene som kreves for å revidere disse applikasjonene er også vanskelig - spesielt på grunn av spredningen av forskjellige AI-rammeverk, hver med sine egne særheter og gode egenskaper. Å overvåke disse appene i produksjon er enda en utfordring, både fra et teknisk perspektiv for å få de riktige dataene fra umodne utviklingsrammer og fra sikkerhetsanalyseperspektivet for å vite hva man skal se etter.

Dette er imidlertid ikke uoverkommelige utfordringer. Faktisk følger de den typiske applikasjonssikkerhetsproblemformelen for inventar, sikkerhetsvurdering og kjøretidsbeskyttelse. For å komme videre og gjøre det mulig for virksomheten vår å fange AI-revolusjonen først, må vi begynne å gjøre fremskritt med å løse disse problemene.

Tidstempel:

Mer fra Mørk lesning