Beveiliging moet AI-ontwikkelaars nu meer mogelijkheden bieden

Het lijdt geen twijfel dat GenAI de manier waarop zaken worden gedaan, zal veranderen. Onderzoeksbureaus schatten enorme productiviteitswinsten in alle sectoren, die, indien vervuld, elke sector volledig zou transformeren. Met zo’n grote potentiële winst is het duidelijk waarom elke onderneming ernaar streeft haar teams in staat te stellen zo snel mogelijk door AI aangedreven applicaties te bouwen. Beveiligingsteams moeten nu echter actie ondernemen om ervoor te zorgen dat deze apps de controle kunnen weerstaan.

De race om als eerste AI-bedrijfswaarde te veroveren

Sommige bedrijven hebben tot nu toe al honderden AI-aangedreven apps gebouwd. De snelheid van ontwikkeling is gewoon ongelooflijk, met opmerkelijke voorbeelden zoals Microsoft brengt Copilot-applicaties uit in een tempo dat veel verder gaat dan wat een grote onderneming doorgaans levert.

Vanwege de onvolwassenheid van de raamwerken en tooling eromheen Ontwikkeling van AI-appsDeze worden gebouwd met een breed scala aan technologieën. Ontwikkelingskaders die voortbouwen op de weinige fundamentele modellen zijn talrijk en variëren aanzienlijk, en ze blijven opduiken. Kaders zoals LangChain en AutoGPT zijn in een ongekend tempo aanzienlijk populair geworden. In een grote onderneming kun je gemakkelijk verwachten dat er tientallen verschillende raamwerken worden gebruikt om deze applicaties te bouwen.

De eerste organisaties die vóór anderen de productiviteitswinst uit AI kunnen benutten, zullen een enorme overwinning behalen. Daarom doen we mee aan een race waarin we het moeten doen met de raamwerken die nu beschikbaar zijn en dingen voor elkaar moeten krijgen. Het zal waarschijnlijk lang duren voordat de frameworks zijn gestandaardiseerd, en tegen die tijd ben je al te laat met het spel.

We moeten de realiteit onder ogen zien: het bedrijfsleven wordt opnieuw vormgegeven – met onbewezen tools, raamwerken en dreigingsmodellen – in een ongekend tempo.

Beveiliging: waar beginnen we eigenlijk?

Het bouwen van zoveel nieuwe applicaties in zo’n kort tijdsbestek heeft enorme gevolgen voor de veiligheid. Ten eerste zijn dit gewoon meer applicaties, met dezelfde beveiligingsrisico's als elke andere applicatie; ze moeten de identiteit, de gegevensstroom en het geheimbeheer op orde krijgen, om maar een paar zorgen te noemen. Ten tweede creëert GenAI een aantal unieke beveiligingsuitdagingen, die raamwerken zoals de OWASP LLM Top 10 helpen om vast te leggen en te onderwijzen.

Geavanceerde beveiligingsorganisaties richten in samenwerking met IT speciale centra op om deze applicaties te inventariseren, beoordelen en beveiligen. Houd er rekening mee dat hiervoor geheel nieuwe processen en nieuw gedelegeerde verantwoordelijkheden nodig zijn. Idealiter kunnen deze centra fungeren als een faciliterende hulpbron voor ontwikkelaars, door het aanbieden van bedreigingsmodellering en ontwerpbeoordelingsdiensten om ervoor te zorgen dat aan veilige normen wordt voldaan.

Het creëren van een gecentraliseerde hulpbron als deze is geen eenvoudige opgave. Het vinden van alle AI-aangedreven projecten in een onderneming is een enorme uitdaging inventaris is dat altijd. Het ontwikkelen van de technische vaardigheden die nodig zijn om deze applicaties te controleren is ook moeilijk – vooral vanwege de proliferatie van verschillende AI-frameworks, elk met zijn eigen eigenaardigheden en valkuilen. Het monitoren van deze apps in productie is nog een andere uitdaging, zowel vanuit een technisch perspectief van het verkrijgen van de juiste gegevens uit onvolwassen ontwikkelingsframeworks als vanuit het perspectief van beveiligingsanalyse om te weten waar je op moet letten.

Dit zijn echter geen onoverkomelijke uitdagingen. In feite volgen ze de typische formule voor applicatiebeveiligingsproblemen: inventarisatie, beveiligingsbeoordeling en runtimebescherming. Om vooruit te komen en ons bedrijf in staat te stellen als eerste de AI-revolutie te benutten, moeten we vooruitgang boeken bij het oplossen van die problemen.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://www.darkreading.com/edge/security-must-empower-ai-developers-now