CISA's routekaart: een koers uitstippelen voor betrouwbare AI-ontwikkeling

Cyberverdediging: Hoewel AI-systemen organisaties kunnen helpen hun verdediging tegen opkomende en geavanceerde cyberdreigingen te verbeteren, vormen op AI gebaseerde softwaresystemen een bedreiging aantal risico's die een robuustheid vereisen AI-verdediging. De routekaart heeft tot doel het nuttige gebruik van AI te bevorderen en tegelijkertijd de systemen van het land te beschermen tegen op AI gebaseerde bedreigingen.

Risicoreductie en veerkracht: Kritische infrastructuur organisaties maken steeds meer gebruik van AI-systemen om hun eigen cyberveerkracht te behouden en te versterken. Met haar routekaart wil CISA een verantwoorde en risicobewuste adoptie bevorderen van op AI gebaseerde softwaresystemen die “beveiligd door ontwerp” – waarbij beveiliging wordt geïmplementeerd in de ontwerpfase van de ontwikkelingslevenscyclus van een product, zodat exploiteerbare fouten bij de bron kunnen worden verminderd.

Operationele samenwerking: Naarmate AI-technologie zich steeds verder verspreidt, kunnen Amerikaanse burgers en kritieke infrastructuursectoren worden blootgesteld aan gerichte bedreigingen, waarvoor mogelijk het delen van informatie en gecoördineerde reacties van organisaties, wetshandhavingsinstanties en internationale partners nodig zijn. CISA is van plan een raamwerk te ontwikkelen dat de afstemming en coördinatie tussen relevante belanghebbenden helpt verbeteren.

Eenwording van het Agentschap: CISA heeft tot doel AI-softwaresystemen binnen het hele agentschap te verenigen en te integreren, waardoor het AI-systemen coherenter kan gebruiken. CISA is ook van plan een personeelsbestand te werven en te ontwikkelen dat in staat is AI-systemen optimaal te benutten.

Verantwoord gebruik van AI: CISA is van plan om op AI gebaseerde softwaretools in te zetten om de cyberverdediging te versterken en kritieke infrastructuur te ondersteunen. Alle systemen en hulpmiddelen zullen een streng selectieproces doorlopen, waarbij CISA ervoor zal zorgen dat AI-gerelateerde systemen verantwoordelijk, veilig, ethisch en veilig in gebruik zijn. CISA zal ook robuuste bestuursprocessen inzetten die niet alleen consistent zullen zijn met federale aanbestedingsprocessen, toepasselijke wetten en beleid, privacy, en burgerrechten en vrijheden, maar ook een aanpak zullen aannemen voor voortdurende beoordeling van AI-modellen, terwijl IT-beveiligingspraktijken worden herzien om deze veilig te integreren de technologie.

Verzeker AI-systemen: Om de ontwikkeling en implementatie van AI-software veiliger en veerkrachtiger te maken, is CISA van plan dit te ondersteunen veilig-door-ontwerp initiatieven, het ontwikkelen van best practices en begeleiding op het gebied van beveiliging voor een breed scala aan belanghebbenden (bijvoorbeeld federale civiele overheidsinstanties, bedrijven uit de particuliere sector, staats-, lokale, tribale en territoriale overheden) en het stimuleren van de invoering van sterke praktijken op het gebied van kwetsbaarheidsbeheer, waarbij een proces voor het openbaar maken van kwetsbaarheden wordt gespecificeerd en het bieden van begeleiding voor beveiligingstests en red teaming-oefeningen voor AI-systemen.

Bescherm kritieke infrastructuur tegen kwaadwillig gebruik van AI: CISA zal samenwerken met overheidsinstanties en industriële partners zoals de Gezamenlijke Cyber ​​Defense Collaborative om AI-tools te ontwikkelen, testen en evalueren en samen te werken aan de ontwikkeling ervan AI-bedreigingen. CISA zal materialen publiceren om het bewustzijn over opkomende risico’s te vergroten en zal ook risicobeheermethoden evalueren om het juiste analytische raamwerk te bepalen voor de beoordeling en behandeling van AI-risico’s.

Samenwerken met interagentschappen, internationale partners en het publiek: Om het bewustzijn te vergroten, informatie over dreigingen te delen en de respons op incidenten en de onderzoekscapaciteiten te verbeteren, is CISA van plan samenwerkingsbenaderingen te bevorderen, zoals AI-werkgroepen, het bijwonen of deelnemen aan bijeenkomsten tussen instanties, en nauwe coördinatie met entiteiten van het Department of Homeland Security. CISA zal binnen de interagentschappen samenwerken om ervoor te zorgen dat haar beleid en strategieën aansluiten bij de hele regering aanpak en zal internationale partners betrekken om de adoptie van internationale beste praktijken voor veilige AI aan te moedigen.

Vergroot de AI-expertise op de werkvloer: menselijk Waakzaamheid, toezicht en intuïtie zijn altijd nodig om AI- en niet-AI-gebaseerde cyberdreigingen te detecteren en om ervoor te zorgen dat AI-systemen vrij zijn van fouten, vooroordelen en manipulatie. De menselijke intuïtie en waakzaamheid kunnen alleen worden versterkt met robuuste initiatieven op het gebied van veiligheidsbewustzijn. Dit is de reden waarom CISA van plan is om het personeel voortdurend voor te lichten over AI-softwaresystemen en -technieken, werknemers met AI-expertise te werven en trainingsprogramma’s voor veiligheidsbewustzijn uit te voeren die situationele oefeningen moeten omvatten om ervoor te zorgen dat werknemers de juridische, ethische en beleidsaspecten van op AI gebaseerde systemen begrijpen. systemen, naast de technische aspecten.