COMMENTAAR
De snelle adoptie van kunstmatige-intelligentietechnologie heeft geleid tot ernstige cyberproblemen onder AI-experts, beleidsmakers, titanen uit de technologie-industrie, landen en wereldleiders. Als reactie hierop heeft de Cybersecurity and Infrastructure Agency (CISA) zijn rapport onthuld 2023โ2024 โCISA-routekaart voor kunstmatige intelligentieโ, met als doel het creรซren van een veilige en betrouwbare ontwikkeling en gebruik van AI, zoals voorgeschreven door Uitvoeringsbesluit 14110 van het Witte Huis.
CISA heeft zijn โStrategisch Planโ voor 2023-2025 met de missie om een โโveilige en veerkrachtige infrastructuur voor het Amerikaanse publiek te leveren. De AI-roadmap is een aanpassing van dezelfde vier doelstellingen die in het strategisch plan zijn benadrukt:
-
Cyberverdediging: Hoewel AI-systemen organisaties kunnen helpen hun verdediging tegen opkomende en geavanceerde cyberdreigingen te verbeteren, vormen op AI gebaseerde softwaresystemen een bedreiging aantal risico's die een robuustheid vereisen AI-verdediging. De routekaart heeft tot doel het nuttige gebruik van AI te bevorderen en tegelijkertijd de systemen van het land te beschermen tegen op AI gebaseerde bedreigingen.
-
Risicoreductie en veerkracht: Kritische infrastructuur organisaties maken steeds meer gebruik van AI-systemen om hun eigen cyberveerkracht te behouden en te versterken. Met haar routekaart wil CISA een verantwoorde en risicobewuste adoptie bevorderen van op AI gebaseerde softwaresystemen die โbeveiligd door ontwerpโ โ waarbij beveiliging wordt geรฏmplementeerd in de ontwerpfase van de ontwikkelingslevenscyclus van een product, zodat exploiteerbare fouten bij de bron kunnen worden verminderd.
-
Operationele samenwerking: Naarmate AI-technologie zich steeds verder verspreidt, kunnen Amerikaanse burgers en kritieke infrastructuursectoren worden blootgesteld aan gerichte bedreigingen, waarvoor mogelijk het delen van informatie en gecoรถrdineerde reacties van organisaties, wetshandhavingsinstanties en internationale partners nodig zijn. CISA is van plan een raamwerk te ontwikkelen dat de afstemming en coรถrdinatie tussen relevante belanghebbenden helpt verbeteren.
-
Eenwording van het Agentschap: CISA heeft tot doel AI-softwaresystemen binnen het hele agentschap te verenigen en te integreren, waardoor het AI-systemen coherenter kan gebruiken. CISA is ook van plan een personeelsbestand te werven en te ontwikkelen dat in staat is AI-systemen optimaal te benutten.
De AI-routekaart legt de verantwoordelijkheid voor de veiligheid bij AI-ontwikkelaars, niet bij AI-consumenten
Historisch gezien hebben fabrikanten van AI-software zich verzet tegen het bouwen van producten die door hun ontwerp veilig zijn, waardoor de last van de beveiliging op de schouders van AI-consumenten wordt gelegd. De CISA AI-routekaart schrijft voor dat fabrikanten van AI-systemen de principes van Secure by Design gedurende de gehele ontwikkelingslevenscyclus moeten toepassen. Dit omvat onder meer het maken van โsecurity by designโ een topprioriteit voor het bedrijfsleven, het nemen van verantwoordelijkheid voor de beveiligingsresultaten voor klanten, en het leiden van productontwikkeling met radicale transparantie en verantwoordelijkheid.
CISA is van plan vijf inspanningslijnen te implementeren om de gestelde doelen te bereiken
CISA heeft vijf inspanningen geรฏdentificeerd om de bovenstaande routekaart te verenigen en te versnellen:
-
Verantwoord gebruik van AI: CISA is van plan om op AI gebaseerde softwaretools in te zetten om de cyberverdediging te versterken en kritieke infrastructuur te ondersteunen. Alle systemen en hulpmiddelen zullen een streng selectieproces doorlopen, waarbij CISA ervoor zal zorgen dat AI-gerelateerde systemen verantwoordelijk, veilig, ethisch en veilig in gebruik zijn. CISA zal ook robuuste bestuursprocessen inzetten die niet alleen consistent zullen zijn met federale aanbestedingsprocessen, toepasselijke wetten en beleid, privacy, en burgerrechten en vrijheden, maar ook een aanpak zullen aannemen voor voortdurende beoordeling van AI-modellen, terwijl IT-beveiligingspraktijken worden herzien om deze veilig te integreren de technologie.
-
Verzeker AI-systemen: Om de ontwikkeling en implementatie van AI-software veiliger en veerkrachtiger te maken, is CISA van plan dit te ondersteunen veilig-door-ontwerp initiatieven, het ontwikkelen van best practices en begeleiding op het gebied van beveiliging voor een breed scala aan belanghebbenden (bijvoorbeeld federale civiele overheidsinstanties, bedrijven uit de particuliere sector, staats-, lokale, tribale en territoriale overheden) en het stimuleren van de invoering van sterke praktijken op het gebied van kwetsbaarheidsbeheer, waarbij een proces voor het openbaar maken van kwetsbaarheden wordt gespecificeerd en het bieden van begeleiding voor beveiligingstests en red teaming-oefeningen voor AI-systemen.
-
Bescherm kritieke infrastructuur tegen kwaadwillig gebruik van AI: CISA zal samenwerken met overheidsinstanties en industriรซle partners zoals de Gezamenlijke Cyber โโDefense Collaborative om AI-tools te ontwikkelen, testen en evalueren en samen te werken aan de ontwikkeling ervan AI-bedreigingen. CISA zal materialen publiceren om het bewustzijn over opkomende risicoโs te vergroten en zal ook risicobeheermethoden evalueren om het juiste analytische raamwerk te bepalen voor de beoordeling en behandeling van AI-risicoโs.
-
Samenwerken met interagentschappen, internationale partners en het publiek: Om het bewustzijn te vergroten, informatie over dreigingen te delen en de respons op incidenten en de onderzoekscapaciteiten te verbeteren, is CISA van plan samenwerkingsbenaderingen te bevorderen, zoals AI-werkgroepen, het bijwonen of deelnemen aan bijeenkomsten tussen instanties, en nauwe coรถrdinatie met entiteiten van het Department of Homeland Security. CISA zal binnen de interagentschappen samenwerken om ervoor te zorgen dat haar beleid en strategieรซn aansluiten bij de hele regering aanpak en zal internationale partners betrekken om de adoptie van internationale beste praktijken voor veilige AI aan te moedigen.
-
Vergroot de AI-expertise op de werkvloer: menselijk Waakzaamheid, toezicht en intuรฏtie zijn altijd nodig om AI- en niet-AI-gebaseerde cyberdreigingen te detecteren en om ervoor te zorgen dat AI-systemen vrij zijn van fouten, vooroordelen en manipulatie. De menselijke intuรฏtie en waakzaamheid kunnen alleen worden versterkt met robuuste initiatieven op het gebied van veiligheidsbewustzijn. Dit is de reden waarom CISA van plan is om het personeel voortdurend voor te lichten over AI-softwaresystemen en -technieken, werknemers met AI-expertise te werven en trainingsprogrammaโs voor veiligheidsbewustzijn uit te voeren die situationele oefeningen moeten omvatten om ervoor te zorgen dat werknemers de juridische, ethische en beleidsaspecten van op AI gebaseerde systemen begrijpen. systemen, naast de technische aspecten.
Via de initiatieven die zijn geschetst in de CISA-routekaart hoopt het agentschap een robuuster cyberbeveiligingspositie voor de natie op te bouwen, kritieke infrastructuur te beschermen tegen kwaadwillig gebruik van AI, en prioriteit te geven aan beveiliging als een kernvereiste van op AI gebaseerde tools en systemen.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://www.darkreading.com/vulnerabilities-threats/cisa-s-ai-road-map-charting-a-course-for-trustworthy-ai-development
- : heeft
- :is
- :niet
- :waar
- 10
- 11
- 12
- 14
- 15%
- 17
- 7
- 8
- 9
- a
- boven
- versnellen
- verantwoording
- Bereiken
- over
- aanpassing
- adopteren
- Adoptie
- vergevorderd
- tegen
- agentschappen
- agentschap
- AI
- AI-modellen
- AI-risico's
- AI-systemen
- streven
- wil
- richten
- opstelling
- Alles
- ook
- altijd
- Amerikaans
- onder
- an
- Analytisch
- en
- en infrastructuur
- toepasselijk
- nadering
- benaderingen
- passend
- ZIJN
- kunstmatig
- kunstmatige intelligentie
- AS
- aspecten
- beoordeling
- At
- Bijwonen
- bewustzijn
- BE
- heilzaam
- BEST
- 'best practices'
- vooroordelen
- ondersteunen
- breed
- bouw
- Gebouw
- last
- bedrijfsdeskundigen
- maar
- by
- CAN
- mogelijkheden
- in staat
- kampioen
- in kaart brengen
- Circle
- burgers
- burgerlijk
- Burgerrechten
- civiel
- van nabij
- samenwerken
- samenwerking
- samenwerkend
- Bedrijven
- Gedrag
- consequent
- Consumenten
- doorlopend
- doorlopend
- gecoรถrdineerd
- coรถrdineren
- coรถrdinatie
- Kern
- Type cursus
- Wij creรซren
- kritisch
- Kritische infrastructuur
- Klanten
- cyber
- Cybersecurity
- Verdediging
- het leveren van
- afdeling
- Department of Homeland Security
- implementeren
- Design
- ontwerpprincipes
- opsporen
- Bepalen
- ontwikkelen
- ontwikkelaars
- Ontwikkeling
- gerichte
- onthulling
- rit
- e
- opvoeden
- inspanning
- opkomende
- medewerkers
- aanmoedigen
- handhaving
- toegewijd
- verzekeren
- Geheel
- entiteiten
- fouten
- ethisch
- schatten
- evoluerende
- uitvoerend
- uitvoerende orde
- expertise
- deskundigen
- Federaal
- vijf
- gebreken
- Voor
- Bevorderen
- vier
- Achtergrond
- Gratis
- oppompen van
- Doelen
- bestuur
- Overheid
- overheidsinstellingen
- overheden
- Groep
- leiding
- Benutten
- Hebben
- hulp
- helpt
- Gemarkeerd
- vaderland
- Homeland Security
- hoopt
- Huis
- http
- HTTPS
- menselijk
- ICON
- geรฏdentificeerd
- uitvoeren
- uitvoering
- geรฏmplementeerd
- verbeteren
- in
- incident
- incident reactie
- omvatten
- omvat
- in toenemende mate
- -industrie
- partners uit de industrie
- informatie
- Infrastructuur
- initiatieven
- integreren
- Intelligentie
- voornemens
- Internationale
- intuรฏtie
- onderzoekend
- IT
- IT beveiliging
- HAAR
- jpg
- Wet
- politie
- Wetten
- leiders
- leidend
- Juridisch
- levenscyclus van uw product
- lijnen
- lokaal
- onderhouden
- maken
- kwaadaardig
- management
- mandaten
- Manipulatie
- Fabrikanten
- kaart
- materieel
- Mei..
- vergaderingen
- methoden
- Missie
- modellen
- meer
- natie
- Landen
- nodig
- of
- on
- Slechts
- bewijs
- or
- bestellen
- organisaties
- resultaten
- geschetst
- over
- Toezicht
- het te bezitten.
- ownership
- deelnemende
- partner
- partners
- passeren
- fase
- plan
- plannen
- Plato
- Plato gegevensintelligentie
- PlatoData
- beleidsmaatregelen door te lezen.
- beleidsmaatregelen
- beleidsmakers
- pose
- praktijken
- principes
- prioriteren
- prioriteit
- privacy
- privaat
- prive-sector
- processen
- inkoop
- Product
- productontwikkeling
- Producten
- Programma's
- promoten
- beschermen
- het verstrekken van
- publiek
- publiceren
- puts
- Putting
- radicaal
- verhogen
- reeks
- rekruut
- Rood
- Gereduceerd
- reductie
- uitgebracht
- relevante
- vereisen
- vereiste
- veerkracht
- veerkrachtig
- antwoord
- reacties
- verantwoordelijk
- herzien
- rechten
- streng
- Risico
- risicobeheer
- risico's
- weg
- roadmap
- robuust
- s
- veilig
- dezelfde
- sector
- Sectoren
- beveiligen
- vast
- veiligheid
- Veiligheidsbewustzijn
- selectie
- Delen
- delen
- moet
- So
- Software
- software development
- bron
- aangewakkerd
- stakeholders
- stanford
- Land
- bepaald
- strategisch
- strategieรซn
- Versterken
- versterkte
- sterke
- dergelijk
- ondersteuning
- system
- Systems
- het nemen
- doelgerichte
- tech
- technische industrie
- Technisch
- technieken
- Technologie
- proef
- Testen
- dat
- De
- De Bron
- hun
- dit
- bedreiging
- bedreigingen
- Door
- overal
- niet de tijd of
- titanen
- naar
- tools
- top
- Trainingen
- Transparantie
- behandeling
- stam-
- betrouwbaar
- begrijpen
- onthuld
- us
- .
- gebruik
- waakzaamheid
- kwetsbaarheid
- GOED
- welke
- en
- Waarom
- wil
- Met
- Mijn werk
- Workforce
- werkzaam
- Werkgroepen
- wereld
- zephyrnet