KOMMENTAR
Rask bruk av kunstig intelligens-teknologi har utløst alvorlige cyberbekymringer blant AI-eksperter, politikere, titaner i teknologiindustrien, nasjoner og verdensledere. Som svar avduket Cybersecurity and Infrastructure Agency (CISA) sin 2023–2024 "CISA Roadmap for Artificial Intelligence," med sikte på å skape sikker og pålitelig utvikling og bruk av AI, som anvist av Executive Order 14110 i Det hvite hus.
CISA ga ut sin "Strategisk plan» for 2023–2025 med oppdraget å levere en sikker og spenstig infrastruktur for den amerikanske offentligheten. AI-veikartet er en tilpasning av de samme fire målene som er fremhevet i den strategiske planen:
-
Cyberforsvar: Mens AI-systemer kan hjelpe organisasjoner med å forbedre deres forsvar mot nye så vel som avanserte cybertrusler, utgjør AI-baserte programvaresystemer en antall risikoer som krever en robust AI forsvar. Veikartet har som mål å fremme fordelaktig bruk av AI og samtidig beskytte nasjonens systemer mot AI-baserte trusler.
-
Risikoreduksjon og motstandskraft: Kritisk infrastruktur organisasjoner bruker i økende grad AI-systemer for å opprettholde og styrke sin egen cyberresiliens. Med sitt veikart har CISA som mål å fremme en ansvarlig og risikobevisst bruk av AI-baserte programvaresystemer som er "sikker av design” — hvor sikkerhet implementeres i designfasen av et produkts utviklingslivssyklus, slik at utnyttbare feil kan reduseres ved kilden.
-
Operativt samarbeid: Ettersom AI-teknologi sprer seg, kan amerikanske borgere og kritiske infrastruktursektorer bli utsatt for målrettede trusler, som kan kreve informasjonsdeling og koordinerte svar fra organisasjoner, rettshåndhevelsesbyråer og internasjonale partnere. CISA planlegger å utvikle et rammeverk som bidrar til å forbedre justering og koordinering på tvers av relevante interessenter.
-
Byråforening: CISA har som mål å forene og integrere AI-programvaresystemer på tvers av byrået, noe som vil hjelpe det å bruke AI-systemer mer sammenhengende. CISA planlegger også å rekruttere og utvikle en arbeidsstyrke som er i stand til å utnytte AI-systemer optimalt.
AI-veikartet legger sikkerhetsbyrden på AI-utviklere, ikke AI-forbrukere
Historisk sett har produsenter av AI-programvare motstått å bygge produkter som er sikre ved design, noe som legger byrden med sikkerhet på AI-forbrukere. CISA AI-veikartet krever at produsenter av AI-system tar i bruk sikre prinsipper gjennom hele utviklingslivssyklusen. Dette inkluderer å gjøre sikker ved design til en topp forretningsprioritet, å ta eierskap til sikkerhetsresultater for kunder og lede produktutvikling med radikal åpenhet og ansvarlighet.
CISA planlegger å implementere fem innsatslinjer for å nå sine uttalte mål
CISA har identifisert fem innsatslinjer for å forene og akselerere veikartet ovenfor:
-
Ansvarlig bruk av AI: CISA har til hensikt å distribuere AI-aktiverte programvareverktøy for å styrke cyberforsvar og støtte kritisk infrastruktur. Alle systemer og verktøy vil gå gjennom en streng utvelgelsesprosess der CISA vil sikre at AI-relaterte systemer er ansvarlige, sikre, etiske og trygge å bruke. CISA vil også implementere robuste styringsprosesser som ikke bare vil være i samsvar med føderale anskaffelsesprosesser, gjeldende lover og retningslinjer, personvern og sivile rettigheter og friheter, men også ta i bruk en tilnærming for kontinuerlig vurdering av AI-modeller samtidig som IT-sikkerhetspraksis vurderes for sikker integrering. teknologien.
-
Forsikre AI-systemer: For å bygge sikrere og mer robust AI-programvareutvikling og -implementering, planlegger CISA å kjempe sikker-for-design initiativer, utvikle beste praksis og veiledning for sikkerhet for et bredt spekter av interessenter (f.eks. føderale sivile myndighetsorganer, bedrifter i privat sektor, statlige, lokale, stamme- og territorielle myndigheter) og drive innføring av sterke praksiser for sårbarhetshåndtering, spesifisere en prosess for avsløring av sårbarhet og gi veiledning for sikkerhetstesting og red teaming-øvelser for AI-systemer.
-
Beskytt kritisk infrastruktur mot ondsinnet bruk av AI: CISA vil samarbeide med offentlige etater og industripartnere som f.eks Felles Cyber Defense Collaborative å utvikle, teste og evaluere AI-verktøy og samarbeide om utvikling AI-trusler. CISA vil publisere materiale for å øke bevisstheten om nye risikoer og vil også evaluere risikostyringsmetoder for å bestemme det passende analytiske rammeverket for vurdering og behandling av AI-risiko.
-
Samarbeid med tverrbyråer, internasjonale partnere og publikum: For å øke bevisstheten, for å dele trusselinformasjon og for å forbedre hendelsesrespons og etterforskningsevner, planlegger CISA å fremme samarbeidstilnærminger som AI-arbeidsgrupper, delta på eller delta i møter på tvers av byråer, og tett koordinering med Department of Homeland Security-enheter. CISA vil jobbe på tvers av tverrbyråene for å sikre at deres retningslinjer og strategier stemmer overens med hele myndigheten tilnærming og vil engasjere internasjonale partnere for å oppmuntre til å ta internasjonal beste praksis for sikker AI.
-
Utvid AI-ekspertise i arbeidsstyrken: Menneskelig årvåkenhet, tilsyn og intuisjon er alltid nødvendig for å oppdage AI- og ikke-AI-baserte cybertrusler og for å sikre at AI-systemer er fri for feil, skjevheter og manipulasjon. Menneskelig intuisjon og årvåkenhet kan bare styrkes med robuste sikkerhetsbevissthetsinitiativer. Dette er grunnen til at CISA planlegger å kontinuerlig utdanne arbeidsstyrken i AI-programvaresystemer og -teknikker, rekruttere ansatte med AI-ekspertise og gjennomføre opplæringsprogrammer for sikkerhetsbevissthet som bør inkludere situasjonelle øvelser for å sikre at ansatte forstår de juridiske, etiske og politiske aspektene ved AI-basert systemer, utover de tekniske aspektene.
Gjennom initiativene som er skissert i CISA-veikartet, håper byrået å bygge en mer robust cybersikkerhetsstilling for nasjonen, beskytte kritisk infrastruktur mot ondsinnet bruk av AI, og prioritere sikkerhet som et kjernevirksomhetskrav i AI-baserte verktøy og systemer.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://www.darkreading.com/vulnerabilities-threats/cisa-s-ai-road-map-charting-a-course-for-trustworthy-ai-development
- : har
- :er
- :ikke
- :hvor
- 10
- 11
- 12
- 14
- 15%
- 17
- 7
- 8
- 9
- a
- ovenfor
- akselerere
- ansvarlighet
- Oppnå
- tvers
- tilpasning
- adoptere
- Adopsjon
- avansert
- mot
- byråer
- byrå
- AI
- AI-modeller
- AI-risiko
- AI-systemer
- sikte
- mål
- justere
- innretting
- Alle
- også
- alltid
- amerikansk
- blant
- an
- Analytisk
- og
- og infrastruktur
- aktuelt
- tilnærming
- tilnærminger
- hensiktsmessig
- ER
- kunstig
- kunstig intelligens
- AS
- aspekter
- evaluering
- At
- delta
- bevissthet
- BE
- gunstig
- BEST
- beste praksis
- skjevheter
- styrke
- bred
- bygge
- Bygning
- byrde
- virksomhet
- men
- by
- CAN
- evner
- stand
- Champion
- kartlegging
- Circle
- Borgere
- sivil
- Sivile rettigheter
- sivil
- tett
- samarbeide
- samarbeid
- samarbeids
- Selskaper
- Gjennomføre
- konsistent
- Forbrukere
- kontinuerlig
- kontinuerlig
- koordinert
- koordinerende
- samordning
- Kjerne
- Kurs
- Opprette
- kritisk
- Kritisk infrastruktur
- Kunder
- cyber
- Cybersecurity
- Forsvar
- levere
- Avdeling
- innenriksdepartementet
- utplassere
- utforming
- designprinsipper
- oppdage
- Bestem
- utvikle
- utviklere
- Utvikling
- regissert
- avsløring
- stasjonen
- e
- utdanne
- innsats
- Emery
- ansatte
- oppmuntre
- håndhevelse
- engasjere
- sikre
- Hele
- enheter
- feil
- etisk
- evaluere
- utvikling
- utøvende
- utøvende rekkefølge
- ekspertise
- eksperter
- Federal
- fem
- feil
- Til
- Foster
- fire
- Rammeverk
- Gratis
- fra
- Mål
- styresett
- Regjeringen
- offentlige etater
- regjeringer
- Gruppens
- veiledning
- Utnyttelse
- Ha
- hjelpe
- hjelper
- Fremhevet
- hjemland
- Homeland Security
- håper
- hus
- http
- HTTPS
- menneskelig
- ICON
- identifisert
- iverksette
- gjennomføring
- implementert
- forbedre
- in
- hendelse
- hendelsesrespons
- inkludere
- inkluderer
- stadig
- industri
- partnere i industrien
- informasjon
- Infrastruktur
- initiativer
- integrere
- Intelligens
- hensikt
- internasjonalt
- intuisjon
- etterforskende
- IT
- det sikkerhet
- DET ER
- jpg
- Law
- rettshåndhevelse
- Lover
- ledere
- ledende
- Lovlig
- Livssyklus
- linjer
- lokal
- vedlikeholde
- Making
- skadelig
- ledelse
- mandater
- Manipulasjon
- Produsenter
- kart
- materialer
- Kan..
- møter
- metoder
- Oppdrag
- modeller
- mer
- nasjon
- Nasjoner
- nødvendig
- of
- on
- bare
- tyngende
- or
- rekkefølge
- organisasjoner
- utfall
- skissert
- enn
- oppsyn
- egen
- eierskap
- deltakende
- partner
- partnere
- passere
- fase
- fly
- planer
- plato
- Platon Data Intelligence
- PlatonData
- Politikk
- politikk
- beslutningstakere
- positur
- praksis
- prinsipper
- Prioriter
- prioritet
- privatliv
- privat
- privat sektor
- prosess
- Prosesser
- innkjøp
- Produkt
- produktutvikling
- Produkter
- programmer
- fremme
- beskytte
- gi
- offentlig
- publisere
- setter
- Sette
- radikal
- heve
- område
- rekrutt
- Rød
- Redusert
- reduksjon
- utgitt
- relevant
- krever
- behov
- resiliens
- spenstig
- svar
- svar
- ansvarlig
- gjennomgå
- rettigheter
- streng
- Risiko
- risikostyring
- risikoer
- vei
- veikart
- robust
- s
- trygge
- samme
- sektor
- sektorer
- sikre
- sikkert
- sikkerhet
- Sikkerhetsbevissthet
- utvalg
- Del
- deling
- bør
- So
- Software
- programvareutvikling
- kilde
- gnist
- interessenter
- stanford
- Tilstand
- uttalte
- Strategisk
- strategier
- Forsterke
- styrket
- sterk
- slik
- støtte
- system
- Systemer
- ta
- målrettet
- tech
- tech industrien
- Teknisk
- teknikker
- Teknologi
- test
- Testing
- Det
- De
- Kilden
- deres
- denne
- trussel
- trusler
- Gjennom
- hele
- tid
- titans
- til
- verktøy
- topp
- Kurs
- Åpenhet
- behandling
- tribal
- troverdig
- forstå
- avduket
- us
- bruke
- ved hjelp av
- årvåkenhet
- sårbarhet
- VI VIL
- hvilken
- mens
- hvorfor
- vil
- med
- Arbeid
- arbeidsstyrke
- arbeid
- Arbeidsgrupper
- verden
- zephyrnet