Načrt CISA: načrtovanje smeri za zaupanja vreden razvoj umetne inteligence

Kibernetska obramba: Medtem ko lahko sistemi umetne inteligence pomagajo organizacijam izboljšati njihovo obrambo pred nastajajočimi in naprednimi kibernetskimi grožnjami, sistemi programske opreme, ki temeljijo na umetni inteligenci, predstavljajo število tveganj ki zahtevajo robusten AI obramba. Cilj časovnega načrta je spodbujati koristno uporabo umetne inteligence in hkrati zaščititi nacionalne sisteme pred grožnjami, ki temeljijo na umetni inteligenci.

Zmanjšanje tveganja in odpornost: Kritična infrastruktura organizacije vse pogosteje uporabljajo sisteme AI za vzdrževanje in krepitev lastne kibernetske odpornosti. CISA želi s svojim časovnim načrtom spodbujati odgovorno in tveganja ozaveščeno sprejemanje programskih sistemov, ki temeljijo na umetni inteligenci in so »varno po zasnovi” — kjer je varnost implementirana v fazi načrtovanja življenjskega cikla razvoja izdelka, tako da je mogoče napake, ki jih je mogoče izkoristiti, zmanjšati pri izvoru.

Operativno sodelovanje: Ko se tehnologija umetne inteligence širi, so državljani ZDA in sektorji kritične infrastrukture lahko izpostavljeni ciljno usmerjenim grožnjam, ki lahko zahtevajo izmenjavo informacij in usklajene odzive organizacij, organov kazenskega pregona in mednarodnih partnerjev. CISA namerava razviti okvir, ki bo pomagal izboljšati usklajevanje in usklajevanje med ustreznimi deležniki.

Združevanje agencij: Cilj CISA je poenotiti in integrirati sisteme programske opreme AI v celotni agenciji, kar ji bo pomagalo bolj skladno uporabljati sisteme AI. CISA načrtuje tudi zaposlitev in razvoj delovne sile, ki je sposobna optimalno izkoristiti sisteme umetne inteligence.

Odgovorna uporaba AI: CISA namerava uvesti programska orodja, ki podpirajo AI, da bi okrepila kibernetsko obrambo in podprla kritično infrastrukturo. Vsi sistemi in orodja bodo šli skozi strog izbirni postopek, kjer bo CISA zagotovila, da so sistemi, povezani z umetno inteligenco, odgovorni, varni, etični in varni za uporabo. CISA bo uvedla tudi robustne postopke upravljanja, ki ne bodo samo skladni z zveznimi postopki javnega naročanja, veljavnimi zakoni in politikami, zasebnostjo ter državljanskimi pravicami in svoboščinami, temveč bodo sprejeli tudi pristop za stalno ocenjevanje modelov umetne inteligence, hkrati pa pregledovali varnostne prakse IT za varno integracijo tehnologija.

Zagotovite sisteme AI: Za izgradnjo varnejšega in odpornejšega razvoja in implementacije programske opreme z umetno inteligenco namerava CISA zagovarjati varno po zasnovi pobude, razvijajo najboljše varnostne prakse in smernice za širok nabor zainteresiranih strani (npr. zvezne civilne vladne agencije, podjetja zasebnega sektorja, državne, lokalne, plemenske in teritorialne vlade) ter spodbujajo sprejemanje močnih praks upravljanja ranljivosti, ki določajo postopek razkritja ranljivosti in zagotavljanje smernic za varnostno testiranje in vaje rdečega povezovanja za sisteme umetne inteligence.

Zaščitite kritično infrastrukturo pred zlonamerno uporabo AI: CISA bo sodelovala z vladnimi agencijami in industrijskimi partnerji, kot je Skupno sodelovanje za kibernetsko obrambo razvijati, testirati in ocenjevati orodja AI ter sodelovati pri razvoju grožnje z umetno inteligenco. CISA bo objavila gradiva za ozaveščanje o nastajajočih tveganjih in bo tudi ovrednotila metode obvladovanja tveganja za določitev ustreznega analitičnega okvira za oceno in obravnavo tveganj umetne inteligence.

Sodelujte z medagencijskimi, mednarodnimi partnerji in javnostjo: Za ozaveščanje, izmenjavo informacij o grožnjah ter za izboljšanje odzivanja na incidente in preiskovalnih zmogljivosti CISA načrtuje spodbujanje pristopov sodelovanja, kot so delovne skupine za umetno inteligenco, udeležba ali sodelovanje na medagencijskih sestankih in tesno usklajevanje s subjekti ministrstva za domovinsko varnost. CISA bo sodelovala med agencijami, da bi zagotovila usklajenost svojih politik in strategij z celotna vlada pristop in bo vključil mednarodne partnerje, da bi spodbudili sprejetje najboljših mednarodnih praks za varno umetno inteligenco.

Razširite strokovno znanje o AI na delovno silo: Human budnost, nadzor in intuicija so vedno potrebni za odkrivanje kibernetskih groženj, ki temeljijo na umetni inteligenci in drugih, ter za zagotovitev, da so sistemi umetne inteligence brez napak, pristranskosti in manipulacij. Človeško intuicijo in budnost je mogoče okrepiti le z močnimi pobudami za ozaveščanje o varnosti. Zato namerava CISA nenehno izobraževati delovno silo o programskih sistemih in tehnikah umetne inteligence, zaposlovati zaposlene s strokovnim znanjem o umetni inteligenci in izvajati programe usposabljanja za ozaveščanje o varnosti, ki bi morali vključevati situacijske vaje, da bi zagotovili, da zaposleni razumejo pravne, etične in politične vidike umetne inteligence. sistemov, poleg tehničnih vidikov.