Foaia de parcurs CISA: stabilirea unui curs pentru dezvoltarea de încredere a AI

Apărare cibernetică: În timp ce sistemele AI pot ajuta organizațiile să-și îmbunătățească apărarea împotriva amenințărilor cibernetice emergente și avansate, sistemele software bazate pe inteligență artificială reprezintă un numărul de riscuri care necesită un robust Apărare AI. Foaia de parcurs își propune să promoveze utilizarea benefică a AI și, în același timp, să protejeze sistemele națiunii de amenințările bazate pe IA.

Reducerea riscurilor și rezistență: Infrastructură critică organizațiile folosesc din ce în ce mai mult sisteme AI pentru a-și menține și a-și consolida propria rezistență cibernetică. Prin foaia sa de parcurs, CISA își propune să promoveze o adoptare responsabilă și conștientă de risc a sistemelor software bazate pe inteligență artificială care sunt „sigur prin design” — în care securitatea este implementată în faza de proiectare a ciclului de viață al dezvoltării unui produs, astfel încât defectele exploatabile să poată fi reduse la sursă.

Colaborare operațională: Pe măsură ce tehnologia AI proliferează, cetățenii SUA și sectoarele de infrastructură critică pot fi supuse unor amenințări specifice, care pot necesita schimbul de informații și răspunsuri coordonate din partea organizațiilor, agențiilor de aplicare a legii și partenerilor internaționali. CISA intenționează să dezvolte un cadru care să ajute la îmbunătățirea alinierii și coordonării între părțile interesate relevante.

Unificarea agenției: CISA își propune să unifice și să integreze sistemele software AI în întreaga agenție, ceea ce o va ajuta să utilizeze sistemele AI în mod mai coerent. De asemenea, CISA intenționează să recruteze și să dezvolte o forță de muncă capabilă să exploateze în mod optim sistemele AI.

Utilizarea responsabilă a AI: CISA intenționează să implementeze instrumente software activate de inteligență artificială pentru a consolida apărarea cibernetică și pentru a sprijini infrastructura critică. Toate sistemele și instrumentele vor trece printr-un proces de selecție riguros în care CISA se va asigura că sistemele legate de IA sunt responsabile, sigure, etice și sigure de utilizat. CISA va implementa, de asemenea, procese de guvernanță robuste, care nu numai că vor fi în concordanță cu procesele de achiziții federale, legile și politicile aplicabile, confidențialitatea și drepturile și libertățile civile, dar, de asemenea, va adopta o abordare pentru evaluarea continuă a modelelor de inteligență artificială în timp ce revizuiesc practicile de securitate IT pentru a se integra în siguranță. tehnologia.

Asigurați sistemele AI: Pentru a construi dezvoltarea și implementarea software-ului AI mai sigure și rezistente, CISA intenționează să promoveze sigur-după-proiectare inițiative, dezvoltă cele mai bune practici și îndrumări de securitate pentru o gamă largă de părți interesate (de exemplu, agenții guvernamentale federale civile, companii din sectorul privat, guverne de stat, locale, tribale și teritoriale) și stimulează adoptarea unor practici puternice de gestionare a vulnerabilităților, specificând un proces de dezvăluire a vulnerabilităților. și furnizarea de îndrumări pentru testarea de securitate și exerciții de echipă roșie pentru sistemele AI.

Protejați infrastructura critică împotriva utilizării rău intenționate a inteligenței artificiale: CISA va colabora cu agenții guvernamentale și parteneri din industrie, cum ar fi Colaborare comună în domeniul apărării cibernetice să dezvolte, să testeze și să evalueze instrumente AI și să colaboreze la evoluție Amenințări AI. CISA va publica materiale pentru a crește gradul de conștientizare cu privire la riscurile emergente și va evalua, de asemenea, metodele de gestionare a riscurilor pentru a determina cadrul analitic adecvat pentru evaluarea și tratarea riscurilor IA.

Colaborează cu interagenții, parteneri internaționali și public: Pentru a crește gradul de conștientizare, pentru a partaja informații despre amenințări și pentru a îmbunătăți răspunsul la incident și capacitățile de investigare, CISA intenționează să promoveze abordări colaborative, cum ar fi grupurile de lucru AI, participarea sau participarea la întâlniri interagenții și coordonarea strânsă cu entitățile Departamentului pentru Securitate Internă. CISA va lucra în întreaga interagenție pentru a se asigura că politicile și strategiile sale sunt aliniate cu întregului guvern abordare și va angaja parteneri internaționali pentru a încuraja adoptarea celor mai bune practici internaționale pentru IA securizată.

Extindeți expertiza AI în forța de muncă: Uman vigilență, supraveghere și intuiție sunt întotdeauna necesare pentru a detecta amenințările cibernetice bazate pe AI și non-IA și pentru a se asigura că sistemele AI sunt lipsite de erori, părtiniri și manipulare. Intuiția și vigilența umană pot fi întărite doar cu inițiative solide de conștientizare a securității. Acesta este motivul pentru care CISA intenționează să educe în mod continuu forța de muncă cu privire la sistemele și tehnicile software AI, să recruteze angajați cu experiență în IA și să desfășoare programe de formare de conștientizare a securității care ar trebui să includă exerciții situaționale pentru a se asigura că angajații înțeleg aspectele legale, etice și de politică ale AI. sisteme, peste aspectele tehnice.