Peta Jalan CISA: Memetakan Arah Pengembangan AI yang Dapat Dipercaya

Pertahanan dunia maya: Meskipun sistem AI dapat membantu organisasi meningkatkan pertahanan mereka terhadap ancaman dunia maya yang muncul maupun yang lebih parah, sistem perangkat lunak berbasis AI memiliki tantangan yang besar sejumlah risiko yang memerlukan kekuatan pertahanan AI. Peta jalan ini bertujuan untuk mendorong manfaat penggunaan AI dan, pada saat yang sama, melindungi sistem negara dari ancaman berbasis AI.

Pengurangan risiko dan ketahanan: Infrastruktur kritis semakin banyak organisasi yang menggunakan sistem AI untuk menjaga dan memperkuat ketahanan siber mereka. Dengan peta jalannya, CISA bertujuan untuk mendorong adopsi sistem perangkat lunak berbasis AI yang bertanggung jawab dan sadar risiko yang “aman dengan desain” — di mana keamanan diterapkan dalam fase desain siklus hidup pengembangan produk sehingga kelemahan yang dapat dieksploitasi dapat dikurangi pada sumbernya.

Kolaborasi operasional: Seiring dengan berkembangnya teknologi AI, warga AS dan sektor infrastruktur penting mungkin menjadi sasaran ancaman yang ditargetkan, yang mungkin memerlukan pertukaran informasi dan tanggapan terkoordinasi dari organisasi, lembaga penegak hukum, dan mitra internasional. CISA berencana mengembangkan kerangka kerja yang membantu meningkatkan keselarasan dan koordinasi antar pemangku kepentingan terkait.

Penyatuan agensi: CISA bertujuan untuk menyatukan dan mengintegrasikan sistem perangkat lunak AI di seluruh lembaga, yang akan membantunya menggunakan sistem AI secara lebih koheren. CISA juga berencana merekrut dan mengembangkan tenaga kerja yang mampu memanfaatkan sistem AI secara optimal.

Penggunaan AI secara bertanggung jawab: CISA bermaksud untuk menerapkan perangkat lunak berkemampuan AI untuk meningkatkan pertahanan siber dan mendukung infrastruktur penting. Seluruh sistem dan alat akan melewati proses seleksi yang ketat di mana CISA akan memastikan bahwa sistem terkait AI bertanggung jawab, aman, beretika, dan aman untuk digunakan. CISA juga akan menerapkan proses tata kelola yang kuat yang tidak hanya konsisten dengan proses pengadaan federal, undang-undang dan kebijakan yang berlaku, privasi, serta hak dan kebebasan sipil, namun juga mengadopsi pendekatan untuk penilaian berkelanjutan terhadap model AI sambil meninjau praktik keamanan TI untuk mengintegrasikannya secara aman. teknologi.

Yakinkan sistem AI: Untuk membangun pengembangan dan implementasi perangkat lunak AI yang lebih aman dan tangguh, CISA berencana untuk menjadi yang terdepan aman-oleh-desain inisiatif, mengembangkan praktik dan panduan keamanan terbaik untuk berbagai pemangku kepentingan (misalnya, lembaga pemerintah sipil federal, perusahaan sektor swasta, pemerintah negara bagian, lokal, suku, dan teritorial) dan mendorong penerapan praktik manajemen kerentanan yang kuat, dengan menentukan proses pengungkapan kerentanan dan memberikan panduan untuk pengujian keamanan dan latihan tim merah untuk sistem AI.

Lindungi infrastruktur penting dari penggunaan AI yang berbahaya: CISA akan bermitra dengan lembaga pemerintah dan mitra industri seperti Kolaborasi Pertahanan Cyber ​​Bersama untuk mengembangkan, menguji, dan mengevaluasi alat AI dan berkolaborasi dalam pengembangan Ancaman AI. CISA akan menerbitkan materi untuk meningkatkan kesadaran akan risiko-risiko yang muncul dan juga akan mengevaluasi metode manajemen risiko untuk menentukan kerangka analitis yang tepat untuk penilaian dan penanganan risiko AI.

Berkolaborasi dengan antarlembaga, mitra internasional dan masyarakat: Untuk meningkatkan kesadaran, berbagi informasi ancaman, dan meningkatkan respons insiden dan kemampuan investigasi, CISA berencana untuk mendorong pendekatan kolaboratif seperti kelompok kerja AI, menghadiri atau berpartisipasi dalam pertemuan antarlembaga, dan berkoordinasi erat dengan entitas Departemen Keamanan Dalam Negeri. CISA akan bekerja lintas lembaga untuk memastikan kebijakan dan strateginya selaras dengan kebijakan dan strategi yang ada seluruh pemerintahan melakukan pendekatan dan akan melibatkan mitra internasional untuk mendorong penerapan praktik terbaik internasional untuk AI yang aman.

Memperluas keahlian AI di dunia kerja: Manusia kewaspadaan, pengawasan, dan intuisi selalu diperlukan untuk mendeteksi ancaman siber berbasis AI dan non-AI serta untuk memastikan sistem AI bebas dari kesalahan, bias, dan manipulasi. Intuisi dan kewaspadaan manusia hanya dapat diperkuat dengan inisiatif kesadaran keamanan yang kuat. Inilah sebabnya CISA berencana untuk terus mendidik tenaga kerja mengenai sistem dan teknik perangkat lunak AI, merekrut karyawan dengan keahlian AI, dan melakukan program pelatihan kesadaran keamanan yang harus mencakup latihan situasional untuk memastikan karyawan memahami aspek hukum, etika, dan kebijakan berbasis AI. sistem, melebihi aspek teknis.