NSA ban hành hướng dẫn mới để bảo mật hệ thống AI

Được xuất bản lại bởi Plato

Người theo dõi: 0

Todd Faulk

Được đăng trên: 17 Tháng Tư, 2024

Cơ quan An ninh Quốc gia Hoa Kỳ (NSA) ngày 15/XNUMX đã công bố bảng thông tin an ninh mạng (CSI) nhằm giúp các công ty quốc phòng và an ninh tư nhân triển khai một cách an toàn các hệ thống AI do các tổ chức khác phát triển. NSA, cơ quan tình báo Hoa Kỳ chịu trách nhiệm chính trong việc giám sát các thông tin liên lạc nước ngoài, đã công bố hướng dẫn thông qua Trung tâm An ninh Trí tuệ Nhân tạo (AISC) mới thành lập.

“AI mang đến cơ hội chưa từng có nhưng cũng có thể tạo cơ hội cho hoạt động độc hại. Dave Luber, giám đốc an ninh mạng của NSA, cho biết trong thông cáo báo chí của AISC: NSA có vị trí duy nhất để cung cấp hướng dẫn an ninh mạng, kiến thức chuyên môn về AI và phân tích mối đe dọa nâng cao.

Mặc dù hướng dẫn AI mới được phát triển nhằm mục đích an ninh quốc gia, nhưng các nguyên lý của nó có thể được áp dụng bởi bất kỳ tổ chức công hoặc tư nhân nào muốn triển khai hệ thống AI trong hoạt động của mình.

Hướng dẫn mới được xây dựng dựa trên hai báo cáo AI trước đây tập trung vào việc phát triển an toàn cũng như vận hành và bảo trì an toàn các hệ thống AI. Mục tiêu bao quát của hướng dẫn mới, có tiêu đề “Triển khai hệ thống AI một cách an toàn: Các biện pháp thực hành tốt nhất để triển khai các hệ thống AI an toàn và linh hoạt” là:

Đảm bảo rằng các lỗ hổng an ninh mạng đã biết trong hệ thống AI được giảm thiểu một cách thích hợp; Và
Cung cấp các phương pháp và biện pháp kiểm soát để bảo vệ, phát hiện và ứng phó với hoạt động độc hại chống lại hệ thống AI cũng như dữ liệu và dịch vụ liên quan.^[1]

NSA đã thành lập AISC vào tháng 2023 năm XNUMX cùng với FBI và các cơ quan tình báo tín hiệu của Canada, Anh, Úc và New Zealand để cải thiện tính bảo mật, tính toàn vẹn và tính khả dụng của các hệ thống AI. AISC là một phần của Trung tâm Hợp tác An ninh mạng (CCC) và nhằm mục đích:

Phát hiện và chống lại các lỗ hổng AI;
Thúc đẩy quan hệ đối tác với ngành và các chuyên gia từ ngành công nghiệp Hoa Kỳ, các phòng thí nghiệm quốc gia, học viện, IC, DoD và các đối tác nước ngoài chọn lọc;
Phát triển và thúc đẩy các phương pháp hay nhất về bảo mật AI;
Và đảm bảo khả năng của NSA trước các chiến thuật và kỹ thuật của đối thủ.

[1] https://media.defense.gov/2024/Apr/15/2003439257/-1/-1/0/CSI-DEPLOYING-AI-SYSTEMS-SECURELY.PDF