Các công ty dựa vào nhiều phương pháp để bảo mật các công cụ AI sáng tạo

Các công ty dựa vào nhiều phương pháp để bảo mật các công cụ AI sáng tạo

Dấu thời gian: 19:2023 PM ngày 6 tháng 00 năm XNUMX
Companies Rely on Multiple Methods to Secure Generative AI Tools PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Khi ngày càng có nhiều tổ chức áp dụng các công nghệ AI sáng tạo — để tạo quảng cáo chiêu hàng, hoàn thành đơn đăng ký tài trợ và viết mã boilerplate — các nhóm bảo mật đang nhận ra nhu cầu giải quyết một câu hỏi mới: Làm cách nào để bảo mật các công cụ AI?

Một phần ba số người được hỏi trong cuộc khảo sát gần đây của Gartner đã báo cáo rằng sử dụng hoặc triển khai các công cụ bảo mật ứng dụng dựa trên AI để giải quyết các rủi ro do việc sử dụng AI tạo ra trong tổ chức của họ.

Các công nghệ nâng cao quyền riêng tư (PET) cho thấy mức độ sử dụng lớn nhất hiện nay, ở mức 7% số người được hỏi, với 19% công ty triển khai công nghệ này; danh mục này bao gồm các cách để bảo vệ dữ liệu cá nhân, chẳng hạn như mã hóa đồng bộ, Dữ liệu tổng hợp do AI tạo ra, tính toán đa bên an toàn, học tập liên kếtvà sự riêng tư khác biệt. Tuy nhiên, 17% vững chắc không có kế hoạch đưa PET vào môi trường của họ.

Chỉ 19% đang sử dụng hoặc triển khai các công cụ để giải thích mô hình, nhưng có sự quan tâm đáng kể (56%) trong số những người được hỏi trong việc khám phá và hiểu các công cụ này để giải quyết rủi ro AI phát sinh. Theo Gartner, khả năng giải thích, giám sát mô hình và các công cụ bảo mật ứng dụng AI đều có thể được sử dụng trên các mô hình nguồn mở hoặc độc quyền để đạt được độ tin cậy và độ tin cậy mà người dùng doanh nghiệp cần.

Những rủi ro mà người được hỏi quan tâm nhất bao gồm kết quả đầu ra không chính xác hoặc sai lệch (58%) và lỗ hổng hoặc bí mật bị rò rỉ trong mã do AI tạo ra (57%). Đáng chú ý, 43% cho rằng các vấn đề tiềm ẩn về bản quyền hoặc cấp phép phát sinh từ nội dung do AI tạo ra là rủi ro hàng đầu đối với tổ chức của họ.

“There is still no transparency about data models are training on, so the risk associated with bias, and privacy is very difficult to understand and estimate,” a C-suite executive wrote in response to the Gartner survey.

Vào tháng XNUMX, Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) đã thành lập một nhóm công tác công cộng để giúp giải quyết câu hỏi đó, dựa trên Khung quản lý rủi ro AI từ tháng XNUMX. Như dữ liệu của Gartner cho thấy, các công ty không chờ đợi cho các chỉ thị của NIST.

Dấu thời gian:

Thêm từ Đọc tối