Bảo mật phải trao quyền cho các nhà phát triển AI ngay bây giờ

Được xuất bản lại bởi Plato

Người theo dõi: 0

Bảo mật phải trao quyền cho các nhà phát triển AI ngay bây giờ Trí thông minh dữ liệu PlatoBlockchain. Tìm kiếm dọc. Ái.

Không còn nghi ngờ gì nữa, GenAI sẽ thay đổi cách thức thực hiện hoạt động kinh doanh. Các công ty nghiên cứu đang ước tính mức tăng năng suất rất lớn trên tất cả các lĩnh vực mà nếu được thực hiện sẽ biến đổi hoàn toàn mọi ngành. Với lợi ích tiềm năng to lớn như vậy, rõ ràng lý do tại sao mọi doanh nghiệp đều cố gắng hỗ trợ nhóm của mình xây dựng các ứng dụng hỗ trợ AI nhanh nhất có thể. Tuy nhiên, các nhóm bảo mật phải hành động ngay bây giờ để đảm bảo các ứng dụng này sẽ được giám sát chặt chẽ.

Cuộc đua giành lấy giá trị kinh doanh AI đầu tiên

Cho đến nay, một số doanh nghiệp đã xây dựng hàng trăm ứng dụng hỗ trợ AI. Tốc độ phát triển thật đáng kinh ngạc, với những ví dụ đáng chú ý như Microsoft phát hành ứng dụng Copilot với tốc độ vượt xa những gì một doanh nghiệp lớn thường mang lại.

Do sự non nớt của các khuôn khổ và công cụ xung quanh Phát triển ứng dụng AI, chúng đang được xây dựng với nhiều công nghệ. Các khung phát triển được xây dựng dựa trên một số mô hình cơ bản có rất nhiều và khác nhau đáng kể, và chúng tiếp tục xuất hiện. Các khung như LangChain và AutoGPT đã trở nên phổ biến đáng kể với tốc độ chưa từng thấy. Trong một doanh nghiệp lớn, bạn có thể dễ dàng tìm thấy hàng chục framework khác nhau đang được sử dụng để xây dựng các ứng dụng này.

Các tổ chức đầu tiên có thể nắm bắt được mức tăng năng suất từ AI trước các tổ chức khác sẽ giành được chiến thắng lớn. Do đó, chúng tôi đang tham gia vào một cuộc đua mà chúng tôi phải sử dụng các khuôn khổ hiện có và hoàn thành công việc. Có thể sẽ mất nhiều thời gian để chuẩn hóa các khuôn khổ và đến lúc đó bạn đã bị trễ cuộc chơi.

Chúng ta phải đối mặt với thực tế: Hoạt động kinh doanh đang được tái cấu trúc — với các công cụ, khuôn khổ và mô hình mối đe dọa chưa được chứng minh — với tốc độ chưa từng có.

Bảo mật: Chúng ta bắt đầu từ đâu?

Việc xây dựng nhiều ứng dụng mới trong khoảng thời gian ngắn như vậy có ý nghĩa rất lớn về mặt bảo mật. Đầu tiên, đây chỉ là nhiều ứng dụng hơn, có cùng rủi ro bảo mật như bất kỳ ứng dụng nào khác; họ cần có được quyền nhận dạng, luồng dữ liệu và quyền quản lý bí mật, cùng một số mối quan tâm. Thứ hai, GenAI tạo ra một số thách thức bảo mật đặc biệt, trong đó các khuôn khổ như Top 10 của OWASP LLM giúp nắm bắt và giáo dục.

Các tổ chức bảo mật tiên tiến, phối hợp với CNTT, đang tập hợp các trung tâm chuyên dụng để kiểm kê, đánh giá và bảo mật các ứng dụng này. Lưu ý rằng những điều này yêu cầu tạo ra các quy trình hoàn toàn mới và các trách nhiệm mới được ủy quyền. Lý tưởng nhất là các trung tâm này có thể hoạt động như một nguồn lực hỗ trợ cho các nhà phát triển, cung cấp các dịch vụ đánh giá thiết kế và lập mô hình mối đe dọa để đảm bảo đáp ứng các tiêu chuẩn an toàn.

Tạo ra một nguồn tài nguyên tập trung như thế này không phải là một việc dễ dàng. Việc tìm kiếm tất cả các dự án hỗ trợ AI trong toàn doanh nghiệp là một thách thức lớn, vì hàng tồn kho luôn luôn là. Việc phát triển các kỹ năng kỹ thuật cần thiết để kiểm tra các ứng dụng này cũng khó khăn - đặc biệt là do sự phổ biến của các khung AI khác nhau, mỗi khung đều có những điểm kỳ quặc và vấn đề riêng. Việc giám sát các ứng dụng này trong quá trình sản xuất lại là một thách thức khác, cả từ góc độ kỹ thuật trong việc lấy dữ liệu phù hợp từ các khung phát triển chưa hoàn thiện và từ góc độ phân tích bảo mật để biết những gì cần tìm kiếm.

Tuy nhiên, đây không phải là những thách thức không thể vượt qua. Trên thực tế, chúng tuân theo công thức giải quyết vấn đề bảo mật ứng dụng điển hình về kiểm kê, đánh giá bảo mật và bảo vệ thời gian chạy. Để tiến lên phía trước và cho phép doanh nghiệp của chúng tôi nắm bắt được cuộc cách mạng AI trước tiên, chúng tôi phải bắt đầu đạt được tiến bộ trong việc giải quyết những vấn đề đó.