Bảo mật AI: Những điều bạn nên biết

Các công cụ học máy đã trở thành một phần của quy trình công nghệ thông tin và kinh doanh tiêu chuẩn trong nhiều năm, nhưng cuộc cách mạng AI tổng quát đang diễn ra đang thúc đẩy sự gia tăng nhanh chóng cả việc áp dụng và nhận thức về các công cụ này. Mặc dù AI mang lại lợi ích về hiệu quả trong nhiều ngành khác nhau, nhưng những công cụ mạnh mẽ mới nổi này đòi hỏi phải có những cân nhắc đặc biệt về bảo mật.

Bảo mật AI khác nhau như thế nào?

Cuộc cách mạng AI hiện tại có thể còn mới, nhưng các nhóm bảo mật tại Google và các nơi khác đã làm việc về bảo mật AI trong nhiều năm, nếu không nói là hàng thập kỷ. Theo nhiều cách, các nguyên tắc cơ bản để bảo mật các công cụ AI cũng giống như các phương pháp hay nhất về an ninh mạng nói chung. Nhu cầu quản lý quyền truy cập và bảo vệ dữ liệu thông qua các kỹ thuật nền tảng như mã hóa và nhận dạng mạnh sẽ không thay đổi chỉ vì có sự tham gia của AI.

Một lĩnh vực mà việc bảo mật AI có sự khác biệt là khía cạnh bảo mật dữ liệu. Các công cụ AI được hỗ trợ — và cuối cùng là được lập trình — bằng dữ liệu, khiến chúng dễ bị tấn công mới, chẳng hạn như đầu độc dữ liệu đào tạo. Những tác nhân độc hại có thể cung cấp dữ liệu thiếu sót cho công cụ AI (hoặc làm hỏng dữ liệu đào tạo hợp pháp) có thể gây tổn hại hoặc phá vỡ hoàn toàn dữ liệu đó theo cách phức tạp hơn những gì được thấy với các hệ thống truyền thống. Và nếu công cụ này đang tích cực “học hỏi” để đầu ra của nó thay đổi dựa trên đầu vào theo thời gian, thì các tổ chức phải bảo đảm nó không bị lệch khỏi chức năng dự định ban đầu.

Với một hệ thống doanh nghiệp lớn truyền thống (không phải AI), những gì bạn nhận được từ nó chính là những gì bạn đưa vào đó. Bạn sẽ không thấy đầu ra độc hại nếu không có đầu vào độc hại. Nhưng như Google CISO Phil Venables cho biết trong một podcast gần đây, “Để triển khai [một] hệ thống AI, bạn phải suy nghĩ về việc quản lý đầu vào và đầu ra.”
Sự phức tạp của hệ thống AI và tính chất năng động của chúng khiến chúng khó bảo mật hơn các hệ thống truyền thống. Phải cẩn thận cả ở giai đoạn đầu vào, để giám sát những gì đang diễn ra trong hệ thống AI và ở giai đoạn đầu ra, để đảm bảo đầu ra là chính xác và đáng tin cậy.

Triển khai Khung AI an toàn

Bảo vệ hệ thống AI và dự đoán các mối đe dọa mới là ưu tiên hàng đầu để đảm bảo hệ thống AI hoạt động như dự kiến. Khung AI bảo mật của Google (SAIF) và nó Bảo mật AI: Tương tự hay khác biệt? báo cáo là nơi tốt để bắt đầu, cung cấp cái nhìn tổng quan về cách suy nghĩ và giải quyết các thách thức bảo mật cụ thể cũng như các lỗ hổng mới liên quan đến việc phát triển AI.

SAIF bắt đầu bằng việc thiết lập sự hiểu biết rõ ràng về những công cụ AI mà tổ chức của bạn sẽ sử dụng và vấn đề kinh doanh cụ thể mà chúng sẽ giải quyết. Việc xác định khoản trả trước này là rất quan trọng vì nó sẽ cho phép bạn hiểu ai trong tổ chức của bạn sẽ tham gia và dữ liệu nào công cụ sẽ cần truy cập (điều này sẽ giúp thực hiện các biện pháp quản trị dữ liệu và an toàn nội dung nghiêm ngặt cần thiết để bảo mật AI). Bạn cũng nên truyền đạt các trường hợp sử dụng phù hợp và những hạn chế của AI trong toàn tổ chức của mình; chính sách này có thể giúp ngăn chặn việc sử dụng các công cụ AI không chính thức.

Sau khi xác định rõ ràng các loại công cụ và trường hợp sử dụng, tổ chức của bạn nên tập hợp một nhóm để quản lý và giám sát công cụ AI. Nhóm đó phải bao gồm các nhóm CNTT và bảo mật của bạn nhưng cũng có sự tham gia của nhóm quản lý rủi ro và bộ phận pháp lý của bạn, cũng như xem xét các vấn đề về quyền riêng tư và đạo đức.

Khi bạn đã xác định được nhóm, đã đến lúc bắt đầu đào tạo. Để bảo mật AI đúng cách trong tổ chức của bạn, bạn cần bắt đầu với phần sơ lược giúp mọi người hiểu công cụ này là gì, nó có thể làm gì và mọi thứ có thể sai sót ở đâu. Khi một công cụ rơi vào tay những nhân viên chưa được đào tạo về khả năng và những thiếu sót của AI, nó sẽ làm tăng đáng kể nguy cơ xảy ra sự cố có vấn đề.

Sau khi thực hiện các bước sơ bộ này, bạn đã đặt nền tảng cho việc bảo mật AI trong tổ chức của mình. Có sáu yếu tố cốt lõi của SAIF của Google mà bạn nên triển khai, bắt đầu với nền tảng bảo mật theo mặc định và tiến tới tạo ra các chu trình phản hồi và chỉnh sửa hiệu quả bằng cách sử dụng đội đỏ.

Một yếu tố thiết yếu khác của việc bảo mật AI là giúp con người cập nhật thông tin nhiều nhất có thể, đồng thời nhận ra rằng việc xem xét thủ công các công cụ AI có thể tốt hơn. Đào tạo rất quan trọng khi bạn tiến bộ trong việc sử dụng AI trong tổ chức của mình — đào tạo và đào tạo lại, không phải về bản thân các công cụ mà là về nhóm của bạn. Khi AI vượt xa những gì con người thực tế trong tổ chức của bạn hiểu và có thể kiểm tra kỹ, nguy cơ xảy ra sự cố sẽ tăng lên nhanh chóng.

Bảo mật AI đang phát triển nhanh chóng và điều quan trọng đối với những người làm việc trong lĩnh vực này là phải luôn cảnh giác. Điều quan trọng là xác định các mối đe dọa mới tiềm ẩn và phát triển các biện pháp đối phó để ngăn chặn hoặc giảm thiểu chúng để AI có thể tiếp tục giúp đỡ các doanh nghiệp và cá nhân trên toàn thế giới.

Tìm hiểu thêm Quan điểm của đối tác từ Google Cloud

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://www.darkreading.com/google-cloud-security/securing-ai-what-you-should-know