Thế giới mới dũng cảm của AI: Điều gì đã xảy ra với an ninh? Sự riêng tư?

Sau đây là bài viết của khách mời từ John deVadoss, Ban điều hành của Hội đồng kinh doanh chuỗi khối toàn cầu ở Geneva và là người đồng sáng lập Liên minh InterWork ở Washington, DC.

Tuần trước, tôi có cơ hội đến Washington, DC để trình bày và thảo luận về tác động của AI liên quan đến An ninh với một số thành viên Quốc hội và nhân viên của họ.

AI sáng tạo ngày nay khiến tôi nhớ đến Internet vào cuối những năm 80 - nghiên cứu cơ bản, tiềm năng tiềm ẩn và cách sử dụng mang tính học thuật, nhưng nó vẫn chưa sẵn sàng cho công chúng. Lần này, tham vọng không bị cản trở của nhà cung cấp, được thúc đẩy bởi vốn đầu tư mạo hiểm của các giải đấu nhỏ và được thúc đẩy bởi các phòng phản hồi Twitter, đang thúc đẩy nhanh chóng Thế giới mới dũng cảm của AI.

Cái gọi là mô hình nền tảng “công cộng” đã bị hư hỏng và không phù hợp cho mục đích sử dụng của người tiêu dùng và thương mại; sự trừu tượng về quyền riêng tư, nơi chúng tồn tại, bị rò rỉ như một cái sàng; các cấu trúc bảo mật vẫn đang trong quá trình hoàn thiện vì diện tích bề mặt tấn công và các vectơ đe dọa vẫn đang được hiểu rõ; và những lan can ảo tưởng, càng ít nói về chúng thì càng tốt.

Vì vậy, làm thế nào chúng ta kết thúc ở đây? Và chuyện gì đã xảy ra với Bảo mật? Sự riêng tư?

Các mô hình nền tảng “thỏa hiệp”

Cái gọi là mô hình “mở” thực ra không hề mở. Các nhà cung cấp khác nhau chào mời mức độ cởi mở của họ bằng cách mở quyền truy cập vào trọng lượng mô hình, tài liệu hoặc các bài kiểm tra. Tuy nhiên, không có nhà cung cấp lớn nào cung cấp bất kỳ thứ gì gần giống với tập dữ liệu huấn luyện hoặc bảng kê khai hoặc dòng dõi của chúng để có thể sao chép và tái tạo mô hình của họ.

Độ mờ này đối với các tập dữ liệu huấn luyện có nghĩa là nếu bạn muốn sử dụng một hoặc nhiều mô hình này thì bạn, với tư cách là người tiêu dùng hoặc tổ chức, không có bất kỳ khả năng nào để xác minh hoặc xác thực mức độ ô nhiễm dữ liệu với tôn trọng IP, bản quyền, v.v. cũng như nội dung có khả năng bất hợp pháp.

Điều quan trọng là, nếu không có bảng kê khai của tập dữ liệu huấn luyện thì không có cách nào để xác minh hoặc xác thực nội dung độc hại không tồn tại. Các tác nhân bất chính, bao gồm cả các tác nhân được nhà nước bảo trợ, cài đặt nội dung trojan trên web mà các mô hình sử dụng trong quá trình đào tạo của họ, dẫn đến các tác dụng phụ độc hại tiềm ẩn và không thể đoán trước tại thời điểm suy luận.

Hãy nhớ rằng, một khi một mô hình đã bị xâm phạm thì không có cách nào để loại bỏ nó, lựa chọn duy nhất là phá hủy nó.

An ninh “rỗng”

Các mô hình AI sáng tạo là kho mật ong bảo mật tối ưu vì “tất cả” dữ liệu đã được đưa vào một vùng chứa. Các lớp và loại vectơ tấn công mới phát sinh trong kỷ nguyên AI; ngành vẫn chưa hiểu được các tác động liên quan đến việc bảo vệ các mô hình này khỏi các mối đe dọa mạng cũng như cách các mô hình này được các tác nhân đe dọa mạng sử dụng làm công cụ.

Kỹ thuật tiêm nhắc độc hại có thể được sử dụng để đầu độc chỉ mục; việc đầu độc dữ liệu có thể được sử dụng để làm sai lệch trọng số; các cuộc tấn công nhúng, bao gồm cả các kỹ thuật đảo ngược, có thể được sử dụng để lấy dữ liệu phong phú ra khỏi các phần nhúng; suy luận thành viên có thể được sử dụng để xác định xem dữ liệu nhất định có nằm trong tập huấn luyện hay không, v.v., và đây chỉ là phần nổi của tảng băng trôi.

Tác nhân đe dọa có thể có quyền truy cập vào dữ liệu bí mật thông qua đảo ngược mô hình và truy vấn theo chương trình; chúng có thể làm hỏng hoặc ảnh hưởng đến hành vi tiềm ẩn của mô hình; và, như đã đề cập trước đó, việc nhập dữ liệu ngoài tầm kiểm soát trên diện rộng dẫn đến mối đe dọa về hoạt động mạng được nhà nước bảo trợ thông qua ngựa trojan và hơn thế nữa.

Quyền riêng tư “rò rỉ”

Các mô hình AI rất hữu ích nhờ các bộ dữ liệu mà chúng được đào tạo; việc nhập dữ liệu bừa bãi trên quy mô lớn tạo ra những rủi ro về quyền riêng tư chưa từng có cho cá nhân và công chúng nói chung. Trong kỷ nguyên AI, quyền riêng tư đã trở thành mối quan tâm của xã hội; các quy định chủ yếu giải quyết các quyền dữ liệu cá nhân là không đầy đủ.

Ngoài dữ liệu tĩnh, điều bắt buộc là các lời nhắc đàm thoại động phải được coi là IP để được bảo vệ và bảo vệ. Nếu bạn là người tiêu dùng tham gia vào việc đồng tạo một tạo phẩm với một mô hình, bạn muốn lời nhắc chỉ đạo hoạt động sáng tạo này không được sử dụng để đào tạo mô hình hoặc chia sẻ với những người tiêu dùng mô hình khác.

Nếu bạn là nhân viên làm việc với một mô hình để mang lại kết quả kinh doanh, người chủ của bạn mong muốn lời nhắc của bạn được giữ bí mật; hơn nữa, các lời nhắc và phản hồi cần có quy trình kiểm tra an toàn trong trường hợp một trong hai bên phát hiện ra vấn đề trách nhiệm pháp lý. Điều này chủ yếu là do tính chất ngẫu nhiên của các mô hình này và sự biến đổi trong phản ứng của chúng theo thời gian.

Điều gì sẽ xảy ra tiếp theo?

Chúng ta đang xử lý một loại công nghệ khác, không giống bất kỳ loại công nghệ nào chúng ta từng thấy trước đây trong lịch sử điện toán, một công nghệ thể hiện hành vi tiềm ẩn, tiềm ẩn trên quy mô lớn; Các phương pháp tiếp cận về bảo mật, quyền riêng tư và bảo mật của ngày hôm qua không còn hiệu quả nữa.

Các nhà lãnh đạo ngành đang hết sức thận trọng, khiến các cơ quan quản lý và nhà hoạch định chính sách không còn lựa chọn nào khác ngoài việc phải vào cuộc.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://cryptoslate.com/ais-brave-new-world-whatever-happened-to-security-privacy/