Deepfake AI cũng là mối đe dọa đối với các doanh nghiệp—Đây là lý do tại sao - Decrypt

Deepfake AI cũng là mối đe dọa đối với các doanh nghiệp—Đây là lý do – Giải mã

Dấu thời gian: 25:2023 PM ngày 3 tháng 50 năm XNUMX
AI Deepfake cũng là mối đe dọa đối với các doanh nghiệp—Đây là lý do tại sao - Giải mã trí thông minh dữ liệu PlatoBlockchain. Tìm kiếm dọc. Ái.

Khi những gã khổng lồ công nghệ cạnh tranh để đưa trí tuệ nhân tạo đến với đại chúng và sở hữu thị trường đang phát triển, cuộc chạy đua vũ trang AI đang thúc đẩy sự gia tăng các video và âm thanh “giả sâu”—nội dung thường có vẻ ngoài hoặc nghe có vẻ hợp pháp một cách thuyết phục nhưng thực chất lại là một hành vi xuyên tạc mang tính lừa đảo. Và chúng cũng đang tác động đến các doanh nghiệp, theo một báo cáo mới.

Deepfakes là những sáng tạo do AI tạo ra như hình ảnh, video và âm thanh được chế tác để đánh lừa mọi người. Những kẻ lừa đảo sử dụng deepfake để lừa đảo, tống tiềnhoặc làm tổn hại đến danh tiếng. Sự gia tăng của trí tuệ nhân tạo tools đã giúp những kẻ lừa đảo tạo nội dung giả mạo dễ dàng hơn bao giờ hết.

Những người nổi tiếng và các nhân vật của công chúng khác đang bị chèn vào các cảnh quay giả tạo và đôi khi tục tĩu mà không có sự đồng ý của họ theo những cách mà đôi khi lan truyền hoặc có thể gây hoảng loạn trên mạng xã hội. Trong một báo cáo cung cấp cho Giải mã, công ty kế toán toàn cầu KPMG đã viết rằng lĩnh vực kinh doanh cũng không tránh khỏi mối đe dọa deepfake.

KPMG viết rằng nội dung deepfake có thể được sử dụng trong các cuộc tấn công kỹ thuật xã hội và các loại tấn công mạng khác nhắm vào các công ty, trong khi nội dung đó cũng có thể ảnh hưởng đến danh tiếng của các doanh nghiệp và lãnh đạo của họ. Việc trình bày sai sự thật về đại diện công ty cũng có thể được sử dụng trong các âm mưu lừa đảo khách hàng hoặc thuyết phục nhân viên cung cấp thông tin hoặc chuyển tiền cho các đối tượng bất hợp pháp.

KPMG trích dẫn một ví dụ năm 2020 về một giám đốc chi nhánh công ty Hồng Kông bị lừa chuyển số tiền công ty trị giá 35 triệu đô la cho những kẻ lừa đảo sau khi tin rằng sếp của anh ta đang nghe điện thoại và ra lệnh cho anh ta làm như vậy. Thay vào đó, nó là sự tái hiện lại giọng nói của người giám sát được nhân bản bằng AI – tất cả đều là một phần của kế hoạch phức tạp nhằm lừa đảo tiền từ công ty.

“Hậu quả của các cuộc tấn công mạng sử dụng nội dung tổng hợp—nội dung kỹ thuật số được tạo ra hoặc thao túng vì mục đích bất chính—có thể rất lớn, tốn kém và có nhiều tác động kinh tế xã hội, bao gồm tài chính, danh tiếng, dịch vụ và địa chính trị, cùng nhiều tác động khác.” báo cáo viết.

Đoạn phim deepfake về Donald Trump bị bắt đầu năm nay, Đức Giáo Hoàng Francis mặc trang phục sang trọng của Balenciaga, và Elon Musk Việc thúc đẩy các hoạt động lừa đảo bằng tiền điện tử đã trở nên lan truyền trong năm ngoái khi công nghệ deepfake được cải thiện nhờ các công cụ AI ngày càng phát triển.

KPMG viết: “Cho dù đó là hàng giả rẻ tiền hay hàng giả sâu, mô hình kinh tế đã thay đổi đáng kể nhờ các mô hình AI có tính sáng tạo”.

Ngoài những nhân vật của công chúng được đề cập ở trên, những người nổi tiếng đã bị đánh cắp hình dáng và áp dụng cho các cảnh quay giả bao gồm nữ diễn viên Emma Watson và nhạc sĩ Taylor Swift. Nhưng KPMG đang đưa ra cảnh báo về tác động tiềm tàng đối với các doanh nghiệp và các nhà lãnh đạo đôi khi nổi bật của họ.

KPMG cho biết: “Là một yếu tố rủi ro, nội dung deepfake không chỉ đơn thuần là mối lo ngại của mạng xã hội, trang web hẹn hò và ngành công nghiệp giải trí mà giờ đây nó là vấn đề của hội đồng quản trị”. “Trong trường hợp cụ thể, gần như tất cả những người trả lời (92%) trong cuộc khảo sát AI tạo thế hệ gần đây của KPMG với 300 giám đốc điều hành ở nhiều ngành và khu vực địa lý cho biết mối lo ngại của họ về rủi ro khi triển khai AI tạo thế hệ là ở mức độ vừa phải đến rất đáng kể.”

Không chỉ các doanh nghiệp và người nổi tiếng đang phải đối mặt với sự gia tăng cả về chất lượng và số lượng video deepfake trên internet. Các chính phủ và cơ quan quản lý cũng đang tính toán tác động tiềm tàng đối với xã hội và bầu cử, trong khi những người tạo ra các công cụ AI như vậy đang cân nhắc tác động tiêu cực tiềm tàng của chúng.

Tuần trước, Ủy ban bầu cử liên bang Hoa Kỳ, dự đoán trước việc sử dụng deepfake trong cuộc bầu cử năm 2024, đã tiến hành một chiến dịch kiến nghị cấm sử dụng trí tuệ nhân tạo trong các chiến dịch quảng cáo.

Nếu được phê duyệt, cơ quan này sẽ sửa đổi các quy định hiện hành liên quan đến việc xuyên tạc mang tính gian lận về “quyền của chiến dịch” và làm rõ rằng lệnh cấm áp dụng đối với các quảng cáo chiến dịch AI có chủ ý lừa đảo.

Matthew Miller, Giám đốc Dịch vụ An ninh mạng tại KPMG, nói: “Các cơ quan quản lý nên tiếp tục hiểu và xem xét tác động của các mối đe dọa ngày càng gia tăng đối với các quy định hiện hành”. Giải mã. “Các yêu cầu được đề xuất về việc gắn nhãn và tạo hình chìm mờ cho nội dung do AI tạo ra có thể có tác động tích cực.”

Vào tháng XNUMX, các nhà nghiên cứu tại MIT đề xuất thêm các thay đổi mã vào các mô hình phổ biến lớn để giảm thiểu rủi ro xảy ra lỗi sâu, bằng cách thêm các thay đổi nhỏ khó nhìn thấy nhưng cuối cùng thay đổi cách hoạt động của mô hình, khiến chúng tạo ra hình ảnh trông không giống thật. Trong khi đó, Meta gần đây giữ lại một công cụ AI do tiềm năng deepfake của nó.

Sự phấn khích xung quanh tiềm năng sáng tạo của các công cụ AI tổng hợp đã bị giảm bớt khi nhận ra rằng chúng cũng có thể tạo cơ hội cho nội dung độc hại. Cuối cùng, trong bối cảnh những công cụ như vậy được cải tiến nhanh chóng, Miller kêu gọi mọi người hãy cảnh giác về khả năng xuất hiện nội dung giả mạo.

Ông nói: “Công chúng cần duy trì cảnh giác liên tục khi tương tác qua các kênh kỹ thuật số”. Giải mã. “Nhận thức về tình huống và ý thức chung sẽ góp phần rất lớn trong việc ngăn chặn sự cố xảy ra. Nếu có điều gì đó không 'cảm thấy ổn' thì có khả năng cao là hoạt động độc hại.”

Luôn cập nhật tin tức về tiền điện tử, cập nhật hàng ngày trong hộp thư đến của bạn.

Dấu thời gian:

Thêm từ Giải mã