Hãy chơi một trò chơi: Người dẫn tin tức Deepfake hay người thật?

Được xuất bản lại bởi Plato

Người theo dõi: 0

Các video Deepfake trực tuyến có các bản tin do AI tạo ra tuyên truyền cho chính phủ Trung Quốc có khả năng là sản phẩm của một nhóm thông tin sai lệch sung mãn có tên là Spamouflage.

Các video này đại diện cho “lần đầu tiên Graphika quan sát thấy các diễn viên IO [hoạt động có ảnh hưởng] được điều chỉnh theo trạng thái bằng cách sử dụng cảnh quay video về những người hư cấu do AI tạo ra trong hoạt động của họ,” các nhà nghiên cứu của công ty phân tích phương tiện truyền thông xã hội đã báo cáo, nêu chi tiết các hoạt động giả mạo sâu Spamouflage trong một báo cáo [PDF] tuần này.

Các video cho thấy một phát thanh viên nam và nữ, cả hai đều có mục đích báo cáo cho một công ty truyền thông có tên là Wolf News. Trong một, người đưa tin lên án nước Mỹ vì thất bại trong việc ngăn chặn bạo lực súng đạn. Mặt khác nhấn mạnh sự cần thiết phải hợp tác giữa Trung Quốc và Hoa Kỳ trong các nỗ lực phục hồi kinh tế toàn cầu.

Graphika nói: “Thoạt nhìn, những người dẫn chương trình của Wolf News hiện diện như những con người thực sự. “Giả thuyết ban đầu của chúng tôi là họ là những diễn viên được trả tiền đã được tuyển dụng để xuất hiện trong các video.”

Điều này sẽ phù hợp với phương thức hoạt động thông thường của Spamouflage, theo Graphika và các nhà nghiên cứu khác bao gồm cả Google, người theo dõi những kẻ bất lương là Dragonbridge và đã ghi lại việc họ sử dụng người thật trên máy ảnh trong các chiến dịch thông tin sai lệch trước đó của họ.

Một số hoạt động gây ảnh hưởng khác của phi hành đoàn đã bao gồm các nỗ lực để can thiệp trong cuộc bầu cử giữa nhiệm kỳ năm 2022 của Mỹ và trolling các công ty khai thác đất hiếm bằng cách sử dụng hàng nghìn tài khoản mạng xã hội giả mạo, khiến Lầu Năm Góc phải nghiêm khắc ra hiệu.

Các nhà nghiên cứu của Graphika tuyên bố: “Nhưng cuộc điều tra sâu hơn cho thấy những người thuyết trình của Wolf News gần như chắc chắn được tạo ra bằng công nghệ do một công ty video AI của Anh có tên là Synthesia cung cấp.

Các tìm kiếm hình ảnh đảo ngược đã khai quật được rất nhiều video không liên quan cho thấy cùng một người đàn ông và phụ nữ “người đưa tin” xuất hiện trong chương trình Spamouflage Wolf News được phát sóng. Những người do AI tạo ra nói bằng nhiều ngôn ngữ trong các video này, bao gồm tiếng Ả Rập, tiếng Rumani, tiếng Tây Ban Nha và tiếng Anh, chẳng hạn như này đẩy mạnh dịch vụ môi giới hàng hóa.

Trong đó, người dẫn chương trình nam nói: “Xin chào, tôi tên là Mr Cruise. Và tôi là một hình đại diện.

Du thuyền là một trong Hình đại diện “hơn 100” của Synthesia, và hóa ra tên anh ấy là Jason. Người dẫn chương trình nữ trong các video của Wolf News là Anna.

của tổng hợp trang đạo đức nói rằng nó “sẽ không cung cấp phần mềm [của nó] cho mục đích sử dụng công cộng. Tất cả nội dung sẽ trải qua quá trình sàng lọc nội bộ rõ ràng trước khi được phát hành cho các khách hàng đáng tin cậy của chúng tôi.”

Ngoài ra, nó trang câu hỏi thường gặp về hình đại diện cho biết có những giới hạn về những gì hình đại diện có thể và không thể nói: “Nội dung chính trị, tình dục, cá nhân, tội phạm và phân biệt đối xử không được dung thứ hoặc chấp thuận.”

Những câu chuyện tin tức giả mạo của Spamouflage sẽ vi phạm cả hai chính sách. Synthesia không thể đưa ra bình luận. Victor Riparbelli, đồng sáng lập và giám đốc điều hành của Synthesia, nói với Thời báo New York vào đầu tuần này Spamouflage đã vi phạm các điều khoản dịch vụ của Synthesia bằng cách sử dụng công nghệ này để tạo video của mình.

Điều đó có nghĩa là, Spamouflage bằng cách nào đó đã nắm giữ và sử dụng công nghệ của Synthesia để sản xuất nội dung của nó, trái với các quy tắc của Synthesia. Không có gợi ý về hành vi sai trái của Synthesia.

Trong khi cơ quan chính phủ và nhà nghiên cứu bảo mật cũng đã gióng lên hồi chuông cảnh báo về việc deepfakes sẽ được sử dụng trong các hoạt động gây ảnh hưởng chính trị trong một tương lai không xa, cho đến nay phương tiện truyền thông do AI tạo ra phần lớn chỉ giới hạn ở những khuôn mặt giả — không hoàn toàn là người giả, theo Graphika.

Tuy nhiên, bất chấp việc sử dụng hình đại diện, phần còn lại của các video Spamoflage trông giống như “spam chính trị chất lượng thấp”, các nhà nghiên cứu đã viết, lặp lại đánh giá của Google trong số các video YouTube của nhóm, 83 phần trăm trong số đó có ít hơn 100 lượt xem.

Ngoài ra, yếu tố deepfake của các bản tin “gần như chắc chắn được tạo ra bằng dịch vụ thương mại” trái ngược với khả năng nội bộ, báo cáo kết luận. Điều này cho thấy Spamouflage và những người khác không có chuyên môn kỹ thuật để thực hiện các hoạt động giả sâu rất tinh vi và sẽ tiếp tục sử dụng các công cụ thương mại có sẵn.

Tuy nhiên, như Graphika lưu ý, “điều này cũng đặt ra câu hỏi về cách kiểm duyệt hiệu quả việc sử dụng các sản phẩm và dịch vụ này.” ®