Cách phát hiện các deepfake AI trên mạng xã hội

Cách phát hiện các deepfake AI trên mạng xã hội

Dấu thời gian: Ngày 4 tháng 2023 năm 2 59:XNUMX sáng
Cách phát hiện các lỗi sâu về AI trên phương tiện truyền thông xã hội Trí tuệ dữ liệu PlatoBlockchain. Tìm kiếm dọc. Ái.

Một đoạn video được đăng trên nền tảng mạng xã hội Trung Quốc Weibo tuần trước cho thấy ngôi sao nhạc pop người Mỹ Taylor Swift nói thông thạo tiếng Quan Thoại. Chỉ có điều đó không phải là ca sĩ 33 tuổi trong clip. Đó là một video deepfake được tạo bởi công cụ AI của công ty khởi nghiệp HeyGen của Trung Quốc.

Kể từ ngày 21 tháng XNUMX, khi deepfake của Swift lần đầu tiên xuất hiện chia sẻ, video đã thu hút được hơn sáu triệu lượt xem. Nhưng nó cũng gây ra cuộc tranh luận về những cạm bẫy tiềm ẩn khi AI ngày càng tiên tiến hơn, khiến việc phân biệt giữa danh tính hoặc nội dung thật và giả trở nên khó khăn.

Deepfake—hình ảnh hoặc video thực tế nhưng giả mạo được sử dụng để mạo danh người khác, bao gồm cả giọng nói của họ—có thể được triển khai để tạo danh tính kỹ thuật số giả, thứ mà tội phạm mạng có thể lợi dụng để thực hiện hành vi lừa đảo. Hình ảnh và video trông và nói chuyện giống hệt với người được nhắm mục tiêu.

Ví dụ, vào tháng XNUMX, một doanh nhân Trung Quốc mất 4.3 triệu nhân dân tệ [612,000 USD] sau khi một kẻ lừa đảo sử dụng AI hoán đổi khuôn mặt để mạo danh bạn mình. Không có tổn thất tiền bạc nào trong vụ deepfake của Taylor Swift, nhưng đây là những điều cần chú ý để tránh bị lừa trên mạng xã hội.

Xác minh xác nhận của người nổi tiếng AI

Những kẻ lừa đảo thường sử dụng các tác phẩm deepfake AI của các cá nhân đáng tin cậy để dụ nạn nhân của chúng. Trong những tháng gần đây, vô số người nổi tiếng AI giả mạo đã xuất hiện để lừa mọi người bằng những xác nhận sai sự thật. Phiên bản giả mạo của các biểu tượng như Elon Musk và Beyonce được nhắm mục tiêu quảng bá thương hiệu giả.

Rõ ràng, rất nhiều quảng cáo sai sự thật được xếp hạng cao hơn trong kết quả tìm kiếm trên Google, có thể là do công ty không nỗ lực đủ để lọc nội dung gian lận.

Tuy nhiên, trong thời đại nội dung giả mạo do AI tạo ra, điều quan trọng là phải tiếp cận những video quá hay để có thể là sự thật bằng con mắt phê phán. Tuyên bố đặc biệt đòi hỏi bằng chứng đặc biệt. Nếu bạn bắt gặp những video lan truyền có vẻ giật gân, hãy dành thời gian để xác minh tính xác thực và nguồn gốc của chúng.

Chuyên gia công nghệ tiêu dùng và người dẫn chương trình phát thanh Kim Komando cho biết: “Nếu bạn muốn lời khuyên về một sản phẩm hoặc dịch vụ, hãy xem các bài đánh giá hoặc tìm một chuyên gia thông thạo và có thể chứng minh điều đó”.

“Một bước thông minh khác: Google sản phẩm và diễn viên trong quảng cáo, cùng với từ 'đánh giá'. Nếu ai đó được trả tiền để chứng thực một sản phẩm, sẽ không chỉ có một quảng cáo ngẫu nhiên xuất hiện trên mạng xã hội,” cô nói thêm trong một bài báo. công bố bởi Bưu điện New York.

Ngoài ra đọc: Taylor Swift, Emma Watson và những người khác được nhắm mục tiêu là AI khiêu dâm

Chú ý đến chi tiết

Công nghệ deepfake đặc biệt đáng sợ vì nó quá chân thực. Các công cụ AI như Khuếch tán ổn định có thể điều khiển giọng nói và chuyển động của miệng, khiến mọi người dễ tin rằng đoạn video hoặc bản ghi âm là xác thực.

Hãy nhớ AI do Ghostwriter tạo ra Bài hát của Drake và The Weeknd, đã đánh lừa hàng triệu người, bao gồm cả các dịch vụ phát nhạc trực tuyến, nghĩ rằng đây là một bản phát hành mới? Để phát hiện một deepfake, Alex Kim, đồng sáng lập và Giám đốc điều hành của công cụ tăng tốc thương mại điện tử do AI điều khiển Rice, gợi ý:

“Hãy chú ý đến bất kỳ điểm mâu thuẫn bất thường nào trong video bạn đang xem. Những người sáng tạo nội dung sử dụng deepfake thường cố gắng tiết kiệm thời gian, vì vậy việc tinh chỉnh các chi tiết không phải là thứ họ sẽ đầu tư thời gian vào”, Kim nói với MetaNews.

“Điều đó có nghĩa là bất kỳ biểu cảm khuôn mặt không khớp, cử động không tự nhiên, đồ tạo tác kỳ lạ, giọng nói không khớp hoặc hát nhép đều có thể xuất hiện trên một video được làm giả sâu,” Kim nói và cho biết thêm:

“Hãy đặc biệt chú ý đến đôi mắt, vì deepfake gặp khó khăn nhiều nhất với đôi mắt này.”

Trường hợp của doanh nhân Trung Quốc là lời nhắc nhở rằng công nghệ deepfake là một công cụ mạnh mẽ có thể được sử dụng cho mục đích tốt hoặc xấu. Các cơ quan quản lý đã bắt đầu chú ý hơn đến sự nguy hiểm của AI kể từ khi OpenAI tung ra chatbot ChatGPT lan truyền vào tháng XNUMX, gây ra một cuộc đua AI toàn cầu.

Như MetaNews trước đây báo cáo, các chuyên gia đề xuất phát triển các công nghệ mới có thể phát hiện và ngăn chặn việc sử dụng danh tính giả. Điều này có thể bao gồm việc sử dụng dữ liệu sinh trắc học, chẳng hạn như nhận dạng khuôn mặt hoặc quét dấu vân tay, để xác minh danh tính của người dùng trực tuyến.

Kiểm tra lý lịch để tìm manh mối

Trong khi một số ứng dụng sử dụng watermarks để xác định nội dung do AI tạo ra, điều này không quá rõ ràng đối với những người khác. Theo Alex Kim, người dùng sẽ phải quét nền trong hình ảnh hoặc video để tìm ra manh mối về vật liệu deepfake AI. Rice.win CEO

Kim nói: “Nếu hậu cảnh chuyển động không tự nhiên hoặc ánh sáng không khớp với bóng ở tiền cảnh, thì đó có thể là ảnh giả sâu. “Các chi tiết như kết cấu trên vật liệu hoặc thiếu kết cấu là những dấu hiệu khác.”

“Hãy tìm những điểm ảnh hoặc độ mờ ở những nơi lẽ ra không nên có, đặc biệt nếu nó xảy ra với chủ thể là con người. Các chi tiết tự nhiên như đường chân tóc, tai, mũi hoặc các đặc điểm trên khuôn mặt rất khó để thể hiện trong deepfake, ít nhất là thuyết phục.”

Công nghệ AI, phần lớn vẫn miễn phí và dễ dàng truy cập, đang bị những kẻ xấu sử dụng theo nhiều cách. Hình ảnh của những nữ ngôi sao nổi tiếng, bao gồm Taylor Swift và Emma Watson, đã bị xử lý bằng AI để tạo ra deepfake nội dung khiêu dâm.

Một công cụ AI mới của Viện Công nghệ Massachusetts (MIT) ở Mỹ hứa hẹn sẽ hạn chế tình trạng deepfake. Người ta có thể sử dụng PhotoGuard để thực hiện “những chỉnh sửa nhỏ, vô hình để giữ cho hình ảnh của [họ] được an toàn trước những trò giả mạo sâu và những chỉnh sửa khó chịu — một tiêu chuẩn vàng đầy hứa hẹn về an toàn trực tuyến.”

Alex Kim nói với MetaNews rằng cách rõ ràng và phổ biến nhất để xác định video AI giả mạo trên mạng xã hội là xem xét các kênh mà chúng được lưu trữ trên đó.

Kim nói: “Bạn sẽ muốn xem kênh này đã đăng bao nhiêu bài gần đây và liệu có bất kỳ đột biến hoặc đột biến lớn nào trong việc sáng tạo nội dung hay không”. “Nếu có sự gia tăng đột biến về số lượng video được đăng có vẻ không phù hợp, chất lượng thấp hoặc lạ, thì đó là dấu hiệu khá chắc chắn rằng người sáng tạo đang sử dụng video giả mạo.”

Dấu thời gian:

Thêm từ MetaNews