มาเล่นเกมกัน ผู้ประกาศข่าว Deepfake หรือคนจริง?

วิดีโอ Deepfake ออนไลน์ที่มีผู้ประกาศข่าวที่สร้างโดย AI เผยแพร่โฆษณาชวนเชื่อที่สนับสนุนรัฐบาลจีน น่าจะเป็นผลงานของทีมบิดเบือนข้อมูลจำนวนมากที่มีชื่อว่า Spamouflage

วิดีโอเหล่านี้แสดงถึง “ครั้งแรกที่ Graphika สังเกตเห็นนักแสดง IO [ปฏิบัติการสร้างอิทธิพล] ที่สอดคล้องกับรัฐโดยใช้ภาพวิดีโอของบุคคลสมมติที่สร้างขึ้นโดย AI ในปฏิบัติการของพวกเขา” นักวิจัยของบริษัทวิเคราะห์โซเชียลมีเดียรายงานโดยให้รายละเอียดเกี่ยวกับ Deepfake ของ Spamouflage ในรายงาน [รูปแบบไฟล์ PDF] ในสัปดาห์นี้.

วิดีโอดังกล่าวแสดงให้เห็นผู้ประกาศชายและหญิง ซึ่งทั้งคู่อ้างว่ารายงานข่าวให้กับบริษัทสื่อชื่อ Wolf News ประการหนึ่ง ผู้ประกาศข่าวประณามอเมริกาที่ล้มเหลวในการหยุดยั้งความรุนแรงจากปืน อีกประเด็นเน้นย้ำถึงความจำเป็นสำหรับความร่วมมือระหว่างจีนและสหรัฐฯ ในความพยายามในการฟื้นฟูเศรษฐกิจโลก

Graphika กล่าวว่า "เมื่อมองแวบแรก ผู้ประกาศข่าวของ Wolf News จะเป็นคนจริงๆ “สมมติฐานเริ่มต้นของเราคือพวกเขาเป็นนักแสดงที่ได้รับค่าจ้างซึ่งได้รับคัดเลือกให้แสดงในวิดีโอ”

สิ่งนี้จะสอดคล้องกับวิธีการทำงานตามปกติของ Spamouflage ตามที่ Graphika และ นักวิจัยคนอื่น ๆ รวมถึง Google ที่ติดตามคนร้ายในชื่อ Dragonbridge และได้บันทึกการใช้คนจริงๆ ในกล้องในแคมเปญบิดเบือนข้อมูลก่อนหน้านี้

ปฏิบัติการชักจูงอื่นๆ ของลูกเรือบางส่วนได้รวมเอาความพยายามที่จะ เข้าไปยุ่ง ในการเลือกตั้งกลางเทอมของอเมริกาปี 2022 และ trolling บริษัทขุดแร่แรร์เอิร์ธโดยใช้บัญชีสื่อสังคมออนไลน์ปลอมหลายพันบัญชี กระตุ้นให้เพนตากอนกระดิกนิ้วอย่างรุนแรง

“แต่จากการตรวจสอบเพิ่มเติมพบว่าผู้นำเสนอข่าวของ Wolf News เกือบจะแน่นอนว่าถูกสร้างขึ้นโดยใช้เทคโนโลยีที่จัดทำโดยบริษัทวิดีโอ AI ของอังกฤษที่ชื่อว่า Synthesia” นักวิจัยของ Graphika กล่าว 

การค้นหาภาพย้อนกลับพบวิดีโอที่ไม่เกี่ยวข้องจำนวนมากที่แสดง "ผู้ประกาศข่าว" ชายและหญิงคนเดียวกันซึ่งปรากฏในรายการ Spamouflage Wolf News ผู้คนที่สร้างโดย AI พูดได้หลายภาษาในวิดีโอเหล่านี้ เช่น ภาษาอาหรับ ภาษาโรมาเนีย ภาษาสเปน และภาษาอังกฤษ เป็นต้น นี้อย่างใดอย่างหนึ่ง ส่งเสริมบริการนายหน้าขนส่งสินค้า

ในนั้น ผู้ประกาศข่าวชายพูดว่า “สวัสดี ผมชื่อคุณครูซ และฉันเป็นร่างอวตาร”

การล่องเรือเป็นหนึ่งใน อวตาร “100+” ของ Synthesiaและปรากฎว่าชื่อของเขาคือเจสัน ผู้ประกาศข่าวหญิงจากวิดีโอ Wolf News คือแอนนา

ซินธิเซีย หน้าจริยธรรม กล่าวว่า "จะไม่เสนอซอฟต์แวร์ [ของ] สำหรับการใช้งานสาธารณะ เนื้อหาทั้งหมดจะผ่านกระบวนการคัดกรองภายในอย่างชัดเจนก่อนที่จะเผยแพร่ให้กับลูกค้าที่เชื่อถือได้ของเรา”

นอกจากนี้มัน หน้าคำถามที่พบบ่อยเกี่ยวกับอวาตาร์ กล่าวว่ามีข้อจำกัดในสิ่งที่อวตารพูดได้และไม่สามารถพูดได้: “เนื้อหาทางการเมือง เพศ เรื่องส่วนตัว ความผิดทางอาญา และการเลือกปฏิบัติไม่ได้รับการยอมรับหรืออนุมัติ”

ข่าวปลอมของ Spamouflage จะละเมิดนโยบายทั้งสอง ไม่สามารถติดต่อ Synthesia เพื่อแสดงความคิดเห็นได้ Victor Riparbelli ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่บริหารของ Synthesia บอก New York Times เมื่อต้นสัปดาห์ที่ผ่านมา Spamouflage ละเมิดข้อกำหนดในการให้บริการของ Synthesia โดยใช้เทคโนโลยีเพื่อสร้างวิดีโอ

กล่าวคือ Spamouflage ได้ครอบครองและใช้เทคโนโลยีของ Synthesia ในการผลิตเนื้อหา ซึ่งตรงกันข้ามกับกฎของ Synthesia ไม่มีข้อเสนอแนะของการกระทำผิดโดย Synthesia

ในขณะที่ หน่วยงานภาครัฐ และ นักวิจัยด้านความปลอดภัย เหมือนกันได้ส่งเสียงเตือนเกี่ยวกับ Deepfakes ที่ถูกนำมาใช้ในปฏิบัติการสร้างอิทธิพลทางการเมืองในอนาคตอันใกล้นี้ จนถึงขณะนี้สื่อที่สร้างโดย AI ได้จำกัดอยู่เฉพาะใบหน้าปลอมเท่านั้น ไม่ใช่คนปลอมทั้งหมด ตามที่ Graphika กล่าว 

อย่างไรก็ตาม แม้จะมีการใช้ภาพแทนตัว แต่วิดีโอ Spamouflage ที่เหลือก็ดูเหมือนเป็น “สแปมทางการเมืองคุณภาพต่ำ” นักวิจัยเขียนโดยสะท้อนถึง การประเมินของ Google วิดีโอ YouTube ของทีมงาน 83 เปอร์เซ็นต์มียอดดูน้อยกว่า 100 ครั้ง

นอกจากนี้ ส่วนประกอบของรายการข่าวปลอมนั้น “เกือบจะถูกสร้างโดยใช้บริการเชิงพาณิชย์” ซึ่งตรงข้ามกับความสามารถภายในองค์กร รายงานสรุป สิ่งนี้บ่งชี้ว่า Spamouflage และบริษัทอื่นๆ ไม่มีความเชี่ยวชาญด้านเทคนิคในการดึงของปลอมที่มีความซับซ้อนสูงออกมา และจะยังคงใช้เครื่องมือเชิงพาณิชย์ที่มีอยู่ต่อไป

อย่างไรก็ตาม ดังที่ Graphika ตั้งข้อสังเกตว่า “สิ่งนี้ยังทำให้เกิดคำถามเกี่ยวกับวิธีกลั่นกรองการใช้ผลิตภัณฑ์และบริการเหล่านี้อย่างมีประสิทธิภาพ” ®

• เนื้อหาที่ขับเคลื่อนด้วย SEO และการเผยแพร่ประชาสัมพันธ์ รับการขยายวันนี้
• เพลโตบล็อคเชน Web3 Metaverse ข่าวกรอง ขยายความรู้. เข้าถึงได้ที่นี่.
• ที่มา: https://go.theregister.com/feed/www.theregister.com/2023/02/11/deepfake_news_anchors/