هيا نلعب لعبة: مذيع أخبار Deepfake أم شخص حقيقي؟

من المحتمل أن تكون مقاطع الفيديو المزيفة على الإنترنت التي تعرض مذيعي الأخبار الذين تم إنشاؤها بواسطة الذكاء الاصطناعي والذين ينشرون الدعاية الحكومية الموالية للصين من إبداعات طاقم معلومات مضللة غزير الإنتاج يُطلق عليه اسم Spamouflage.

أفاد باحثو شركة تحليلات وسائل التواصل الاجتماعي أن هذه المقاطع تمثل "المرة الأولى التي لاحظت فيها Graphika جهات IO (عملية التأثير) الموالية للدولة باستخدام لقطات فيديو لأشخاص وهميين تم إنشاؤهم بواسطة الذكاء الاصطناعي في عملياتهم".PDF] هذا الاسبوع.

تُظهر مقاطع الفيديو مذيعًا من الذكور والإناث ، يزعم كلاهما أنهما يقدمان تقارير لشركة إعلامية تسمى Wolf News. في إحداها ، يدين المذيع الإخباري أمريكا لفشلها في وقف العنف المسلح. ويشدد الآخر على الحاجة إلى التعاون الصيني الأمريكي في جهود التعافي الاقتصادي العالمي.

قالت جرافيكا: "للوهلة الأولى ، يقدم مذيعو وولف نيوز كأشخاص حقيقيين". "كانت فرضيتنا الأولية هي أنهم كانوا ممثلين مدفوعي الأجر تم تجنيدهم للظهور في مقاطع الفيديو."

هذا من شأنه أن يتماشى مع طريقة عمل Spamouflage المعتادة ، وفقًا لـ Graphika و باحثين آخرين بما في ذلك Google الذين يتتبعون الأوغاد مثل Dragonbridge ووثقوا استخدامهم لأشخاص حقيقيين أمام الكاميرا في حملات التضليل السابقة الخاصة بهم.

تضمنت بعض عمليات التأثير الأخرى للطاقم محاولات تطفل في انتخابات التجديد النصفي الأمريكية لعام 2022 و التصيد شركات تعدين الأرض النادرة باستخدام الآلاف من حسابات وسائل التواصل الاجتماعي الزائفة ، مما دفع البنتاغون إلى توجيه أصابع الاتهام بشدة.

زعم باحثو جرافيكا: "لكن المزيد من التحقيقات كشفت أن مقدّمي وولف نيوز قد تم ابتكارهم بشكل شبه مؤكد باستخدام التكنولوجيا التي قدمتها شركة فيديو بريطانية تدعى Synthesia". 

كشفت عمليات البحث العكسي عن الصور عن عدد كبير من مقاطع الفيديو غير ذات الصلة التي تظهر نفس الرجل والمرأة "مذيعي الأخبار" الذين يظهرون في بث Spamouflage Wolf News. يتحدث الأشخاص الذين تم إنشاؤهم بواسطة الذكاء الاصطناعي بلغات متعددة في مقاطع الفيديو هذه ، بما في ذلك العربية والرومانية والإسبانية والإنجليزية ، مثل هذا الترويج لخدمات وساطة الشحن.

في ذلك ، يقول المذيع الذكر ، "مرحبًا ، اسمي السيد كروز. وأنا أفاتار ".

كروز هو واحد من تجسدات Synthesia "100+"، واتضح أن اسمه جايسون. المذيعة الأنثوية من فيديوهات وولف نيوز هي آنا.

سينثيسيا صفحة الأخلاق تقول إنها "لن تقدم برامجها للاستخدام العام. سيخضع كل المحتوى لعملية فحص داخلية صريحة قبل طرحه لعملائنا الموثوق بهم ".

بالإضافة إلى ذلك ، لها صفحة الأسئلة الشائعة حول الصورة الرمزية يقول أن هناك حدودًا لما يمكن أن تقوله الصور الرمزية وما لا يمكنها قوله: "لا يتم التسامح مع المحتوى السياسي والجنسي والشخصي والجنائي والتمييزي أو الموافقة عليه".

القصص الإخبارية المزيفة لـ Spamouflage تنتهك كلا السياستين. لا يمكن الوصول إلى Synthesia للتعليق. فيكتور ريباربيلي ، المؤسس المشارك والرئيس التنفيذي لشركة Synthesia ، قال The New York Times في وقت سابق من هذا الأسبوع حطمت Spamouflage شروط خدمة Synthesia باستخدام التكنولوجيا لصنع مقاطع الفيديو الخاصة بها.

وهذا يعني أن Spamouflage استحوذت بطريقة ما على تقنية Synthesia واستخدمتها لإنتاج محتواها ، على عكس قواعد Synthesia. ليس هناك ما يشير إلى ارتكاب مخالفات من قبل Synthesia.

بينما الوكالات الحكومية و الباحثين الأمن على حد سواء دق ناقوس الخطر بشأن استخدام تقنية التزييف العميق في عمليات التأثير السياسي في المستقبل غير البعيد ، حتى الآن اقتصرت وسائل الإعلام التي يتم إنشاؤها بواسطة الذكاء الاصطناعي إلى حد كبير على الوجوه المزيفة - وليس الأشخاص المزيفون تمامًا ، وفقًا لغرافيكا. 

ومع ذلك ، على الرغم من استخدام الصور الرمزية ، فإن بقية مقاطع فيديو Spamouflage تبدو مثل "محتوى سياسي منخفض الجودة غير مرغوب فيه" ، كما كتب الباحثون ، مرددًا صدى تقييم جوجل من مقاطع الفيديو الخاصة بالطاقم على YouTube ، والتي كان 83 بالمائة منها أقل من 100 مشاهدة.

بالإضافة إلى ذلك ، خلص التقرير إلى أن عنصر التزييف العميق في نشرات الأخبار "تم إنشاؤه بشكل شبه مؤكد باستخدام خدمة تجارية" بدلاً من القدرة الداخلية. يشير هذا إلى أن Spamouflage وآخرين لا يمتلكون الخبرة الفنية اللازمة لاستخراج التزييف العميق للغاية وسيواصلون استخدام الأدوات التجارية المتاحة.

ومع ذلك ، كما تلاحظ Graphika ، "يثير هذا أيضًا أسئلة حول كيفية الإشراف الفعال على استخدام هذه المنتجات والخدمات." ®

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• بلاتوبلوكشين. Web3 Metaverse Intelligence. تضخيم المعرفة. الوصول هنا.
• المصدر https://go.theregister.com/feed/www.theregister.com/2023/02/11/deepfake_news_anchors/