يقوم مجلس الرقابة في Meta بمراجعة القواعد بعد فيديو مزيف لبايدن

يقوم مجلس الرقابة في Meta بمراجعة القواعد بعد فيديو مزيف لبايدن

الطابع الزمني: 10 أكتوبر 2023 الساعة 11:29 مساءً
يقوم مجلس الرقابة في Meta بمراجعة القواعد بعد فيديو مزيف لبيانات بايدن PlatoBlockchain Data Intelligence. البحث العمودي. منظمة العفو الدولية.

يحقق مجلس الرقابة التابع لشركة Meta في سياسات عملاق وسائل التواصل الاجتماعي بشأن المحتوى المزيف العميق بعد أن قرر Facebook عدم إزالة مقطع فيديو مزيف وصف زورًا الرئيس الأمريكي جو بايدن بأنه شاذ جنسيا للأطفال.

الفيديو المزيف مقتبس من لقطات لبايدن وهو يضع ملصق "لقد قمت بالتصويت" فوق صدر حفيدته ناتالي بايدن خلال انتخابات التجديد النصفي الأمريكية لعام 2022.

تم التلاعب بمقطع الفيديو الذي تبلغ مدته سبع ثوان، والذي تمت مشاركته في مايو من هذا العام، ليبدو كما لو أن الرئيس لمس حفيدته بشكل غير لائق، مع تشغيل كلمات NSFW من أغنية "Simon Says" لمغني الراب Pharoahe Monch في الخلفية. زعم تعليق في الفيديو خطأً أن بايدن "شخص شاذ جنسيا للأطفال"، وادعى أن الأشخاص الذين صوتوا له في الانتخابات كانوا "مرضى عقليا".

وعلى الرغم من شكوى أحد المستخدمين، لم يقم مشرفو Meta بإزالة المقطع. استأنف مستخدم فيسبوك الذي قدم التقرير قرار الاحتفاظ بالفيديو، وفقًا لمجلس الرقابة.

قرر ميتا مرة أخرى عدم إزالة الفيديو المزيف، الذي تمت مشاهدته أقل من 30 مرة اعتبارًا من الشهر الماضي، لأنه لم يتم إنشاؤه باستخدام الذكاء الاصطناعي وتم تقديمه على أنه أصلي ولم يتضمن أي تلاعب في خطاب بايدن لجعله يبدو وكأنه قال شيئًا لم ينطق به أبدًا.

وفي نهاية المطاف، أثار صاحب الشكوى المشكلة مع مجلس الرقابة، وهو لجنة مستقلة من الخبراء عينتها شركة ميتا لمراجعة سياسات الإشراف على المحتوى.

"اختار مجلس الإدارة هذه الحالة لتقييم ما إذا كانت سياسات ميتا تغطي بشكل مناسب مقاطع الفيديو المعدلة التي يمكن أن تضلل الناس وتدفعهم إلى الاعتقاد بأن السياسيين قد اتخذوا إجراءات، خارج إطار الكلام، لم يفعلوها"، قالت المجموعة. كتب بالوضع الحالي.

"تندرج هذه القضية ضمن انتخابات مجلس الإدارة والفضاء المدني والتنفيذ الآلي للسياسات وتنظيم أولويات المحتوى."

في الفيسبوك الوسائط المتلاعب بها تنص السياسات على أنه لا ينبغي للمستخدمين نشر مقاطع فيديو اصطناعية تم إنشاؤها باستخدام "الذكاء الاصطناعي أو التعلم الآلي، بما في ذلك تقنيات التعلم العميق (مثل التزييف العميق التقني)، التي تدمج المحتوى و/أو تجمعه و/أو تستبدله و/أو تركبه على مقطع فيديو، مما يؤدي إلى إنشاء مقطع فيديو يظهر حقيقي"، ولا المحتوى الذي "من المحتمل أن يضلل الشخص العادي للاعتقاد بأن موضوع الفيديو قال كلمات لم يقلها".

لم ينتهك فيديو بايدن المزيف قيد النظر أيًا من القاعدتين، وبالتالي سُمح له بالبقاء على الإنترنت. لم تكن مصنوعة آليًا ولم تضع الكلمات في فم الرئيس.

مهما كان الأمر، فإن جهود ميتا المعلنة لمعالجة المعلومات السياسية المضللة والحد منها قد تضعف إذا سمح لهذا المحتوى بالانتشار. قد يكون هناك خلل في القواعد إذا سُمح للفيديو أعلاه بالبقاء، كل ذلك لأنه تم تحريره بطريقة خرقاء من قبل إنسان، في حين أن هناك حملة على التزييف العميق. لو أن الذكاء الاصطناعي هو من صنع الفيديو المعالج، فهل كان سيُسقط؟ ولكن إذا كان من صنع الإنسان، فلا داعي لذلك؟

على هذا النحو، يدعو مجلس الإدارة الجمهور للتعليق والأفكار حول المجالات التالية في ضوء هذه الحالة:

  • البحث في الاتجاهات عبر الإنترنت لاستخدام محتوى الفيديو المُعدل أو المُتلاعب به للتأثير على تصور الشخصيات السياسية، خاصة في الولايات المتحدة.
  • مدى ملاءمة سياسات المعلومات المضللة التي تتبعها منظمة ميتا، بما في ذلك وسائل الإعلام التي تم التلاعب بها، للاستجابة للتحديات الحالية والمستقبلية في هذا المجال، لا سيما في سياق الانتخابات.
  • مسؤوليات ميتا في مجال حقوق الإنسان عندما يتعلق الأمر بمحتوى الفيديو الذي تم تعديله لخلق انطباع مضلل عن شخصية عامة، وكيف ينبغي فهمها مع أخذ التطورات في الذكاء الاصطناعي التوليدي في الاعتبار.
  • التحديات وأفضل الممارسات في مصادقة محتوى الفيديو على نطاق واسع، بما في ذلك استخدام الأتمتة.
  • البحث في مدى فعالية الاستجابات البديلة للمعلومات المضللة السياسية أو المعلومات الخاطئة بما يتجاوز إزالة المحتوى، مثل برامج التحقق من الحقائق أو التصنيف (المعروف أيضًا باسم "المعالجات المستنيرة"). بالإضافة إلى ذلك، بحث حول تجنب التحيز في مثل هذه الاستجابات.

ومن المتوقع أن تقوم اللجنة، مسلحة بهذه المدخلات، بمراجعة السياسات وتقديم اقتراحات إلى Meta - على الرغم من أنه قد لا يأتي الكثير منها.

"كجزء من قراراته، يمكن لمجلس الإدارة إصدار توصيات سياسية إلى Meta. وفي حين أن التوصيات ليست ملزمة، إلا أنه يجب على Meta الرد عليها في غضون 60 يومًا. "على هذا النحو، يرحب مجلس الإدارة بالتعليقات العامة التي تقترح توصيات ذات صلة بهذه القضية."

في هذه الأثناء، يشعر الخبراء والمشرعون بقلق متزايد بشأن التزييف العميق الذي يتلاعب بالخطاب السياسي قبل الانتخابات الرئاسية الأمريكية المقبلة عام 2024.

في الأسبوع الماضي، أرسلت السيناتور الأمريكية إيمي كلوبوشار (ديمقراطية من ولاية مينيسوتا) وممثلة مجلس النواب إيفيت كلارك (ديمقراطية من نيويورك) رسائل إلى الرئيس التنفيذي لشركة ميتا مارك زوكربيرج والرئيسة التنفيذية لشركة إكس ليندا ياكارينو سعيًا لتوضيح سياسات المحتوى الخاصة بهما فيما يتعلق بالتزييف العميق السياسي.

"مع اقتراب انتخابات 2024 سريعًا، قد يؤدي الافتقار إلى الشفافية حول هذا النوع من المحتوى في الإعلانات السياسية إلى طوفان خطير من المعلومات الخاطئة والمعلومات المضللة المتعلقة بالانتخابات عبر منصاتك - حيث يلجأ الناخبون غالبًا للتعرف على المرشحين والقضايا". ذكرت الرسالة، ا ف ب وذكرت.

السجل طلبت من ميتا التعليق. ®

الطابع الزمني:

اكثر من السجل