آئیے ایک گیم کھیلیں: ڈیپ فیک نیوز اینکر یا ایک حقیقی شخص؟

ڈیپ فیک ویڈیوز آن لائن جن میں اے آئی سے تیار کردہ نیوز اینکرز ہیں جو چینی حکومت کے حامی پروپیگنڈے کی ترجمانی کرتے ہیں، ممکنہ طور پر اسپام فلاج کے نام سے مشہور ڈس انفارمیشن عملے کی تخلیق ہیں۔

یہ ویڈیوز "پہلی بار جب گرافیکا نے ریاست سے منسلک IO [اثرانداز آپریشن] اداکاروں کو اپنے آپریشنز میں AI سے تیار کردہ فرضی لوگوں کی ویڈیو فوٹیج استعمال کرتے ہوئے دیکھا ہے،" سوشل میڈیا اینالٹکس فرم کے محققین نے رپورٹ کیا، ایک رپورٹ میں اسپام فلاج ڈیپ فیکس کی تفصیل بتائی۔PDF] اس ہفتے.

ویڈیوز میں ایک مرد اور خاتون براڈکاسٹر کو دکھایا گیا ہے، جو دونوں وولف نیوز نامی میڈیا کمپنی کے لیے رپورٹنگ کر رہے ہیں۔ ایک میں، نیوز اینکر بندوق کے تشدد کو روکنے میں ناکامی پر امریکہ کی مذمت کرتا ہے۔ دوسرا عالمی اقتصادی بحالی کی کوششوں پر چین-امریکہ کے تعاون کی ضرورت پر زور دیتا ہے۔

"پہلی نظر میں، وولف نیوز کے اینکرز حقیقی لوگوں کے طور پر پیش کرتے ہیں،" گرافیکا نے کہا۔ "ہمارا ابتدائی مفروضہ یہ تھا کہ وہ معاوضہ ادا کرنے والے اداکار تھے جنہیں ویڈیوز میں ظاہر ہونے کے لیے بھرتی کیا گیا تھا۔"

گرافیکا اور دوسرے محققین گوگل سمیت جو شرپسندوں کو ڈریگن برج کے طور پر ٹریک کرتا ہے اور اپنی سابقہ ​​ڈس انفارمیشن مہموں میں کیمرے پر حقیقی لوگوں کے استعمال کو دستاویز کرتا ہے۔

عملے کے دیگر اثر و رسوخ کی کارروائیوں میں سے کچھ کی کوششیں شامل ہیں۔ مداخلت 2022 کے امریکی وسط مدتی انتخابات میں اور trolling ہزاروں جعلی سوشل میڈیا اکاؤنٹس کا استعمال کر کے نایاب زمین کی کان کنی کرنے والی کمپنیاں پینٹاگون کی طرف سے سخت انگلی اٹھانے کا اشارہ دیتی ہیں۔

گرافیکا کے محققین نے دعویٰ کیا کہ "لیکن مزید تحقیقات سے یہ بات سامنے آئی ہے کہ وولف نیوز کے پیش کنندگان کو تقریباً یقینی طور پر ایک برطانوی AI ویڈیو کمپنی سنتھیزیا کی فراہم کردہ ٹیکنالوجی کا استعمال کرتے ہوئے بنایا گیا تھا۔" 

ریورس امیج کی تلاش نے ایک ٹن غیر متعلقہ ویڈیوز کا پتہ لگایا جس میں وہی مرد اور عورت "نیوز اینکرز" دکھائے گئے ہیں جو اسپام فلاج وولف نیوز براڈکاسٹ میں نظر آتے ہیں۔ AI سے تیار کردہ لوگ ان ویڈیوز میں متعدد زبانوں میں بولتے ہیں، بشمول عربی، رومانیہ، ہسپانوی اور انگریزی، جیسے اس فریٹ بروکر کی خدمات کو فروغ دینا۔

اس میں، مرد اینکر کہتا ہے، "ہیلو، میرا نام مسٹر کروز ہے۔ اور میں اوتار ہوں۔"

کروز میں سے ایک ہے۔ سنتھیزیا کے "100+" اوتار، اور یہ پتہ چلتا ہے کہ اس کا نام جیسن ہے۔ وولف نیوز ویڈیوز کی خاتون اینکر اینا ہے۔

سنتھیزیا کا اخلاقیات کا صفحہ اس کا کہنا ہے کہ "عوامی استعمال کے لیے [اپنا] سافٹ ویئر پیش نہیں کرے گا۔ تمام مواد ہمارے قابل اعتماد کلائنٹس کو جاری کیے جانے سے پہلے ایک واضح اندرونی اسکریننگ کے عمل سے گزرے گا۔

اضافی طور پر ، اس کی اوتار اکثر پوچھے گئے سوالات کا صفحہ کہتا ہے کہ اس کی حدود ہیں کہ اوتار کیا کہہ سکتے ہیں اور کیا نہیں کہہ سکتے: "سیاسی، جنسی، ذاتی، مجرمانہ اور امتیازی مواد کو برداشت یا منظور نہیں کیا جاتا ہے۔"

اسپام فلاج کی جعلی خبریں دونوں پالیسیوں کی خلاف ورزی کریں گی۔ تبصرہ کے لیے سنتھیسیا تک نہیں پہنچ سکا۔ وکٹر رپربیلی، سنتھیزیا کے شریک بانی اور چیف ایگزیکٹو، بتایا نیویارک ٹائمز نے اس ہفتے کے شروع میں اسپام فلاج نے اپنی ویڈیوز بنانے کے لیے ٹیک کا استعمال کرکے سنتھیزیا کی سروس کی شرائط کو توڑ دیا۔

کہنے کا مطلب یہ ہے کہ اسپام فلاج نے کسی نہ کسی طرح سنتھیزیا کے اصولوں کے برعکس، اپنے مواد کو تیار کرنے کے لیے سنتھیزیا کی ٹیکنالوجی کو پکڑ لیا اور استعمال کیا۔ Synthesia کی طرف سے غلط کام کی کوئی تجویز نہیں ہے۔

جبکہ سرکاری ایجنسیوں اور سیکورٹی محققین یکساں طور پر بہت دور مستقبل میں سیاسی اثر و رسوخ کی کارروائیوں میں استعمال ہونے والے ڈیپ فیکس کے بارے میں خطرے کی گھنٹی بجا دی گئی ہے، گرافیکا کے مطابق، اب تک AI سے تیار کردہ میڈیا زیادہ تر جعلی چہروں تک محدود رہا ہے - مکمل طور پر جعلی لوگوں تک نہیں۔ 

تاہم، اوتاروں کے استعمال کے باوجود، باقی سپام فلاج ویڈیوز "کم معیار کے سیاسی سپیم" کی طرح نظر آتے ہیں، محققین نے گونجتے ہوئے لکھا گوگل کی تشخیص عملے کی یوٹیوب ویڈیوز، جن میں سے 83 فیصد کو 100 سے کم ملاحظات ملے۔

رپورٹ میں یہ نتیجہ اخذ کیا گیا کہ مزید برآں، خبروں کا گہرا فیک عنصر "تقریباً یقینی طور پر ایک تجارتی سروس کا استعمال کرتے ہوئے تخلیق کیا گیا تھا" جو کہ اندرون ملک صلاحیت کے برخلاف تھا۔ اس سے پتہ چلتا ہے کہ Spamouflage اور دوسروں کے پاس انتہائی نفیس ڈیپ فیکس کو اتارنے کے لیے تکنیکی مہارت نہیں ہے اور وہ دستیاب تجارتی ٹولز کا استعمال جاری رکھیں گے۔

تاہم، جیسا کہ گرافیکا نوٹ کرتا ہے، "اس سے یہ سوالات بھی اٹھتے ہیں کہ ان مصنوعات اور خدمات کے استعمال کو مؤثر طریقے سے کیسے معتدل کیا جائے۔" ®

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو بلاک چین۔ Web3 Metaverse Intelligence. علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://go.theregister.com/feed/www.theregister.com/2023/02/11/deepfake_news_anchors/