ریئل ٹائم ڈیپ فیکس کو ایک طرف نظر ڈال کر شکست دی جا سکتی ہے۔

ریئل ٹائم ڈیپ فیک ویڈیوز، جو انٹرنیٹ کی غیر یقینی صورتحال کے نئے دور کے لانے والے کے طور پر پیش کی گئی ہیں، ان میں ایک بنیادی خامی دکھائی دیتی ہے: وہ سائڈ پروفائلز کو سنبھال نہیں سکتے۔

یہ ایک میں اخذ کیا گیا نتیجہ ہے رپورٹ Metaphysic.ai سے [PDF]، جو 3D اوتار، ڈیپ فیک ٹیکنالوجی اور 3D تصاویر سے 2D تصاویر پیش کرنے میں مہارت رکھتا ہے۔ ٹیسٹوں میں اس نے مقبول ریئل ٹائم ڈیپ فیک ایپ کا استعمال کرتے ہوئے کیا۔ ڈیپ فیس لائیو۔, ایک مشکل رخ نے یہ آسانی سے ظاہر کر دیا کہ اسکرین پر موجود شخص وہ نہیں تھا جو وہ نظر آتا ہے۔ 

ٹیسٹ میں متعدد ماڈلز کا استعمال کیا گیا - ڈیپ فیک کمیونٹیز کے متعدد ماڈلز اور ڈیپ فیس لائیو میں شامل ماڈلز - لیکن چہرے کا 90-ڈگری منظر جھلملاہٹ اور مسخ کا باعث بنتا ہے کیونکہ فیشل الائنمنٹ نیٹ ورک پوز کا تخمینہ لگانے کے لیے استعمال کیا جاتا ہے یہ جاننے کے لیے کہ وہ کیا دیکھ رہا ہے۔ 

"زیادہ تر 2D پر مبنی چہرے کی سیدھ میں آنے والے الگورتھم سامنے والے چہرے کے نظارے سے پروفائل کے نظارے کے لیے نشانات کی تعداد کا صرف 50-60 فیصد تفویض کرتے ہیں،" Metaphysic.ai کے معاون مارٹن اینڈرسن نے کہا، جس نے مطالعہ لکھا۔ بلاگ پوسٹ.

کافی حوالہ جات دیکھنے کے قابل ہونے کے بغیر، سافٹ ویئر صرف یہ نہیں جانتا کہ اس کے جعلی چہرے کو کیسے پیش کیا جائے۔

ڈیپ فیکس کو پٹری سے اتارنا

صرف چند سالوں میں، ڈیپ فیکس نے چہروں کو تصاویر پر سپر امپوز کرنے کے قابل ہونے سے لے کر پہلے سے ریکارڈ شدہ ویڈیو میں بھی ایسا ہی کیا ہے۔ تازہ ترین پیشرفت حقیقی وقت میں چہرے کی تبدیلی کی اجازت دیتی ہے، جس کے نتیجے میں آن لائن فراڈ اور سائبر کرائم میں مزید ڈیپ فیکس استعمال ہو رہے ہیں۔

A مطالعہ VMware سے پتہ چلا کہ دو تہائی جواب دہندگان کو حملے کے ایک حصے کے طور پر بدنیتی پر مبنی ڈیپ فیکس کا سامنا کرنا پڑا، جو پچھلے سال سے 13 فیصد زیادہ ہے۔ نوٹ کریں کہ VMware کے مطالعہ نے یہ واضح نہیں کیا کہ آیا ڈیپ فیک حملوں کے جواب دہندگان کا سامنا پہلے سے ریکارڈ شدہ تھا یا حقیقی وقت میں، اور صرف 125 افراد کا نمونہ تھا۔

ایف بی آئی نے جون میں ڈیپ فیک ٹیکنالوجی کا استعمال کرتے ہوئے دھوکہ بازوں سے خبردار کیا تھا۔ دور دراز ملازمت کے انٹرویو کے دوران. ایف بی آئی نے کہا کہ اس تکنیک کا استعمال کرنے والوں کو حساس ملازمتوں کے لیے انٹرویو دیتے ہوئے دیکھا گیا ہے جس سے انہیں صارفین کے ڈیٹا اور کاروبار کی ملکیتی معلومات تک رسائی حاصل ہو گی۔ 

ڈیپ فیک ویڈیوز کو براہ راست چہرے کی شناخت کرنے والے سافٹ ویئر کو دھوکہ دینے کے لیے بھی استعمال کیا گیا ہے، کے مطابق آن لائن فراڈ سے لڑنے والے اسٹارٹ اپ Sensity AI کے لیے۔ سینسٹی کے ٹیسٹوں سے پتہ چلا کہ دس میں سے نو دکانداروں کی ایپس کو موبائل فون سے سٹریم کی گئی ڈیپ فیک تبدیل شدہ ویڈیو کا استعمال کرتے ہوئے کامیابی کے ساتھ ان لاک کر دیا گیا تھا۔

ٹیکنالوجی کے بارے میں خدشات یورپی یونین کے لیے کافی سنگین ہو چکے ہیں۔ قوانین پاس کریں ان کمپنیوں پر جرمانے عائد کرنا جو ڈیپ فیکس اور غلط معلومات کے دیگر ذرائع کا مقابلہ کرنے میں ناکام رہیں۔ چین نے بھی مسودہ تیار کیا۔ گہرے جعلی قوانین جو ٹیکنالوجی کے غلط استعمال پر قانونی سزا کا خطرہ ہے، نیز ڈیپ فیکس کے کسی بھی جائز استعمال کے لیے اجازت کی ضرورت ہے، جسے چین "گہری ترکیب" کہتا ہے۔ 

کب تک ایک حل؟

میٹا فزک کی رپورٹ کے مطابق یہاں تک کہ نیوڈیا جیسی ٹیکنالوجی بھی اعصابی چمک کا میدان (NeRF)، جو صرف چند اسٹیل امیجز سے 3D سین بنا سکتا ہے، ان حدود کا شکار ہے جس کی وجہ سے اچھے سائڈ پروفائل ویو کو تیار کرنا مشکل ہو جاتا ہے۔ 

NeRFs "نظریہ طور پر، صرف مٹھی بھر تصویروں سے چہرے کے کسی بھی زاویے کو نکال سکتے ہیں۔ اینڈرسن نے لکھا۔ ہم مزید جاننے کے لیے Nvidia تک پہنچے ہیں، لیکن ابھی تک کوئی جواب نہیں ملا۔ 

قارئین نوٹ کریں گے کہ Metaphysic کے مظاہروں میں صرف مشہور شخصیات کے چہرے شامل تھے، جن میں سے پروفائل کے بہت سارے مناظر فلم اور تصاویر میں حاصل کیے گئے ہیں۔ دوسری طرف، ہمارے درمیان غیر مشہور افراد کے ہاتھ میں بہت سے سائیڈ پروفائل شاٹس ہونے کا امکان نہیں ہے۔

اینڈرسن نے لکھا، "جب تک کہ آپ کو کسی وقت گرفتار نہیں کیا جاتا، اس بات کا امکان ہے کہ آپ کے پاس ایسی ایک تصویر بھی نہ ہو، یا تو سوشل میڈیا پر یا آف لائن کلیکشن میں،" اینڈرسن نے لکھا۔

گورو اوبرائے، ایک سافٹ ویئر انجینئر اور AI اسٹارٹ اپ Lexion کے بانی، نے 2018 میں ڈیپ فیکس پر تحقیق کرتے وقت بہت کچھ ایسا ہی پایا۔ اپنے بلاگ پر پوسٹ کریں۔، اوبرائے نے تفصیل سے بتایا کہ کس طرح کامیڈین جان اولیور کے ڈیپ فیکس نے رات گئے میزبان جمی فالن پر سپرمپوز کیا، لیکن پروفائل میں نہیں۔

اوبرائے نے کہا، "عمومی طور پر، آپ کے ٹارگٹ کی تربیتی امیجز کے لیے ان ویڈیوز کی سمت بندی، چہرے کے تاثرات، اور لائٹنگ کا تخمینہ ہونا ضروری ہے جس میں آپ انہیں لگانا چاہتے ہیں،" اوبرائے نے کہا۔ "لہٰذا اگر آپ اوسط فرد کے لیے چہرے کی تبدیلی کا ٹول بنا رہے ہیں، یہ دیکھتے ہوئے کہ ان میں سے زیادہ تر تصاویر سامنے کی ہوں گی، چہرے کی تبدیلی کو زیادہ تر سامنے آنے والی ویڈیوز تک محدود رکھیں۔"

درحقیقت، اس کا مطلب یہ ہے کہ ریئل ٹائم ڈیپ فیکس استعمال کرنے والے سکیمرز کے پاس سائڈ پروفائل ویو بنانے کے لیے ضروری ڈیٹا ہونے کا امکان نہیں ہے جو فوری طور پر جعلی کے طور پر قابل شناخت نہ ہو (بشرطیکہ وہ اچھی طرح سے فوٹو گرافی والا مشہور شخصیت کا چہرہ استعمال نہ کر رہے ہوں) . 

جب تک ہم یہ نہیں جانتے کہ ڈیپ فیکرز کو اس کمی کو پورا کرنے کا کوئی راستہ مل گیا ہے، یہ ایک اچھا خیال ہے کہ زوم کے دوسرے سرے پر موجود شخص سے کہے کہ وہ آپ کو ان کے چہرے کا سائیڈ ویو دکھائے - مشہور ہے یا نہیں۔ ®