2024 کے عالمی انتخابی سال میں ڈیپ فیکس: بڑے پیمانے پر دھوکہ دہی کا ایک ہتھیار؟

ڈیجیٹل سیکیورٹی

جیسا کہ اصلی لوگوں کی من گھڑت تصاویر، ویڈیوز اور آڈیو کلپس مرکزی دھارے میں آتے ہیں، AI سے چلنے والی غلط معلومات کے فائر ہوز کا امکان بڑھتے ہوئے تشویش کا باعث ہے۔

فل منکاسٹر

13 فروری 2024  •  , 5 منٹ پڑھیں

اس کے بعد سے ہی جعلی خبروں نے انتخابی سرخیوں پر غلبہ حاصل کیا ہے۔ ایک بڑی کہانی بن گئی 2016 میں واپس وائٹ ہاؤس کی دوڑ کے دوران۔ لیکن آٹھ سال بعد، ایک قابل اعتراض طور پر بڑا خطرہ ہے: ایک مجموعہ بے چینی اور deepfakes جو ماہرین کو بھی بیوقوف بنا سکتا ہے۔ اس کے حالیہ امکانات زیادہ ہیں۔ مثال کے طور پر انتخابی تھیم پر مبنی AI سے تیار کردہ مواد - بشمول گردش کرنے والی متعدد تصاویر اور ویڈیوز ارجنٹائن کے موجودہ انتخابات کی دوڑ میں اور ایک امریکی صدر جو بائیڈن کی ڈاکٹریٹ شدہ آڈیو - بڑے پیمانے پر آنے والے امکانات کے محرک تھے۔

ارد گرد کے ساتھ a دنیا کی آبادی کا چوتھائی 2024 میں انتخابات کی طرف بڑھتے ہوئے، خدشات بڑھ رہے ہیں کہ غلط معلومات اور AI سے چلنے والی چالوں کو ناپاک اداکار نتائج پر اثر انداز ہونے کے لیے استعمال کر سکتے ہیں، بہت سے ماہرین ڈیپ فیکس کے مرکزی دھارے میں جانے کے نتائج سے خوفزدہ ہیں۔

ڈیپ فیک ڈس انفارمیشن کا خطرہ

جیسا کہ ذکر کیا گیا ہے، اس سال دو ارب سے کم لوگ اپنے پسندیدہ نمائندوں اور ریاستی رہنماؤں کو ووٹ دینے کے لیے اپنے مقامی پولنگ اسٹیشنوں کا رخ کرنے والے ہیں۔ چونکہ امریکہ، برطانیہ اور ہندوستان سمیت کئی ممالک میں بڑے انتخابات ہونے والے ہیں (نیز یورپی پارلیمنٹ کے لیے)، یہ اگلے چند سالوں کے لیے سیاسی منظر نامے اور جغرافیائی سیاست کی سمت کو تبدیل کرنے کی صلاحیت رکھتا ہے۔ دسترس سے باہر.

تاہم، ایک ہی وقت میں، غلط معلومات اور غلط معلومات حال ہی میں تھیں۔ رینکنگ ورلڈ اکنامک فورم (WEF) کی طرف سے اگلے دو سالوں کے لیے نمبر ایک عالمی خطرہ کے طور پر۔

ڈیپ فیکس کے ساتھ چیلنج یہ ہے کہ AI سے چلنے والی ٹیکنالوجی اب سستی، قابل رسائی اور اتنی طاقتور ہو رہی ہے کہ بڑے پیمانے پر نقصان پہنچا سکتی ہے۔ یہ سائبر جرائم پیشہ افراد، ریاستی اداکاروں اور ہیک ٹیوسٹوں کی قائل کرنے والی ڈس انفارمیشن مہمات اور بہت کچھ شروع کرنے کی صلاحیت کو جمہوری بناتا ہے۔ ایڈہاک، ایک بار کے گھوٹالے. یہ اس وجہ کا حصہ ہے کہ ڈبلیو ای ایف نے حال ہی میں غلط معلومات/غلط معلومات کو آنے والے دو سالوں کا سب سے بڑا عالمی خطرہ قرار دیا ہے، اور انتہائی موسم کے بعد نمبر دو موجودہ خطرہ ہے۔ یہ تعلیمی، کاروبار، حکومت، بین الاقوامی برادری اور سول سوسائٹی کے 1,490 ماہرین کے مطابق ہے جن سے WEF نے مشورہ کیا۔

رپورٹ خبردار کرتی ہے:"مصنوعی مواد اگلے دو سالوں میں متعدد طریقوں سے افراد میں ہیرا پھیری کرے گا، معیشتوں کو نقصان پہنچائے گا اور معاشروں کو درہم برہم کرے گا … اس بات کا خطرہ ہے کہ کچھ حکومتیں بہت سست روی سے کام کریں گی، غلط معلومات کو روکنے اور آزادی اظہار کے تحفظ کے درمیان تجارت کا سامنا کرنا پڑے گا۔"

(گہری) اسے جعل سازی کرنا

چیلنج یہ ہے کہ ٹولز جیسے ChatGPT اور آزادانہ طور پر قابل رسائی جنریٹو AI (GenAI) نے لوگوں کی ایک وسیع رینج کے لیے یہ ممکن بنا دیا ہے کہ وہ ڈیپ فیک ٹیکنالوجی کے ذریعے چلنے والی ڈس انفارمیشن مہمات کی تخلیق میں مشغول ہوں۔ ان کے لیے کی گئی تمام محنت کے ساتھ، بدنیتی پر مبنی اداکاروں کے پاس اپنے پیغامات پر کام کرنے اور ان کے جعلی مواد کو دیکھنے اور سننے کو یقینی بنانے کی کوششوں کو بڑھانے کے لیے زیادہ وقت ہوتا ہے۔

انتخابی سیاق و سباق میں، واضح طور پر کسی خاص امیدوار پر ووٹرز کے اعتماد کو ختم کرنے کے لیے ڈیپ فیکس کا استعمال کیا جا سکتا ہے۔ بہر حال، کسی کو کچھ نہ کرنے کے لیے راضی کرنا دوسرے راستے سے زیادہ آسان ہے۔ اگر کسی سیاسی جماعت یا امیدوار کے حامیوں کو جعلی آڈیو یا ویڈیو کے ذریعے مناسب طریقے سے متاثر کیا جا سکتا ہے جو حریف گروپوں کے لیے یقینی جیت ہو گی۔ کچھ حالات میں، بدمعاش ریاستیں پورے جمہوری عمل پر اعتماد کو کمزور کرنے کی کوشش کر سکتی ہیں، تاکہ جو بھی جیت جائے اسے قانونی طور پر حکومت کرنے میں مشکل پیش آئے۔

چیلنج کے مرکز میں ایک سادہ سچائی ہے: جب انسان معلومات پر کارروائی کرتے ہیں، تو وہ مقدار اور سمجھنے میں آسانی کو اہمیت دیتے ہیں۔ اس کا مطلب ہے کہ ہم ملتے جلتے پیغام کے ساتھ جتنا زیادہ مواد دیکھتے ہیں، اور اسے سمجھنا جتنا آسان ہوتا ہے، ہمارے اس پر یقین کرنے کا امکان اتنا ہی زیادہ ہوتا ہے۔ یہی وجہ ہے کہ مارکیٹنگ کی مہمات مختصر اور مسلسل بار بار پیغام رسانی پر مشتمل ہوتی ہیں۔ اس میں یہ حقیقت شامل کریں کہ ڈیپ فیکس کو حقیقی مواد سے بتانا مشکل ہوتا جا رہا ہے، اور آپ کے پاس جمہوری تباہی کا ایک ممکنہ نسخہ ہے۔

نظریہ سے لے کر عمل تک۔

تشویشناک بات یہ ہے کہ ڈیپ فیکس کا ووٹروں کے جذبات پر اثر پڑنے کا امکان ہے۔ اس تازہ مثال کو لیں: جنوری 2024 میں، امریکی صدر جو بائیڈن کی ایک ڈیپ فیک آڈیو گردش کیا گیا تھا نیو ہیمپشائر میں پرائمری ووٹرز کی نامعلوم تعداد کو روبو کال کے ذریعے۔ پیغام میں اس نے بظاہر ان سے کہا کہ باہر نہ نکلیں، اور اس کے بجائے "نومبر کے انتخابات کے لیے اپنا ووٹ محفوظ کریں۔" ظاہر کیا گیا کالر آئی ڈی نمبر بھی ایسا ظاہر کرنے کے لئے جعلی تھا جیسے یہ خودکار پیغام کیتھی سلیوان کے ذاتی نمبر سے بھیجا گیا تھا، جو ریاست کی ڈیموکریٹک پارٹی کی سابق سربراہ اب بائیڈن کے حامی سپر پی اے سی چلا رہی ہے۔

یہ دیکھنا مشکل نہیں ہے کہ نومبر میں ہونے والے صدارتی انتخابات سے قبل ووٹرز کو اپنے پسندیدہ امیدوار کے لیے آنے سے روکنے کے لیے اس طرح کی کالز کا استعمال کیسے کیا جا سکتا ہے۔ خطرہ خاص طور پر سختی سے لڑے جانے والے انتخابات میں شدید ہوگا، جہاں ووٹروں کی ایک طرف سے دوسری طرف منتقلی نتائج کا تعین کرتی ہے۔ مٹھی بھر جھولنے والی ریاستوں میں صرف دسیوں ہزار ووٹرز کے انتخاب کے نتائج کا فیصلہ کرنے کا امکان ہے، اس طرح کی ٹارگٹڈ مہم ناقابل بیان نقصان پہنچا سکتی ہے۔ اور چوٹ میں توہین کا اضافہ، جیسا کہ اوپر کے معاملے میں یہ سوشل میڈیا کے بجائے روبو کالز کے ذریعے پھیلتا ہے، اس کے اثرات کو ٹریک کرنا یا اس کی پیمائش کرنا اور بھی مشکل ہے۔

ٹیک فرمیں اس کے بارے میں کیا کر رہی ہیں؟

یوٹیوب اور فیس بک دونوں ہیں۔ کہا کہ سست تھا کچھ ڈیپ فیکس کے جواب میں جن کا مقصد حالیہ انتخابات کو متاثر کرنا تھا۔ یہ EU کے ایک نئے قانون (ڈیجیٹل سروسز ایکٹ) کے باوجود ہے جس کے تحت سوشل میڈیا فرموں کو انتخابی ہیرا پھیری کی کوششوں کو روکنے کی ضرورت ہے۔

اپنی طرف سے، OpenAI نے کہا ہے کہ وہ کولیشن فار کنٹینٹ پرووینس اینڈ آتھنٹیسیٹی (C2PA) کے ڈیجیٹل اسناد کو لاگو کرے گا DALL-E3. کرپٹوگرافک واٹر مارکنگ ٹیکنالوجی – جسے میٹا اور گوگل کے ذریعے بھی آزمایا جا رہا ہے – کو جعلی تصاویر بنانا مشکل بنانے کے لیے ڈیزائن کیا گیا ہے۔

تاہم، یہ اب بھی صرف بچے کے اقدامات ہیں اور موجود ہیں۔ جائز خدشات کہ خطرے کا تکنیکی ردعمل بہت کم ہو گا، بہت دیر ہو جائے گا کیونکہ انتخابی بخار پوری دنیا کو اپنی لپیٹ میں لے رہا ہے۔ خاص طور پر جب نسبتاً بند نیٹ ورکس جیسے واٹس ایپ گروپس یا روبو کالز میں پھیل جائے تو، کسی بھی جعلی آڈیو یا ویڈیو کو تیزی سے ٹریک کرنا اور اسے ڈیبنک کرنا مشکل ہوگا۔

"اینکرنگ تعصب" کا نظریہ پتہ چلتا ہے یہ کہ انسانوں کی سننے والی معلومات کا پہلا ٹکڑا وہی ہے جو ہمارے ذہنوں میں چپک جاتا ہے، چاہے وہ غلط ہی نکلے۔ اگر ڈیپ فیکرز پہلے ووٹروں کو جھولتے ہیں، تو تمام شرطیں ختم ہوجاتی ہیں کہ حتمی فاتح کون ہوگا۔ سوشل میڈیا اور AI سے چلنے والی غلط معلومات کے دور میں، جوناتھن سوئفٹ کی کہاوت "جھوٹ اڑتا ہے، اور سچ اس کے بعد لنگڑاتا ہے" بالکل نئے معنی اختیار کر لیتا ہے۔