ڈیپ فیک ڈیموکریسی: اے آئی ٹیکنالوجی الیکشن سیکیورٹی کو پیچیدہ بناتی ہے۔

حالیہ واقعات، بشمول مصنوعی ذہانت (AI) سے تیار کردہ ڈیپ فیک روبوکال صدر بائیڈن کی نقالی کرتا ہے۔ نیو ہیمپشائر کے ووٹروں کو پرائمری سے پرہیز کرنے کی تاکید کرتے ہوئے، ایک واضح یاد دہانی کے طور پر کام کرتے ہیں کہ بدنیتی پر مبنی اداکار تیزی سے جدید جنریٹو AI (GenAI) پلیٹ فارم کو امریکی انتخابات کو نشانہ بنانے کے لیے ایک طاقتور ہتھیار کے طور پر دیکھتے ہیں۔

چیٹ جی پی ٹی، گوگل کے جیمنی (سابقہ ​​بارڈ) جیسے پلیٹ فارمز یا کسی بھی مقصد سے بنائے گئے ڈارک ویب کے بڑے لینگوئج ماڈلز (LLMs) جمہوری عمل میں خلل ڈالنے میں کردار ادا کر سکتے ہیں، جس میں بڑے پیمانے پر اثر و رسوخ کی مہمات، خودکار ٹرولنگ، اور اس کے پھیلاؤ کو شامل کیا گیا ہے۔ ڈیپ فیک مواد۔

درحقیقت، ایف بی آئی کے ڈائریکٹر کرسٹوفر رے حال ہی میں خدشات کا اظہار کیا ڈیپ فیکس کا استعمال کرتے ہوئے جاری معلوماتی جنگ کے بارے میں جو آئندہ صدارتی مہم کے دوران غلط معلومات کا بیج بو سکتے ہیں۔ ریاستی حمایت یافتہ اداکار جغرافیائی سیاسی توازن کو تبدیل کرنے کی کوشش۔

GenAI "کے عروج کو بھی خودکار کر سکتا ہے۔مربوط غیر مستند رویےوہ نیٹ ورکس جو جعلی خبروں کے ذریعے، سوشل میڈیا پروفائلز کو قائل کرنے، اور دیگر طریقوں کے ذریعے اپنی غلط معلومات کی مہم کے لیے سامعین کو تیار کرنے کی کوشش کرتے ہیں - جس کا مقصد اختلاف کی بونا اور انتخابی عمل میں عوامی اعتماد کو نقصان پہنچانا ہے۔

انتخابی اثر: کافی خطرات اور ڈراؤنے خواب کے منظرنامے۔

سائبر سینٹ کے چیف انوویشن آفیسر پیڈریک او ریلی کے نقطہ نظر سے، خطرہ "کافی" ہے کیونکہ ٹیکنالوجی اتنی تیزی سے تیار ہو رہی ہے۔

وہ کہتے ہیں، "یہ دلچسپ اور شاید قدرے تشویشناک ہونے کا وعدہ کرتا ہے، جیسا کہ ہم ڈیپ فیک ٹیکنالوجی کا فائدہ اٹھاتے ہوئے ڈس انفارمیشن کی نئی شکلیں دیکھتے ہیں۔"

خاص طور پر، O'Reilly کا کہنا ہے کہ، "خوفناک منظر" یہ ہے کہ AI سے تیار کردہ مواد کے ساتھ مائیکرو ٹارگٹنگ سوشل میڈیا پلیٹ فارمز پر پھیلے گی۔ یہ کی طرف سے ایک واقف حربہ ہے کیمبرج تجزیاتی اسکینڈل، جہاں کمپنی نے 230 ملین امریکی ووٹرز کے نفسیاتی پروفائل ڈیٹا کو جمع کیا، تاکہ Facebook کے ذریعے لوگوں کو ان کے عقائد اور ووٹوں پر اثر انداز ہونے کی کوشش میں انتہائی موزوں پیغام رسانی فراہم کی جا سکے۔ لیکن GenAI اس عمل کو بڑے پیمانے پر خودکار کر سکتا ہے، اور انتہائی قائل کرنے والا مواد بنا سکتا ہے جس میں کچھ، اگر کوئی ہو، "بوٹ" خصوصیات ہوں گی جو لوگوں کو بند کر سکتی ہیں۔

"چوری شدہ ٹارگٹنگ ڈیٹا [صارف کون ہے اور ان کی دلچسپیوں کی شخصیت کے اسنیپ شاٹس] کو AI سے تیار کردہ مواد کے ساتھ ضم کرنا ایک حقیقی خطرہ ہے،" وہ بتاتے ہیں۔ "2013-2017 کی روسی ڈس انفارمیشن مہمات اس بات کی طرف اشارہ کرتی ہیں کہ اور کیا ہو سکتا ہے اور کیا ہو گا، اور ہم بائیڈن کی خاصیت والے امریکی شہریوں [جیسے ایک] کی طرف سے تیار کردہ گہری جعلی تصاویر کے بارے میں جانتے ہیں، اور الزبتھ وارین".

سوشل میڈیا کا مرکب اور ڈیپ فیک ٹیک آسانی سے دستیاب ہے۔ انہوں نے مزید کہا کہ پہلے سے ہی گہری منقسم ملک میں امریکی شہریوں کے پولرائزیشن کے لیے قیامت کا ہتھیار ہو سکتا ہے۔

"جمہوریت کی پیشین گوئی کچھ مشترکہ روایات اور معلومات پر کی جاتی ہے، اور یہاں خطرہ شہریوں کے درمیان بالکنائزیشن میں اضافہ ہوتا ہے، جس کی وجہ سے اسٹینفورڈ کے محقق رینی ڈیریسٹا نے 'بیسپوک حقائق' کہا،" O'Reilly کہتے ہیں، عرف لوگ "متبادل حقائق" پر یقین رکھتے ہیں۔

وہ پلیٹ فارم جو دھمکی دینے والے اداکار تقسیم کو بونے کے لیے استعمال کرتے ہیں وہ ممکنہ طور پر بہت کم مددگار ثابت ہوں گے: انہوں نے مزید کہا کہ، مثال کے طور پر، سوشل میڈیا پلیٹ فارم X، جو پہلے ٹویٹر کے نام سے جانا جاتا تھا، نے مواد پر اپنی کوالٹی اشورینس (QA) کو ختم کر دیا ہے۔

"دوسرے پلیٹ فارمز نے بوائلر پلیٹ کی یقین دہانی کرائی ہے کہ وہ غلط معلومات کو دور کریں گے، لیکن آزادانہ تقریر کے تحفظات اور ضابطے کی کمی اب بھی خراب اداکاروں کے لیے میدان کو کھلا چھوڑ دیتی ہے،" انہوں نے خبردار کیا۔

AI موجودہ فشنگ TTPs کو بڑھاتا ہے۔

ٹائیڈل سائبر میں سائبر تھریٹ انٹیلی جنس کے ڈائریکٹر سکاٹ سمال کے مطابق، GenAI پہلے سے ہی بڑے پیمانے پر زیادہ قابل اعتماد، ٹارگٹ فشنگ مہمات کو تیار کرنے کے لیے استعمال کیا جا رہا ہے - لیکن انتخابی سیکیورٹی کے تناظر میں یہ رجحان زیادہ اہم ہے۔

"ہم سائبر مخالفوں کو فشنگ اور سوشل انجینئرنگ کے حملے کرنے کے لیے جنریٹو AI کو اپناتے ہوئے دیکھنے کی توقع رکھتے ہیں - کئی سالوں سے مسلسل حجم کے لحاظ سے انتخابات سے متعلق حملوں کی اہم شکلیں - زیادہ قائل، اس بات کا زیادہ امکان ہے کہ اہداف بدنیتی پر مبنی مواد کے ساتھ تعامل کریں گے، "وہ وضاحت کرتا ہے۔

سمال کا کہنا ہے کہ اے آئی کو اپنانا اس طرح کے حملوں کے آغاز کے لیے داخلے کی راہ میں رکاوٹ کو بھی کم کرتا ہے، ایک ایسا عنصر جس سے اس سال مہمات کے حجم میں اضافہ ہونے کا امکان ہے جو مہمات میں دراندازی کرنے کی کوشش کرتی ہیں یا دیگر امکانات کے علاوہ نقالی مقاصد کے لیے امیدواروں کے اکاؤنٹس پر قبضہ کرتی ہیں۔

"مجرمانہ اور قومی ریاست کے مخالفین باقاعدگی سے فشنگ اور سوشل انجینئرنگ کے لالچ کو موجودہ واقعات اور مقبول موضوعات کے مطابق ڈھالتے ہیں، اور یہ اداکار تقریباً یقینی طور پر اس سال عام طور پر تقسیم کیے جانے والے انتخابات سے متعلق ڈیجیٹل مواد میں تیزی سے فائدہ اٹھانے کی کوشش کریں گے، تاکہ بدنیتی پر مبنی مواد فراہم کرنے کی کوشش کی جا سکے۔ غیر مشکوک صارفین کے لیے مواد،" وہ کہتے ہیں۔

AI انتخابی دھمکیوں کے خلاف دفاع

ان خطرات سے دفاع کرنے کے لیے، انتخابی عہدیداروں اور مہمات کو GenAI سے چلنے والے خطرات اور ان سے دفاع کرنے کے طریقے سے آگاہ ہونا چاہیے۔

Optiv میں سائبر رسک کے نائب صدر جیمز ٹرگل کہتے ہیں، "انتخابی اہلکار اور امیدوار مسلسل انٹرویوز اور پریس کانفرنسز دے رہے ہیں کہ دھمکی آمیز اداکار AI پر مبنی ڈیپ فیکس کے لیے آواز اٹھا سکتے ہیں۔" "لہذا، یہ ان پر فرض ہے کہ وہ اس بات کو یقینی بنائیں کہ ان کے پاس کوئی شخص یا ٹیم موجود ہے جو مواد پر کنٹرول کو یقینی بنانے کے لیے ذمہ دار ہے۔"

انہیں یہ بھی یقینی بنانا چاہیے کہ رضاکاروں اور کارکنوں کو AI سے چلنے والے خطرات جیسے بہتر سوشل انجینئرنگ، ان کے پیچھے خطرے والے عناصر اور مشکوک سرگرمی کا جواب دینے کے بارے میں تربیت دی جائے۔

اس مقصد کے لیے، عملے کو سوشل انجینئرنگ اور ڈیپ فیک ویڈیو ٹریننگ میں حصہ لینا چاہیے جس میں الیکٹرانک (ای میل، ٹیکسٹ اور سوشل میڈیا پلیٹ فارمز)، ذاتی طور پر اور ٹیلی فون پر مبنی کوششوں سمیت تمام شکلوں اور حملہ آوروں کے بارے میں معلومات شامل ہیں۔

"یہ بہت اہم ہے - خاص طور پر رضاکاروں کے ساتھ - کیونکہ ہر کسی کے پاس سائبر حفظان صحت اچھی نہیں ہوتی،" ٹورگل کہتے ہیں۔

مزید برآں، مہم اور انتخابی رضاکاروں کو تربیت دی جانی چاہیے کہ کس طرح محفوظ طریقے سے معلومات آن لائن اور بیرونی اداروں کو فراہم کی جائیں، بشمول سوشل میڈیا پوسٹس، اور ایسا کرتے وقت احتیاط برتیں۔

"سائبر خطرے کے اداکار یہ معلومات اکٹھا کر سکتے ہیں تاکہ مخصوص اہداف کے لیے سماجی طور پر انجنیئر کردہ لالچ کو تیار کیا جا سکے،" وہ خبردار کرتا ہے۔

O'Reilly کہتے ہیں طویل مدتی، ضابطہ جس میں شامل ہیں۔ آڈیو اور ویڈیو ڈیپ فیکس کے لیے واٹر مارکنگ اہم کردار ادا کرے گا، یہ نوٹ کرتے ہوئے کہ وفاقی حکومت LLMs کے مالکان کے ساتھ تحفظات کو لاگو کرنے کے لیے کام کر رہی ہے۔

اصل میں، فیڈرل کمیونیکیشن کمیشن (ایف سی سی) نے ابھی اعلان کیا۔ ٹیلی فون کنزیومر پروٹیکشن ایکٹ (TCPA) کے تحت AI سے تیار کردہ وائس کالز کو "مصنوعی" قرار دیا جاتا ہے، جو وائس کلوننگ ٹیکنالوجی کے استعمال کو غیر قانونی بناتا ہے اور اس طرح کی دھوکہ دہی کی سرگرمیوں سے نمٹنے کے لیے ملک بھر میں ریاستی اٹارنی جنرل کو نئے ٹولز فراہم کرتا ہے۔

O'Reilly کا کہنا ہے کہ "AI اتنی تیزی سے آگے بڑھ رہا ہے کہ ایک موروثی خطرہ ہے کہ ٹیک کی ترقی کے ساتھ ہی کوئی بھی مجوزہ اصول غیر موثر ہو سکتا ہے، ممکنہ طور پر ہدف سے محروم ہو جاتا ہے۔" "کچھ طریقوں سے، یہ وائلڈ ویسٹ ہے، اور AI تحفظات کی راہ میں بہت کم کے ساتھ مارکیٹ میں آرہا ہے۔"

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://www.darkreading.com/application-security/deepfake-democracy-ai-technology-election-security