AI guardrails سے بچنے کی کوششیں Swift deepfakes کا الزام لگاتی ہیں۔

پاپ اسٹار ٹیلر سوئفٹ کی وائرل ہونے والی فحش ڈیپ فیک تصاویر مبینہ طور پر 4chan پر ایک آن لائن مقابلے سے پیدا ہوئیں، جس میں مقابلہ کرنے والوں کو AI سافٹ ویئر کے مواد کے فلٹرز کو توڑنے کا چیلنج دیا گیا۔ 

نیویارک کی ایک سوشل میڈیا اینالیٹکس فرم گرافیکا کے لوگوں نے تصویروں کو براہ راست 4chan پر ٹریس کیا ہے۔ لوگوں سے کہا گیا کہ وہ مائیکروسافٹ کے ڈیزائنر یا OpenAI کے DALL-E جیسی ایپلی کیشنز پر حفاظتی گڑھوں کو نظرانداز کرنے کے لیے ترکیبیں نکالیں تاکہ خواتین مشہور شخصیات کی NSFW تصاویر بنائیں۔ گرافیکا کے مطابق، ٹیلر سوئفٹ کی تصاویر مائیکروسافٹ ڈیزائنر کا استعمال کرتے ہوئے بنائی گئی تھیں، اور بعد میں ٹیلی گرام پر ایک گروپ چیٹ میں شیئر کی گئیں، گرافیکا کے مطابق، X پر پوسٹ کرنے سے پہلے۔

مائیکروسافٹ کے ترجمان نے بتایا کہ "ہم ان تصاویر کی چھان بین جاری رکھے ہوئے ہیں اور اپنے موجودہ حفاظتی نظام کو مزید مضبوط کیا ہے تاکہ ہماری خدمات کو ان جیسی تصاویر بنانے میں مدد کے لیے غلط استعمال ہونے سے روکا جا سکے۔" رجسٹر ایک بیان میں. 

کی ڈیپ فیک تصاویر سوئفٹ سوشل میڈیا پلیٹ فارم کی جانب سے ان کو ہٹانے سے پہلے X پر لاکھوں آراء کا اضافہ کیا اور نغمہ نگار سے متعلق کچھ تلاش کی اصطلاحات کو عارضی طور پر بلاک کر دیا۔ تاہم، گرافیکا نے کہا کہ مقابلے نے دیگر معروف خواتین شخصیات کو نشانہ بنایا، اور خبردار کیا کہ کسی کو بھی نشانہ بنانے کے لیے ٹیکنالوجی کا غلط استعمال کیا جا سکتا ہے۔ 

"جب کہ ٹیلر سوئفٹ کی وائرل فحش تصاویر نے مرکزی دھارے کی توجہ AI سے تیار کردہ غیر متفقہ مباشرت تصاویر کے معاملے کی طرف مبذول کرائی ہے، لیکن وہ واحد شکار سے دور ہے،" کرسٹینا لوپیز جی، گرافیکا کی ایک سینئر تجزیہ کار، بتایا بلومبرگ۔ "4chan کمیونٹی میں جہاں سے یہ تصاویر شروع ہوئیں، وہ سب سے زیادہ نشانہ بننے والی عوامی شخصیت بھی نہیں ہیں۔ اس سے ظاہر ہوتا ہے کہ عالمی مشہور شخصیات سے لے کر اسکول کے بچوں تک کسی کو بھی اس طرح نشانہ بنایا جا سکتا ہے۔

سوئفٹ کو جنسی طور پر پرجوش انداز میں پیش کرنے والی جعلی تصاویر کی وائرل نوعیت، تاہم، ایسا لگتا ہے کہ قانون سازوں کو گیئر میں لات ماری ہے۔ وائٹ ہاؤس کی پریس سکریٹری کرائن جین پیئر نے کانگریس پر زور دیا کہ وہ "خطرناک" تصاویر کے جواب میں "قانون سازی کی کارروائی" کرے۔ 

پچھلے ہفتے، امریکی سینیٹرز نے ڈسپرپٹ ایکسپلیسیٹ فورجڈ امیجز اینڈ نان کنسنسیول ایڈیٹس (ڈیفائنس) ایکٹ آف 2024 متعارف کرایا، ایک دو طرفہ بل اس سے متاثرین کو ایسے لوگوں کے خلاف مقدمہ کرنے کی اجازت ملے گی جو AI سے تیار کردہ ڈیپ فیکس بناتے اور شیئر کرتے ہیں۔ قانون سازی، جس کی سربراہی سینیٹرز ڈک ڈربن (D-IL)، لنڈسے گراہم (R-SC)، ایمی کلوبوچر (D-MN)، اور جوش ہولی (R-MO) نے کی، ایک تحقیق کی طرف اشارہ کیا جس میں 96 فیصد ڈیپ فیک ویڈیوز کا دعویٰ کیا گیا تھا۔ فحش تھے اور اس کی تصویر کشی کی گئی خواتین کی اجازت یا رضامندی کے بغیر بنائی گئی تھی۔ 

DEFIANCE ایکٹ اس وقت شروع کیا گیا تھا جب کانگریس میں سوشل میڈیا پلیٹ فارمز کے اعلیٰ سی ای اوز سے پوچھ گچھ کی گئی تھی۔ سماعت آن لائن بچوں کے جنسی استحصال اور تحفظ کی کمی پر۔

رجسٹر نے گرافیکا سے مزید تبصرہ کے لیے کہا ہے۔ ®

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://go.theregister.com/feed/www.theregister.com/2024/02/05/deepfakes_taylor_swift_4chan_competition/