چین جنوری میں PlatoBlockchain ڈیٹا انٹیلی جنس ڈیپ فیکس سے نمٹنے کے لیے قوانین متعارف کرائے گا۔ عمودی تلاش۔ عی

چین جنوری میں ڈیپ فیکس سے نمٹنے کے لیے قوانین متعارف کرائے گا۔

ٹائم سٹیمپ: 24 دسمبر 2022 5:45 AM

اگر آپ اس ہفتے سوشل میڈیا پر رہے ہیں، تو شاید آپ کو اپنے دوستوں کی AI سے تیار کردہ تصاویر پریوں، اینیمی کرداروں، اوتاروں اور جادوئی مخلوق کے طور پر نظر آئیں۔

یہ جزوی طور پر لینسا کی وجہ سے ہے، ایک AI جو صارفین کی اپ لوڈ کردہ تصاویر کی بنیاد پر ڈیجیٹل پورٹریٹ کی ترکیب کرتا ہے۔ ایپ کے پورٹریٹ نے عملی طور پر انٹرنیٹ پر قبضہ کر لیا، لینسا ایپل کے ایپ اسٹور میں سب سے زیادہ ڈاؤن لوڈ کی جانے والی ایپ بن گئی۔

لینسا، تمام AI ایپلی کیشنز کی طرح جو ڈیجیٹل طور پر تصاویر پیش کرتی ہیں، خواتین کی تصاویر کی بظاہر صریح جنسیت کے لیے تعریف اور تنازعہ دونوں کا سامنا کرتی ہے۔ دوسرے صارفین نے نوٹ کیا کہ ایپ نے ان کی جلد کو ہلکا یا ان کے جسم کو پتلا کردیا ہے۔

مزید پڑھئے: AI ٹیک جو زندگی کو تباہ کرنے والی گہری جعلی تصاویر بناتی ہے۔

اپنا 'جادوئی اوتار' کیسے حاصل کریں

چکر لگانے والی تصاویر لینسا کے جادوئی اوتار فنکشن کی قابل فخر تخلیق ہیں۔ اس کا احساس حاصل کرنے کے لیے، کسی کو فون پر لینسا ایپ ڈاؤن لوڈ کرنا ہوگی۔ سالانہ سبسکرپشن $35.99 کے لگ بھگ ہے لیکن اگر کوئی اسے پہلے چیک کرنا چاہتا ہے تو اس کی خدمات ایک ہفتہ طویل آزمائش پر مفت میں حدود کے ساتھ بھی دستیاب ہیں۔

تاہم، مقبول جادوئی اوتار پیدا کرنے کے لیے اضافی فیس کی ضرورت ہوتی ہے کیونکہ ایپ کے مطابق حاصل کرنے کے لیے "زبردست کمپیوٹیشنل طاقت" ہے۔

مفت ٹرائل پر، کوئی $50 میں 3.99 اوتار، اور $200 میں 7.99 اوتار حاصل کر سکتا ہے۔ بہترین نتائج حاصل کرنے کے لیے، ایپ صارفین کو کم از کم 20 قریبی تصاویر اپ لوڈ کرنے کی ترغیب دیتی ہے۔

مثالی طور پر، یہ تصاویر مختلف پس منظر، چہرے کے تاثرات، اور زاویوں کے ساتھ کسی کے چہرے کے کلوز اپس ہونے چاہئیں۔ ایپلیکیشن کا اصرار ہے کہ صارفین کی عمر 13 اور اس سے زیادہ ہونی چاہیے۔ لینسا بالکل نئی ایپلی کیشن نہیں ہے۔

Prisma کی ایک پروڈکٹ، ایپلی کیشن پہلی بار 2016 میں ایک فنکشن کی بدولت مقبول ہوئی جس نے صارفین کو مشہور فنکاروں کے انداز میں اپنی سیلفیز کو تصاویر میں تبدیل کرنے کی اجازت دی۔

لینسا کیسے کام کرتی ہے؟

کمپنی کے مطابق، وہ اسے استعمال کرتی ہے جسے وہ "TrueDepth API ٹیکنالوجی" کہتے ہیں جہاں صارف تصاویر، یا "چہرے کا ڈیٹا" فراہم کرتا ہے، پھر AI کو اس کے الگورتھم پر تربیت دی جاتی ہے تاکہ وہ بہتر کارکردگی کا مظاہرہ کرے اور آپ کو بہتر نتائج دکھائے۔ تربیت اس وقت ہوتی ہے جب AI ڈیٹا پر کارروائی کرتا ہے، ماڈلز کی توثیق اور جانچ کرتا ہے۔

ایپ کو استعمال کرنے کے لیے کوئی بھی مختلف قسم کے تاثرات اور زاویوں کے ساتھ 20 سیلفیز بنا سکتا ہے اور 100 اوتار کا آپشن منتخب کر سکتا ہے۔

کام کرنے میں تقریباً 20 منٹ لگتے ہیں۔ ایک بار مکمل ہوجانے کے بعد، AI اوتار واپس کرتا ہے جو کہ 10 زمروں میں آتے ہیں جیسے کہ فنتاسی، پری پرنسس، فوکس، پاپ، اسٹائلش، اینیمی، لائٹ، کوائی، iridescent، اور کائناتی۔

"عام طور پر، میں نے محسوس کیا کہ ایپ نے میری سیلفیز کی بنیاد پر فنکارانہ امیجز بنانے میں ایک اچھا کام کیا ہے۔ میں زیادہ تر پورٹریٹ میں اپنے آپ کو بالکل نہیں پہچان سکتا تھا، لیکن میں دیکھ سکتا تھا کہ وہ کہاں سے آرہے ہیں۔ زوئی سوٹائل CNN نے لکھا۔

"یہ کچھ خصوصیات کو پہچاننے اور دہرانے لگتا ہے، جیسے میری پیلی جلد یا میری گول ناک، دوسروں سے زیادہ۔ ان میں سے کچھ زیادہ حقیقت پسندانہ انداز میں تھے، اور کافی قریب تھے اگر میں انہیں دور سے دیکھتا ہوں تو میں سوچ سکتا ہوں کہ وہ دراصل میری ہی تصاویر ہیں۔ دوسرے نمایاں طور پر زیادہ اسٹائلائزڈ اور فنکارانہ تھے، اس لیے انہوں نے میرے لیے کم مخصوص محسوس کیا۔

سوٹائل نے دیکھا کہ AI نے بھی اسے ہلکا کر دیا ہے۔

جہاں تک میرا تعلق ہے، میں نے یہ بھی محسوس کیا کہ اس نے خود بخود مجھے ہلکا کر دیا ہے اور جس تصویر کو میں نے اپنی گیلری میں آزمایا ہے اور ایک دوست جو کہ ہلکی گہرا جلد والا ہے، اس نے ہمارا کچھ ہلکا ورژن واپس کر دیا، واضح طور پر ایک مبالغہ آرائی ہے، اور ہلکا کرنے کی طرف جھکاؤ کو بے نقاب کیا۔ جلد کے سیاہ رنگ

خواتین کو سیکس کرنا

دوسرے جنہوں نے اسے استعمال کیا ان کو کم و بیش اسی طرح کے خدشات تھے۔

خواتین کا کہنا ہے کہ AI ان کی تصاویر کو جنسی بنانے میں جلدی کرتا ہے۔ لیکن ایک پہلے مضمون میں، ہم وضاحت کی یہ AI ٹریننگ میں استعمال ہونے والے ڈیٹا سیٹس میں پائی جانے والی جنسی تصاویر کی بڑی تعداد سے ممکن ہوا ہے۔

دوسرے لفظوں میں، اس کا مطلب یہ ہے کہ AI ان تصاویر کو بنانے اور آسانی سے فحش ہونے کے طریقے سے بہت واقف ہے۔ تھوڑی سی چالوں کے ساتھ، اگر کوئی صارف چاہے تو ان تصاویر سے نادانستہ طور پر فحش تیار کرنے کا اشارہ کیا جا سکتا ہے۔

دوسری کہانیوں میں، ہم نے احاطہ کیا ہے کہ کس طرح AI:s کو بنانے کے بارے میں معلومات فراہم کرنے میں بے وقوف بنایا جا سکتا ہے۔ بم مثال کے طور پر. عجیب بات یہ ہے کہ میجک اوتار فیچر پر اپ لوڈ کی گئی مردوں کی تصاویر میں جنسی تعلق کا مسئلہ ظاہر نہیں ہوا۔ ایم آئی ٹی ٹیکنالوجی ریویو کے لیے، میلیسا ہیکیلا لکھا ہے,

"میرے اوتار کارٹونی طور پر فحش تھے، جبکہ میرے مرد ساتھیوں کو خلاباز، متلاشی اور موجد بننا پڑا۔"

دوسری طرف، سوٹائل نے دیکھا کہ AI نے "انتہائی پریشان کن تصویروں میں سے ایک" میں اسے "جیسے میرے چہرے کا ایک ورژن ننگے جسم پر بنایا ہوا تھا" بنا دیا تھا۔

"کئی تصاویر میں، ایسا لگتا تھا کہ میں برہنہ ہوں لیکن ایک کمبل کے ساتھ حکمت عملی کے ساتھ رکھا گیا تھا، یا تصویر کو صرف کسی بھی واضح چیز کو چھپانے کے لیے کاٹ دیا گیا تھا،" اس نے کہا۔

Zoe Sottile کا مزید کہنا ہے کہ "اور بہت سی تصاویر، یہاں تک کہ جہاں میں مکمل طور پر کپڑے پہنے ہوئے تھے، میں چہرے کے تاثرات، نمایاں کلیویج، اور تنگ لباس نمایاں تھے جو میری جمع کرائی گئی تصاویر سے میل نہیں کھاتے تھے۔"

دوسروں نے خدشہ ظاہر کیا کہ انہیں لینسا جیسی اے آئی ٹیکنالوجی کے ذریعے پورن اسٹار بنا دیا جائے گا۔

جسم شرمانا۔

مکمل جسم والی خواتین کے لیے، تجربہ کچھ مختلف تھا اور بعض صورتوں میں اس سے بھی بدتر۔ AI نے انہیں پتلا اور سیکسی بنا دیا۔

"Lmfao کے لیے اگر آپ کو Body Dysmorphia ہے تو AI سے تیار کردہ تصویروں کے لیے اس Lensa ایپ کو استعمال نہ کریں۔ یہ آپ کی وارننگ ہے،" ایک صارف لکھا ہے.

ایک اور نے کہا کہ ایپ نے اسے ایشیائی بنا دیا ہے۔

ایک اور صارف نے ٹویٹر پر شکایت کی کہ جب اس نے AI استعمال کیا تو اس نے باڈی ڈسمورفیا کا تجربہ کرنے کے لیے $8 ادا کیے تھے۔

باڈی ڈیسمورفیا ایک ذہنی صحت کی حالت ہے جہاں ایک شخص اپنی ظاہری شکل میں خامیوں کے بارے میں فکر کرنے میں کافی وقت صرف کرتا ہے۔ یہ خامیاں اکثر دوسروں کے لیے ناقابلِ توجہ ہوتی ہیں۔

ایک اور نے شکایت کی کہ AI خود بخود اس کی مکمل فگر امیجز پر اہم وزن کم کر دیتا ہے۔

"مجھے لینسا اے آئی کے بارے میں ایک شکایت ہے کہ یہ آپ کو کچھ تصاویر میں پتلی بنا دے گی۔ ایک موٹے شخص کے طور پر ان تصاویر نے مجھے واقعی پریشان کیا۔ اس لیے محتاط رہیں کہ اگر آپ موٹے ساتھی ہیں تو آپ کو پتلا بننے میں کوئی دلچسپی نہیں ہے،" ماریہ کامیاب (@ شلاتز) نے 5 دسمبر 2022 کو لکھا۔

نفسیاتی ٹائم بم

اور ماہرین نفسیات اس کے بیانات سے متفق ہیں کہ AI مکمل طور پر سوچنے والی خواتین کو متحرک کر سکتا ہے۔

ایک طبی ماہر نفسیات ڈاکٹر۔ ٹونی پیکوز، آسٹریلیا میں مقیم دماغی صحت پریکٹیشنر، جو جسم کے ڈسمورفک ڈس آرڈر پر تحقیق کرتا ہے اور اس کے علاج میں مہارت رکھتا ہے، کا خیال ہے کہ ایپلی کیشن اچھے سے زیادہ نقصان پہنچا سکتی ہے اور یہ کسی کے خود خیال کو تبدیل کرنے کے لیے "فوٹو فلٹرنگ ٹول" کے سوا کچھ نہیں ہے۔

Pikoos کا کہنا ہے کہ "جب مثالی اور سمجھے جانے والے ظہور کے درمیان بڑا فرق ہوتا ہے، تو یہ جسم میں عدم اطمینان، پریشانی، اور ممکنہ طور پر غیر صحت بخش یا غیر محفوظ ذرائع سے کسی کی ظاہری شکل کو ٹھیک کرنے یا تبدیل کرنے کی خواہش کو ہوا دے سکتا ہے" جیسے بے ترتیب کھانا یا غیر ضروری کاسمیٹک طریقہ کار، Pikoos کہتے ہیں۔

اس نے "پیچیدہ تفصیلات" کو مٹانے والی تصویروں پر تشویش کا اظہار کیا جیسے کہ "فریکلز اور لائنز"، ایسی چیز جو کسی کی جلد کے بارے میں پریشانیوں کو بڑھا سکتی ہے۔ وہ کہتی ہیں کہ یہ نفسیاتی طور پر ایک کمزور شخص کو بھی متحرک کر سکتا ہے۔

"کسی بیرونی تصویر کو دیکھنا ان کی عدم تحفظ کی عکاسی کرتا ہے صرف اس خیال کو تقویت دیتا ہے 'دیکھو، یہ میرے ساتھ غلط ہے! اور میں اکیلا نہیں ہوں جو اسے دیکھ سکتا ہوں!'' Pikoos کہتے ہیں۔

ان کا کہنا ہے کہ اس حقیقت کی وجہ سے کہ AI نے اپنی خصوصیات متعارف کرائی ہیں جو صارف کی حقیقی زندگی کی ظاہری شکل کو نہیں دکھاتی ہیں، ایپ نئی پریشانیاں پیدا کر سکتی ہے۔

وہ کہتی ہیں کہ AI کے "جادوئی اوتار" "خاص طور پر دلچسپ تھے کیونکہ یہ زیادہ معروضی لگتا ہے - گویا کسی بیرونی، سب جاننے والے وجود نے یہ تصویر بنائی ہے کہ آپ کیسی نظر آتی ہیں۔"

یہ، وہ محسوس کرتی ہے کہ یہ جسم کے ڈسمورفک عارضے میں مبتلا لوگوں کے لیے درحقیقت "مفید" ہوگا اور "انفرادی کے اپنے بارے میں منفی نظریہ اور دوسرے انہیں کیسے دیکھتے ہیں" کے درمیان "بے مماثلت" پر روشنی ڈالنے میں مدد کرے گا۔

تاہم اس نے نوٹ کیا کہ AI کسی کے چہرے کے بے عیب اور زیادہ "بہتر اور پرفیکٹ ورژن" کی عکاسی کرنے کی کوشش کی وجہ سے مقصد نہیں تھا۔

مثال کے طور پر، کسی کو جسمانی ڈسمورفک ڈس آرڈر، یا BDD کا سامنا کرنا پڑتا ہے، "جب وہ اپنی تصویر دیکھتے ہیں، اور اپنے اس ورژن کو دنیا کے ساتھ شیئر کرنا چاہتے ہیں تو اعتماد میں اضافہ ہو سکتا ہے،" وہ کہتی ہیں، لیکن آف ہونے پر حقیقت سے سخت متاثر ہوں گے۔ اسکرین، غیر فلٹر شدہ، آئینے میں یا کوئی تصویر جسے وہ خود لیتے ہیں۔"

اپنا دفاع کرنا

Prisma Labs کے CEO، آندرے Usoltsev کا کہنا ہے کہ ان کی کمپنی فی الحال لینسا کے بارے میں پوچھ گچھ سے "مجبور" ہے اور اس نے ایک FAQ صفحہ کا لنک پیش کیا جو جنسی تصویروں کے سوالات کو حل کرتا ہے، حالانکہ اس قسم کے صارف کے رد عمل نہیں جیسے Pikoos بیان کرتے ہیں۔

"ایپ میں اس کی عکاسی کو دیکھنا بہت تصادم کا باعث ہوگا اور جس طرح سے وہ خود کو دیکھتے ہیں اس کے لیے ایک قسم کی 'تصدیق' فراہم کرے گی"، جس کی وجہ سے وہ "خرابی میں مزید پھنس گئے"۔

مستحکم بازی

لینسا اسٹیبل ڈفیوژن کا بھی استعمال کرتا ہے، جو گہری سیکھنے والی ترکیب کا استعمال کرتا ہے جو متن کی تفصیل سے نئی تصاویر بنا سکتا ہے اور ونڈوز یا لینکس پی سی پر، میک پر، یا کرائے کے کمپیوٹر ہارڈویئر پر کلاؤڈ میں چل سکتا ہے۔

اسٹیبل ڈفیوژن کے نیورل نیٹ ورک میں گہری سیکھنے کی مدد سے الفاظ کو جوڑنے میں مہارت حاصل کی گئی ہے اور تصویروں میں پکسلز کی پوزیشنوں کے درمیان عمومی شماریاتی ایسوسی ایشن ہے۔

ہم نے ایک اور میں احاطہ کیا کہانی لوگوں کی تصاویر کو مجرم ظاہر کرنے یا چوری جیسے چاپلوسی کے طریقوں سے کم میں ملوث ہونے کے لیے ٹیکنالوجی کس طرح زندگی کو تباہ کرنے والے نتائج کا باعث بن سکتی ہے۔

مثال کے طور پر، کوئی اوپن سورسڈ اسٹیبل ڈفیوژن کو فوری طور پر دے سکتا ہے، جیسے کہ "کلاس روم میں ٹام ہینکس"، اور یہ اسے کلاس روم میں ٹام ہینکس کی نئی تصویر دے گا۔ ٹام ہینک کے معاملے میں، یہ پارک میں چہل قدمی ہے کیونکہ اس کی سینکڑوں تصاویر پہلے سے ہی ڈیٹا سیٹ میں موجود ہیں جو Stable Diffusion کو تربیت دینے کے لیے استعمال کیا جاتا ہے۔

فنکاروں کو بھی کچا سودا مل رہا ہے۔

فن کے محاذ پر، کچھ فنکار ناخوش ہیں۔

انہیں تشویش ہے کہ AI ان کی روزی روٹی کو خطرہ بنا سکتا ہے۔ اس کی وجہ یہ ہے کہ فنکار، بشمول ڈیجیٹل، بھی ڈیجیٹل پورٹریٹ کے لیے AI جتنی تیزی سے تیار نہیں کر سکتے۔

لینسا کی بنیادی کمپنی، پریزما نے ڈیجیٹل فنکاروں کے کام کو ختم کرنے والی اپنی ٹیکنالوجی کے بارے میں خدشات کو دور کرنے کی کوشش کی ہے۔

"جب کہ انسان اور AI دونوں ہی فنکارانہ انداز کے بارے میں نیم یکساں طریقوں سے سیکھتے ہیں، کچھ بنیادی فرق ہیں: AI ڈیٹا کے بڑے سیٹوں سے تیزی سے تجزیہ کرنے اور سیکھنے کی صلاحیت رکھتا ہے، لیکن اس میں آرٹ کے لیے یکساں توجہ اور تعریف نہیں ہے۔ بحیثیت انسان" لکھا ہے کمپنی نے 6 دسمبر کو ٹویٹر پر۔

اس کا کہنا ہے کہ "آؤٹ پٹس کو کسی خاص آرٹ ورک کی صحیح نقل کے طور پر بیان نہیں کیا جا سکتا۔"

خود کی تصویر کو تبدیل کرنا

ٹورنٹو یونیورسٹی کے بایو ایتھکسٹ کیری بومن کا کہنا ہے کہ AI دیگر اخلاقی مسائل کے علاوہ کسی کی خود کی تصویر کو منفی طور پر متاثر کرنے کی صلاحیت رکھتا ہے۔

بومن نے پیر کو کہا، "کچھ طریقوں سے، یہ بہت مزے کا ہو سکتا ہے لیکن یہ مثالی تصاویر سماجی توقعات کے تحت چلائی جا رہی ہیں جو بہت ظالمانہ اور بہت تنگ ہو سکتی ہیں،" بومن نے پیر کو کہا۔

Bowman نے کہا کہ یہ AI پروگرام ڈیٹا سیٹ کے ذرائع جیسے کہ انٹرنیٹ کا استعمال کرتے ہوئے مختلف آرٹ سٹائل کی تلاش میں یہ پورٹریٹ بناتے ہیں۔ منفی پہلو یہ ہے کہ جب AI ایسا کرتا ہے، تو فنکاروں کو ان کے کام کے استعمال کے لیے شاذ و نادر ہی مالی معاوضہ دیا جاتا ہے یا کریڈٹ دیا جاتا ہے۔

"ابھرتے ہوئے AI کے ساتھ کیا ہوتا ہے کہ قوانین کاپی رائٹ قانون کے معاملے میں واقعی اس کے ساتھ نہیں رہ سکے ہیں۔ یہ بہت مشکل اور بہت ہی مضحکہ خیز ہے اور اخلاقیات قوانین کے پیچھے بھی ہے کیونکہ میں بحث کروں گا کہ یہ بنیادی طور پر غیر منصفانہ ہے، "بومن نے کہا۔

ذاتی ڈیٹا کے خدشات

بومن نے یہ خدشات بھی اٹھائے کہ لوگوں کا ذاتی ڈیٹا کیسے محفوظ کیا جاتا ہے۔

"کیا آپ واقعی ایک بڑے ڈیٹا بیس میں اپنا چہرہ چاہتے ہیں؟ لوگوں کو اس کے بارے میں خود فیصلہ کرنے کی ضرورت ہے لیکن یہ سومی نہیں ہے، اس میں کچھ بھی نہیں ہے، یہ صرف تفریح ​​نہیں ہے،‘‘ انہوں نے کہا۔

لینسا کا کہنا ہے کہ تصاویر کو سرورز اور ایپس میں 24 گھنٹے سے زیادہ نہیں رکھا جاتا ہے۔ ڈیپ لرننگ اور مشین لرننگ الگورتھم کے ساتھ، AI جمع کرتا ہے اور پھر مستقبل میں بہتر نتائج فراہم کرتا ہے، یہ بھی حذف شدہ ڈیٹا کی بنیاد پر۔ بومن کا کہنا ہے کہ اس کے نتیجے میں چہرے کی شناخت کے ممکنہ استعمال پر حفاظتی خدشات پیدا ہوں گے کیونکہ اس قسم کے ڈیٹا کو پولیس غیر قانونی طور پر استعمال کر سکتی ہے۔

ٹائم اسٹیمپ:

سے زیادہ میٹا نیوز