ڈیپ فیکس کا پتہ لگانا مشکل ہو جائے گا: سیکٹا لیبز کے سی ای او - ڈکرپٹ

جیسے جیسے AI امیج جنریٹر زیادہ ترقی یافتہ ہوتے جا رہے ہیں، ڈیپ فیکس کو اسپاٹ کرنا پہلے سے کہیں زیادہ مشکل ہوتا جا رہا ہے۔ قانون نافذ کرنے والے ادارے اور عالمی رہنما AI سے پیدا ہونے والے خطرات کے بارے میں خطرے کی گھنٹی بجاتے رہتے ہیں۔ deepfakes سوشل میڈیا پر اور تنازعات والے علاقوں میں۔

سیکٹا لیبز کے شریک بانی اور سی ای او مارکو جیک نے بتایا کہ "ہم ایک ایسے دور میں داخل ہو رہے ہیں جہاں ہم جو کچھ دیکھتے ہیں اس پر مزید یقین نہیں کر سکتے۔" خرابی ایک انٹرویو میں. "ابھی، یہ آسان ہے کیونکہ گہری جعلی ابھی تک اچھی نہیں ہے، اور کبھی کبھی آپ دیکھ سکتے ہیں کہ یہ واضح ہے."

جیک کے مطابق، ہم اتنے دور نہیں ہیں — شاید ایک سال کے اندر — اس مقام سے جب کسی جعلی تصویر کو پہلی نظر میں سمجھنے کی صلاحیت اب ممکن نہیں رہی۔ اور اسے معلوم ہونا چاہیے: جیک ایک AI-امیج جنریٹر کمپنی کا سی ای او ہے۔

جیک نے مشترکہ بنیاد رکھی سیکٹا لیبز 2022 میں؛ آسٹن پر مبنی جنریٹیو AI اسٹارٹ اپ اعلیٰ معیار کی AI سے تیار کردہ تصاویر بنانے پر توجہ مرکوز کرتا ہے۔ صارفین اپنی تصاویر اپ لوڈ کر سکتے ہیں اور انہیں AI سے تیار کردہ ہیڈ شاٹس اور اوتار میں تبدیل کر سکتے ہیں۔

جیسا کہ Jak وضاحت کرتا ہے، Secta Labs صارفین کو ان کے ڈیٹا سے تیار کردہ AI ماڈلز کے مالک کے طور پر دیکھتی ہے، جب کہ کمپنی ان ماڈلز سے تصاویر بنانے میں مدد کرنے والے محض محافظ ہیں۔ 

زیادہ جدید AI ماڈلز کے ممکنہ غلط استعمال نے عالمی رہنماؤں کو فوری طور پر مطالبہ کرنے پر مجبور کیا ہے۔ کارروائی AI ریگولیشن پر اور کمپنیوں کو اپنے جدید ٹولز کو عوام کے لیے جاری نہ کرنے کا فیصلہ کرنے پر مجبور کیا۔

پچھلے ہفتے اس کے نئے اعلان کے بعد آواز والا ڈبہ AI سے تیار کردہ وائس پلیٹ فارم، میٹا نے کہا کہ یہ AI کو عوام کے لیے جاری نہیں کرے گا۔

میٹا کے ترجمان نے بتایا کہ "جبکہ ہم سمجھتے ہیں کہ AI کمیونٹی کے ساتھ کھلا رہنا اور AI میں آرٹ کی حالت کو آگے بڑھانے کے لیے اپنی تحقیق کا اشتراک کرنا ضروری ہے۔" خرابی ایک ای میل میں "ذمہ داری کے ساتھ کھلے پن کے درمیان صحیح توازن قائم کرنا بھی ضروری ہے۔"

اس ماہ کے شروع میں، امریکی فیڈرل بیورو آف انویسٹی گیشن نے خبردار کیا جعلی مواد بنانے کے لیے سوشل میڈیا سے لی گئی تصاویر اور ویڈیوز کا استعمال کرتے ہوئے AI deepfake بھتہ خوری کے گھپلے اور مجرم۔

ڈیپ فیکس سے لڑنے کا جواب، جیک نے کہا، ہوسکتا ہے کہ ڈیپ فیک کو تلاش کرنے کے قابل نہ ہو بلکہ ڈیپ فیک کو بے نقاب کرنے کے قابل ہو۔

جیک نے کہا، "AI وہ پہلا طریقہ ہے جس سے آپ [ایک گہری نقل] کو تلاش کر سکتے ہیں۔ "ایسے لوگ ہیں جو مصنوعی ذہانت تیار کر رہے ہیں جو آپ ایک تصویر کو ویڈیو کی طرح لگا سکتے ہیں اور AI آپ کو بتا سکتا ہے کہ آیا یہ AI کے ذریعے تیار کی گئی ہے۔"

جنریٹو AI اور فلم اور ٹیلی ویژن میں AI سے تیار کردہ تصاویر کا ممکنہ استعمال تفریحی صنعت میں ایک گرما گرم موضوع ہے۔ ساگ-افطرا۔ اراکین نے معاہدے کے مذاکرات میں داخل ہونے سے پہلے ہڑتال کی اجازت دینے کے لیے ووٹ دیا، ایک اہم تشویش، مصنوعی ذہانت۔

جیک نے مزید کہا کہ چیلنج AI ہتھیاروں کی دوڑ کا ہے جو کہ ٹیکنالوجی مزید ترقی یافتہ ہو رہی ہے اور برے اداکار ان کا پتہ لگانے کے لیے تیار کی گئی ٹیکنالوجی کا مقابلہ کرنے کے لیے زیادہ جدید ڈیپ فیکس بناتے ہیں۔

اس بات کو تسلیم کرتے ہوئے کہ بلاکچین کا زیادہ استعمال کیا گیا ہے—کچھ کہہ سکتے ہیں کہ اوور ہائپڈ—حقیقی دنیا کے مسائل کے حل کے طور پر، جیک نے کہا کہ ٹیکنالوجی اور کرپٹوگرافی ڈیپ فیک مسئلے کو حل کر سکتی ہے۔

لیکن اگرچہ ٹیکنالوجی ڈیپ فیکس کے ساتھ بہت سے مسائل کو حل کر سکتی ہے، جیک نے کہا کہ ایک زیادہ کم ٹیکنالوجی کا حل، ہجوم کی حکمت، کلیدی ہو سکتی ہے۔

جیک نے کہا، "میں نے ٹویٹر نے جو چیزیں دیکھی ہیں ان میں سے ایک، جو میرے خیال میں ایک اچھا آئیڈیا تھا وہ ہے کمیونٹی نوٹس، جہاں لوگ کسی کے ٹویٹ کو سیاق و سباق دینے کے لیے کچھ نوٹس شامل کر سکتے ہیں۔" انہوں نے کہا، "ایک ٹویٹ غلط معلومات ہو سکتی ہے بالکل اسی طرح جیسے ڈیپ فیک ہو سکتا ہے،" انہوں نے کہا۔ جیک نے مزید کہا کہ اس سے سوشل میڈیا کارپوریشنز کو فائدہ ہو گا کہ وہ اپنی کمیونٹیز سے فائدہ اٹھانے کے طریقوں کے بارے میں سوچیں تاکہ یہ تصدیق ہو سکے کہ آیا گردش شدہ مواد مستند ہے۔

"بلاکچین مخصوص مسائل کو حل کر سکتا ہے، لیکن خفیہ نگاری تصویر کی اصلیت کی تصدیق کرنے میں مدد کر سکتی ہے،" انہوں نے کہا۔ "یہ ایک عملی حل ہوسکتا ہے، کیونکہ یہ تصویری مواد کی بجائے ماخذ کی تصدیق سے متعلق ہے، قطع نظر اس کے کہ ڈیپ فیک کتنا ہی نفیس ہو۔"

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ آٹوموٹو / ای وی، کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• بلاک آفسیٹس۔ ماحولیاتی آفسیٹ ملکیت کو جدید بنانا۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://decrypt.co/146066/it-will-get-harder-to-detect-deepfakes-secta-labs-ceo