By کنا هیوز-کستلبری ارسال شده در 02 دسامبر 2022
به لطف پیشرفتهای فناوری، تشخیص اینکه چه چیزی واقعی است و چه چیزی نیست دشوارتر میشود. این مشکل با استفاده از فناوری دیپ فیک بدتر می شود.صدا و فیلم که از هوش مصنوعی برای جایگزینی افراد یا صدای آنها استفاده می کنند. در حالی که بسیاری از دیپ فیک ها با موفقیت برای سرگرمی استفاده شده اند (مانند if نیکلاس کیج بود در اظهارات را فراموش کرده ارک) یا بازی (مانند در ورزشکاران فیفا)، درصد زیادی از آنها برای بیشتر ایجاد شده اند دلایل شوم از آنجایی که ایجاد این ویدئوهای اصلاح شده آسان تر می شود، بسیاری از کارشناسان امیدوارند که محاسبات کوانتومی بتواند به غلبه بر تهدیدهای بالقوه این فناوری در حال رشد کمک کند.
فناوری Deepfake چگونه کار می کند؟
برای ایجاد یک ویدیوی دیپ فیک موفق، نیاز دارید فراگیری ماشین الگوریتم ها توضیح داد: «الگوریتمهای یادگیری عمیق به خود میآموزند که چگونه مسائل را از مجموعه دادههای بزرگ حل کنند، و سپس برای مبادله چهره بین ویدیو و سایر محتوای دیجیتال استفاده میشوند.» پس کوانتومی مدیریت عامل اندرسن چنگ. Post-Quantum یک شرکت پیشرو در زمینه امنیت سایبری است که تمرکز آن بر روی آن است مقاوم در برابر کوانتومی امنیت، از جمله در برابر دیپ فیک. چنگ گفت: «تعدادی روش برای ایجاد این دیپفیکها وجود دارد، اما محبوبترین آنها استفاده از شبکههای عصبی عمیق شامل رمزگذارهای خودکار است. یک رمزگذار خودکار یک برنامه هوش مصنوعی یادگیری عمیق است که کلیپهای ویدیویی را مطالعه میکند تا بفهمد یک فرد از زوایای مختلف و محیط اطراف چگونه به نظر میرسد و سپس با یافتن ویژگیهای مشترک، آن شخص را بر روی فرد ترسیم میکند.
برای اطمینان از عملکرد موفقیت آمیز رمزگذار خودکار، چندین کلیپ ویدیویی از صورت سوژه باید تجزیه و تحلیل شود تا مجموعه بزرگتری از داده ها را ارائه دهد. سپس رمزگذار خودکار می تواند با تعویض فرد اصلی با موضوع جدید، به ایجاد یک ویدیوی ترکیبی کمک کند. نوع دوم یادگیری ماشینی به نام شبکه متخاصم عمومی (GANs) نقصهای ویدیوی ترکیبی جدید را شناسایی و بهبود میبخشد. با توجه به الف مقاله 2022: GAN ها یک «مولد» را برای ایجاد تصاویر جدید از بازنمایی نهفته تصویر مبدا و یک «تبعیض کننده» برای ارزیابی واقع گرایی مواد تولید شده آموزش می دهند. این فرآیند چندین بار اتفاق میافتد تا زمانی که متمایزکننده نتواند تشخیص دهد که آیا ویدیو کاملاً اصلاح شده است و دیپفیک کامل شده است.
تهدید تکنولوژی Deepfake
در حال حاضر، بسیاری از نرم افزارهای منبع باز یا برنامه های رایگان وجود دارد که افراد می توانند از آنها برای ایجاد دیپ فیک استفاده کنند. در حالی که این ممکن است برای بسیاری، به ویژه کسانی که در صنعت سرگرمی فعالیت می کنند، مفید به نظر برسد، به برخی مشکلات جدی، حتی جنایی منجر شده است. با توجه به الف گزارش Deeptrace96 درصد از ویدیوهای دیپ فیک آنلاین در سال 2019، جای تعجب نیست که پورنوگرافی بودند. در حالی که بسیاری از این ویدیوهای غیرقانونی برای انتقام از یک سابق ساخته شده بودند، برخی دیگر برای ایجاد رسوایی برای افراد مشهور زن و حتی سیاستمداران مورد استفاده قرار گرفتند. در سال 2018، یک ویدیوی دیپ فیک از یک منتشر شد حزب سیاسی بلژیک ترامپ رئیس جمهور وقت آمریکا را در حال بحث درباره توافقنامه آب و هوای پاریس نشان می دهد. با توجه به اینکه اخبار جعلی در حال حاضر تبدیل به یک موضوع برای عموم مردم شده است، ویدیوهای دیپ فیک می توانند نی باشند که کمر شتر را می شکند. زوج صوتی عمیق به عنوان یک فایل صوتی ویرایش شده از مدیریت عامل یک شرکت فناوری به ارتکاب یک عمل کلاهبرداری کمک کرد. برای چنگ، این نوع رسانه ها می توانند به سرعت اعتماد عمومی را از بین ببرند. چنگ افزود: «ما موضوع گستردهتر اعتماد اجتماعی را داریم که چگونه مردم میتوانند بین واقعی بودن و واقعی بودن آن تشخیص دهند. همانطور که دیدیم، حتی شواهدی وجود دارد که نشان میدهد دیپفیکها برای دور زدن اقدامات حفاظتی مانند احراز هویت بیومتریک استفاده میشوند. با این نگرانی های فزاینده، چنگ و تیمش در Post-Quantum معتقدند که راه حلی در قالب نومیدیو، یک نرم افزار فوق العاده امنیتی تخصصی
آماده شدن برای تهدیدات فناوری DeepFake
چنگ و این تیم با نگاهی به تهدیدات متعدد ناشی از محاسبات کوانتومی و دیپفیک، Nomidio را ایجاد کردند تا مطمئن شوند که هویت ورود و حتی احراز هویت بیومتریک ایمن باقی میماند. چنگ گفت: «Nomidio یک سرویس بیومتریک چند عاملی (MFB) بیومتریک و بدون رمز عبور است که احراز هویت ایمن را با یک تجربه کاربری ساده و بصری امکانپذیر میکند. "این جایگزین نام کاربری/رمز عبور و ورود به سیستم تکی است و کاربران بر اساس نمایه بیومتریک خود با احراز هویت چند عاملی (MFA) در پشت صحنه احراز هویت می شوند." از آنجایی که چنگ سالها در زمینه امنیت سایبری متخصص بوده است، اطمینان حاصل کرد که Nomidio میتواند در برابر دیپفیک نیز ایمن باشد. فلسفه اصلی ما هنگام ایجاد آن استفاده از ورودی اضافی تا حد امکان و احراز هویت چند عاملی واقعی (یعنی با بیش از دو عامل) بود، بنابراین در واقع راه حل ایده آل برای مقابله با هر گونه پیشرفت آینده در فناوری دیپ فیک است. این در نهایت به این واقعیت مربوط می شود که MFA سنتی کافی نیست، اما MFB می تواند حملات بلادرنگ را عملا غیرممکن کند. یعنی ترکیبی از مثلاً صدا، صورت و کد پین بسیار ایمن است، زیرا ممکن است هر عاملی جعل شود، اما جعل هر سه در یک نمونه عملاً غیرممکن است. با Nomidio، ترکیبی از بیومتریک صدا و چهره، تشخیص گفتار، داده های وابسته به زمینه و حتی تجزیه و تحلیل رفتاری را می توان در یک سیستم احراز هویت واحد ترکیب کرد. ”
در حالی که خود Nomidio از محاسبات کوانتومی برای غلبه بر تهدیدات دیپ فیک استفاده نمی کند، رایانه های کوانتومی به طور بالقوه می توانند علیه این فایل های رسانه ای جعلی کار کنند. مانند کامپیوترهای کوانتومی اغلب الگوریتمهای یادگیری ماشین را برای کار سریعتر و کارآمدتر مهار میکنند و ممکن است بتوانند تشخیص دهند ویدیوهای جعلی یا فایل های صوتی با سرعت بیشتری. در حالی که این فناوری هنوز در حال توسعه است، و تعداد کمی از دیپفیکها را بهعنوان یک مورد استفاده بالقوه برای رایانههای کوانتومی نگاه میکنند، این ماشینهای سطح بعدی میتوانند در آینده برای واقعیتر و دقیقتر کردن رسانههای ما مورد استفاده قرار گیرند.
با آشکار شدن هر چه بیشتر تهدیدات فناوری دیپ فیک، بسیاری از دولت ها و شرکت ها در حال تلاش برای یافتن راه هایی برای کمک به مبارزه با آن هستند. فیس بوک در سال 2021 راه اندازی شد چالش تشخیص Deepfake، با یک جایزه 500,000 دلاری برای کسانی که فناوری جدیدی را برای شناسایی دیپ فیک ایجاد می کنند. در ایالات متحده، ایالت هایی مانند کالیفرنیا، تگزاس و ویرجینیا قوانینی دارند که استفاده از دیپ فیک را هم برای هرزه نگاری و هم برای سیاست ممنوع می کند. را پارلمان اروپا همچنین مقررات بیشتری در مورد دیپ فیک ایجاد کرد و قانون خدمات دیجیتال را برای اعمال برچسب روی ویدیوهای دیپ فیک اصلاح کرد. در حالی که این قانون تا سال 2024 اجرایی نخواهد شد، اما نشان دهنده جدی بودن تهدید فناوری دیپ فیک است.
کنا هیوز-کستلبری نویسنده کارکنان Inside Quantum Technology و ارتباط دهنده علوم در JILA (شرکتی بین دانشگاه کلرادو بولدر و NIST) است. ضربات نویسندگی او شامل فناوری عمیق، متاورس و فناوری کوانتومی است.