تلاش برای جلوگیری از نرده‌های محافظ هوش مصنوعی که عامل اصلی دیپ‌فیک سویفت هستند

تلاش برای جلوگیری از نرده‌های محافظ هوش مصنوعی که عامل اصلی دیپ‌فیک سویفت هستند

تمبر زمان: 5 فوریه 2024، ساعت 5:11 بعد از ظهر
Attempts to avoid AI guardrails blamed for Swift deepfakes PlatoBlockchain Data Intelligence. Vertical Search. Ai.

طبق گزارش‌ها، تصاویر وحشیانه وحشیانه از تیلور سویفت، ستاره موسیقی پاپ، از یک رقابت آنلاین در 4chan سرچشمه می‌گیرد و شرکت‌کنندگان را به چالش می‌کشد تا فیلترهای محتوای نرم‌افزار هوش مصنوعی را بشکنند. 

افرادی در Graphika، یک شرکت تحلیلی رسانه های اجتماعی در نیویورک، این عکس ها را مستقیماً در 4chan دنبال کرده اند. از مردم خواسته شد تا ترفندهایی برای دور زدن حفاظ‌های ایمنی در برنامه‌هایی مانند Microsoft's Designer یا OpenAI's DALL-E برای ایجاد تصاویر NSFW از افراد مشهور زن ارائه دهند. به گزارش گرافیکا، تصاویر تیلور سویفت با استفاده از مایکروسافت دیزاینر ایجاد شدند و بعداً در یک چت گروهی در تلگرام به اشتراک گذاشته شدند، قبل از اینکه در X پست شوند.

سخنگوی مایکروسافت گفت: «ما به بررسی این تصاویر ادامه می‌دهیم و سیستم‌های ایمنی موجود خود را تقویت کرده‌ایم تا از سوء استفاده بیشتر از سرویس‌هایمان برای کمک به تولید تصاویری مانند آنها جلوگیری کنیم». ثبت نام در بیانیه ای. 

تصاویر دیپ جعلی از سریع قبل از اینکه پلتفرم رسانه اجتماعی آنها را حذف کند، میلیون ها بازدید را در X جمع آوری کرد و برخی از عبارات جستجوی مربوط به ترانه سرا را به طور موقت مسدود کرد. گرافیکا، با این حال، گفت که این رقابت سایر چهره های زن شناخته شده را هدف قرار داده است و هشدار داد که ممکن است از این فناوری برای هدف قرار دادن هر کسی سوء استفاده شود. 

کریستینا لوپز جی.، تحلیلگر ارشد در Graphika، «در حالی که تصاویر پورنوگرافی ویروسی تیلور سویفت توجه جریان اصلی را به موضوع تصاویر صمیمی بدون توافق ایجاد شده توسط هوش مصنوعی جلب کرده است، او تنها قربانی نیست. گفته شده بلومبرگ در جامعه 4chan که این تصاویر منشأ گرفته اند، او حتی اغلب مورد هدف قرار نمی گیرد. این نشان می‌دهد که هر کسی می‌تواند به این شکل هدف قرار گیرد، از افراد مشهور جهانی گرفته تا کودکان مدرسه‌ای.»

با این حال، ماهیت ویروسی تصاویر جعلی که سوئیفت را در ژست‌های وسوسه‌انگیز جنسی نشان می‌دهند، به نظر می‌رسد که قانون‌گذاران را به کار انداخته است. کارین ژان پیر، سخنگوی کاخ سفید، از کنگره خواست تا در واکنش به تصاویر "هشدارکننده" "اقدام قانونی" انجام دهد. 

هفته گذشته، سناتورهای آمریکایی قانون 2024 Disrupt Explicit Forged Images and Non-consensual Edits (DEFIANCE) را معرفی کردند. لایحه دو حزبی که به قربانیان این امکان را می‌دهد که از افرادی که دیپ‌فیک‌های ناقص تولید شده توسط هوش مصنوعی را ایجاد و به اشتراک می‌گذارند شکایت کنند. این قانون که توسط سناتورهای دیک دوربین (D-IL)، لیندسی گراهام (R-SC)، امی کلوبوچار (D-MN) و جاش هاولی (R-MO) رهبری شد، به مطالعه ای اشاره کرد که ادعا می کند 96 درصد ویدیوهای دیپ فیک وجود دارد. پورنوگرافیک بودند و بدون اجازه یا رضایت زنانی که به تصویر کشیده شده بودند ایجاد شده بودند. 

قانون DEFIANCE در زمانی آغاز شد که مدیران ارشد اجرایی پلتفرم های رسانه های اجتماعی در کنگره مورد بازجویی قرار گرفتند. شنوایی در مورد استثمار جنسی از کودکان در فضای مجازی و عدم حمایت.

ثبت نام از Graphika برای نظر بیشتر خواسته است. ®

تمبر زمان:

بیشتر از ثبت نام