شرکت‌های فناوری متعهد شدند که تصاویر سوء استفاده جنسی از کودکان توسط هوش مصنوعی را متوقف کنند

شرکت‌های فناوری متعهد شدند که تصاویر سوء استفاده جنسی از کودکان توسط هوش مصنوعی را متوقف کنند

تمبر زمان: 2 نوامبر 2023، 12:22 بعد از ظهر
شرکت‌های فناوری متعهد شدند که تصاویر سوء استفاده جنسی از کودکان را که توسط هوش مصنوعی ساخته شده است، متوقف کنند. جستجوی عمودی Ai.

شرکت های فناوری، با حمایت دولت های مختلف، تعهدی را برای تلاش مشترک برای پایان دادن به انتشار محتوای سوء استفاده جنسی از کودکان ایجاد شده توسط هوش مصنوعی امضا کرده اند.

شرکت‌هایی مانند TikTok، Snapchat، Stability AI و سایرین تعهد مشترکی را برای جلوگیری از تکثیر تصاویر تولید شده توسط هوش مصنوعی از سوء استفاده جنسی از کودکان امضا کرده‌اند که اخیراً پس از رونق هوش مصنوعی مولد شایع شده است.

آنها این تعهد را در رویدادی به میزبانی وزیر کشور سوئلا براورمن با مشارکت بنیاد دیده بان اینترنت (IWF) در روز دوشنبه انجام دادند.

همچنین بخوانید: Ai Pin – دستگاه جدید GPT-4 از Humane چیست؟

دولت ها وزن می گیرند

به گزارش رویترز گزارشبریتانیا این تعهد را اعلام کرد که در آن دولت های ایالات متحده، آلمان و استرالیا در میان 27 امضاکننده قرار دارند.

در بخشی از بیانیه آمده است: «ما تصمیم داریم گفت‌وگوها و نوآوری‌های فنی در مورد مقابله با سوء استفاده جنسی از کودکان در عصر هوش مصنوعی را حفظ کنیم.

ما تصمیم داریم با هم همکاری کنیم تا از هوش مصنوعی مسئول برای مقابله با تهدید سوء استفاده جنسی از کودکان استفاده کنیم و متعهد می شویم که به همکاری مشترک ادامه دهیم تا اطمینان حاصل کنیم که خطرات ناشی از هوش مصنوعی در مقابله با سوء استفاده جنسی از کودکان غیرقابل حل نمی شود.

این تعهد در حالی صورت می‌گیرد که پس از افزایش تصاویر تولید شده توسط هوش مصنوعی که خشونت جنسی کودکان را به تصویر می‌کشد، دولت بریتانیا به دنبال سرمایه‌گذاری بیشتر در استفاده از هوش مصنوعی برای مقابله با سوء استفاده جنسی از کودکان آنلاین است.

براورمن گفت: «ما نمی‌توانیم این موضوع را کنترل نکنیم،» و افزود که «سرعت انتشار این تصاویر در فضای مجازی تکان‌دهنده است و به همین دلیل است که ما گروه گسترده‌ای از سازمان‌ها را برای مقابله با این موضوع تشکیل داده‌ایم.»

بریورمن گفت: تکثیر تصاویر سوء استفاده جنسی از کودکان که توسط هوش مصنوعی تولید می‌شود، اکنون به یک "معضل آنلاین" تبدیل شده است.

به همین دلیل است که غول‌های فناوری باید در کنار مجریان قانون برای جلوگیری از گسترش آنها کار کنند. تصاویر توسط کامپیوتر تولید شده اند اما اغلب افراد واقعی را نشان می دهند. وی افزود: این امر به زندگی افراد آسیب می رساند.

تصاویر تکان دهنده هوش مصنوعی از سوء استفاده جنسی از کودکان

La IWF آمار تکان دهنده ای از تصاویر تولید شده توسط هوش مصنوعی از سوء استفاده جنسی از کودکان منتشر کرده است که ترس از عادی سازی خشونت علیه کودکان توسط جامعه را افزایش می دهد.

تنها در یک ماه، IWF بیش از 11,000 تصویر هوش مصنوعی به اشتراک گذاشته شده در انجمن کودک آزاری در وب تاریک را بررسی کرد.

طبق گزارش IWF، از این ارقام، تقریباً 3,000 مورد تأیید شد که با به تصویر کشیدن سوء استفاده جنسی از کودکان، قوانین بریتانیا را نقض می کنند.

ما برای اولین بار در ماه ژوئیه زنگ خطر را در این مورد به صدا در آوردیم. سوزی هارگریوز، مدیر عامل IWF گفت: در چند ماه کوتاه، ما شاهد تحقق بدترین ترس‌هایمان بوده‌ایم.

"واقع گرایی این تصاویر همیشه شگفت انگیز است و در حال بهبود است. اکثر چیزهایی که اکنون می‌بینیم آنقدر واقعی و جدی است که باید دقیقاً به گونه‌ای رفتار شود که گویی تصاویر واقعی تحت قوانین بریتانیا است.»

امضاکنندگان بیشتری درگیر شدند

سایر امضاکنندگان این تعهد شامل انجمن ملی پیشگیری از ظلم به کودکان (NSPCC)، شورای روسای پلیس ملی و آژانس ملی جنایت می‌شود.

پیتر وانلس، مدیرعامل NSPCC گفت: «هوش مصنوعی با چنان سرعتی توسعه می‌یابد که بسیار مهم است که ایمنی کودکان به صراحت در نظر گرفته شود و نه به عنوان یک فکر بعدی در پی یک تراژدی قابل اجتناب.»

وانلس افزود: «در حال حاضر شاهدیم که تصاویر سوء استفاده از کودکان با هوش مصنوعی تأثیر وحشتناکی بر کودکان دارد، قربانیانی که می‌بینند تصاویر مشابه آنها ایجاد و به اشتراک گذاشته می‌شود، آسیب‌دیدگی می‌کند.

طبق NCA، حدود 680,000 تا 830,000 بزرگسال در بریتانیا وجود دارد که حدود 1.3٪ تا 1.6٪ از جمعیت بزرگسال را تشکیل می دهد که "درجاتی از خطر جنسی برای کودکان را ایجاد می کند، به همین دلیل است که مقابله با سوء استفاده جنسی در اولویت قرار دارد. NCA."

کریس فریموند، مدیر رهبری تهدیدات در NCA گفت: «ما افرادی را که مطالب سوء استفاده جنسی از کودکان را ایجاد می‌کنند، به اشتراک می‌گذارند، به اشتراک می‌گذارند، به آنها دسترسی می‌دهند، یا مشاهده می‌کنند، به همان شکلی که تصویر یک کودک واقعی است، بررسی و محاکمه خواهیم کرد. .

این اعلام در حالی منتشر می شود که بریتانیا برای میزبانی از نشست ایمنی هوش مصنوعی آماده می شود. انتظار می رود در این اجلاس در مورد توسعه هوش مصنوعی مسئولانه بحث شود.

تمبر زمان:

بیشتر از متانیوز