IWF вимагає вжити заходів щодо педофілів, які використовують Generative AI

Фонд Internet Watch попереджає, що генеративний штучний інтелект загрожує «генерувати масштабні зображення», які «перевантажать тих, хто бореться з сексуальним насильством над дітьми в Інтернеті».

Організація стривожена стрімким прогресом генеративного штучного інтелекту протягом останнього року та передбачає, що створений штучним інтелектом матеріал про сексуальне насильство над дітьми (CSAM) з часом стане лише більш наочним.

Найтривожніші злочини

Фонд спостереження за Інтернетом каже, що генеративний AI має великий потенціал для покращення нашого життя, але попереджає, що цю технологію можна легко використати для зловмисних цілей.

Про це The Guardian повідомила Сьюзі Харгрівз, виконавчий директор IWF середа що «найгірші кошмари агентства збулися».

«На початку цього року ми попереджали, що штучний інтелект незабаром може стати невідрізнимим від реальних фотографій дітей, які страждають від сексуального насильства, і що ми можемо почати бачити, що ці зображення поширюються в набагато більшій кількості. Зараз ми пройшли цю точку», — сказав Харгрівз.

Вона додала: «Жахливо, але ми бачимо, як злочинці навмисно навчають свій штучний інтелект на зображеннях реальних жертв, які вже зазнали насильства. Дітей, яких зґвалтували в минулому, тепер включають у нові сценарії, тому що хтось десь хоче це побачити».

Масштаби проблеми вже спричиняють серйозні проблеми для тих, хто бореться з сексуальним неповнолітнім.

За один місяць 20,254 2,562 зображення, згенеровані штучним інтелектом, були опубліковані на одному форумі CSAM у темній мережі. Аналітики IWF ідентифікували XNUMX кримінальні псевдофотографії, створені за допомогою генеративного штучного інтелекту.

Більше половини з них показували дітей віком до 10 років, тоді як 564 були класифіковані як зображення категорії А – найсерйозніші зображення жорстокого поводження з дітьми.

Фотографії CSAM знаменитостей

Generative AI створює нові категорії CSAM. Висновки IWF показують, що знаменитості старіють і перетворюються на дітей за допомогою інструментів ШІ.

Постарілих знаменитостей потім поміщають у образливі сценарії для задоволення онлайн-педофілів.

Діти знаменитостей також стають мішенню, «оголяючи» дітей для користувачів на даркнет-форумах.

IWF каже, що ці зображення все важче відрізнити від справжнього CSAM.

«Найпереконливіший AI CSAM візуально неможливо відрізнити від справжнього CSAM навіть для навчених аналітиків IWF. Технологія перетворення тексту в зображення стане лише кращою та створюватиме нові виклики для IWF та правоохоронних органів», – йдеться у повідомленні. звітом.

Рекомендації уряду

IWF, який базується в Великобританія, просить технологічні компанії з усього світу переконатися, що CSAM суперечить їхнім умовам використання. Він також хоче кращої підготовки для правоохоронних органів, щоб вони могли легше ідентифікувати такі типи зображень.

IWF також просить британський уряд зробити AI CSAM головною темою обговорення на майбутньому саміті AI Summit у Блетчлі-парку наступного місяця.

Великобританія сподівається залучити до заходу ключових гравців зі світу бізнесу, а також світових лідерів. Поки що прем'єр-міністр Італії Джорджія Мелоні є єдиним підтвердженим лідером G7, який, як очікується, візьме участь.

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• джерело: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/