IWF требует принятия мер в отношении педофилов, использующих генеративный искусственный интеллект

Фонд Internet Watch Foundation предупреждает, что генеративный искусственный интеллект угрожает сделать возможным «генерацию изображений в большом масштабе», что «подавит тех, кто борется с сексуальным насилием над детьми в Интернете».

Орган встревожен быстрым прогрессом генеративного ИИ за последний год и предсказывает, что сгенерированные ИИ материалы о сексуальном насилии над детьми (CSAM) со временем станут только более наглядными.

Самое тревожное из преступлений

Фонд Internet Watch Foundation утверждает, что генеративный AI обладает огромным потенциалом для улучшения нашей жизни, но предупреждает, что эту технологию можно легко использовать в злонамеренных целях.

Сьюзи Харгривз, исполнительный директор IWF, рассказала Guardian. Wednesday что «худшие кошмары агентства сбылись».

«Ранее в этом году мы предупреждали, что изображения ИИ вскоре могут стать неотличимыми от реальных изображений детей, подвергшихся сексуальному насилию, и что мы можем начать видеть, как эти изображения будут распространяться в гораздо большем количестве. Сейчас мы прошли этот этап», — сказал Харгривз.

Она добавила: «Ужасно то, что мы видим, как преступники намеренно тренируют свой ИИ на изображениях реальных жертв, которые уже подверглись насилию. Дети, которые были изнасилованы в прошлом, теперь включаются в новые сценарии, потому что кто-то где-то хочет это увидеть».

Масштаб проблемы уже создает серьезные проблемы для тех, кто борется с CSAM.

За месяц на одном форуме CSAM в даркнете было опубликовано 20,254 2,562 изображения, созданных ИИ. Аналитики IWF выявили XNUMX криминальные псевдофотографии, созданные с помощью генеративного искусственного интеллекта.

Более половины из них были посвящены детям в возрасте до 10 лет, а 564 были отнесены к категории А – наиболее серьезной форме изображений жестокого обращения с детьми.

Фотографии знаменитостей CSAM

Генеративный ИИ создает новые категории CSAM. Результаты IWF показывают, что знаменитости стареют и превращаются в детей с помощью инструментов искусственного интеллекта.

Затем пожилые знаменитости подвергаются оскорбительным сценариям для удовлетворения онлайн-педофилов.

Дети знаменитостей также становятся мишенью, «обнажая» молодежь для пользователей на форумах даркнета.

В IWF говорят, что эти изображения становится все труднее отличить от реального CSAM.

«Самый убедительный AI CSAM визуально неотличим от настоящего CSAM даже для обученных аналитиков IWF. Технология преобразования текста в изображение будет только улучшаться и создавать новые проблемы для IWF и правоохранительных органов», — говорится в сообщении. отчету.

Рекомендации правительства

IWF, базирующаяся в Великобритания, просит технологические компании со всего мира убедиться, что CSAM противоречит их соглашениям об условиях использования. Он также хочет улучшить подготовку сотрудников правоохранительных органов, чтобы они могли легче идентифицировать подобные типы изображений.

IWF также просит британское правительство сделать AI CSAM основной темой обсуждения на предстоящем саммите AI в Блетчли-парке в следующем месяце.

Великобритания надеется привлечь на мероприятие ключевых игроков делового мира, а также мировых лидеров. На данный момент премьер-министр Италии Джорджия Мелони является единственным подтвержденным лидером G7, который, как ожидается, примет участие в мероприятии.

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/