Попытки обойти ограждения ИИ обвиняют в дипфейках Swift

Попытки обойти ограждения ИИ обвиняют в дипфейках Swift

Отметка времени: 5 февраля 2024 г., 5:11
В попытках обойти барьеры искусственного интеллекта Swift обвиняют в дипфейках PlatoBlockchain Data Intelligence. Вертикальный поиск. Ай.

Сообщается, что вирусные непристойные фейковые изображения поп-звезды Тейлор Свифт возникли в результате онлайн-конкурса на 4chan, в котором участникам предлагалось взломать контент-фильтры программного обеспечения AI. 

Ребята из Graphika, нью-йоркской компании, занимающейся аналитикой социальных сетей, отследили фотографии непосредственно до 4chan. Людей просили придумать трюки, позволяющие обойти защитные ограждения в таких приложениях, как Designer от Microsoft или DALL-E от OpenAI, и создавать NSFW-изображения женщин-знаменитостей. По данным Graphika, фотографии Тейлор Свифт были созданы с помощью Microsoft Designer и позже были опубликованы в групповом чате Telegram, а затем опубликованы на X.

«Мы продолжаем исследовать эти изображения и усилили наши существующие системы безопасности, чтобы в дальнейшем предотвратить неправомерное использование наших сервисов для создания подобных изображений», — заявил представитель Microsoft. Регистр в своем заявлении. 

Дипфейковые изображения SWIFT набрали миллионы просмотров на X, прежде чем платформа социальных сетей удалила их и временно заблокировала некоторые поисковые запросы, связанные с автором песен. В Graphika, однако, заявили, что конкурс нацелен на других известных женщин, и предупредили, что технология может быть использована против кого угодно. 

«Хотя вирусные порнографические фотографии Тейлор Свифт привлекли внимание общественности к проблеме интимных изображений, созданных ИИ без согласия, она далеко не единственная жертва», — Кристина Лопес Г., старший аналитик Graphika, заявил Блумберг. «В сообществе 4chan, где были созданы эти изображения, она даже не является самой часто целевой публичной фигурой. Это показывает, что такой мишенью может стать кто угодно: от мировых знаменитостей до школьников».

Однако вирусная природа фальшивых изображений, изображающих Свифта в сексуальных позах, похоже, заставила законодателей активизироваться. Пресс-секретарь Белого дома Карин Жан-Пьер призвала Конгресс «принять законодательные меры» в ответ на «тревожные» фотографии. 

На прошлой неделе сенаторы США представили Закон 2024 года о противодействии явным поддельным изображениям и редактированию без согласия (DEFIANCE). двухпартийный счет это позволит жертвам подавать в суд на людей, которые создают и распространяют непристойные дипфейки, созданные искусственным интеллектом. Законопроект, инициированный сенаторами Диком Дурбином (демократ от Иллинойса), Линдси Грэмом (республиканец от штата Южная Каролина), Эми Клобушар (демократ от Миннесоты) и Джошем Хоули (республиканец от штата Миссури), указывает на исследование, в котором заявлено о 96 процентах дипфейковых видео. были порнографическими и были созданы без разрешения или согласия изображенных на них женщин. 

Закон DEFIANCE был запущен в то время, когда топ-менеджеры социальных сетей были допрошены в Конгрессе. слух о сексуальной эксплуатации детей в Интернете и отсутствии защиты.

Регистр попросил Graphika дать дальнейшие комментарии. ®

Отметка времени:

Больше от Регистр