Спроби уникнути захисних огорож ШІ звинувачують у глибоких фейках Swift

Спроби уникнути захисних огорож ШІ звинувачують у глибоких фейках Swift

Мітка часу: 5 лютого 2024 5:11
Attempts to avoid AI guardrails blamed for Swift deepfakes PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Вірусні непристойні зображення поп-зірки Тейлор Свіфт, як повідомляється, виникли в результаті онлайн-конкурсу на 4chan, у якому учасникам було запропоновано зламати фільтри вмісту програмного забезпечення AI. 

Люди з Graphika, нью-йоркської аналітичної компанії соціальних медіа, відстежили фотографії безпосередньо на 4chan. Людей попросили придумати трюки, щоб обійти захисні огорожі в таких програмах, як Microsoft Designer або OpenAI DALL-E, щоб створити зображення NSFW жінок-знаменитостей. Згідно з Graphika, фотографії Тейлор Свіфт були створені за допомогою Microsoft Designer, а потім були опубліковані в груповому чаті в Telegram, а потім опубліковані на X.

«Ми продовжуємо досліджувати ці зображення та посилили наші існуючі системи безпеки, щоб запобігти зловживанню нашими службами для створення подібних зображень», — сказав представник Microsoft. Реєстр в заяві. 

Deepfake зображення Швидко набрали мільйони переглядів на X, перш ніж платформа соціальних мереж видалила їх і тимчасово заблокувала деякі пошукові терміни, пов’язані з автором пісень. Graphika, однак, заявила, що конкурс був націлений на інших відомих жінок, і попередила, що технологією можна зловживати, щоб націлитися на будь-кого. 

«Хоча вірусні порнографічні зображення Тейлор Свіфт привернули увагу до проблеми інтимних зображень, створених штучним інтелектом без згоди, вона далеко не єдина жертва», — Крістіна Лопес Г., старший аналітик Graphika, сказав Bloomberg. «У спільноті 4chan, де з’явилися ці зображення, вона навіть не є публічною особою, на яку найчастіше звертаються. Це показує, що мішенню таким чином може бути будь-хто, від світових знаменитостей до школярів».

Проте вірусна природа підроблених зображень, на яких Свіфт зображена в позах сексуального характеру, здається, підштовхнула законодавців до роботи. Прес-секретар Білого дому Карін Жан-П'єр закликала Конгрес «вжити законодавчих заходів» у відповідь на «тривожні» фотографії. 

Минулого тижня сенатори США представили Закон 2024 року про заборону явно підроблених зображень і редагування без згоди (DEFIANCE). двопартійний законопроект це дозволить жертвам подавати до суду на людей, які створюють і поширюють брудні дипфейки, створені ШІ. Законодавство, очолюване сенаторами Діком Дурбіном (D-IL), Ліндсі Грем (R-SC), Емі Клобучар (D-MN) і Джошем Хоулі (R-MO), вказувало на дослідження, яке стверджувало, що 96 відсотків глибоких фейкових відео були порнографічними та були створені без дозволу чи згоди жінок, яких вони зображували. 

Акт DEFIANCE був започаткований у той час, коли провідні керівники платформ соціальних мереж були допитані в Конгресі слух через сексуальну експлуатацію дітей в Інтернеті та відсутність захисту.

Реєстр звернувся до Graphika за подальшим коментарем. ®

Часова мітка:

Більше від Реєстр