В январе Китай примет законы по борьбе с дипфейками PlatoBlockchain Data Intelligence. Вертикальный поиск. Ай.

Китай в январе примет законы для борьбы с дипфейками

Отметка времени: 24 декабря 2022 г., 5:45

Если вы были в социальных сетях на этой неделе, вы, вероятно, сталкивались с фотографиями, созданными ИИ, изображениями ваших друзей в виде сказочных существ, аниме-персонажей, аватаров и волшебных существ.

Частично это связано с Lensa, искусственным интеллектом, который синтезирует цифровые портреты на основе загруженных пользователями фотографий. Портреты приложения практически захватили Интернет, а Lensa стала самым загружаемым приложением в магазине приложений Apple.

Lensa, как и все приложения ИИ, которые обрабатывают изображения в цифровом виде, вызвала как восхищение, так и споры из-за своей, казалось бы, вопиющей сексуализации женских изображений. Другие пользователи отметили, что приложение сделало их кожу бледнее, а тела — тоньше.

Читайте также: Технология искусственного интеллекта, которая создает разрушительные глубокие поддельные изображения

Как получить свой собственный «магический аватар»

Изображения, которые ходят по кругу, являются гордым творением функции волшебных аватаров Lensa. Чтобы почувствовать это, нужно скачать приложение Lensa на телефон. Годовая подписка стоит около 35.99 долларов, но ее услуги также доступны, хотя и с ограничениями, бесплатно в течение недельной пробной версии, если кто-то хочет сначала проверить это.

Однако для создания популярных волшебных аватаров требуется дополнительная плата из-за того, что, по словам приложения, это «огромная вычислительная мощность».

В бесплатной пробной версии можно получить 50 аватаров за 3.99 доллара и 200 аватаров за 7.99 доллара. Чтобы получить наилучшие результаты, приложение предлагает пользователям загружать не менее 20 изображений крупным планом.

В идеале эти изображения должны быть крупными планами лица с множеством разнородных фонов, выражений лица и ракурсов. Приложение настаивает на том, что пользователи должны быть старше 13 лет. Lensa не совсем новое приложение.

Продукт Prisma, приложение впервые стало популярным в 2016 году благодаря функции, которая позволяла пользователям превращать свои селфи в фотографии в стиле известных художников.

Как работает Ленса?

По словам компании, она использует то, что она называет «технологией API TrueDepth», когда пользователь предоставляет фотографии или «данные лица», а затем ИИ обучается на своих алгоритмах, чтобы работать лучше и показывать вам лучшие результаты. Обучение — это когда ИИ обрабатывает данные, проверяет и тестирует модели.

Чтобы использовать приложение, можно выбрать 20 селфи с разными выражениями и углами и выбрать вариант 100 аватаров.

На выполнение работы уходит около 20 минут. После этого ИИ возвращает аватары, которые делятся на 10 категорий, таких как фэнтези, сказочная принцесса, фокус, поп, стильный, аниме, свет, кавай, радужный и космический.

«В целом, я чувствовал, что приложение неплохо справлялось с созданием художественных изображений на основе моих селфи. Я не мог узнать себя на большинстве портретов, но я мог видеть, откуда они берутся». Зои Соттил CNN написал.

«Кажется, он распознает и повторяет определенные черты, такие как моя бледная кожа или мой круглый нос, больше, чем другие. Некоторые из них были выполнены в более реалистичном стиле и были достаточно близко, чтобы я мог подумать, что это на самом деле мои фотографии, если бы я увидел их издалека. Другие были значительно более стилизованными и артистичными, поэтому они казались мне менее конкретными».

Соттиле заметила, что искусственный интеллект также сделал ее легче.

Что касается меня, я также почувствовал, что это автоматически сделало меня светлее, и изображение, которое я попробовал в своей галерее, где я и мой друг, который имеет слегка более темную кожу, вернуло несколько более светлую версию нас, явное преувеличение, и выявило склонность к светлее. черные тона кожи.

Сексуализация женщин

Другие, кто использовал его, имели более или менее схожие опасения.

Женщины говорят, что ИИ быстро сексуализирует их изображения. Но в предыдущей статье мы объяснены это стало возможным благодаря огромному количеству сексуализированных изображений, найденных в наборах данных, используемых при обучении ИИ.

Другими словами, это означает, что ИИ слишком хорошо знаком с тем, как генерировать эти изображения и легко становиться порнографическими. С небольшой хитростью его можно подтолкнуть к непреднамеренному созданию порно из этих изображений, если пользователь захочет.

В других историях мы рассказывали, как можно обмануть ИИ, чтобы он предоставил информацию о том, как сделать бомба например. Как ни странно, проблема сексуализации не появлялась на изображениях мужчин, загруженных в функцию Magic Avatar. Для MIT Technology Review, Мелисса Хейккиля писал,

«Мои аватары были мультяшно порнографическими, а мои коллеги-мужчины стали астронавтами, исследователями и изобретателями».

Соттиле, с другой стороны, заметила, что ИИ «на одном из самых дезориентирующих изображений» заставил ее выглядеть «как версия моего лица на обнаженном теле».

«На нескольких фотографиях было похоже, что я голая, но с одеялом в стратегически важном месте, или изображение просто обрезано, чтобы скрыть что-то явное», — сказала она.

«И на многих фотографиях, даже на которых я была полностью одета, было знойное выражение лица, значительное декольте и скудная одежда, что не соответствовало фотографиям, которые я представила», — добавляет Зои Соттайл.

Другие выражали опасения, что технология искусственного интеллекта, такая как Lensa, сделает их порнозвездами.

Позорное тело

Для полных женщин опыт был несколько иным, а в некоторых случаях даже хуже. ИИ сделал их тоньше и сексуальнее.

«Для Lmfao, если у вас есть Body Dysmorphia, не используйте это приложение Lensa для изображений, созданных ИИ. Это ваше предупреждение», — пользователь писал.

Другой сказал, что приложение сделало ее похожей на азиатку.

Другой пользователь отправился в твиттер, чтобы пожаловаться на то, что он заплатил 8 долларов за то, чтобы испытать телесную дисморфию при использовании ИИ.

Дисморфия тела — это состояние психического здоровья, при котором человек проводит много времени, беспокоясь о недостатках своей внешности. Эти недостатки часто незаметны окружающим.

Другой пожаловался, что ИИ автоматически сбрасывает значительный вес на изображениях ее полной фигуры.

«Единственная претензия к Lensa AI, которая у меня есть, заключается в том, что на некоторых изображениях она делает вас худее. Меня, как толстого человека, эти образы очень беспокоили. Так что будьте осторожны, чтобы не возбудиться, если вы такой же толстяк, который не заинтересован в том, чтобы стать худым», — написала Мэрайя Успешная (@Shlatz) 5 декабря 2022 года.

Психологическая бомба замедленного действия

И психологи соглашаются с ее утверждениями о том, что ИИ может вызывать эффект полных женщин.

Клинический психолог, д. Тони Пикуос, практикующий психиатр из Австралии, который занимается исследованиями и специализируется на лечении дисморфофобии, считает, что приложение может принести больше вреда, чем пользы, и является не чем иным, как «инструментом фотофильтрации» для изменения восприятия себя.

«Когда существует большое несоответствие между идеальным и воспринимаемым внешним видом, это может подпитывать неудовлетворенность тела, дистресс и желание исправить или изменить свою внешность с помощью потенциально нездоровых или небезопасных средств», таких как беспорядочное питание или ненужные косметические процедуры, — говорит Пикуос.

Она выразила обеспокоенность тем, что на изображениях стерты «замысловатые детали», такие как «веснушки и линии», что может усилить беспокойство о состоянии кожи. По ее словам, это также может психологически спровоцировать уязвимого человека.

«Видеть, как внешний образ отражает их неуверенность в себе, только укрепляет мысль: «Видите, со мной что-то не так! И я не единственный, кто это видит!» — говорит Пикоос.

По его словам, из-за того, что ИИ вводит свои собственные функции, которые не отображают реальную внешность пользователя, приложение может вызвать новые опасения.

Она говорит, что «волшебные аватары» ИИ были «особенно интересны, потому что они кажутся более объективными — как будто какое-то внешнее, всезнающее существо создало этот образ того, как вы выглядите».

Она считает, что это действительно «полезно» для людей с телесным дисморфическим расстройством и поможет пролить свет на «несоответствие» между «негативным взглядом человека на себя и тем, как его видят другие».

Однако она отметила, что ИИ не был объективен из-за его попытки изобразить безупречную и более «улучшенную и совершенную версию» лица.

Например, кто-то, кто страдает телесным дисморфическим расстройством, или BDD, «может испытать кратковременный прилив уверенности, когда он увидит свое изображение, и захочет поделиться этой версией себя с миром», — говорит она, но реальность сильно ударит по нему, когда он отключится. экран, нефильтрованный, в зеркале или фотография, которую они делают сами».

Защита своих

Андрей Усольцев, генеральный директор Prisma Labs, говорит, что его компания в настоящее время «перегружена» запросами о Lensa, и предложил ссылку на страницу часто задаваемых вопросов, которая отвечает на вопросы о сексуализированных изображениях, хотя и не о той реакции пользователей, которую описывает Pikoos.

«Увидеть, как это отражается в приложении, было бы очень неприятно и дать своего рода «подтверждение» того, как они видят себя», что приведет к тому, что они «более укоренятся в расстройстве».

Стабильная диффузия

Lensa также использует Stable Diffusion, который использует синтез глубокого обучения, который может создавать новые изображения из текстовых описаний и может работать на ПК с Windows или Linux, на Mac или в облаке на арендованном компьютерном оборудовании.

Нейронная сеть Stable Diffusion с помощью интенсивного обучения научилась связывать слова и общую статистическую связь между позициями пикселей на изображениях.

Мы покрылись другим История как технология может иметь разрушительные последствия для жизни, рендеринг и изображение людей, которые выглядят как преступники или вовлечены в менее чем лестные действия, такие как воровство.

Например, можно задать Stable Diffusion с открытым исходным кодом подсказку, например «Том Хэнкс в классе», и он/она даст ему/ей новое изображение Тома Хэнкса в классе. В случае с Томом Хэнком это просто прогулка по парку, потому что сотни его фотографий уже есть в наборе данных, используемом для обучения стабильной диффузии.

Художники тоже получают сырую сделку

На художественном фронте некоторые художники недовольны.

Они обеспокоены тем, что ИИ может угрожать их средствам к существованию. Это связано с тем, что художники, в том числе цифровые, также не могут создавать цифровые портреты так же быстро, как ИИ.

Материнская компания Lensa, Prisma, попыталась развеять опасения по поводу того, что ее технология избавляет от работы цифровых художников.

«Хотя и люди, и ИИ изучают художественные стили примерно одинаковыми способами, между ними есть некоторые фундаментальные различия: ИИ способен быстро анализировать и учиться на больших наборах данных, но у него нет такого же уровня внимания и оценки искусства. как человек», писал компания в Твиттере 6 декабря.

В нем говорится, что «результаты не могут быть описаны как точные копии какого-либо конкретного произведения искусства».

Изменение собственного имиджа

Керри Боуман, биоэтик из Университета Торонто, говорит, что ИИ может негативно повлиять на самооценку человека, помимо других этических проблем.

«В некотором смысле это может быть очень весело, но эти идеализированные образы движимы социальными ожиданиями, которые могут быть очень жестокими и очень узкими», — сказал Боуман в понедельник.

Боуман сказал, что эти программы искусственного интеллекта используют источники набора данных, такие как Интернет, в поисках различных художественных стилей для создания этих портретов. Обратной стороной является то, что, когда ИИ делает это, художники редко получают финансовое вознаграждение за использование их работ или кредиты.

«Что происходит с появляющимся ИИ, так это то, что законы не могут поспевать за этим с точки зрения закона об авторском праве. Это очень сложно и очень туманно, а этика еще больше отстает от законов, потому что я бы сказал, что это в корне несправедливо», — сказал Боуман.

Проблемы с персональными данными

Боуман также выразил обеспокоенность тем, как хранятся личные данные людей.

«Вы действительно хотите, чтобы ваше лицо попало в большую базу данных? Люди должны сами решить об этом, но это нехорошо, в этом нет ничего, это не просто развлечение», — сказал он.

Lensa говорит, что фотографии хранятся на серверах и в приложениях не более 24 часов. С помощью алгоритмов глубокого обучения и машинного обучения ИИ собирает, а затем предоставляет лучшие результаты в будущем, в том числе на основе удаленных данных. По словам Боумана, это приведет к опасениям по поводу потенциального использования распознавания лиц, поскольку этот тип данных может быть использован полицией незаконно.

Отметка времени:

Больше от МетаНьюс