У січні Китай запровадить закони про боротьбу з Deepfakes PlatoBlockchain Data Intelligence. Вертикальний пошук. Ai.

У січні Китай запровадить закони про боротьбу з Deepfakes

Мітка часу: 24 грудня 2022 р., 5:45

Якщо ви були в соціальних мережах цього тижня, ви, ймовірно, натрапляли на фотографії ваших друзів, згенерованих штучним інтелектом, у вигляді казкових істот, персонажів аніме, аватарів і магічних істот.

Це частково завдяки Lensa, штучному інтелекту, який синтезує цифрові портрети на основі фотографій, які завантажують користувачі. Портрети програми практично захопили Інтернет, і Lensa стала найбільш завантажуваною програмою в магазині програм Apple.

Lensa, як і всі додатки штучного інтелекту, які цифрово рендерять зображення, викликала як захоплення, так і суперечки через свою, здавалося б, відверту сексуалізацію жіночих зображень. Інші користувачі відзначали, що додаток зробив їхню шкіру блідішою або тіло худше.

Читайте також: Технологія штучного інтелекту, яка створює жахливі глибокі підроблені зображення

Як отримати власний «чарівний аватар»

Зображення, що обертаються, є пишним творінням функції чарівних аватарів Lensa. Щоб відчути це, потрібно завантажити додаток Lensa на телефон. Річна підписка коштує близько 35.99 доларів США, але її послуги також доступні, хоча й з обмеженнями, безкоштовні на тижневий пробний період, якщо ви хочете спочатку перевірити це.

Однак створення популярних магічних аватарів потребує додаткової плати через те, що, за словами програми, це «надзвичайна обчислювальна потужність».

Під час безкоштовної пробної версії можна отримати 50 аватарів за 3.99 доларів США та 200 аватарів за 7.99 доларів США. Щоб отримати найкращі результати, додаток заохочує користувачів завантажити принаймні 20 зображень великим планом.

В ідеалі ці зображення мають бути крупним планом обличчя людини з різними фонами, виразами обличчя та ракурсами. Додаток наполягає на тому, що користувачі повинні бути віком від 13 років. Lensa не зовсім нова програма.

Продукт Prisma, додаток став популярним у 2016 році завдяки функції, яка дозволяла користувачам перетворювати свої селфі на фотографії в стилі відомих художників.

Як працює Lensa?

За словами компанії, вона використовує те, що вона називає «технологією API TrueDepth», коли користувач надає фотографії або «дані обличчя», потім ШІ навчається на її алгоритмах, щоб працювати краще та показувати кращі результати. Навчання — це коли штучний інтелект обробляє дані, перевіряє та тестує моделі.

Щоб скористатися додатком, можна створити 20 селфі з різними виразами та ракурсами, а також вибрати опцію 100 аватарів.

На виконання роботи йде близько 20 хвилин. Після цього штучний інтелект повертає аватари, які поділяються на 10 категорій, як-от фентезі, казкова принцеса, фокус, поп, стильні, аніме, світлі, каваї, райдужні та космічні.

«Загалом я відчув, що додаток добре впорався зі створенням художніх зображень на основі моїх селфі. Я не міг упізнати себе на більшості портретів, але я міг зрозуміти, звідки вони», Зої Соттіле пише CNN.

«Здавалося, він розпізнавав і повторював певні риси, як-от мою бліду шкіру чи мій круглий ніс, більше, ніж інші. Деякі з них були в більш реалістичному стилі, і були досить близько, щоб я міг подумати, що це насправді мої фотографії, якби я бачив їх здалеку. Інші були значно більш стилізованими та художніми, тому вони здавалися мені менш специфічними».

Соттіле помітив, що ШІ також зробив її легшою.

Щодо мене, я також відчув, що це автоматично робить мене світлішим, і зображення, яке я спробував у своїй галереї, де я та друг зі злегка темнішою шкірою, повернуло дещо набагато світлішу версію нас, явно перебільшення, і виявило схильність до освітлення чорні тони шкіри.

Сексуальні жінки

Інші, хто використовував його, мали більш-менш схожі проблеми.

Жінки кажуть, що ШІ швидко сексуалізує їхні зображення. Але в попередній статті ми пояснені це стало можливим завдяки величезній кількості сексуалізованих зображень, знайдених у наборах даних, які використовуються під час навчання ШІ.

Іншими словами, це означає, що штучний інтелект надто знайомий із тим, як генерувати ці зображення та легко перетворювати їх на порнографічні. За допомогою невеликих хитрощів можна запропонувати також мимоволі створювати порно з цих зображень, якщо користувач хоче.

В інших історіях ми розповідали про те, як ШІ можна обдурити, щоб надати інформацію про те, як створити a бомба наприклад. Дивно, але проблема сексуалізації не з’явилася на зображеннях чоловіків, завантажених у функцію Magic Avatar. Для MIT Technology Review, Мелісса Хейккіля пише,

«Мої аватари були карикатурно порнографічними, тоді як мої колеги-чоловіки мали бути космонавтами, дослідниками та винахідниками».

Соттіле, з іншого боку, помітив, що штучний інтелект «на одному з найбільш дезорієнтуючих зображень» зробив її такою, ніби «версія мого обличчя була на оголеному тілі».

«На кількох фотографіях здавалося, що я гола, але зі стратегічно розміщеною ковдрою, або зображення просто обрізане, щоб приховати щось відверте», — сказала вона.

«На багатьох фотографіях, навіть там, де я була повністю одягнена, був спекотний вираз обличчя, значне декольте та убогий одяг, який не відповідав фотографіям, які я надіслала», — додає Зої Соттіле.

Інші висловлювали побоювання, що їх зроблять порнозірками завдяки технології ШІ, як-от Lensa.

Пригнічення тіла

Для повних жінок досвід був дещо іншим, а в деяких випадках навіть гіршим. ШІ зробив їх тоншими та сексуальними.

«Для Lmfao, якщо у вас дисморфія тіла, не використовуйте додаток Lensa для фотографій, створених штучним інтелектом. Це ваше попередження», – користувач пише.

Інший сказав, що додаток зробив її азіатською.

Інший користувач звернувся до Твіттера, щоб поскаржитися, що він заплатив 8 доларів, щоб відчути дисморфію тіла, коли він використовував ШІ.

Тілесна дисморфія – це стан психічного здоров’я, коли людина проводить багато часу, турбуючись про недоліки своєї зовнішності. Ці недоліки часто непомітні для оточуючих.

Інша скаржилася, що штучний інтелект автоматично зменшив значну вагу на її зображеннях повної фігури.

«Одна скарга, яку я маю щодо Lensa AI, полягає в тому, що він робить вас худими на деяких зображеннях. Мене, як товсту людину, ці зображення справді турбували. Тож будьте обережні, щоб не потрапити в тривогу, якщо ви товстий хлопець, який не зацікавлений худнути», — написала Мерайя Суксфул (@Shlatz) 5 грудня 2022 року.

Психологічна бомба сповільненої дії

І психологи погоджуються з її заявами про те, що штучний інтелект може викликати повноцінних жінок.

Клінічний психолог, Dr. Тоні Пікоос, австралійський психіатр, який проводить дослідження та спеціалізується на лікуванні дисморфічного розладу тіла, вважає, що програма може принести більше шкоди, ніж користі, і є нічим іншим, як «інструментом фільтрації фотографій» для зміни самосприйняття.

«Коли існує більша розбіжність між ідеальною та сприйманою зовнішністю, це може викликати незадоволення тілом, страждання та бажання виправити або змінити свій зовнішній вигляд за допомогою потенційно нездорових чи небезпечних засобів», як-от неправильне харчування чи непотрібні косметичні процедури, каже Пікус.

Вона висловила стурбованість тим, що на зображеннях стерті «складні деталі», такі як «ластовиння та лінії», що може посилити занепокоєння щодо шкіри. Це також може психологічно спровокувати вразливу людину, каже вона.

«Побачити зовнішній образ, що відображає їхню незахищеність, лише підсилює думку: «Бачиш, зі мною все не так! І я не єдиний, хто це бачить!» — каже Пікус.

За його словами, через те, що штучний інтелект вводить власні функції, які не відображають реальну зовнішність користувача, програма може викликати нові тривоги.

Вона каже, що «магічні аватари» штучного інтелекту були «особливо цікавими, тому що вони здаються більш об’єктивними — ніби якась зовнішня, всезнаюча істота створила це зображення того, як ви виглядаєте».

Це, на її думку, було б насправді «корисним» для людей з дисморфічним розладом тіла та допомогло б пролити світло на «невідповідність» між «негативним уявленням людини про себе та тим, як її бачать інші».

Однак вона зазначила, що штучний інтелект не був об’єктивним через його спробу зобразити бездоганну та більш «покращену та досконалу версію» свого обличчя.

Наприклад, хтось із дисморфічним розладом тіла, або BDD, «може відчути короткочасне підвищення впевненості, коли вони дивляться на своє зображення, і хочуть поділитися цією версією себе зі світом», — каже вона, — каже вона, але буде сильно вражений реальністю, коли вимкнено екран, без фільтрів, у дзеркалі або фото, яке вони самі роблять».

Відстоюючи своє

Андрій Усольцев, генеральний директор Prisma Labs, каже, що його компанія наразі «завалена» запитами про Lensa, і запропонував посилання на сторінку поширених запитань, яка відповідає запитам щодо сексуальних зображень, хоча це не така реакція користувачів, як описує Pikoos.

«Побачити це відображення в додатку було б дуже протиставляючим і дало б своєрідне «підтвердження» того, як вони бачать себе», що призвело б до того, що вони «більш закріпилися в розладі».

Стабільна дифузія

Lensa також використовує Stable Diffusion, який використовує синтез глибокого навчання, який може створювати нові зображення з текстових описів і може працювати на ПК з Windows або Linux, на Mac або в хмарі на орендованому комп’ютерному обладнанні.

Нейронна мережа Stable Diffusion за допомогою інтенсивного навчання навчилася зв’язувати слова та загальний статистичний зв’язок між положеннями пікселів на зображеннях.

Ми покрили інше історія як ця технологія може мати жахливі наслідки, створюючи та зображуючи зображення людей, які виглядають злочинцями або причетними до менш ніж улесливих практик, таких як крадіжки.

Наприклад, можна дати програмі Stable Diffusion з відкритим вихідним кодом підказку, наприклад «Том Хенкс у класі», і це дасть йому/їй нове зображення Тома Хенкса в класі. У випадку Тома Хенка це прогулянка парком, оскільки сотні його фотографій уже є в наборі даних, який використовується для навчання стабільної дифузії.

Художники також отримують необроблені пропозиції

На фронті мистецтва деякі художники незадоволені.

Вони стурбовані тим, що штучний інтелект може загрожувати їхнім джерелам існування. Це пояснюється тим, що художники, включно з цифровими, також не можуть створити цифровий портрет так швидко, як AI.

Материнська компанія Lensa, Prisma, намагалася усунути занепокоєння щодо своєї технології, що позбавляє роботи цифрових художників.

«Хоча і люди, і штучний інтелект вивчають художні стилі напівсхожими способами, є деякі принципові відмінності: штучний інтелект здатний швидко аналізувати великі набори даних і навчатися на них, але він не має однакового рівня уваги та оцінки мистецтва. як людина», пише компанія у Twitter 6 грудня.

Там сказано, що «результати не можна описати як точні копії будь-якого конкретного твору мистецтва».

Зміна образу себе

Керрі Боуман, біоетик з Університету Торонто, каже, що штучний інтелект може негативно вплинути на самооцінку людини, серед інших етичних питань.

«У певному сенсі це може бути дуже весело, але ці ідеалізовані образи обумовлені соціальними очікуваннями, які можуть бути дуже жорстокими та дуже обмеженими», — сказав Боумен у понеділок.

Боумен сказав, що ці програми штучного інтелекту використовують джерела даних, такі як Інтернет, у пошуках різних художніх стилів для створення таких портретів. Негативна сторона полягає в тому, що коли штучний інтелект робить це, художники рідко отримують фінансову винагороду за використання їхньої роботи або кредити.

«З появою штучного інтелекту відбувається те, що закони не в змозі справді встигати за цим з точки зору авторського права. Це дуже важко і дуже туманно, а етика ще більше відстає від законів, тому що я б стверджував, що це принципово несправедливо», – сказав Боумен.

Проблеми з персональними даними

Боумен також висловив стурбованість тим, як зберігаються особисті дані людей.

«Ви дійсно хочете, щоб ваше обличчя було у великій базі даних? Люди повинні самі вирішити, але це не доброякісно, ​​в цьому немає нічого, це не просто розвага», – сказав він.

Lensa каже, що фотографії зберігаються на серверах і в додатках не більше 24 годин. Завдяки алгоритмам глибокого та машинного навчання штучний інтелект збирає та забезпечує кращі результати в майбутньому, також на основі видалених даних. Це, за словами Боумена, призведе до занепокоєння щодо безпеки щодо можливого використання розпізнавання обличчя, оскільки цей тип даних може використовуватися поліцією незаконно.

Часова мітка:

Більше від МетаНовини