China to Introduce Laws to Tackle Deepfakes in January PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Kína januárban törvényeket vezet be a mélyhamisítások leküzdésére

Időbélyeg: 24. december 2022. 5:45

Ha ezen a héten járt a közösségi médiában, valószínűleg találkozott olyan fotókkal, amelyeken MI által generált képek láthatók barátairól, mint tündérlényekről, anime karakterekről, avatarokról és varázslényekről.

Ez részben a Lensának, egy olyan mesterséges intelligenciának köszönhető, amely digitális portrékat szintetizál a felhasználók által feltöltött fényképek alapján. Az alkalmazás portréi gyakorlatilag átvették az internetet, a Lensa lett a legtöbbet letöltött alkalmazás az Apple alkalmazásboltjában.

A Lensa, mint minden MI-alkalmazás, amely képeket digitálisan renderel, csodálatot és vitát is kiváltott a női képek látszólag kirívó szexualizálása miatt. Más felhasználók megjegyezték, hogy az alkalmazás sápadtabbá tette a bőrüket vagy vékonyabbá tette a testüket.

Lásd még: AI Tech, amely életet romboló mély hamis képeket készít

Hogyan szerezd be a saját "varázslatos avatarod"

A körbefutó képek a Lensa mágikus avatar funkciójának büszke alkotásai. Ahhoz, hogy érezze, le kell töltenie a Lensa alkalmazást egy telefonra. Az éves előfizetés 35.99 dollár körül van, de szolgáltatásai is elérhetők, bár korlátozásokkal egyhetes próbaidőszak alatt ingyenesen, ha valaki először meg akarja nézni.

A népszerű mágikus avatarok generálása azonban további díjat igényel, mivel az alkalmazás szerint „iszonyatos számítási teljesítmény” érhető el.

Az ingyenes próbaverzió során 50 avatart 3.99 dollárért, 200 avatárt pedig 7.99 dollárért kaphat. A legjobb eredmény elérése érdekében az alkalmazás arra ösztönzi a felhasználókat, hogy töltsenek fel legalább 20 közeli képet.

Ideális esetben ezeknek a képeknek az egyén arcáról készült közeli képeknek kell lenniük, különböző hátterekkel, arckifejezésekkel és szögekkel. Az alkalmazás ragaszkodik ahhoz, hogy a felhasználók 13 éves vagy idősebbek legyenek. A Lensa nem teljesen új alkalmazás.

A Prisma terméke, az alkalmazás 2016-ban vált először népszerűvé annak a funkciónak köszönhetően, amely lehetővé tette a felhasználók számára, hogy híres művészek stílusában fotózzák a szelfiket.

Hogyan működik a Lensa?

A cég szerint az úgynevezett „TrueDepth API technológiát” használja, ahol a felhasználó fényképeket vagy „arcadatokat” ad meg, majd az AI-t megtanítják az algoritmusaira, hogy jobban teljesítsen és jobb eredményeket mutasson. A képzés az, amikor az AI feldolgozza az adatokat, validálja és teszteli a modelleket.

Az alkalmazás használatához 20 szelfit készíthet különféle arckifejezésekkel és szögekkel, és választhatja a 100 avatar opciót.

A munka elvégzése körülbelül 20 percet vesz igénybe. Ha elkészült, a mesterséges intelligencia 10 kategóriába sorolható avatarokat ad vissza, például fantasy, tündérhercegnő, fókusz, pop, stílusos, animé, fény, kawaii, irizáló és kozmikus.

„Általában úgy éreztem, hogy az alkalmazás tisztességes munkát végzett, amikor művészi képeket készített a szelfik alapján. A legtöbb portrén nem igazán tudtam magamra ismerni, de láttam, honnan származnak” Zoe Sottile – írta a CNN.

„Úgy tűnt, jobban felismer és megismétel bizonyos vonásokat, mint például a sápadt bőröm vagy a kerek orrom, mint mások. Némelyikük valósághűbb stílusú volt, és elég közel voltak ahhoz, hogy azt hihetném, hogy valójában rólam készült fényképek, ha messziről látom őket. Mások lényegesen stilizáltabbak és művészibbek voltak, így kevésbé érezték sajátosnak számomra.”

Sottile észrevette, hogy a mesterséges intelligencia könnyebbé tette.

Ami engem illet, azt is éreztem, hogy ez automatikusan világosabbá tesz, és a kép, amelyet a galériámban próbáltam meg rólam és egy enyhén sötétebb bőrű barátomról, valamivel sokkal világosabb változatot adott vissza rólunk, ami egyértelműen túlzás, és felfedte a világosításra való hajlamot. fekete bőrtónusok.

Nők szexualizálása

Másoknak, akik használták, többé-kevésbé hasonló aggodalmaik voltak.

A nők szerint a mesterséges intelligencia gyorsan szexualizálja képeiket. De egy korábbi cikkünkben mi magyarázható ezt az AI-képzésben használt adatkészletekben található szexualizált képek hatalmas száma tette lehetővé.

Más szavakkal, ez azt jelenti, hogy a mesterséges intelligencia túlságosan jól ismeri ezeket a képeket, és könnyen pornográfiává válik. Egy kis trükközéssel arra késztethető, hogy akaratlanul is pornót készítsen ezekből a képekből, ha a felhasználó úgy akarja.

Más történetekben bemutattuk, hogyan lehet az AI-kat becsapni azzal, hogy információt nyújtsanak arról, hogyan lehet a bomba például. Furcsa módon a szexualizáció kérdése nem jelent meg a Magic Avatar funkcióba feltöltött férfiakról készült képeken. Az MIT Technology Review számára Melissa Heikkilä írt,

"Az avatárjaimat karikatúraszerűen pornósították, míg a férfi kollégáim űrhajósok, felfedezők és feltalálók lettek."

Sottile viszont észrevette, hogy a mesterséges intelligencia „az egyik legzavaróbb képen” úgy nézett ki, mintha az arcom egy változata egy meztelen testen lenne.

"Több fotón úgy tűnt, hogy meztelen vagyok, de stratégiailag elhelyezett takaróm van, vagy a kép csak le van vágva, hogy elrejtse az egyértelmű dolgokat" - mondta.

„És sok képen, még akkor is, ha teljesen felöltöztem, fülledt arckifejezés, jelentős dekoltázs és szűkös ruházat szerepelt, amelyek nem egyeztek az általam benyújtott fotókkal” – teszi hozzá Zoe Sottile.

Mások attól tartanak, hogy az AI-technológia, például a Lensa pornósztárokká tenné őket.

Test megszégyenítése

A testes nők esetében a tapasztalat némileg eltérő volt, és néhány esetben még rosszabb is volt. Az AI vékonyabbá és szexissé tette őket.

„Ha az Lmfao rendelkezik Body Dysmorphiával, ne használja azt a Lensa alkalmazást a mesterséges intelligencia által generált képekhez. Ez az ön figyelmeztetése” – egy felhasználó írt.

Egy másik azt mondta, hogy az alkalmazás miatt ázsiainak tűnt.

Egy másik felhasználó a Twitteren panaszkodott, hogy 8 dollárt fizetett azért, hogy megtapasztalja a test diszmorfiáját, amikor az MI-t használta.

A testi diszmorfia olyan mentális egészségi állapot, amikor az ember sok időt tölt a megjelenése hibái miatti aggódással. Ezek a hibák gyakran mások számára észrevehetetlenek.

Egy másik arra panaszkodott, hogy a mesterséges intelligencia automatikusan jelentős súlyt hagyott le az egyébként teljes alakos képeiről.

„Egy kifogásom van a Lensa AI-vel kapcsolatban, hogy egyes képeken sovány lesz. Kövér emberként engem nagyon zavartak ezek a képek. Vigyázz tehát, nehogy beinduljon, ha egy kövér fickó vagy, és nem érdekel, hogy sovány legyél” – írta Mariah Successful (@Shlatz) 5. december 2022-én.

Pszichológiai időzített bomba

A pszichológusok pedig egyetértenek kijelentéseivel, miszerint a mesterséges intelligencia kiválthatja a teljes alkatú nőket.

Egy klinikai pszichológus, Dr. Toni Pikoos, egy ausztráliai mentális egészségügyi szakember, aki a test diszmorf rendellenességeivel foglalkozik, és arra specializálódott, úgy gondolta, hogy az alkalmazás több kárt okozhat, mint hasznot, és nem más, mint egy „fényképszűrő eszköz”, amellyel megváltoztathatja az ember önérzetét.

„Ha nagyobb az eltérés az ideális és a vélt megjelenés között, az a test elégedetlenségét, szorongását, valamint azt a vágyat ébresztheti, hogy javítsa vagy megváltoztassa a megjelenését potenciálisan egészségtelen vagy nem biztonságos eszközökkel”, mint például a rendetlen táplálkozás vagy a szükségtelen kozmetikai eljárások – mondja Pikoos.

Aggodalmát fejezte ki amiatt, hogy a képek kitörölték az olyan „bonyolult részleteket”, mint a „szeplők és vonalak”, ami fokozhatja a bőrrel kapcsolatos aggodalmakat. Ez pszichológiailag is kiválthat egy kiszolgáltatott személyt, mondja.

„Ha látni, hogy egy külső kép tükrözi a bizonytalanságukat, csak megerősíti azt a gondolatot, hogy „Nézd, ez nem stimmel velem! És nem én vagyok az egyetlen, aki láthatja!” – mondja Pikoos.

Mivel az AI bevezeti saját funkcióit, amelyek nem ábrázolják a felhasználó valós megjelenését, az alkalmazás új szorongást kelthet, mondja.

Azt mondja, az AI „mágikus avatárjai” „különösen érdekesek voltak, mert objektívebbnek tűnik – mintha valami külső, mindent tudó lény alkotta volna meg ezt a képet arról, hogy hogyan nézel ki”.

Úgy érzi, hogy ez valóban „hasznos” lehet a test diszmorf betegségben szenvedők számára, és segít rávilágítani az „egyenetlenségre” az „egyén negatív megítélése önmagáról és az, ahogyan mások látják őket”.

Megjegyezte azonban, hogy a mesterséges intelligencia nem volt objektív, mert az ember arcának hibátlan és „továbbfejlesztett és tökéletesített változatát” próbálta ábrázolni.

Például, ha valaki testdiszmorfikus rendellenességben vagy BDD-ben szenved, „rövid önbizalom-növekedést tapasztalhat, amikor megtekinti a képét, és meg akarja osztani önmagának ezt a verzióját a világgal” – mondja, de a valóság súlyosan meg fogja érinteni, ha kikapcsol. képernyőn, szűrés nélkül, a tükörben vagy egy fényképen, amelyet magukról készítenek."

Megvédi a sajátját

Andrey Usoltsev, a Prisma Labs vezérigazgatója azt állítja, hogy cége jelenleg „el van túlterhelve” a Lensával kapcsolatos kérdésekkel, és felajánlott egy linket egy GYIK oldalra, amely a szexualizált képekkel kapcsolatos kérdésekkel foglalkozik, bár ez nem olyan, mint a Pikoos által leírt felhasználói reakciók.

„Ha ezt az alkalmazásban látnák, az nagyon szembetűnő lenne, és egyfajta „megerősítést” jelentene arra vonatkozóan, ahogyan önmagukat látják, ami arra késztetné őket, hogy „inkább beépüljenek a rendellenességbe”.

Stabil diffúzió

A Lensa a Stable Diffusiont is használja, amely mély tanulási szintézist használ, amely képes új képeket létrehozni szöveges leírásokból, és futhat Windows vagy Linux PC-n, Macen vagy felhőben bérelt számítógépes hardveren.

A Stable Diffusion neurális hálózata intenzív tanulás segítségével elsajátította a szavak társítását és a képpontok helyzete közötti általános statisztikai asszociációt.

Belefedtünk egy másikat történet hogy a technológia milyen életpusztító következményekkel járhat azáltal, hogy olyan embereket jelenít meg és ábrázol, akik bűnözőknek tűnnek, vagy olyan hízelgő gyakorlatokban vesznek részt, mint például a lopás.

Például a nyílt forráskódú Stable Diffusion-nak megadhat egy felszólítást, például „Tom Hanks az osztályteremben”, és ez új képet ad neki Tom Hanksről az osztályteremben. Tom Hank esetében ez egy séta a parkban, mert több száz fotója már szerepel a Stable Diffusion képzéséhez használt adatkészletben.

A művészek is nyers üzletet kapnak

A művészet terén néhány művész elégedetlen.

Attól tartanak, hogy a mesterséges intelligencia veszélyeztetheti megélhetésüket. Ennek az az oka, hogy a művészek, beleértve a digitálisokat is, nem tudnak olyan gyorsan készíteni, mint a mesterséges intelligencia a digitális portréhoz.

A Lensa anyavállalata, a Prisma megpróbálta eloszlatni a technológiájával kapcsolatos aggodalmakat, amelyek megszüntetik a digitális művészek munkáját.

„Míg az emberek és a mesterséges intelligencia félig hasonló módon tanulnak a művészeti stílusokról, van néhány alapvető különbség: a mesterséges intelligencia képes gyorsan elemezni és tanulni nagy mennyiségű adathalmazt, de nem rendelkezik azonos szintű figyelem és értékeléssel a művészet iránt. mint ember" írt a cég a Twitteren december 6-án.

Azt írja, hogy „a kimenetek nem írhatók le egyetlen műalkotás pontos másolataként sem.”

Önkép megváltoztatása

Kerry Bowman, a Torontói Egyetem bioetikusa szerint a mesterséges intelligencia más etikai kérdések mellett képes negatívan befolyásolni az ember énképét.

"Bizonyos szempontból nagyon szórakoztató lehet, de ezeket az idealizált képeket társadalmi elvárások vezérlik, amelyek nagyon kegyetlenek és nagyon szűkek lehetnek" - mondta Bowman hétfőn.

Bowman elmondta, hogy ezek a mesterséges intelligencia-programok olyan adatkészlet-forrásokat használnak fel, mint például az internet, hogy különböző művészeti stílusokat keressenek a portrék elkészítéséhez. A hátránya az, hogy amikor a mesterséges intelligencia ezt teszi, a művészek ritkán kapnak anyagi javadalmazást munkáik használatáért vagy jóváírást.

„A feltörekvő mesterséges intelligencia esetében az történik, hogy a törvények nem voltak képesek igazán lépést tartani ezzel a szerzői jogi törvények tekintetében. Ez nagyon nehéz és nagyon homályos, és az etika még messzebb van a törvények mögött, mert azt állítom, hogy ez alapvetően igazságtalan” – mondta Bowman.

Személyes adatokkal kapcsolatos aggályok

Bowman aggodalmát fejezte ki az emberek személyes adatainak tárolási módjában is.

„Valóban szeretnéd, hogy az arcod egy nagy adatbázisban szerepeljen? Az embereknek maguknak kell dönteniük erről, de ez nem jóindulatú, nincs ebben semmi, ez nem csak szórakozás” – mondta.

A Lensa szerint a fényképeket legfeljebb 24 órán keresztül tárolják a szervereken és az alkalmazásokban. A mélytanulási és gépi tanulási algoritmusokkal az AI összegyűjti, majd a jövőben jobb eredményeket biztosít, szintén a törölt adatok alapján. Ez Bowman szerint biztonsági aggályokat fog eredményezni az arcfelismerés lehetséges használatával kapcsolatban, mivel az ilyen típusú adatokat a rendőrség illegálisan használhatja fel.

Időbélyeg:

Még több MetaNews