Kitajska bo januarja uvedla zakone za boj proti ponaredkom Deepfakes PlatoBlockchain Data Intelligence. Navpično iskanje. Ai.

Kitajska bo januarja uvedla zakone za boj proti ponaredkom Deepfakes

Časovni žig: 24. december 2022 5:45

Če ste bili ta teden na družabnih omrežjih, ste verjetno naleteli na fotografije vaših prijateljev kot pravljičnih bitij, animiranih likov, avatarjev in čarobnih bitij, ki jih je ustvarila umetna inteligenca.

To je deloma posledica Lense, umetne inteligence, ki sintetizira digitalne portrete na podlagi fotografij, ki jih naložijo uporabniki. Portreti aplikacije so tako rekoč prevzeli internet, pri čemer je Lensa postala največkrat prenašana aplikacija v Applovi trgovini z aplikacijami.

Lensa je, tako kot vse aplikacije AI, ki digitalno upodabljajo slike, vzbudila tako občudovanje kot polemiko zaradi svoje na videz očitne seksualizacije ženskih podob. Drugi uporabniki so opazili, da je njihova koža zaradi aplikacije postala bolj bleda ali njihova telesa tanjša.

Preberite tudi: Tehnologija umetne inteligence, ki ustvarja smrtonosne globoke lažne slike

Kako do lastnega 'čarobnega avatarja'

Slike, ki krožijo, so ponosna stvaritev Lensine funkcije čarobnih avatarjev. Če želite to občutiti, si morate na telefon naložiti aplikacijo Lensa. Letna naročnina znaša približno 35.99 USD, vendar so tudi njene storitve na voljo, čeprav z omejitvami, brezplačno v enotedenski preskusni različici, če jo želite najprej preveriti.

Vendar pa ustvarjanje priljubljenih čarobnih avatarjev zahteva dodatno plačilo, ker aplikacija pravi, da je to "ogromna računska moč".

V brezplačnem preizkusu lahko dobite 50 avatarjev za 3.99 USD in 200 avatarjev za 7.99 USD. Da bi dosegli najboljše rezultate, aplikacija spodbuja uporabnike, da naložijo vsaj 20 slik od blizu.

V idealnem primeru bi morale biti te slike bližnji posnetki obraza z nizom različnih ozadij, obraznih izrazov in kotov. Aplikacija vztraja, da morajo biti uporabniki stari 13 let in več. Lensa ni povsem nova aplikacija.

Aplikacija, ki je produkt podjetja Prisma, je postala priljubljena leta 2016 zaradi funkcije, ki je uporabnikom omogočala, da svoje selfije spremenijo v fotografije v slogu slavnih umetnikov.

Kako deluje Lensa?

Po navedbah podjetja uporablja tako imenovano »tehnologijo API-ja TrueDepth«, kjer uporabnik zagotovi fotografije ali »podatke o obrazu«, nato pa se AI usposobi za svoje algoritme, da deluje bolje in vam pokaže boljše rezultate. Usposabljanje je, ko AI obdeluje podatke, validira in testira modele.

Če želite uporabljati aplikacijo, lahko pripravite 20 selfijev z različnimi izrazi in zornimi koti ter izberete možnost 100 avatarjev.

Delo traja približno 20 minut. Ko je končano, umetna inteligenca vrne avatarje, ki spadajo v 10 kategorij, kot so fantazija, pravljična princesa, fokus, pop, stilsko, animé, svetloba, kawaii, mavrični in kozmični.

»Na splošno se mi je zdelo, da je aplikacija opravila spodobno delo pri ustvarjanju umetniških slik na podlagi mojih selfijev. Na večini portretov se nisem mogel prepoznati, videl pa sem, od kod prihajajo,« Zoe Sottile je zapisal CNN.

»Zdelo se je, da prepoznava in ponavlja nekatere poteze, na primer mojo bledo kožo ali moj okrogel nos, bolj kot druge. Nekatere od njih so bile v bolj realističnem slogu in dovolj blizu, da bi lahko mislil, da so moje fotografije, če bi jih videl od daleč. Drugi so bili precej bolj stilizirani in umetniški, zato so se mi zdeli manj specifični.«

Sottile je opazil, da jo je umetna inteligenca tudi olajšala.

Kar se tiče mene, sem prav tako začutila, da me samodejno naredi svetlejšega in podoba mene in prijatelja, ki je rahlo temnejše polti, ki sem jo preizkusila v svoji galeriji, je vrnila nekoliko veliko svetlejšo različico naju, očitno pretiravanje, in izpostavila nagnjenost k svetlenju. črni odtenki kože.

Seksualiziranje žensk

Več ali manj podobne pomisleke so imeli tudi drugi, ki so ga uporabljali.

Ženske pravijo, da umetna inteligenca hitro seksualizira njihove slike. Toda v prejšnjem članku smo razložiti to je omogočilo ogromno število seksualiziranih slik, najdenih v nizih podatkov, ki se uporabljajo pri usposabljanju AI.

Z drugimi besedami, to pomeni, da je AI vse preveč seznanjen s tem, kako ustvariti te slike in zlahka postati pornografske. Z malo zvijače se lahko pozove, da nehote proizvede tudi pornografijo iz teh slik, če uporabnik želi.

V drugih zgodbah smo obravnavali, kako je mogoče AI preslepiti, da zagotovijo informacije o tem, kako narediti a bomba na primer. Nenavadno je, da se vprašanje seksualizacije ni pojavilo na slikah moških, naloženih v funkcijo Magic Avatar. Za MIT Technology Review, Melissa Heikkilä Napisal,

"Moji avatarji so bili karikaturno pornificirani, medtem ko so bili moji moški kolegi astronavti, raziskovalci in izumitelji."

Po drugi strani pa je Sottile opazil, da jo je umetna inteligenca "na eni najbolj dezorientirajočih slik" naredila videti, "kot da je različica mojega obraza na golem telesu."

"Na več fotografijah je bilo videti, kot da sem gola, vendar z odejo, ki je bila strateško nameščena, ali pa je slika samo odrezana, da bi skrila karkoli eksplicitnega," je dejala.

"In veliko slik, tudi na tistih, kjer sem bila popolnoma oblečena, je vsebovalo soparen izraz na obrazu, velik dekolte in skromna oblačila, ki se niso ujemala s fotografijami, ki sem jih poslala," dodaja Zoe Sottile.

Drugi so izrazili strah, da jih bo tehnologija umetne inteligence, kot je Lensa, naredila za porno zvezde.

Sramovanje telesa

Pri ženskah polnega telesa je bila izkušnja nekoliko drugačna in v nekaterih primerih celo slabša. Umetna inteligenca jih je naredila tanjše in seksi.

»Za Lmfao, če imate telesno dismorfijo, ne uporabljajte te aplikacije Lensa za slike, ustvarjene z umetno inteligenco. To je vaše opozorilo,« uporabnik Napisal.

Drugi je rekel, da je zaradi aplikacije videti azijska.

Drugi uporabnik se je na twitterju pritožil, da je plačal 8 dolarjev za izkušnjo telesne dismorfije, ko je uporabil AI.

Telesna dismorfija je stanje duševnega zdravja, pri katerem oseba preživi veliko časa v skrbi zaradi pomanjkljivosti svojega videza. Te pomanjkljivosti so pogosto neopazne za druge.

Druga se je pritožila, da je umetna inteligenca samodejno zmanjšala težo njenih sicer polnih podob.

»Ena pritožba glede Lensa AI je ta, da vas bo na nekaterih slikah naredil suhega. Kot debelo osebo so me te slike res motile. Zato bodite previdni, da vas ne vznemiri, če ste drug debel, ki vas ne zanima, da bi postali suhi,« je 5. decembra 2022 zapisala Mariah Successful (@Shlatz).

Psihološka časovna bomba

In psihologi se strinjajo z njenimi izjavami, da bi umetna inteligenca lahko sprožila polno postavne ženske.

Klinični psiholog dr. Toni Pikos, avstralski strokovnjak za duševno zdravje, ki raziskuje in je specializiran za zdravljenje telesnih dismorfičnih motenj, je verjel, da lahko aplikacija povzroči več škode kot koristi in ni nič drugega kot »orodje za filtriranje fotografij« za spreminjanje posameznikovega samozaznavanja.

"Kadar obstaja večje neskladje med idealnim in zaznanim videzom, lahko to spodbudi nezadovoljstvo s telesom, stisko in željo po popraviti ali spremeniti svoj videz s potencialno nezdravimi ali nevarnimi sredstvi", kot je neurejeno prehranjevanje ali nepotrebni kozmetični posegi, pravi Pikoos.

Izrazila je zaskrbljenost, ker so slike izbrisale "zapletene podrobnosti", kot so "pege in črte", nekaj, kar bi lahko povečalo skrbi glede kože. To bi lahko tudi psihološko sprožilo ranljivo osebo, pravi.

»Če vidijo zunanjo podobo, ki odseva njihovo negotovost nazaj v njih, samo okrepi idejo 'Vidite, to je narobe z mano! In nisem edini, ki to lahko vidi!'« pravi Pikoos.

Zaradi dejstva, da umetna inteligenca uvaja lastne funkcije, ki ne prikazujejo uporabnikovega videza v resničnem življenju, bi lahko aplikacija ustvarila nove skrbi, pravi.

Pravi, da so bili "čarobni avatarji" AI "še posebej zanimivi, ker se zdijo bolj objektivni - kot da je neko zunanje, vsevedno bitje ustvarilo to podobo, kako izgledate."

Meni, da bi bilo to dejansko »uporabno« za ljudi s telesno dismorfično motnjo in bi pomagalo osvetliti »neskladje« med »negativnim pogledom posameznika na samega sebe in tem, kako jih vidijo drugi«.

Opozorila pa je, da AI ni bil objektiven, ker je poskušal prikazati brezhibno in bolj "izboljšano in izpopolnjeno različico" obraza.

Na primer, nekdo, ki ima telesno dismorfično motnjo ali BDD, »lahko doživi kratek dvig samozavesti, ko vidi svojo podobo, in želi to različico sebe deliti s svetom,« pravi, vendar ga bo resničnost močno prizadela, ko bo izklopljen. zaslon, nefiltrirano, v ogledalu ali fotografijo, ki jo posnamejo sami.”

Branjenje svojega

Andrey Usoltsev, izvršni direktor Prisma Labs, pravi, da je njegovo podjetje trenutno "preobremenjeno" s poizvedbami o Lensi in je ponudil povezavo do strani s pogostimi vprašanji, ki obravnava poizvedbe o seksualiziranih posnetkih, čeprav ne takšne reakcije uporabnikov, kot jih opisuje Pikoos.

"Če bi videli, da se to odraža v aplikaciji, bi bilo zelo sporno in bi zagotovilo nekakšno 'potrditev' za način, na katerega vidijo sami sebe", zaradi česar bi postali "bolj zasidrani v motnji."

Stabilna difuzija

Lensa uporablja tudi Stable Diffusion, ki uporablja sintezo globokega učenja, ki lahko ustvari nove slike iz besedilnih opisov in se lahko izvaja v računalniku z operacijskim sistemom Windows ali Linux, v računalniku Mac ali v oblaku na najeti računalniški strojni opremi.

Nevronska mreža Stable Diffusion je s pomočjo intenzivnega učenja obvladala povezovanje besed in splošno statistično povezavo med položaji pikslov na slikah.

Pokrili smo drugo zgodba kako bi lahko imela tehnologija smrtonosne posledice s tem, da upodablja in upodablja podobe ljudi, kot da so kriminalci ali da so vpleteni v manj kot laskave prakse, kot je kraja.

Na primer, odprtokodni Stable Diffusion lahko da poziv, na primer »Tom Hanks v učilnici«, in ta mu/ji bo dal novo podobo Toma Hanksa v učilnici. V primeru Toma Hanka je to sprehod po parku, ker je na stotine njegovih fotografij že v naboru podatkov, ki se uporablja za treniranje stabilne difuzije.

Tudi umetniki dobijo surovo ponudbo

Na področju umetnosti so nekateri umetniki nezadovoljni.

Skrbi jih, da bi umetna inteligenca lahko ogrozila njihovo preživetje. To je zato, ker umetniki, vključno z digitalnimi, tudi ne morejo ustvarjati tako hitro kot AI za digitalni portret.

Matična družba Lensa, Prisma, je poskušala razbremeniti pomisleke glede svoje tehnologije, ki digitalnim umetnikom odpravlja delo.

»Čeprav se ljudje in umetna inteligenca učimo o umetniških slogih na pol podobne načine, obstaja nekaj temeljnih razlik: umetna inteligenca je sposobna hitrega analiziranja in učenja iz velikih nizov podatkov, vendar nima enake ravni pozornosti in spoštovanja do umetnosti. kot človeško bitje,« Napisal podjetje na Twitterju 6. decembra.

Piše, da "rezultatov ni mogoče opisati kot natančne replike katerega koli določenega umetniškega dela."

Spreminjanje samopodobe

Kerry Bowman, bioetik na Univerzi v Torontu, pravi, da lahko umetna inteligenca med drugimi etičnimi vprašanji negativno vpliva na posameznikovo samopodobo.

"Na nek način je lahko zelo zabavno, vendar te idealizirane podobe poganjajo družbena pričakovanja, ki so lahko zelo kruta in zelo ozka," je dejal Bowman v ponedeljek.

Bowman je dejal, da ti programi AI uporabljajo vire nabora podatkov, kot je internet, pri iskanju različnih umetniških stilov za ustvarjanje teh portretov. Slaba stran je, da kadar to počne umetna inteligenca, so umetniki redkokdaj finančno nagrajeni za uporabo svojega dela ali priznani.

»Z nastajajočo umetno inteligenco se zgodi, da zakoni niso mogli zares slediti temu v smislu zakona o avtorskih pravicah. To je zelo težko in zelo nejasno in etika še bolj zaostaja za zakoni, ker bi trdil, da je to v osnovi nepošteno,« je dejal Bowman.

Zaskrbljenost glede osebnih podatkov

Bowman je izrazil tudi pomisleke, kako se osebni podatki ljudi hranijo.

»Ali res želite, da je vaš obraz v veliki bazi podatkov? Ljudje se morajo sami odločiti o tem, vendar to ni benigno, s tem ni nič, ni samo zabava,« je dejal.

Lensa pravi, da se fotografije hranijo na strežnikih in v aplikacijah največ 24 ur. Z algoritmi globokega učenja in strojnega učenja AI zbira in nato v prihodnosti zagotavlja boljše rezultate, tudi na podlagi izbrisanih podatkov. Bowman pravi, da bo to povzročilo varnostne pomisleke glede morebitne uporabe prepoznave obraza, saj bi lahko policija to vrsto podatkov uporabljala nezakonito.

Časovni žig:

Več od MetaNovice