Hiina kehtestab jaanuaris PlatoBlockchaini andmeluure seadused sügavvõltsingute vastu võitlemiseks. Vertikaalne otsing. Ai.

Hiina võtab jaanuaris kasutusele seadused sügavvõltsingute vastu võitlemiseks

Ajatempel: 24. detsember 2022 kell 5:45

Kui olete sel nädalal sotsiaalmeedias käinud, olete tõenäoliselt kohanud fotosid tehisintellektiga loodud piltidest oma sõpradest haldjasolendite, animetegelaste, avataride ja võluolenditena.

See on osaliselt tingitud Lensast, tehisintellektist, mis sünteesib kasutajate üleslaaditud fotode põhjal digitaalseid portreesid. Rakenduse portreed võtsid praktiliselt Interneti võimust ning Lensast sai Apple'i rakenduste poe enim allalaaditud rakendus.

Lensa, nagu kõik AI-rakendused, mis pilte digitaalselt renderdavad, on tekitanud nii imetlust kui ka vaidlusi naiste piltide näiliselt jultunud seksualiseerimise pärast. Teised kasutajad märkisid, et rakendus muutis nende naha kahvatumaks või keha õhemaks.

Loe ka: AI-tehnoloogia, mis loob elu hävitavaid sügavaid võltspilte

Kuidas hankida oma "maagiline avatar"

Ringi tegevad pildid on Lensa võluavatarite funktsiooni uhke looming. Selle tunnetamiseks tuleb telefoni alla laadida Lensa rakendus. Aastatellimus on umbes 35.99 dollarit, kuid selle teenused on samuti saadaval, ehkki piirangutega, nädalase prooviversiooni korral tasuta, kui soovite seda kõigepealt kontrollida.

Populaarsete maagiliste avataride loomine nõuab aga lisatasu, kuna rakenduse sõnul on selle saavutamiseks "tohutu arvutusvõimsus".

Tasuta prooviversioonil saate 50 avatari hinnaga 3.99 dollarit ja 200 avatari hinnaga 7.99 dollarit. Parimate tulemuste saavutamiseks julgustab rakendus kasutajaid laadima üles vähemalt 20 lähivõtet.

Ideaalis peaksid need pildid olema inimese näo lähivõtted, millel on erinevad taustad, näoilmed ja nurgad. Rakendus nõuab, et kasutajad peaksid olema 13-aastased ja vanemad. Lensa ei ole täiesti uus rakendus.

Prisma toode, rakendus sai esmakordselt populaarseks 2016. aastal tänu funktsioonile, mis võimaldas kasutajatel muuta oma selfisid kuulsate kunstnike stiilis fotodeks.

Kuidas Lensa töötab?

Ettevõtte sõnul kasutab see seda, mida ta nimetab "TrueDepth API tehnoloogiaks", kus kasutaja pakub fotosid või "näoandmeid", seejärel koolitatakse AI oma algoritme paremini toimima ja teile paremaid tulemusi näitama. Koolitus on see, kui tehisintellekt töötleb andmeid, valideerib ja testib mudeleid.

Rakenduse kasutamiseks saate kureerida 20 erineva ilme ja nurgaga selfit ning valida 100 avatari.

Töö tegemiseks kulub umbes 20 minutit. Kui see on tehtud, tagastab AI avatarid, mis jagunevad 10 kategooriasse, nagu fantaasia, haldjasprintsess, fookus, pop, stiilne, animé, kerge, kawaii, sillerdav ja kosmiline.

„Üldiselt tundsin, et rakendus tegi minu selfide põhjal kunstiliste piltide loomisel korralikku tööd. Ma ei suutnud end enamikul portreedel ära tunda, kuid ma nägin, kust need tulid. Zoe Sottile kirjutas CNN.

„Tundus, et ta tunneb ära ja kordas teatud jooni, nagu mu kahvatu nahk või ümar nina, rohkem kui teised. Mõned neist olid realistlikumas stiilis ja olid piisavalt lähedal, et kui ma neid kaugelt näen, võin arvata, et need on minust tehtud fotod. Teised olid oluliselt stiliseeritumad ja kunstilisemad, mistõttu tundusid nad minu jaoks vähem spetsiifilised.

Sottile märkas, et AI muutis ta ka kergemaks.

Mis puutub minusse, siis ma tajusin ka, et see muutis mind automaatselt heledamaks ja pilt, mida ma oma galeriis proovisin minust ja sõbrast, kes on veidi tumedama nahaga, andis meist mõnevõrra heledama versiooni, mis on selgelt liialdus ja paljastas kalduvuse heledamaks muuta. mustad nahatoonid.

Naiste seksualiseerimine

Teistel, kes seda kasutasid, olid enam-vähem sarnased mured.

Naised ütlevad, et tehisintellekt muudab nende pildid kiiresti seksuaalseks. Kuid ühes varasemas artiklis me selgitas selle on võimaldanud tohutu hulk seksualiseeritud kujutisi, mis leiti tehisintellekti koolitusel kasutatavates andmekogumites.

Teisisõnu tähendab see, et tehisintellekt on liigagi tuttav nende piltide genereerimisega ja kergesti pornograafiliseks muutumisega. Natuke trikitades võib kasutaja soovi korral ka nendest piltidest tahtmatult pornot toota.

Teistes lugudes oleme käsitlenud seda, kuidas tehisintellekti saab petta, et anda teavet selle kohta, kuidas teha a pomm näiteks. Kummalisel kombel ei ilmnenud seksualiseerimise probleem meeste piltidel, mis olid üles laaditud funktsiooni Magic Avatar. MIT Technology Review jaoks Melissa Heikkilä kirjutas,

"Minu avatarid olid karikatuuriliselt porniseeritud, samas kui mu meeskolleegidest said astronaudid, maadeavastajad ja leiutajad."

Sottile aga märkas, et tehisintellekt oli "ühel kõige desorienteerivamal pildil" pannud ta välja nägema, "nagu minu näo versioon oleks alasti kehal".

"Mitmel fotol näis, et olin alasti, kuid strateegiliselt paigutatud tekk või pilt oli lihtsalt ära lõigatud, et varjata midagi selgesõnalist," ütles ta.

"Ja paljudel piltidel, isegi kui olin täielikult riides, oli lämbe näoilme, märkimisväärne dekoltee ja napp riietus, mis ei vastanud minu esitatud fotodele," lisab Zoe Sottile.

Teised väljendasid kartust, et tehisintellektitehnoloogia, nagu Lensa, muudab nad pornotaarideks.

Keha häbistamine

Täis kehaga naiste puhul oli kogemus mõnevõrra erinev ja mõnel juhul isegi hullem. AI muutis nad õhemaks ja seksikamaks.

Kui Lmfao puhul on keha düsmorfia, ärge kasutage seda Lensa rakendust tehisintellektiga loodud piltide jaoks. See on teie hoiatus," kasutaja kirjutas.

Teine ütles, et rakendus muutis ta Aasia välimuse.

Teine kasutaja kaebas Twitteris, et maksis tehisintellekti kasutamisel keha düsmorfia kogemise eest 8 dollarit.

Keha düsmorfia on vaimse tervise seisund, mille puhul inimene kulutab palju aega oma välimuse vigade pärast muretsemisele. Need vead on sageli teistele märkamatud.

Teine kaebas, et tehisintellekt kaotas tema muidu täiskujulistele piltidele automaatselt märkimisväärse raskuse.

"Üks etteheide, mis mul Lensa AI kohta on, on see, et see muudab teid mõnel pildil kõhnaks. Paksu inimesena häirisid need pildid mind väga. Nii et olge ettevaatlik, et mitte end vallandada, kui olete rasvane kaaslane ja pole huvitatud kõhnaks muutumisest," kirjutas Mariah Successful (@Shlatz) 5. detsembril 2022.

Psühholoogiline viitsütikuga pomm

Psühholoogid nõustuvad tema väidetega, et tehisintellekt võib vallandada täisväärtuslikud naised.

Kliiniline psühholoog dr. Toni PikoosAustraalia vaimse tervise praktik, kes tegeleb keha düsmorfse häire uurimisega ja on spetsialiseerunud nende ravile, uskus, et rakendus võib teha rohkem kahju kui kasu ning see pole midagi muud kui "fotode filtreerimise tööriist", mis muudab inimese enesetaju.

"Kui ideaalse ja tajutava välimuse vahel on suurem lahknevus, võib see tekitada kehas rahulolematust, stressi ja soovi parandada või muuta oma välimust potentsiaalselt ebatervislike või ohtlike vahenditega", nagu söömine või ebavajalikud kosmeetilised protseduurid, ütleb Pikoos.

Ta väljendas muret piltide pärast, kus on kustutatud "keerulised detailid", nagu "tedretähnid ja jooned", mis võib suurendada muret naha pärast. See võib ka haavatava inimese psühholoogiliselt vallandada, ütleb ta.

"Kui näha, et väline pilt peegeldab nende ebakindlust nende ees, tugevdab mõtet:" Näe, see on minuga valesti! Ja ma pole ainuke, kes seda näeb!”” räägib Pikoos.

Kuna AI tutvustab oma funktsioone, mis ei kujuta kasutaja tegelikku välimust, võib rakendus tekitada uusi ärevusi, ütleb ta.

Ta ütleb, et tehisintellekti "maagilised avatarid" olid "eriti huvitavad, kuna need tunduvad objektiivsemad - justkui oleks mõni väline kõiketeadev olend loonud selle pildi teie välimusest."

Ta arvab, et see võib olla keha düsmorfse häirega inimestele tegelikult kasulik ja aidata selgitada "mittevastavust" inimese enda negatiivse nägemuse ja teiste inimeste nägemuse vahel.

Ta märkis siiski, et tehisintellekt ei olnud objektiivne, kuna püüdis kujutada veatut ja rohkem "täiustatud ja täiustatud versiooni" näost.

Näiteks võib keegi, kellel on keha düsmorfne häire ehk BDD, "oma pilti vaadates kogeda lühiajalist enesekindluse tõusu ja soovib seda versiooni endast maailmaga jagada," ütleb ta, kuid reaalsus tabab teda raskelt, kui ta on välja lülitatud. ekraan, filtreerimata, peeglis või foto, mille nad endast teevad.

Oma kaitsmine

Prisma Labsi tegevjuht Andrey Usoltsev ütleb, et tema ettevõte on praegu Lensat puudutavate päringutega "ülekoormatud" ja pakkus linki KKK lehele, mis käsitleb seksualiseeritud kujutiste päringuid, kuigi mitte selliseid kasutajate reaktsioone, mida Pikoos kirjeldab.

"Selle nägemine rakenduses oleks väga vastandlik ja annaks omamoodi "kinnituse" sellele, kuidas nad ennast näevad, mis viiks nad "häiresse rohkem juurduma".

Stabiilne difusioon

Lensa kasutab ka funktsiooni Stable Diffusion, mis kasutab süvaõppe sünteesi, mis suudab tekstikirjeldustest uusi pilte luua ja mida saab kasutada Windowsi või Linuxi arvutis, Macis või renditud arvutiriistvara pilves.

Stabiilse difusiooni närvivõrk on intensiivse õppimise abil õppinud seostama sõnu ja üldist statistilist seost piltide pikslite asukohtade vahel.

Katsime teise lugu kuidas sellel tehnoloogial võivad olla elu hävitavad tagajärjed, esitades ja kujutades pilte inimestest, kes näivad olevat kurjategijad või on seotud vähem kui meelitavate tegevustega, näiteks vargustega.

Näiteks võib avatud lähtekoodiga Stable Diffusionile anda käsu, näiteks „Tom Hanks klassiruumis”, ja see annab talle uue pildi Tom Hanksist klassiruumis. Tom Hanki puhul on tegemist jalutuskäiguga pargis, sest sadu tema fotosid on juba stabiilse difusiooni treenimiseks kasutatavas andmekogumis.

Ka artistid saavad toores tehingu

Kunstirindel on mõned kunstnikud õnnetud.

Nad on mures, et tehisintellekt võib ohustada nende elatist. Selle põhjuseks on asjaolu, et kunstnikud, sealhulgas digitaalsed, ei suuda digitaalportreed toota nii kiiresti kui tehisintellekt.

Lensa emaettevõte Prisma on püüdnud masseerida muret selle tehnoloogia pärast, mis kõrvaldab digitaalsete kunstnike töö.

"Kuigi nii inimesed kui ka tehisintellekt õpivad kunstistiile pooleldi sarnasel viisil, on mõned põhimõttelised erinevused: tehisintellekt on võimeline kiiresti analüüsima ja õppima suuri andmekogumeid, kuid sellel ei ole sama tähelepanu ja kunsti väärtustamist. inimesena," kirjutas ettevõte Twitteris 6. detsembril.

See ütleb, et "väljundeid ei saa kirjeldada kui ühegi konkreetse kunstiteose täpseid koopiaid."

Enesepildi muutmine

Toronto ülikooli bioeetik Kerry Bowman ütleb, et tehisintellektil on potentsiaal muude eetiliste probleemide kõrval ka negatiivselt mõjutada inimese minapilti.

"Mõnes mõttes võib see olla väga lõbus, kuid neid idealiseeritud pilte juhivad sotsiaalsed ootused, mis võivad olla väga julmad ja väga kitsad," ütles Bowman esmaspäeval.

Bowman ütles, et need AI-programmid kasutavad nende portreede loomiseks erinevaid kunstistiile otsides andmekogumi allikaid, nagu Internet. Negatiivne külg on see, et kui tehisintellekt seda teeb, saavad kunstnikud harva oma töö kasutamise eest rahalist tasu või krediteerimist.

"Mis juhtub esilekerkiva AI-ga, on see, et seadused ei ole suutnud sellega autoriõiguse seaduse osas tegelikult sammu pidada. See on väga raske ja väga hägune ning eetika on seadustest veelgi kaugemal, sest ma väidan, et see on põhimõtteliselt ebaõiglane, ”ütles Bowman.

Isikuandmetega seotud mured

Bowman väljendas ka muret, kuidas inimeste isikuandmeid säilitatakse.

"Kas sa tõesti tahad oma nägu suurde andmebaasi? Inimesed peavad selle üle ise otsustama, kuid see ei ole healoomuline, selles pole midagi, see pole lihtsalt lõbus, ”sõnas ta.

Lensa sõnul ei hoita fotosid serverites ja rakendustes kauem kui 24 tundi. Süvaõppe ja masinõppe algoritmide abil kogub tehisintellekt kokku ja annab tulevikus paremaid tulemusi ka kustutatud andmete põhjal. Bowmani sõnul põhjustab see näotuvastuse võimaliku kasutamise ohutusega seotud probleeme, kuna politsei võib seda tüüpi andmeid ebaseaduslikult kasutada.

Ajatempel:

Veel alates MetaNews