Kiina ottaa käyttöön lait syväväärennösten torjumiseksi tammikuussa PlatoBlockchain Data Intelligencessa. Pystysuuntainen haku. Ai.

Kiina ottaa tammikuussa käyttöön lait syväväärennösten torjumiseksi

Aikaleima: 24. joulukuuta 2022 5

Jos olet ollut sosiaalisessa mediassa tällä viikolla, olet luultavasti törmännyt tekoälyn luomiin kuviin ystävistäsi keijuolentoina, animehahmoina, avatareina ja taikaolentoina.

Tämä johtuu osittain Lensasta, tekoälystä, joka syntetisoi digitaalisia muotokuvia käyttäjien lataamien valokuvien perusteella. Sovelluksen muotokuvat valtasivat käytännössä Internetin, ja Lensasta tuli Applen sovelluskaupan ladatuin sovellus.

Lensa, kuten kaikki tekoälysovellukset, jotka renderöivät kuvia digitaalisesti, on herättänyt sekä ihailua että kiistoja naisten kuvien näennäisen räikeän seksualisoinnin vuoksi. Muut käyttäjät huomauttivat, että sovellus teki heidän ihonsa vaaleammaksi tai kehonsa ohuemmiksi.

Lue myös: Tekoälytekniikka, joka luo elämää tuhoavia vääriä kuvia

Kuinka saada oma "maaginen avatari"

Kierroskuvat ovat ylpeä luomus Lensan taikaavatareista. Saadakseen tunteen siitä, sinun on ladattava Lensa-sovellus puhelimeen. Vuositilaus on noin 35.99 dollaria, mutta sen palvelut ovat myös saatavilla, vaikkakin rajoituksin ilmaiseksi viikon mittaisella kokeilujaksolla, jos haluaa tarkistaa sen ensin.

Suosittujen taikaavatarien luominen vaatii kuitenkin lisämaksun, koska sovellus sanoo olevan "valtava laskentateho".

Ilmaisella kokeilulla voi saada 50 avataria hintaan 3.99 dollaria ja 200 avataria hintaan 7.99 dollaria. Parhaiden tulosten saavuttamiseksi sovellus kannustaa käyttäjiä lataamaan vähintään 20 lähikuvaa.

Ihannetapauksessa näiden kuvien tulisi olla lähikuvia kasvoista, joissa on erilaisia ​​taustoja, ilmeitä ja kulmia. Sovellus vaatii, että käyttäjien tulee olla vähintään 13-vuotiaita. Lensa ei ole täysin uusi sovellus.

Prisman tuote, sovellus tuli ensimmäisen kerran suosituksi vuonna 2016 toiminnon ansiosta, jonka avulla käyttäjät voivat muuttaa selfieistään valokuvia kuuluisien taiteilijoiden tyyliin.

Miten Lensa toimii?

Yrityksen mukaan se käyttää "TrueDepth API -tekniikkaa", jossa käyttäjä tarjoaa valokuvia tai "kasvotietoja", minkä jälkeen tekoäly koulutetaan algoritmeihinsa toimimaan paremmin ja näyttämään sinulle parempia tuloksia. Koulutus on sitä, kun tekoäly käsittelee dataa, validoi ja testaa malleja.

Sovelluksen käyttämiseksi voit valita 20 selfietä erilaisilla ilmeillä ja kuvakulmilla ja valita 100 avatar-vaihtoehdon.

Työn tekemiseen menee noin 20 minuuttia. Valmistuttuaan tekoäly palauttaa avatarit, jotka jakautuvat 10 luokkaan, kuten fantasia, keijuprinsessa, fokus, pop, tyylikäs, animé, kevyt, kawaii, irisoiva ja kosminen.

”Yleensä minusta tuntui, että sovellus teki kunnollista työtä tuottaen taiteellisia kuvia selfieideni perusteella. En oikein tunnistanut itseäni useimmista muotokuvista, mutta näin, mistä ne olivat peräisin." Zoe Sottile CNN kirjoitti.

”Se näytti tunnistavan ja toistavan tietyt piirteet, kuten vaalea ihoni tai pyöreä nenäni, enemmän kuin toiset. Jotkut heistä olivat realistisempia ja riittävän lähellä, että voisin ajatella, että ne olivat todella valokuvia minusta, jos näin ne kaukaa. Toiset olivat huomattavasti tyyliteltympiä ja taiteellisempia, joten he tuntuivat vähemmän erityisiltä minusta."

Sottile huomasi, että tekoäly teki hänestä myös kevyemmän.

Mitä tulee minuun, aistin myös, että se teki minusta automaattisesti vaaleamman ja kuva, jota kokeilin galleriassani minusta ja ystävästäni, joka on hieman tummempi iho, palautti hieman paljon vaaleamman version meistä, selvästi liioittelua ja paljasti halun vaalentaa. mustat ihon sävyt.

Naisten seksuaalistamista

Muilla sitä käyttäneillä oli enemmän tai vähemmän samanlaisia ​​huolenaiheita.

Naiset sanovat, että tekoäly seksualisoi heidän kuvat nopeasti. Mutta aiemmassa artikkelissa me selitti Tämän on mahdollistanut valtava määrä seksualisoituja kuvia, jotka löytyvät tekoälykoulutuksessa käytetyistä tietokokonaisuuksista.

Toisin sanoen tämä tarkoittaa, että tekoäly tuntee liiankin hyvin näiden kuvien luomisen ja muuttuu helposti pornografiseksi. Pienellä huijauksella se voidaan kehottaa tuottamaan tahattomasti pornoa myös näistä kuvista, jos käyttäjä niin haluaa.

Muissa tarinoissa olemme käsitelleet, kuinka tekoäly voidaan huijata antamaan tietoa siitä, kuinka tehdä a pommi esimerkiksi. Kummallista kyllä, seksualisaatiokysymys ei näkynyt Magic Avatar -ominaisuuteen ladatuissa kuvissa miehistä. MIT Technology Review:lle Melissa Heikkilä kirjoitti,

"Avataarini olivat sarjakuvamaisesti pornottuja, kun taas mieskollegoistani tuli astronauteja, tutkimusmatkailijoita ja keksijöitä."

Sottile toisaalta huomasi, että tekoäly oli "yhdessä hämmentävämmissä kuvissa" saanut hänet näyttämään "ikään kuin versio kasvoistani olisi alastomassa vartalossa".

"Useissa kuvissa näytti siltä, ​​että olisin alasti, mutta peitto oli strategisesti sijoitettu tai kuva oli vain leikattu pois piilottaakseni kaiken selkeän", hän sanoi.

"Ja monissa kuvissa, jopa silloin, kun olin täysin pukeutunut, oli hikoileva ilme, merkittävä dekoltee ja niukka vaatteet, jotka eivät vastanneet lähettämiäni kuvia", Zoe Sottile lisää.

Toiset pelkäsivät, että Lensan kaltainen tekoälyteknologia tekisi heistä pornotähtiä.

Kehon häpeäminen

Täysvartaloisilla naisilla kokemus oli hieman erilainen ja joissakin tapauksissa jopa huonompi. Tekoäly teki heistä ohuempia ja seksikkäitä.

"Lmfaolle, jos sinulla on Body Dysmorphia, älä käytä sitä Lensa-sovellusta tekoälyn luomiin kuviin. Tämä on varoituksesi", käyttäjä kirjoitti.

Toinen sanoi, että sovellus oli saanut hänet näyttämään aasialaiselta.

Toinen käyttäjä valitti Twitterissä, että hän oli maksanut 8 dollaria kehon dysmorfiasta, kun hän käytti tekoälyä.

Kehon dysmorfia on mielenterveystila, jossa henkilö viettää paljon aikaa huolissaan ulkonäön puutteista. Nämä puutteet jäävät usein muiden huomaamattomiksi.

Toinen valitti, että tekoäly vähensi automaattisesti huomattavaa painoa hänen muutoin täyteläisistä kuvista.

"Yksi valitus Lensa AI:stä on se, että se tekee sinusta laihaa joissakin kuvissa. Lihavana ihmisenä nuo kuvat todella häiritsivät minua. Ole siis varovainen, ettet laukaisu, jos olet lihava ja et ole kiinnostunut laihtumista”, Mariah Successful (@Shlatz) kirjoitti 5. joulukuuta 2022.

Psykologinen aikapommi

Ja psykologit yhtyvät hänen lausuntoihinsa, joiden mukaan tekoäly voisi laukaista täysin tajutut naiset.

Kliininen psykologi, Dr. Toni Pikoos, australialainen mielenterveysalan ammattilainen, joka tutkii ja on erikoistunut kehon dysmorfisen häiriön hoitoon, uskoi, että sovelluksesta voi olla enemmän haittaa kuin hyötyä, ja se on vain "valokuvien suodatustyökalu", joka muuttaa ihmisen itsetuntoa.

"Kun ihanteellisen ja koetun ulkonäön välillä on suurempi ristiriita, se voi lisätä kehon tyytymättömyyttä, ahdistusta ja halua korjata tai muuttaa ulkonäköään mahdollisesti epäterveellisillä tai vaarallisilla keinoilla", kuten sekavalla syömisellä tai tarpeettomilla kosmeettisilla toimenpiteillä, Pikoos sanoo.

Hän ilmaisi huolensa kuvista, jotka poistivat "monimutkaisia ​​yksityiskohtia", kuten "pisamia ja viivoja", mikä saattaa lisätä huolta ihosta. Tämä voi myös psykologisesti laukaista haavoittuvan henkilön, hän sanoo.

"Ulkoisen kuvan heijastavan heidän epävarmuutensa heihin vain vahvistaa ajatusta" Katso, tämä on minussa väärin! Enkä ole ainoa, joka voi nähdä sen!”, Pikoos sanoo.

Koska tekoäly esittelee omia ominaisuuksiaan, jotka eivät kuvaa käyttäjän todellista ulkonäköä, sovellus voi aiheuttaa uusia huolia, hän sanoo.

Hän sanoo, että tekoälyn "taikaavatarit" olivat "erityisen mielenkiintoisia, koska ne vaikuttavat objektiivisemmilta - ikään kuin joku ulkoinen, kaikkitietävä olento olisi luonut tämän kuvan siitä, miltä näytät".

Hän uskoo, että tämä voisi olla todella "hyödyllistä" ihmisille, joilla on kehon dysmorfinen häiriö, ja se auttaisi valaisemaan "epäsopivuutta" "yksilön negatiivisen näkemyksen välillä itsestään ja muiden näkemysten välillä".

Hän huomautti kuitenkin, että tekoäly ei ollut objektiivinen, koska se yritti kuvata virheettömän ja "parannetun ja täydellisemmän version" kasvoista.

Esimerkiksi joku, joka kärsii kehon dysmorfisesta häiriöstä tai BDD:stä, "voi kokea hetkellisen itseluottamuslisäyksen, kun hän katselee imagoaan ja haluaa jakaa tämän version itsestään maailman kanssa", hän sanoo, mutta todellisuus iskee kovasti, kun hän on poissa. näyttö, suodattamaton, peilissä tai valokuva, jonka he ottavat itsestään."

Puolustaa omaansa

Prisma Labsin toimitusjohtaja Andrey Usoltsev sanoo, että hänen yrityksensä on tällä hetkellä "ylenkuormitettu" Lensaan liittyvien tiedustelujen kanssa ja tarjosi linkin FAQ-sivulle, joka käsittelee seksualisoituja kuvia koskevia kyselyitä, vaikkakaan ei Pikoosin kuvaamia käyttäjien reaktioita.

"Tämän näkeminen sovelluksessa olisi hyvin ristiriitaista ja antaisi eräänlaisen "vahvistuksen" tavalle, jolla he näkevät itsensä, mikä johtaisi heidän "juurittumiseen häiriöihin".

Vakaa diffuusio

Lensa käyttää myös Stable Diffusion -tekniikkaa, joka käyttää syvälle oppivaa synteesiä, joka voi luoda uusia kuvia tekstikuvauksista ja toimii Windows- tai Linux-PC:ssä, Macissa tai pilvessä vuokratulla tietokonelaitteistolla.

Stable Diffusionin hermoverkko on intensiivisen oppimisen avulla hallinnut sanojen yhdistämisen ja yleisen tilastollisen assosioinnin kuvien pikselien paikkojen välillä.

Käsittelimme toisessa tarina kuinka teknologialla voi olla elämää tuhoavia seurauksia, kun se tuottaa ja esittää kuvia ihmisistä, jotka näyttävät olevan rikollisia tai osallistuvat vähemmän kuin imarteleviin käytäntöihin, kuten varkaus.

Voit esimerkiksi antaa avoimen lähdekoodin Stable Diffusionille kehotteen, kuten "Tom Hanks luokkahuoneessa", ja se antaa hänelle uuden kuvan Tom Hanksista luokkahuoneessa. Tom Hankin tapauksessa se on kävely puistossa, koska satoja hänen valokuviaan on jo tietojoukossa, jota käytetään Stable Diffusion -koulutukseen.

Taiteilijatkin saavat raakaa sopimusta

Taiteen alalla jotkut taiteilijat ovat tyytymättömiä.

He ovat huolissaan siitä, että tekoäly voi uhata heidän toimeentuloaan. Tämä johtuu siitä, että taiteilijat, myös digitaaliset, eivät voi tuottaa yhtä nopeasti kuin tekoäly digitaalista muotokuvaa varten.

Lensan emoyhtiö Prisma on yrittänyt hieroa huolta siitä, että sen teknologia poistaa digitaalisten taiteilijoiden työn.

"Vaikka sekä ihmiset että tekoäly oppivat taiteellisia tyylejä puoliksi samanlaisilla tavoilla, on olemassa joitain perustavanlaatuisia eroja: tekoäly pystyy nopeasti analysoimaan ja oppimaan suurista datajoukoista, mutta se ei kiinnitä taidetta samalla tavalla ja arvostaa sitä. ihmisenä" kirjoitti yhtiö Twitterissä 6. joulukuuta.

Siinä sanotaan, että "tulosteita ei voida kuvata minkään tietyn taideteoksen tarkaksi jäljennökseksi."

Omakuvan muuttaminen

Toronton yliopiston bioeettikko Kerry Bowman sanoo, että tekoälyllä on potentiaalia vaikuttaa negatiivisesti ihmisen minäkuvaan muiden eettisten ongelmien ohella.

"Joillain tavoin se voi olla hauskaa, mutta näitä idealisoituja kuvia ohjaavat sosiaaliset odotukset, jotka voivat olla hyvin julmia ja hyvin kapeat", Bowman sanoi maanantaina.

Bowman sanoi, että nämä tekoälyohjelmat käyttävät tietolähteitä, kuten Internetiä, etsiessään erilaisia ​​taidetyylejä näiden muotokuvien luomiseen. Huono puoli on, että kun tekoäly tekee niin, taiteilijat saavat harvoin rahallista korvausta työnsä käytöstä tai hyvityksiä.

”Mitä tapahtuu kehittyvälle tekoälylle, on se, että lait eivät ole pystyneet pysymään tämän mukana tekijänoikeuslain suhteen. Se on erittäin vaikeaa ja hyvin hämärää, ja etiikka on vieläkin enemmän lakien takana, koska väitän, että tämä on pohjimmiltaan epäreilua, Bowman sanoi.

Henkilötietoja koskevat huolet

Bowman ilmaisi myös huolensa siitä, miten ihmisten henkilötietoja säilytetään.

"Haluatko todella kasvosi suureen tietokantaan? Ihmisten on päätettävä tästä itse, mutta se ei ole hyvänlaatuista, sillä ei ole mitään, se ei ole vain hauskaa”, hän sanoi.

Lensan mukaan valokuvia säilytetään palvelimilla ja sovelluksissa enintään 24 tuntia. Syväoppimis- ja koneoppimisalgoritmeilla tekoäly kerää ja tuottaa parempia tuloksia tulevaisuudessa, myös poistettujen tietojen perusteella. Tämä johtaa Bowmanin mukaan turvallisuusongelmiin kasvojentunnistuksen mahdollisesta käytöstä, koska poliisi voi käyttää tämäntyyppisiä tietoja laittomasti.

Aikaleima:

Lisää aiheesta MetaNews