China introduceert in januari wetten om deepfakes aan te pakken PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

China introduceert in januari wetten om deepfakes aan te pakken

Tijdstempel: 24 december 2022 5:45 uur

Als je deze week op sociale media bent geweest, ben je waarschijnlijk foto's tegengekomen van door AI gegenereerde afbeeldingen van je vrienden als sprookjeswezens, anime-personages, avatars en magische wezens.

Dit is gedeeltelijk te danken aan Lensa, een AI die digitale portretten synthetiseert op basis van foto's die gebruikers uploaden. De portretten van de app namen praktisch het internet over, waarbij Lensa de meest gedownloade app in de app store van Apple werd.

Lensa heeft, net als alle AI-toepassingen die afbeeldingen digitaal weergeven, zowel bewondering als controverse gewekt vanwege de schijnbaar flagrante seksualisering van vrouwelijke afbeeldingen. Andere gebruikers merkten op dat de app hun huid bleker of hun lichaam dunner maakte.

Lees ook: AI-technologie die levensvernietigende diepe nepbeelden creëert

Hoe krijg je je eigen 'magische avatar'

De afbeeldingen die de ronde doen zijn een trotse creatie van Lensa's magische avatarfunctie. Om er een idee van te krijgen, moet je de Lensa-app op een telefoon downloaden. Een jaarabonnement kost ongeveer $ 35.99, maar de services zijn ook beschikbaar, zij het met beperkingen, gratis tijdens een proefperiode van een week als je het eerst wilt proberen.

Het genereren van de populaire magische avatars vereist echter een extra vergoeding vanwege wat de app zegt dat het "enorme rekenkracht" is om te bereiken.

Tijdens een gratis proefperiode kan men 50 avatars krijgen voor $ 3.99 en 200 avatars voor $ 7.99. Om de beste resultaten te krijgen, moedigt de app gebruikers aan om ten minste 20 close-upafbeeldingen te uploaden.

Idealiter zouden deze afbeeldingen close-ups van iemands gezicht moeten zijn met een scala aan ongelijksoortige achtergronden, gezichtsuitdrukkingen en hoeken. De applicatie dringt erop aan dat gebruikers 13 jaar en ouder moeten zijn. Lensa is geen geheel nieuwe toepassing.

De applicatie, een product van Prisma, werd voor het eerst populair in 2016 dankzij een functie waarmee gebruikers hun selfies konden veranderen in foto's in de stijl van beroemde artiesten.

Hoe werkt Lensa?

Volgens het bedrijf maakt het gebruik van wat het "TrueDepth API-technologie" noemt, waarbij een gebruiker foto's of "gezichtsgegevens" levert, waarna AI wordt getraind in zijn algoritmen om beter te presteren en u betere resultaten te laten zien. Training is wanneer de AI gegevens verwerkt, de modellen valideert en test.

Om de app te gebruiken, kan men 20 selfies samenstellen met verschillende uitdrukkingen en hoeken en de optie 100 avatar kiezen.

Het duurt ongeveer 20 minuten om de klus te klaren. Eenmaal gedaan, retourneert de AI avatars die in 10 categorieën vallen, zoals fantasie, sprookjesprinses, focus, pop, stijlvol, animé, licht, kawaii, iriserend en kosmisch.

“Over het algemeen had ik het gevoel dat de app goed werk deed door artistieke afbeeldingen te produceren op basis van mijn selfies. Ik kon mezelf niet helemaal herkennen in de meeste portretten, maar ik kon zien waar ze vandaan kwamen,” Zoë Sottile van CNN schreef.

“Het leek bepaalde kenmerken, zoals mijn bleke huid of mijn ronde neus, meer te herkennen en te herhalen dan andere. Sommigen van hen waren in een meer realistische stijl en waren zo dichtbij dat ik zou denken dat het eigenlijk foto's van mij waren als ik ze van een afstand zou zien. Anderen waren aanzienlijk meer gestileerd en artistiek, dus ze voelden minder specifiek voor mij.

Sottile merkte dat de AI haar ook lichter maakte.

Wat mij betreft, ik voelde ook dat het me automatisch lichter maakte en het beeld dat ik in mijn galerij probeerde van mij en een vriend met een iets donkerder huidskleur, bracht een wat veel lichtere versie van ons terug, duidelijk overdreven, en toonde een neiging om lichter te worden zwarte huidtinten.

Seksualiserende vrouwen

Anderen die het gebruikten, hadden min of meer vergelijkbare zorgen.

Vrouwen zeggen dat de AI hun afbeeldingen snel seksualiseert. Maar in een eerder artikel, wij uitgelegd dit is mogelijk gemaakt door het enorme aantal geseksualiseerde afbeeldingen dat is gevonden in datasets die worden gebruikt bij AI-training.

Met andere woorden, dit betekent dat de AI maar al te bekend is met het genereren van die afbeeldingen en gemakkelijk pornografisch kan worden. Met een beetje bedrog kan het worden gevraagd om ook onbewust porno van die afbeeldingen te produceren als een gebruiker dat wil.

In andere verhalen hebben we besproken hoe AI:s voor de gek kunnen worden gehouden om informatie te verstrekken over het maken van een bom bijvoorbeeld. Vreemd genoeg kwam het probleem van seksualisering niet voor in afbeeldingen van mannen die waren geüpload naar de Magic Avatar-functie. Voor MIT Technology Review, Melissa Heikkilä schreef,

"Mijn avatars werden cartoonachtig geporneerd, terwijl mijn mannelijke collega's astronauten, ontdekkingsreizigers en uitvinders werden."

Sottile, aan de andere kant, merkte op dat de AI "in een van de meest desoriënterende beelden" haar eruit had laten zien "alsof een versie van mijn gezicht op een naakt lichaam zat".

"Op verschillende foto's leek het alsof ik naakt was, maar met een deken strategisch geplaatst, of het beeld was gewoon afgesneden om iets expliciets te verbergen", zei ze.

"En veel van de foto's, zelfs waar ik volledig gekleed was, hadden een zwoele gezichtsuitdrukking, een aanzienlijk decolleté en schrale kleding die niet overeenkwamen met de foto's die ik had ingezonden", voegt Zoe Sottile toe.

Anderen waren bang dat ze door AI-technologie zoals Lensa tot pornosterren zouden worden gemaakt.

Body shaming

Voor vrouwen met een vol lichaam was de ervaring enigszins anders en in sommige gevallen zelfs erger. De AI maakte ze dunner en sexyer.

“Voor Lmfao, als je Body Dysmorphia hebt, gebruik dan niet die Lensa-app voor de door AI gegenereerde foto's. Dit is uw waarschuwing,” een gebruiker schreef.

Een ander zei dat ze er door de app Aziatisch uitzag.

Een andere gebruiker ging naar Twitter om te klagen dat hij $ 8 had betaald om lichaamsdysmorfie te ervaren toen hij de AI gebruikte.

Lichaamsdysmorfie is een psychische aandoening waarbij een persoon veel tijd besteedt aan zorgen maken over gebreken in zijn uiterlijk. Deze gebreken zijn vaak onmerkbaar voor anderen.

Een ander klaagde dat de AI automatisch veel gewicht verloor aan haar verder volledige figuurbeelden.

"Een klacht die ik heb over Lensa AI is dat je er op sommige foto's mager van wordt. Als dik persoon stoorde ik me echt aan die beelden. Pas dus op dat je niet getriggerd wordt als je een mede-dikker bent die geen interesse heeft om mager te worden', schreef Mariah Successful (@Shlatz) op 5 december 2022.

Psychologische tijdbom

En psychologen zijn het eens met haar beweringen dat de AI volslanke vrouwen zou kunnen triggeren.

Een klinisch psycholoog, dr. Toni Pikoos, een in Australië gevestigde psychiater, die onderzoek doet naar en gespecialiseerd is in de behandeling van lichamelijke dysmorfie, geloofde dat de toepassing meer kwaad dan goed zou kunnen doen en niets anders is dan een "fotofilterhulpmiddel" om iemands zelfbeeld te veranderen.

"Wanneer er een grotere discrepantie is tussen het ideale en waargenomen uiterlijk, kan dit leiden tot ontevredenheid over het lichaam, angst en de wens om iemands uiterlijk te verbeteren of te veranderen met mogelijk ongezonde of onveilige middelen", zoals ongeordend eten of onnodige cosmetische ingrepen, zegt Pikoos.

Ze uitte haar bezorgdheid over het feit dat de afbeeldingen "ingewikkelde details" zoals "sproeten en lijntjes" uitwissen, iets dat de zorgen over iemands huid zou kunnen vergroten. Dit kan een kwetsbaar persoon ook psychologisch triggeren, zegt ze.

“Om te zien dat een extern beeld hun onzekerheid naar hen weerspiegelt, versterkt alleen maar het idee: 'Kijk, dit is verkeerd met mij! En ik ben niet de enige die het kan zien!'”, zegt Pikoos.

Vanwege het feit dat de AI zijn eigen functies introduceert die niet het echte uiterlijk van een gebruiker weergeven, kan de app nieuwe angsten veroorzaken, zegt hij.

Ze zegt dat de "magische avatars" van de AI "bijzonder interessant waren omdat het objectiever lijkt - alsof een extern, alwetend wezen dit beeld heeft gegenereerd van hoe je eruit ziet."

Dit zou volgens haar eigenlijk "nuttig" zijn voor mensen met een lichamelijke dysmorfiestoornis en zou licht kunnen werpen op een "mismatch" tussen een "individuele negatieve kijk op zichzelf en hoe anderen hen zien".

Ze merkte echter op dat de AI niet objectief was vanwege zijn poging om een ​​onberispelijke en meer "verbeterde en geperfectioneerde versie" van iemands gezicht weer te geven.

Iemand die bijvoorbeeld een lichamelijke dysmorfe stoornis, of BDD, ervaart, "kan een korte boost in zelfvertrouwen ervaren wanneer ze hun afbeelding bekijken en deze versie van zichzelf met de wereld willen delen", zegt ze, maar zal hard worden geraakt door de realiteit wanneer ze uit is. scherm, ongefilterd, in de spiegel of een foto die ze van zichzelf maken.”

Zijn eigen verdedigen

Andrey Usoltsev, CEO van Prisma Labs, zegt dat zijn bedrijf momenteel "overweldigd" is met vragen over Lensa en bood een link aan naar een pagina met veelgestelde vragen die vragen over geseksualiseerde beelden behandelt, maar niet het soort gebruikersreacties dat Pikoos beschrijft.

"Dit terugzien in de app zou heel confronterend zijn en een soort 'bevestiging' geven van de manier waarop ze zichzelf zien", waardoor ze "meer verankerd raken in de stoornis."

Stabiele diffusie

Lensa maakt ook gebruik van Stable Diffusion, dat gebruik maakt van deep-learning synthese die nieuwe afbeeldingen kan maken van tekstbeschrijvingen en die kan worden uitgevoerd op een Windows- of Linux-pc, op een Mac of in de cloud op gehuurde computerhardware.

Het neurale netwerk van Stable Diffusion heeft zich met behulp van intensief leren meester gemaakt over het associëren van woorden en de algemene statistische associatie tussen de posities van pixels in afbeeldingen.

We bedekten er nog een verhaal hoe de technologie levensvernietigende gevolgen kan hebben door beelden weer te geven en weer te geven van mensen die lijken op criminelen of betrokken zijn bij minder dan vleiende praktijken zoals diefstal.

Men kan bijvoorbeeld de open source Stable Diffusion een prompt geven, zoals "Tom Hanks in een klaslokaal", en het zal hem/haar een nieuw beeld geven van Tom Hanks in een klaslokaal. In het geval van Tom Hank is het kinderspel, want honderden van zijn foto's zitten al in de dataset die wordt gebruikt om Stable Diffusion te trainen.

Artiesten krijgen ook een rauwe deal

Op het gebied van kunst zijn sommige kunstenaars ontevreden.

Ze zijn bang dat de AI hun levensonderhoud kan bedreigen. Dit komt omdat kunstenaars, ook digitale, niet zo snel kunnen produceren als AI voor een digitaal portret.

Lensa's moederbedrijf, Prisma, heeft geprobeerd de zorgen weg te nemen over de technologie die het werk voor digitale kunstenaars overbodig maakt.

“Hoewel zowel mensen als AI op semi-gelijkaardige manieren leren over artistieke stijlen, zijn er enkele fundamentele verschillen: AI is in staat om snel grote hoeveelheden gegevens te analyseren en ervan te leren, maar het heeft niet dezelfde aandacht en waardering voor kunst. als een mens," schreef het bedrijf op Twitter op 6 december.

Er staat: "de resultaten kunnen niet worden beschreven als exacte replica's van een bepaald kunstwerk."

Veranderend zelfbeeld

Kerry Bowman, een bio-ethicus aan de Universiteit van Toronto, zegt dat de AI het potentieel heeft om iemands zelfbeeld negatief te beïnvloeden, naast andere ethische kwesties.

"In sommige opzichten kan het heel leuk zijn, maar deze geïdealiseerde beelden worden gedreven door sociale verwachtingen die erg wreed en erg bekrompen kunnen zijn", zei Bowman maandag.

Bowman zei dat deze AI-programma's gebruik maken van datasetbronnen zoals internet, op zoek naar verschillende kunststijlen om deze portretten te maken. Het nadeel is dat wanneer AI dat doet, artiesten zelden financieel worden beloond voor het gebruik van hun werk of worden gecrediteerd.

“Wat er met opkomende AI gebeurt, is dat de wetgeving dit qua auteursrecht niet echt heeft kunnen bijhouden. Het is erg moeilijk en erg duister en de ethiek loopt zelfs nog verder achter op de wetten, omdat ik zou beweren dat dit fundamenteel oneerlijk is”, zei Bowman.

Zorgen over persoonlijke gegevens

Bowman uitte ook zijn bezorgdheid over de manier waarop de persoonlijke gegevens van mensen worden opgeslagen.

“Wil je echt je gezicht in een grote database? Mensen moeten hier zelf over beslissen, maar het is niet goedaardig, er is niets aan de hand, het is niet alleen maar leuk', zei hij.

Lensa zegt dat foto's niet langer dan 24 uur op servers en in apps worden bewaard. Met algoritmen voor deep learning en machine learning verzamelt de AI en levert deze in de toekomst betere resultaten, ook op basis van de verwijderde gegevens. Dit, zegt Bowman, zal leiden tot bezorgdheid over de veiligheid van het mogelijke gebruik van gezichtsherkenning, aangezien dit soort gegevens illegaal door de politie kan worden gebruikt.

Tijdstempel:

Meer van MetaNieuws