China va introduce legi pentru combaterea deepfakes în ianuarie PlatoBlockchain Data Intelligence. Căutare verticală. Ai.

China va introduce legi pentru combaterea deepfakes în ianuarie

Marca temporală: 24 decembrie 2022, ora 5:45

Dacă ați fost pe rețelele sociale săptămâna aceasta, probabil că ați întâlnit fotografii cu imagini generate de AI ale prietenilor dvs. ca ființe de zâne, personaje animate, avatare și ființe magice.

Acest lucru se datorează în parte Lensa, o IA care sintetizează portrete digitale pe baza fotografiilor pe care utilizatorii le încarcă. Portretele aplicației au preluat practic internetul, Lensa devenind cea mai descărcată aplicație din magazinul de aplicații Apple.

Lensa, ca toate aplicațiile AI care redă digital imaginile, a atras atât admirația, cât și controversele pentru sexualizarea aparent flagrantă a imaginilor feminine. Alți utilizatori au remarcat că aplicația le-a făcut pielea mai palidă sau corpul lor mai subțire.

De asemenea, se va citi: Tehnologia AI care creează imagini false profunde care distrug viața

Cum să-ți obții propriul „avatar magic”

Imaginile care fac turul sunt o creație mândră a funcției de avatare magice a Lensa. Pentru a vă simți, trebuie să descărcați aplicația Lensa pe un telefon. Un abonament anual costă în jur de 35.99 USD, dar serviciile sale sunt, de asemenea, disponibile, deși cu limitări gratuit pe o perioadă de încercare de o săptămână, dacă doriți să-l verificați mai întâi.

Cu toate acestea, generarea popularelor avatare magice necesită o taxă suplimentară, deoarece aplicația spune că este „putere de calcul extraordinară” de realizat.

Într-o încercare gratuită, se pot obține 50 de avatare pentru 3.99 USD și 200 de avatare pentru 7.99 USD. Pentru a obține cele mai bune rezultate, aplicația încurajează utilizatorii să încarce cel puțin 20 de imagini de aproape.

În mod ideal, aceste imagini ar trebui să fie prim-planuri ale feței cuiva cu o serie de fundaluri, expresii faciale și unghiuri diferite. Aplicația insistă ca utilizatorii să aibă 13 ani și mai mult. Lensa nu este o aplicație complet nouă.

Un produs al Prisma, aplicația a devenit populară pentru prima dată în 2016 datorită unei funcții care permitea utilizatorilor să-și modifice selfie-urile în fotografii în stilul artiștilor celebri.

Cum funcționează Lensa?

Potrivit companiei, folosește ceea ce numește „tehnologia TrueDepth API” în care un utilizator furnizează fotografii sau „date ale feței”, apoi AI este instruit cu algoritmii săi pentru a performa mai bine și pentru a vă arăta rezultate mai bune. Instruirea este atunci când AI procesează datele, validează și testează modelele.

Pentru a utiliza aplicația, puteți realiza 20 de selfie-uri cu o varietate de expresii și unghiuri și alegeți opțiunea 100 de avatar.

Este nevoie de aproximativ 20 de minute pentru a face treaba. Odată terminat, AI returnează avatare care se încadrează în 10 categorii, cum ar fi fantezie, prințesă zână, focus, pop, stilat, animat, light, kawaii, irizat și cosmic.

„În general, am simțit că aplicația a făcut o treabă decentă producând imagini artistice bazate pe selfie-urile mele. Nu m-am putut recunoaște în majoritatea portretelor, dar am putut vedea de unde veneau.” Zoe Sottile a scris CNN.

„Părea să recunoască și să repete anumite trăsături, cum ar fi pielea palidă sau nasul meu rotund, mai mult decât altele. Unele dintre ele erau într-un stil mai realist și erau suficient de aproape, aș putea crede că sunt de fapt fotografii cu mine dacă le-aș vedea de departe. Alții erau semnificativ mai stilizați și artistici, așa că s-au simțit mai puțin specifici pentru mine.”

Sottile a observat că AI a făcut-o și mai ușoară.

În ceea ce mă privește, am simțit și că automat m-a făcut mai ușor și imaginea pe care am încercat-o în galeria mea despre mine și un prieten care are pielea ușor mai închisă a returnat o versiune ceva mai deschisă a noastră, clar o exagerare, și a dezvăluit o înclinație de a lumina. tonuri negre ale pielii.

Sexualizarea femeilor

Alții care l-au folosit au avut preocupări mai mult sau mai puțin similare.

Femeile spun că inteligența artificială își sexualizează rapid imaginile. Dar într-un articol anterior, noi a explicat acest lucru a fost posibil datorită numărului imens de imagini sexualizate găsite în seturile de date utilizate în instruirea AI.

Cu alte cuvinte, asta înseamnă că AI este prea familiarizat cu cum să genereze acele imagini și să devină ușor pornografice. Cu un pic de șmecherie, poate fi solicitat să producă, fără să vrea, porno din acele imagini, dacă un utilizator dorește.

În alte povestiri, am descris cum AI:-urile pot fi păcălite să ofere informații despre cum să creeze un bombă de exemplu. În mod ciudat, problema sexualizării nu a apărut în imaginile cu bărbați încărcate în funcția Magic Avatar. Pentru MIT Technology Review, Melissa Heikkilä scris,

„Avatarurile mele au fost pornizate în caricaturi, în timp ce colegii mei bărbați au ajuns să fie astronauți, exploratori și inventatori.”

Sottile, pe de altă parte, a observat că AI „într-una dintre cele mai dezorientate imagini” a făcut-o să arate „ca o versiune a feței mele pe un corp gol”.

„În mai multe fotografii, părea că eram goală, dar cu o pătură plasată strategic, sau imaginea doar tăiată pentru a ascunde ceva explicit”, a spus ea.

„Și multe dintre imagini, chiar și acolo unde eram îmbrăcat complet, prezentau o expresie facială sufocă, un decolteu semnificativ și îmbrăcăminte slăbită care nu se potrivea cu fotografiile pe care le-am trimis”, adaugă Zoe Sottile.

Alții și-au exprimat temerile că vor fi deveniți vedete porno de tehnologia AI precum Lensa.

Rușinarea corpului

Pentru femeile cu trup complet, experiența a fost oarecum diferită și chiar mai rea în unele cazuri. AI i-a făcut mai subțiri și mai sexy.

„Pentru Lmfao, dacă aveți Body Dysmorphia, nu folosiți acea aplicație Lensa pentru fotografiile generate de AI. Acesta este avertismentul tău”, un utilizator scris.

Un altul a spus că aplicația a făcut-o să pară asiatică.

Un alt utilizator a folosit Twitter pentru a se plânge că a plătit 8 USD pentru a experimenta dismorfia corporală când a folosit AI.

Dismorfia corporală este o afecțiune de sănătate mintală în care o persoană își petrece mult timp îngrijorându-se cu privire la defecte ale aspectului său. Aceste defecte sunt adesea neobservate pentru alții.

O altă persoană s-a plâns că inteligența artificială scapă în mod automat de o greutate semnificativă asupra imaginilor ei, altfel formate complete.

„O plângere pe care o am despre Lensa AI este că te va face slab în unele imagini. Ca om gras, acele imagini chiar m-au deranjat. Așa că ai grijă să nu te declanșezi dacă ești un tovarăș gras și nu are interes să devii slab”, a scris Mariah Successful (@Shlatz) pe 5 decembrie 2022.

Bombă psihologică cu ceas

Și psihologii sunt de acord cu afirmațiile ei că AI ar putea declanșa femei pe deplin imaginate.

Un psiholog clinician, dr. Toni Pikoos, un practician în sănătate mintală din Australia, care face cercetări și este specializat în tratarea tulburărilor dismorfice corporale, a considerat că aplicația ar putea face mai mult rău decât bine și nu este altceva decât un „instrument de filtrare a fotografiilor” pentru a-și modifica percepția de sine.

„Când există o discrepanță mai mare între aspectul ideal și cel perceput, poate alimenta nemulțumirea corpului, suferința și dorința de a-și repara sau schimba aspectul cu mijloace potențial nesănătoase sau nesigure”, cum ar fi alimentația dezordonată sau proceduri cosmetice inutile, spune Pikoos.

Ea și-a exprimat îngrijorarea că imaginile au șterse „detalii complicate”, cum ar fi „pistruii și liniile”, ceva care ar putea spori grijile legate de pielea cuiva. Acest lucru ar putea declanșa și o persoană vulnerabilă din punct de vedere psihologic, spune ea.

„Pentru a vedea o imagine exterioară care reflectă nesiguranța lor la ei, nu face decât să întărească ideea „Vezi, asta nu este în regulă cu mine! Și nu sunt singurul care îl poate vedea!””, spune Pikoos.

Datorită faptului că AI introduce propriile caracteristici care nu descriu aspectul real al unui utilizator, aplicația ar putea crea noi anxietăți, spune el.

Ea spune că „avatarurile magice” ale AI au fost „deosebit de interesante pentru că par mai obiective – ca și cum o ființă externă, atotștiutoare, ar fi generat această imagine a cum arătați.”

Acest lucru, consideră ea, ar fi de fapt „util” pentru persoanele cu tulburare dismorfică corporală și ar ajuta să arunce lumină asupra unei „nepotriviri” între „viziunea negativă a unui individ despre sine și modul în care îl văd ceilalți”.

Ea a remarcat totuși că AI nu a fost obiectivă din cauza încercării sale de a descrie o versiune impecabilă și mai „îmbunătățită și perfecționată” a feței cuiva.

De exemplu, cineva care se confruntă cu tulburare dismorfică corporală, sau BDD, „poate experimenta o scurtă creștere a încrederii atunci când își vede imaginea și dorește să împărtășească această versiune a ei înșiși lumii”, spune ea, dar va fi puternic lovită de realitate atunci când este oprită. ecran, nefiltrat, în oglindă sau într-o fotografie pe care o fac ei înșiși.”

Apărarea propriei sale

Andrey Usoltsev, CEO al Prisma Labs, spune că compania sa este în prezent „copășită” de întrebări despre Lensa și a oferit un link către o pagină de întrebări frecvente care abordează întrebările de imagini sexualizate, deși nu genul de reacții ale utilizatorilor pe care le descrie Pikoos.

„Văzând acest lucru reflectat în aplicație ar fi foarte confruntator și ar oferi un fel de „confirmare” a modului în care se văd pe ei înșiși”, determinându-i să devină „mai înrădăcinați în tulburare”.

Difuzie stabilă

Lensa folosește, de asemenea, Stable Diffusion, care folosește sinteza de învățare profundă care poate crea imagini noi din descrierile de text și poate rula pe un computer Windows sau Linux, pe un Mac sau în cloud pe hardware-ul computerului închiriat.

Rețeaua neuronală Stable Diffusion are cu ajutorul învățării intensive stăpânit să asocieze cuvinte și asocierea statistică generală între pozițiile pixelilor în imagini.

Am acoperit în altul poveste modul în care tehnologia ar putea avea consecințe distrugătoare prin redarea și înfățișarea imaginilor cu oameni care par a fi criminali sau implicați în practici mai puțin măgulitoare, cum ar fi furtul.

De exemplu, se poate oferi Stable Diffusion cu sursă deschisă un prompt, cum ar fi „Tom Hanks într-o clasă”, și îi va oferi o nouă imagine a lui Tom Hanks într-o clasă. În cazul lui Tom Hank, este o plimbare în parc, deoarece sute de fotografii ale lui sunt deja în setul de date folosit pentru a antrena Stable Diffusion.

Artiștii primesc și ei o afacere brută

Pe frontul artei, unii artiști sunt nemulțumiți.

Ei sunt îngrijorați că AI le-ar putea amenința mijloacele de existență. Acest lucru se datorează faptului că artiștii, inclusiv cei digitali, nu pot produce la fel de rapid ca AI pentru un portret digital.

Compania-mamă a Lensa, Prisma, a încercat să rezolve preocupările legate de tehnologia sa care elimină munca pentru artiștii digitali.

„Deși atât oamenii, cât și AI învață despre stilurile artistice în moduri semi-similare, există câteva diferențe fundamentale: AI este capabilă să analizeze și să învețe rapid din seturi mari de date, dar nu are același nivel de atenție și apreciere pentru artă. ca ființă umană” scris compania pe Twitter pe 6 decembrie.

Se spune că „ieșirile nu pot fi descrise ca replici exacte ale unei anumite opere de artă”.

Modificarea imaginii de sine

Kerry Bowman, bioetician la Universitatea din Toronto, spune că IA are potențialul de a afecta negativ imaginea de sine, printre alte probleme etice.

„În unele privințe, poate fi foarte distractiv, dar aceste imagini idealizate sunt conduse de așteptări sociale care pot fi foarte crude și foarte înguste”, a spus Bowman luni.

Bowman a spus că aceste programe AI folosesc surse de seturi de date, cum ar fi internetul, în căutarea diferitelor stiluri de artă pentru a crea aceste portrete. Dezavantajul este că atunci când AI face acest lucru, artiștii sunt rareori remunerați financiar pentru utilizarea muncii lor sau creditați.

„Ceea ce se întâmplă cu IA emergentă este că legile nu au reușit să țină pasul cu asta în ceea ce privește legea drepturilor de autor. Este foarte dificil și foarte tulbure, iar etica este și mai în spatele legilor, deoarece aș susține că acest lucru este în mod fundamental nedrept”, a spus Bowman.

Preocupări privind datele personale

Bowman și-a exprimat, de asemenea, îngrijorări despre modul în care sunt stocate datele personale ale oamenilor.

„Chiar vrei chipul tău într-o bază de date mare? Oamenii trebuie să decidă singuri în privința asta, dar nu este benign, nu este nimic în asta, nu este doar distracție”, a spus el.

Lensa spune că fotografiile sunt păstrate pe servere și în aplicații pentru cel mult 24 de ore. Cu algoritmi de învățare profundă și de învățare automată, AI-ul adună și apoi oferă rezultate mai bune în viitor, tot pe baza datelor șterse. Acest lucru, spune Bowman, va duce la preocupări de siguranță cu privire la potențiala utilizare a recunoașterii faciale, deoarece acest tip de date ar putea fi utilizate ilegal de poliție.

Timestamp-ul:

Mai mult de la MetaNews