La Cina introdurrà leggi per contrastare i deepfakes a gennaio PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.

La Cina introdurrà leggi per contrastare i deepfake a gennaio

Timestamp: 24 dicembre 2022 5:45

Se sei stato sui social media questa settimana, probabilmente ti sei imbattuto in foto di immagini generate dall'intelligenza artificiale dei tuoi amici come esseri fatati, personaggi animé, avatar ed esseri magici.

Ciò è in parte dovuto a Lensa, un'intelligenza artificiale che sintetizza i ritratti digitali in base alle foto caricate dagli utenti. I ritratti dell'app hanno praticamente conquistato Internet, con Lensa che è diventata l'app più scaricata nell'app store di Apple.

Lensa, come tutte le applicazioni di intelligenza artificiale che riproducono digitalmente le immagini, ha suscitato ammirazione e polemiche per la sua sessualizzazione apparentemente sfacciata delle immagini femminili. Altri utenti hanno notato che l'app ha reso la loro pelle più pallida o il loro corpo più magro.

Leggi anche: Tecnologia di intelligenza artificiale che crea immagini finte profonde che distruggono la vita

Come ottenere il tuo "avatar magico"

Le immagini che girano sono un'orgogliosa creazione della funzione di avatar magici di Lensa. Per avere un'idea, è necessario scaricare l'app Lensa su un telefono. Un abbonamento annuale è di circa $ 35.99, ma i suoi servizi sono disponibili anche se con limitazioni gratuitamente per una settimana di prova se si desidera verificarlo prima.

Tuttavia, la generazione dei popolari avatar magici richiede un costo aggiuntivo a causa di ciò che l'app dice è "un'enorme potenza di calcolo" da raggiungere.

In una prova gratuita, si possono ottenere 50 avatar per $ 3.99 e 200 avatar per $ 7.99. Per ottenere i migliori risultati, l'app incoraggia gli utenti a caricare almeno 20 immagini ravvicinate.

Idealmente, queste immagini dovrebbero essere primi piani del proprio viso con una serie di sfondi, espressioni facciali e angoli diversi. L'applicazione insiste che gli utenti dovrebbero avere almeno 13 anni. Lensa non è un'applicazione completamente nuova.

Un prodotto di Prisma, l'applicazione è diventata popolare per la prima volta nel 2016 grazie a una funzione che permetteva agli utenti di modificare i propri selfie in foto nello stile di artisti famosi.

Come funziona Lensa?

Secondo l'azienda, utilizza quella che chiama "tecnologia TrueDepth API" in cui un utente fornisce foto o "dati facciali", quindi l'intelligenza artificiale viene quindi addestrata sui suoi algoritmi per ottenere prestazioni migliori e mostrarti risultati migliori. La formazione è quando l'IA elabora i dati, convalida e testa i modelli.

Per utilizzare l'app è possibile curare 20 selfie con una varietà di espressioni e angolazioni e scegliere l'opzione 100 avatar.

Ci vogliono circa 20 minuti per fare il lavoro. Una volta terminato, l'IA restituisce avatar che rientrano in 10 categorie come fantasy, principessa delle fate, focus, pop, elegante, animé, leggero, kawaii, iridescente e cosmico.

"In generale, mi è sembrato che l'app facesse un buon lavoro producendo immagini artistiche basate sui miei selfie. Non riuscivo a riconoscermi del tutto nella maggior parte dei ritratti, ma potevo vedere da dove provenissero", Zoe Sottile della CNN ha scritto.

“Sembrava riconoscere e ripetere alcuni tratti, come la mia pelle pallida o il mio naso rotondo, più di altri. Alcuni di loro erano in uno stile più realistico ed erano abbastanza vicini che potrei pensare che fossero in realtà foto di me se li vedessi da lontano. Altri erano significativamente più stilizzati e artistici, quindi mi sembravano meno specifici.

Sottile ha notato che l'intelligenza artificiale la rendeva anche più leggera.

Quanto a me, ho anche sentito che mi rendeva automaticamente più chiaro e l'immagine che ho provato nella mia galleria di me e un amico dalla pelle leggermente più scura ha restituito una versione un po' molto più leggera di noi, chiaramente un'esagerazione, ed ha mostrato un'inclinazione a schiarire tonalità della pelle nera.

Sessualizzare le donne

Altri che lo usavano avevano preoccupazioni più o meno simili.

Le donne affermano che l'intelligenza artificiale è pronta a sessualizzare le loro immagini. Ma in un articolo precedente, noi ha spiegato ciò è stato reso possibile dall'enorme numero di immagini sessualizzate trovate nei set di dati utilizzati nell'addestramento AI.

In altre parole, ciò significa che l'intelligenza artificiale conosce fin troppo bene come generare quelle immagini e diventare facilmente pornografiche. Con un po' di inganno, può essere richiesto di produrre inconsapevolmente porno anche da quelle immagini, se un utente lo desidera.

In altre storie, abbiamo spiegato come l'intelligenza artificiale: può essere ingannata nel fornire informazioni su come creare un file bomba ad esempio. Stranamente, il problema della sessualizzazione non è apparso nelle immagini di uomini caricate nella funzione Magic Avatar. Per MIT Technology Review, Melissa Heikkilä ha scritto,

"I miei avatar sono stati pornografici in modo fumettistico, mentre i miei colleghi maschi sono diventati astronauti, esploratori e inventori."

Sottile, d'altra parte, ha notato che l'intelligenza artificiale l'aveva "in una delle immagini più disorientanti" che l'aveva fatta sembrare "come se una versione della mia faccia fosse su un corpo nudo".

"In diverse foto, sembrava che fossi nuda ma con una coperta posizionata strategicamente, o l'immagine semplicemente tagliata per nascondere qualcosa di esplicito", ha detto.

"E molte delle immagini, anche quando ero completamente vestita, presentavano un'espressione facciale sensuale, scollature significative e abiti succinti che non corrispondevano alle foto che avevo inviato", aggiunge Zoe Sottile.

Altri hanno espresso il timore che sarebbero diventati pornostar grazie alla tecnologia AI come Lensa.

Corpo vergognoso

Per le donne con tutto il corpo, l'esperienza è stata in qualche modo diversa e in alcuni casi anche peggiore. L'intelligenza artificiale li ha resi più magri e sexy.

“Per Lmfao, se hai la dismorfia corporea, non usare l'app Lensa per le foto generate dall'intelligenza artificiale. Questo è il tuo avvertimento ", un utente ha scritto.

Un altro ha detto che l'app l'aveva fatta sembrare asiatica.

Un altro utente si è rivolto a Twitter per lamentarsi di aver pagato $ 8 per sperimentare la dismorfismo corporeo quando ha usato l'IA.

La dismorfismo corporeo è una condizione di salute mentale in cui una persona trascorre molto tempo a preoccuparsi dei difetti del proprio aspetto. Questi difetti sono spesso impercettibili per gli altri.

Un altro si è lamentato del fatto che l'intelligenza artificiale abbia automaticamente perso un peso significativo sulle sue immagini altrimenti a figura intera.

“Una lamentela che ho su Lensa AI è che ti renderà magro in alcune immagini. Da persona grassa quelle immagini mi hanno davvero infastidito. Quindi fai attenzione a non essere innescato se sei un tipo grasso senza alcun interesse a diventare magro ", ha scritto Mariah Successful (@Shlatz) il 5 dicembre 2022.

Bomba psicologica a orologeria

E gli psicologi concordano con le sue affermazioni secondo cui l'intelligenza artificiale potrebbe innescare donne pienamente immaginate.

Uno psicologo clinico, il Dott. Toni Pikoos, un professionista della salute mentale con sede in Australia, che fa ricerca ed è specializzato nel trattamento del disturbo da dismorfismo corporeo, credeva che l'applicazione potesse fare più male che bene e non fosse altro che uno "strumento di filtraggio fotografico" per alterare la propria percezione di sé.

"Quando c'è una maggiore discrepanza tra l'aspetto ideale e quello percepito, può alimentare l'insoddisfazione del corpo, l'angoscia e il desiderio di aggiustare o cambiare il proprio aspetto con mezzi potenzialmente malsani o non sicuri" come un'alimentazione disordinata o procedure cosmetiche non necessarie, dice Pikoos.

Ha espresso preoccupazione per le immagini cancellate "dettagli intricati" come "lentiggini e linee", qualcosa che potrebbe aumentare le preoccupazioni per la propria pelle. Questo potrebbe anche innescare psicologicamente una persona vulnerabile, dice.

“Vedere un'immagine esterna riflettere la loro insicurezza su di loro non fa che rafforzare l'idea 'Vedi, questo è sbagliato in me! E non sono l'unico che può vederlo!'”, dice Pikoos.

A causa del fatto che l'intelligenza artificiale introduce le proprie funzionalità che non descrivono l'aspetto della vita reale di un utente, l'app potrebbe creare nuove ansie, dice.

Dice che gli "avatar magici" dell'IA erano "particolarmente interessanti perché sembrano più oggettivi - come se un essere esterno e onnisciente avesse generato questa immagine di come sembri".

Questo, secondo lei, potrebbe essere effettivamente "utile" per le persone con disturbo di dismorfismo corporeo e aiutare a far luce su una "mancata corrispondenza" tra "la visione negativa di se stessi di un individuo e il modo in cui gli altri li vedono".

Ha notato tuttavia che l'intelligenza artificiale non era obiettiva a causa del suo tentativo di rappresentare una versione impeccabile e più "migliorata e perfezionata" del proprio viso.

Ad esempio, qualcuno che soffre di disturbo da dismorfismo corporeo, o BDD, "potrebbe sperimentare un breve aumento di fiducia quando vede la propria immagine e desidera condividere questa versione di se stesso con il mondo", dice, ma sarà duramente colpito dalla realtà quando è spento schermo, senza filtri, allo specchio o una foto che si scattano”.

Difendere il proprio

Andrey Usoltsev, CEO di Prisma Labs, afferma che la sua azienda è attualmente "sommersa" di domande su Lensa e ha offerto un collegamento a una pagina di domande frequenti che risponde a domande di immagini sessualizzate, sebbene non il tipo di reazioni degli utenti descritte da Pikoos.

"Vedere questo riflesso nell'app sarebbe molto impegnativo e fornirebbe una sorta di 'conferma' per il modo in cui si vedono", portandoli a diventare "più radicati nel disturbo".

Diffusione stabile

Lensa utilizza anche Stable Diffusion, che utilizza la sintesi di apprendimento profondo in grado di creare nuove immagini dalle descrizioni testuali e può essere eseguito su un PC Windows o Linux, su un Mac o nel cloud su hardware del computer noleggiato.

La rete neurale di Stable Diffusion, con l'aiuto dell'apprendimento intensivo, è riuscita ad associare le parole e l'associazione statistica generale tra le posizioni dei pixel nelle immagini.

Ne abbiamo coperto un altro storia come la tecnologia potrebbe avere conseguenze devastanti rendendo e raffigurando immagini di persone che sembrano criminali o coinvolte in pratiche poco lusinghiere come il furto.

Ad esempio, si può dare a Stable Diffusion open source un suggerimento, come "Tom Hanks in aula", e gli darà una nuova immagine di Tom Hanks in una classe. Nel caso di Tom Hank, è una passeggiata perché centinaia delle sue foto sono già nel set di dati utilizzato per addestrare Stable Diffusion.

Anche gli artisti ottengono un affare grezzo

Sul fronte artistico, alcuni artisti sono scontenti.

Sono preoccupati che l'intelligenza artificiale possa minacciare i loro mezzi di sussistenza. Questo perché anche gli artisti, compresi quelli digitali, non possono produrre alla stessa velocità dell'intelligenza artificiale per un ritratto digitale.

La società madre di Lensa, Prisma, ha tentato di attenuare le preoccupazioni sulla sua tecnologia eliminando il lavoro per gli artisti digitali.

"Sebbene sia gli esseri umani che l'intelligenza artificiale apprendano gli stili artistici in modi semi-simili, ci sono alcune differenze fondamentali: l'intelligenza artificiale è in grado di analizzare e apprendere rapidamente da grandi insiemi di dati, ma non ha lo stesso livello di attenzione e apprezzamento per l'arte come essere umano” ha scritto l'azienda su Twitter il 6 dicembre.

Dice "gli output non possono essere descritti come repliche esatte di nessuna particolare opera d'arte".

Alterazione dell'immagine di sé

Kerry Bowman, bioeticista presso l'Università di Toronto, afferma che l'intelligenza artificiale ha il potenziale per influenzare negativamente l'immagine di sé, tra le altre questioni etiche.

"In un certo senso, può essere molto divertente, ma queste immagini idealizzate sono guidate da aspettative sociali che possono essere molto crudeli e molto ristrette", ha detto lunedì Bowman.

Bowman ha affermato che questi programmi di intelligenza artificiale utilizzano fonti di set di dati come Internet alla ricerca di diversi stili artistici per creare questi ritratti. Lo svantaggio è che quando l'intelligenza artificiale lo fa, gli artisti raramente vengono remunerati finanziariamente per l'uso del loro lavoro o accreditati.

“Quello che succede con l'intelligenza artificiale emergente è che le leggi non sono state in grado di tenere davvero il passo con questo in termini di diritto d'autore. È molto difficile e molto oscuro e l'etica è ancora più indietro rispetto alle leggi perché direi che questo è fondamentalmente ingiusto”, ha detto Bowman.

Preoccupazioni relative ai dati personali

Bowman ha anche sollevato preoccupazioni su come vengono archiviati i dati personali delle persone.

“Vuoi davvero la tua faccia in un grande database? Le persone devono decidere da sole su questo, ma non è benigno, non c'è niente in questo, non è solo divertente ", ha detto.

Lensa afferma che le foto vengono conservate sui server e nelle app per non più di 24 ore. Con algoritmi di deep learning e machine learning, l'IA raccoglie e poi fornisce risultati migliori in futuro, anche sulla base dei dati cancellati. Ciò, afferma Bowman, comporterà problemi di sicurezza rispetto al potenziale utilizzo del riconoscimento facciale poiché questo tipo di dati potrebbe essere utilizzato illegalmente dalla polizia.

Timestamp:

Di più da MetaNotizie