Linia dintre crearea reală și AI este prea subțire pentru ochi

Pe măsură ce dezvoltatorii de IA generativă continuă să-și ajusteze modelele la sofisticare, de asemenea, devine din ce în ce mai dificil să se facă distincția între imaginile reale și creațiile AI, dezvăluie cercetătorii.

Un studiu realizat de cercetătorii de la Universitatea din Waterloo a stabilit că oamenilor le este greu să-și dea seama de o imagine a unei persoane reale și a unei persoane generate de inteligență artificială.

Sub pragul estimat

În realizarea studiului, cercetătorii de la Universitatea din Waterloo au oferit 20 de imagini neetichetate pentru 260 de participanți. Jumătate dintre fotografii au fost cu persoane reale luate de pe Google Images, în timp ce cealaltă jumătate au fost generate de inteligență artificială folosind instrumente precum Dall-E și Difuzie stabilă.

Participanții au fost apoi rugați să eticheteze imaginile, dacă sunt reale sau generate de inteligență artificială, justificându-și răspunsurile.

Deși 61% dintre participanți au putut face diferența dintre imaginile reale și imaginile generate de AI, aceasta a fost încă mult sub pragul așteptat de 85%.

În timp ce examinau imaginile, participanții au acordat atenție detaliilor precum ochii, degetele, dinții și alți indicatori care indică faptul că atunci când caută AI crează imagini, dar „evaluările lor nu au fost întotdeauna corecte”.

„Oamenii nu sunt atât de abili în a face distincția pe cât cred ei că sunt.” a spus autorul principal al studiului, Andrea Pocol, care este și un candidat la doctorat în informatică la universitate.

În timp ce utilizatorii de internet se pot uita la imagini în trecere, cercetătorii de la Waterloo au spus că le-au permis participanților să-și facă timp pentru a analiza imaginile.

„Oamenii care doar se derulează sau nu au timp nu vor înțelege aceste indicii”, a spus Pocol.

De asemenea, se va citi: CEO-ul Leonardo evidențiază prostia utilizatorilor față de amenințările AI de la Davos

Abuz de tehnologie

Lor studiu, intitulat „Seeing Is No Longer Believing: A Survey on the State of Deepfakes, AI-Generated Humans, and Other Nonveridical Media”, care apare în revista Advances in Computer Graphics, subliniază, de asemenea, riscurile asociate cu progresele în tehnologia AI generativă. .

Cercetătorii au remarcat, de asemenea, cu îngrijorare ritmul cu care tehnologia AI generativă se schimbă rapid, devenind mai sofisticată pe zi ce trece. Cercetarea academică și legislația nu reușesc să țină pasul cu evoluțiile din industria generativă.

Pocol a spus că imaginile AI devin din ce în ce mai reale, ceea ce face dificil pentru unii oameni să distingă cu ușurință între imaginile reale și cele generate de AI. Acest lucru, a spus Pocol, creează un teren fertil pentru actorii răi care profită de tehnologie pentru a răspândi răutatea și a perpetua dezinformarea sau pentru a păcăli oamenii.

„Dezinformarea nu este nouă, dar instrumentele de dezinformare s-au schimbat și au evoluat în mod constant”, a spus Pocol.

„Se poate ajunge la un punct în care oamenii, indiferent cât de pregătiți vor fi, se vor lupta în continuare să diferențieze imaginile reale de falsuri. De aceea, trebuie să dezvoltăm instrumente pentru a identifica și a contracara acest lucru. Este ca o nouă cursă a înarmărilor AI.”

Cercetătorii au recunoscut, de asemenea, provocările pe care le prezintă tehnologia, mai ales când vine vorba de răspândirea deepfake-urilor.

Tehnologia în mâini greșite

Cu dificultățile întâmpinate de oamenii obișnuiți de a distinge între imaginile reale și cele false, există temeri tot mai mari de creștere a răspândirii deepfake-urilor. Experții au avertizat că actorii răi vor profita de tehnologia AI generativă pentru a răspândi falsurile electorale în încercările lor de a induce în eroare alegătorii.

Centrul pentru combaterea urii digitale (CCDH), o organizație nonprofit care monitorizează discursurile instigatoare la ură online au făcut-o deja a avertizat în raportul lor, că generatoarele de imagini bazate pe inteligență artificială înrăutățesc dezinformarea despre alegerile din 2024.

„Potențialul ca astfel de imagini generate de inteligență artificială să servească drept „dovezi foto” ar putea exacerba răspândirea afirmațiilor false, reprezentând o provocare semnificativă pentru păstrarea integrității alegerilor”, au spus cercetătorii CCDH în raportul lor.

Acest lucru vine totuși pe fondul unui anunț că aproximativ 20 de mari companii de tehnologie, inclusiv OpenAI, Microsoft și Stability AI a semnat un acord să lucreze împreună pentru a preveni conținutul înșelător al inteligenței artificiale să „interfere cu alegerile care au loc la nivel global în acest an.

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://metanews.com/the-line-between-real-and-fake-gets-too-thin-for-the-ordinary-eye/