Cum să descoperiți AI Deepfakes pe rețelele sociale

Cum să descoperiți AI Deepfakes pe rețelele sociale

Marca temporală: 4 noiembrie 2023, ora 2:59
How to Spot AI Deepfakes on Social Media PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Un videoclip postat pe platforma chineză de socializare Weibo săptămâna trecută arată vedeta pop americană Taylor Swift vorbind fluent mandarină. Numai că nu a fost cântăreața de 33 de ani din clip. A fost un videoclip deepfake generat de un instrument AI de la start-up-ul chinez HeyGen.

Din 21 octombrie, când deepfake-ul lui Swift a fost primul comun, videoclipul a strâns peste șase milioane de vizualizări. Dar a declanșat și dezbateri cu privire la potențialele capcane care apar pe măsură ce AI devine mai avansată, ceea ce face dificilă distincția între identitățile sau conținutul reale și false.

Deepfake-urile – imagini sau videoclipuri realiste, dar false folosite pentru a uzurpa identitatea altcuiva, inclusiv vocea acestuia – pot fi implementate pentru a crea identități digitale false, lucru pe care infractorii cibernetici l-ar putea folosi pentru a comite fraude. Imaginile și videoclipurile arată și vorbesc exact ca persoana vizată.

În mai, de exemplu, un om de afaceri chinez a pierdut 4.3 milioane de yuani [612,000 USD] după ce un fraudator a folosit AI pentru a-și face schimb de fețe pentru a-și uzurpa identitatea prietenului. Nu a existat nicio pierdere de bani în deepfake-ul Taylor Swift, dar iată la ce să fii atent pentru a nu fi escrocat pe rețelele sociale.

Verificați aprobările celebrităților AI

Escrocii vor folosi de obicei deepfake AI ale unor persoane de încredere pentru a-și atrage victimele. În ultimele luni, nenumărate celebrități false de inteligență artificială au apărut pentru a păcăli oamenii cu sprijin fals. Versiunile false ale pictogramelor precum Elon Musk și Beyonce au ca scop promovarea mărcilor false.

Aparent, multe dintre anunțurile false se clasează mai sus în rezultatele căutării pe Google, probabil pentru că compania nu face suficient pentru a filtra conținutul fraudulos.

Cu toate acestea, în era conținutului fals generat de inteligență artificială, este esențial să abordăm videoclipurile prea bune pentru a fi adevărate cu un ochi critic. Afirmațiile extraordinare necesită dovezi extraordinare. Dacă întâlnești videoclipuri virale care par senzaționale, fă-ți timp pentru a le verifica autenticitatea și sursele.

„Dacă doriți sfaturi despre un produs sau serviciu, uitați-vă la recenzii sau găsiți un expert bine versat și care poate dovedi acest lucru”, spune expertul în tehnologie de consum și gazda radio Kim Komando.

„Un alt pas inteligent: Google produsul și actorul din anunț, împreună cu cuvântul „recenzie”. Dacă cineva este plătit pentru a susține un produs, nu există doar un anunț aleatoriu care plutește în rețelele sociale”, a adăugat ea într-un articol. publicat de New York Post.

De asemenea, se va citi: Taylor Swift, Emma Watson și alții sunt vizați de IA porno

Acordați atenție detaliilor

Tehnologia deepfake este deosebit de înfricoșătoare, deoarece este atât de realistă. Instrumente AI, cum ar fi Difuzie stabilă poate manipula vocile și mișcările gurii, făcându-le mai ușor pentru oameni să creadă că o înregistrare video sau audio este autentică.

Amintiți-vă de inteligența artificială creată de Ghostwriter Cântecul Drake și The Weeknd, care a păcălit milioane de oameni, inclusiv serviciile de streaming de muzică, făcându-le să creadă că este o nouă lansare? Pentru a descoperi un deepfake, Alex Kim, co-fondator și CEO al acceleratorului de comerț electronic bazat pe inteligență artificială Rice, sugerează:

„Acordați atenție oricăror inconsecvențe neobișnuite în videoclipul pe care îl vizionați. Creatorii de conținut care folosesc deepfakes încearcă de obicei să economisească timp, așa că reglarea detaliilor nu este ceva în care vor investi timp”, a spus Kim pentru MetaNews.

„Asta înseamnă că orice expresii faciale nepotrivite, mișcări nenaturale, artefacte ciudate, nepotrivire a vocii sau sincronizarea buzelor vor fi probabil prezente într-un videoclip falsificat”, a spus Kim, adăugând:

„Acordați o atenție deosebită ochilor, deoarece deepfake-urile se luptă cel mai mult cu aceștia.”

Cazul omului de afaceri chinez este un memento că tehnologia deepfake este un instrument puternic care poate fi folosit pentru bine sau pentru rău. Autoritățile de reglementare au început să acorde mai multă atenție pericolelor AI de când OpenAI și-a lansat chatbot-ul viral ChatGPT în noiembrie, declanșând o cursă globală de AI.

Ca și anterior MetaNews raportate, experții sugerează dezvoltarea de noi tehnologii care pot detecta și preveni utilizarea identităților false. Aceasta ar putea include utilizarea datelor biometrice, cum ar fi recunoașterea facială sau scanarea amprentelor digitale, pentru a verifica identitatea utilizatorilor online.

Verificați fundalul pentru indicii

În timp ce unele aplicații folosesc filigrane pentru a identifica conținutul generat de AI, nu este atât de evident pentru alții. Utilizatorii vor trebui să scaneze fundalul în imagini sau videoclipuri pentru a găsi indicii despre materialul de deepfake AI, conform lui Alex Kim, Rice.win CEO-ul.

„Dacă fundalul se mișcă în mod nefiresc sau dacă iluminarea nu se potrivește cu umbrele din prim-plan, probabil că este un deepfake”, a spus Kim. „Detalii precum textura materialelor sau lipsa acestora sunt alte semne.”

„Căutați pixelarea sau neclaritatea acolo unde nu ar trebui să existe, mai ales dacă se întâmplă pe un subiect uman. Detaliile naturale, cum ar fi liniile părului, urechile, nasul sau trăsăturile feței sunt greu de reținut într-un deepfake, cel puțin în mod convingător.”

Tehnologia AI, care în cea mai mare parte rămâne gratuită și ușor accesibilă, este folosită de actori răi în multe feluri. Imaginile celebrităților feminine de profil înalt, inclusiv Taylor Swift și Emma Watson, au fost manipulate folosind AI pentru a crea deepfake conținut pornografic.

Un nou instrument de inteligență artificială de la Institutul de Tehnologie din Massachusetts (MIT) din SUA promite să reducă deepfake-urile. Oamenii pot folosi PhotoGuard pentru a face „ajustări mici, invizibile pentru a păstra fotografiile [lor] ferite de deepfake și editări urâte – un standard de aur promițător în siguranța online”.

Alex Kim a declarat pentru MetaNews că cel mai evident și comun mod de a identifica videoclipurile false cu inteligență artificială pe rețelele sociale este să luați în considerare canalele pe care sunt găzduite.

„Veți dori să vă uitați la cât de mult a postat canalul în ultima vreme și dacă au existat creșteri mari în crearea de conținut”, a spus Kim. „Dacă există o creștere semnificativă a videoclipurilor postate care par neplăcute, de calitate scăzută sau ciudate, este un semn destul de sigur că creatorul folosește deepfakes.”

Timestamp-ul:

Mai mult de la MetaNews