Hvordan oppdage AI Deepfakes på sosiale medier

Hvordan oppdage AI Deepfakes på sosiale medier

Tidsstempel: 4. november 2023, kl
Hvordan oppdage AI Deepfakes på sosiale medier PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

En video lagt ut på den kinesiske sosiale medieplattformen Weibo forrige uke viser den amerikanske popstjernen Taylor Swift som snakker flytende mandarin. Bare det var ikke den 33 år gamle sangeren i klippet. Det var en dypfalsk video generert av et AI-verktøy fra den kinesiske oppstarten HeyGen.

Siden 21. oktober, da Swifts deepfake var først delt, har videoen fått mer enn seks millioner visninger. Men det har også utløst debatt om de potensielle fallgruvene som kommer etter hvert som AI blir mer avansert, noe som gjør det vanskelig å skille mellom ekte og falske identiteter eller innhold.

Deepfakes – realistiske, men falske bilder eller videoer som brukes til å etterligne noen andre, inkludert stemmen deres – kan distribueres for å skape falske digitale identiteter, noe nettkriminelle kan utnytte for å begå svindel. Bildene og videoene ser ut og snakker nøyaktig som personen som er målrettet.

I mai, for eksempel, en kinesisk forretningsmann tapte 4.3 millioner yuan [$612,000 XNUMX] etter at en svindler brukte ansiktsbytte AI for å etterligne vennen sin. Det var ingen tap av penger i Taylor Swift deepfake, men her er hva du bør se etter for å unngå å bli svindlet på sosiale medier.

Bekreft AI-kjendisanbefalinger

Svindlere vil vanligvis bruke AI-deepfakes fra pålitelige personer for å lokke ofrene sine. De siste månedene har utallige falske AI-kjendiser dukket opp for å lure folk med falske påtegninger. Falske versjoner av ikoner som Elon Musk og Beyonce er rettet mot å markedsføre falske merkevarer.

Tilsynelatende rangerer mange av de falske annonsene høyere i søkeresultatene på Google, sannsynligvis fordi selskapet ikke gjør nok for å filtrere uredelig innhold.

Men i en tidsalder med AI-generert falskt innhold, er det avgjørende å nærme seg for gode-til-å-være-sanne videoer med et kritisk blikk. Ekstraordinære krav krever ekstraordinære bevis. Hvis du kommer over virale videoer som virker oppsiktsvekkende, ta deg tid til å verifisere deres autentisitet og kilder.

"Hvis du vil ha råd om et produkt eller en tjeneste, se på anmeldelser eller finn en ekspert som er velbevandret og kan bevise det," sier forbrukerteknologiekspert og radiovert Kim Komando.

«Et annet smart skritt: Google produktet og skuespilleren i annonsen, sammen med ordet «anmeldelse». Hvis noen får betalt for å støtte et produkt, er det ikke bare én tilfeldig annonse som flyter rundt i sosiale medier,» la hun til i en artikkel publisert av New York Post.

Les også: Taylor Swift, Emma Watson og andre målrettet som AI-pornooverganger

Vær oppmerksom på detaljer

Deepfake-teknologi er spesielt skummelt fordi den er så realistisk. AI-verktøy som f.eks Stabil diffusjon kan manipulere stemmer og munnbevegelser, noe som gjør det enkelt for folk å tro at et video- eller lydopptak er autentisk.

Husk Ghostwriters AI-skapte Drake og The Weeknd sang, som lurte millioner av mennesker, inkludert musikkstrømmetjenester, til å tro at det var en ny utgivelse? For å oppdage en deepfake foreslår Alex Kim, medgründer og administrerende direktør for AI-drevet e-handelsakselerator Rice, å:

«Vær oppmerksom på eventuelle uvanlige inkonsekvenser i videoen du ser på. Innholdsskapere som bruker deepfakes prøver vanligvis å spare tid, så finjustering av detaljer er ikke noe de vil investere tid i, sier Kim til MetaNews.

"Det betyr at alle ansiktsuttrykk som ikke stemmer, unaturlige bevegelser, merkelige gjenstander, stemmefeil eller leppesynkronisering sannsynligvis vil være tilstede på en dypforfalsket video," sa Kim og la til:

"Vær spesielt oppmerksom på øynene, da deepfakes sliter mest med disse."

Saken om den kinesiske forretningsmannen er en påminnelse om at dypfalsk teknologi er et kraftig verktøy som kan brukes på godt og ondt. Regulatorer har begynt å være mer oppmerksomme på farene ved AI siden OpenAI lanserte sin virale chatbot ChatGPT i november, og utløste et globalt AI-kappløp.

Som MetaNews tidligere rapportert, foreslår eksperter å utvikle nye teknologier som kan oppdage og forhindre bruk av falske identiteter. Dette kan inkludere bruk av biometriske data, for eksempel ansiktsgjenkjenning eller fingeravtrykkskanning, for å bekrefte identiteten til brukere på nettet.

Sjekk bakgrunnen for ledetråder

Mens noen apper bruker vannmerker å identifisere AI-generert innhold, er det ikke så opplagt med andre. Brukere må skanne bakgrunnen i bilder eller videoer for å finne ledetråder om AI-deepfake-materiale, ifølge Alex Kim, Rice.win ADMINISTRERENDE DIREKTØR.

"Hvis bakgrunnen beveger seg unaturlig eller lyset ikke stemmer overens med skyggene i forgrunnen, er det sannsynligvis en dyp fake," sa Kim. "Detaljer som tekstur på materialer, eller mangel på slike, er andre tegn."

"Se etter pikselering eller uskarphet der det ikke burde være noen, spesielt hvis det skjer på et menneskelig motiv. Naturlige detaljer som hårfester, ører, neser eller ansiktstrekk er vanskelig å få frem i en dypfalsk, i det minste overbevisende."

AI-teknologi, som for det meste forblir gratis og lett tilgjengelig, brukes av dårlige skuespillere på mange måter. Bilder av høyprofilerte kvinnelige kjendiser, inkludert Taylor Swift og Emma Watson, har blitt manipulert ved hjelp av AI for å lage dypfalske pornografisk innhold.

Et nytt AI-verktøy fra Massachusetts Institute of Technology (MIT) i USA lover å dempe deepfakes. Folk kan bruke PhotoGuard for å gjøre "små, usynlige justeringer for å holde [deres] bilder trygge mot dype forfalskninger og ekle redigeringer - en lovende gullstandard innen nettsikkerhet."

Alex Kim fortalte MetaNews at den mest åpenbare og vanlige måten å identifisere falske AI-videoer på sosiale medier er å vurdere kanalene de er vert for.

"Du bør se på hvor mye kanalen har lagt ut i det siste, og om det var noen store topper eller økninger i innholdsskaping," sa Kim. "Hvis det er en stor økning i publiserte videoer som virker dårlige, av lav kvalitet eller merkelige, er det et ganske sikkert tegn på at skaperen bruker deepfakes."

Tidstempel:

Mer fra MetaNews