Deepfake Alert: Fraudulent Crypto Platform Promoted in Doctored Clip of Andrew Forrest på Facebook

Et bearbeidet klipp av den australske gruvemagnaten og forretningsmannen Andrew «Twiggy» Forrest på Facebook representerer det nyeste tilskuddet til en serie dype forfalskninger som kaprer bilder av skikkelser i villedende reklame, og svekker tilliten til media.

Cybersikkerhetsfirmaet Cybertrace flagget videoen Forrest, som ser ut til å promotere en falsk kryptohandelsplattform.

Deepfake Deception

Opptaket dukket opp på Facebook, og oppmuntret seerne til å melde seg på en uredelig plattform som hevder å generere tusenvis av dollar daglig for «vanlige individer». Mål er rettet til et nettsted kalt "Quantum AI", som ifølge Cybertrace har blitt kjent som et knutepunkt for svindel og økonomisk bedrag.

Videoen endret Forrests handlinger og væremåter fra en "fireside chat" arrangert av Rhodes Trust i oktober 2023. Cybertrace identifiserte deepfake på Facebook 27. januar, der en AI-modifisert gjengivelse av milliardæren er avbildet som støtter en uredelig kryptohandelsplattform.

Facebook og Instagrams morselskap "Meta" implementerte et forbud mot deepfakes tidlig i 2020, men behandlede klipp fortsetter å skape kaos rettet mot upretensiøse brukere på sosiale medieplattformer. Forrest kritiserte imidlertid sosiale medier-giganten for ikke å gjøre nok for å forhindre svindel.

Milliardæren har stående straffeanklager mot Facebook for en annen kryptoreklame-svindel som angivelig utnyttet bildet hans. Uttrykker sin frustrasjon, Forrest uttalte,

«Facebook gjør ingenting – det er det jeg håper de rettslige handlingene jeg startet vil adressere, for å gjøre sosiale medieselskaper ansvarlige for den uaktsomme måten de driver annonseplattformene sine på. Jeg startet rettslige prosesser for nesten to år siden av bekymring for de uskyldige australierne som ble svindlet på Facebook.»

Deepfake-svindlere på vei opp

MicroStrategy-grunnlegger Michael Saylor nylig avslørt at teamet hans jobber med å fjerne rundt 80 forfalskede videoer hver dag, hvorav mange er designet for å støtte forskjellige Bitcoin-svindel. I tillegg har modifiserte videoer med kjente skikkelser som milliardæren Elon Musk, grunnleggeren av Tesla og SpaceX, også dukket opp på forskjellige sosiale medier.

Noen av disse videoene inneholder lenker til investeringsordninger, uautoriserte produkter eller urelaterte e-handelssider som forsvinner etter noen dager.

Deepfake-genererte videoer med kunstig intelligens (AI) dukker sakte opp som en av de største sikkerhetstruslene over hele verden. Data fra Sumsub indikert at andelen deepfakes i Nord-Amerika så en betydelig økning fra 2022 til Q1 2023.

I USA steg andelen fra 0.2 % til 2.6 %, mens den i Canada steg fra 0.1 % til 4.6 %. Samtidig falt forekomster av trykte forfalskninger, som utgjorde 4–5 % av all svindel i 2022, til 0 % i siste kvartal.

«Anti-svindel- og verifiseringsleverandører som ikke hele tiden jobber med å oppdatere dypfalske deteksjonsteknologier, henger etter, og setter både bedrifter og brukere i fare. Oppgradering av deepfake-deteksjonsteknologi er en viktig del av moderne effektive verifiserings- og anti-svindelsystemer."