Deepfake Alert: Fraudulent Crypto Platform Promoted in Doctored Clip of Andrew Forrest på Facebook

Ett klippt klipp av den australiensiska gruvmagnaten och affärsmannen Andrew "Twiggy" Forrest på Facebook representerar det senaste tillskottet till en serie av djupa falska som kapar bilder av figurer i bedrägliga annonser, vilket urholkar förtroendet för media.

Cybersäkerhetsföretaget Cybertrace flaggade videon Forrest, som verkar främja en falsk kryptohandelsplattform.

Deepfake Deception

Filmen dök upp på Facebook och uppmuntrade tittarna att registrera sig på en bedräglig plattform som påstår sig generera tusentals dollar dagligen för "vanliga individer". Mål riktas till en webbplats som heter "Quantum AI", som enligt Cybertrace har blivit känd som ett nav för bedrägerier och ekonomiskt bedrägeri.

Videon förändrade Forrests agerande och sätt från en "fireside chat" som arrangerades av Rhodes Trust i oktober 2023. Cybertrace identifierade deepfakeet på Facebook den 27 januari, där en AI-modifierad återgivning av miljardären avbildas som stöder en bedräglig kryptohandelsplattform.

Facebook och Instagrams moderbolag "Meta" implementerade ett förbud mot djupförfalskningar i början av 2020, men manipulerade klipp fortsätter att orsaka förödelse mot anspråkslösa användare på sociala medieplattformar. Forrest kritiserade dock sociala mediejätten för att inte göra tillräckligt för att förhindra bedrägerier.

Miljardären har pågående brottsanklagelser mot Facebook för en annan kryptoreklambluff som påstås ha utnyttjat hans bild. Uttrycker sin frustration, Forrest anges,

"Facebook gör ingenting – det är vad jag hoppas att de rättsliga åtgärderna jag startade kommer att ta itu med, för att göra sociala medieföretag ansvariga för det försumliga sättet de driver sina annonsplattformar på. Jag inledde rättsliga förfaranden för nästan två år sedan av oro för de oskyldiga australiensarna som blev lurade på Facebook.”

Deepfake scammers på väg upp

MicroStrategys grundare Michael Saylor nyligen beskrives att hans team arbetar med att ta bort cirka 80 förfalskade videor varje dag, av vilka många är designade för att stödja olika Bitcoin-bedrägerier. Dessutom har modifierade videor med välkända figurer som miljardären Elon Musk, grundaren av Tesla och SpaceX, dykt upp på olika sociala medier.

Vissa av dessa videor innehåller länkar till investeringsprogram, otillåtna produkter eller orelaterade e-handelswebbplatser som försvinner efter några dagar.

Deepfake-videor genererade med artificiell intelligens (AI) framträder sakta som ett av de största säkerhetshoten i världen. Data från Sumsub indikerade att andelen deepfakes i Nordamerika ökade markant från 2022 till Q1 2023.

I USA steg andelen från 0.2 % till 2.6 %, medan den i Kanada steg från 0.1 % till 4.6 %. Samtidigt sjönk fall av tryckta förfalskningar, som stod för 4 % – 5 % av alla bedrägerier 2022, till 0 % under det senaste kvartalet.

"Antibedrägeri- och verifieringsleverantörer som inte ständigt arbetar med att uppdatera deepfake-detektionsteknologier släpar efter, vilket utsätter både företag och användare för risker. Uppgradering av deepfake-detekteringsteknik är en viktig del av moderna effektiva verifierings- och bedrägeribekämpningssystem."