Deepfake-waarschuwing: frauduleus cryptoplatform gepromoot in Doctored Clip van Andrew Forrest op Facebook

Een bewerkte clip van de Australische mijnmagnaat en zakenman Andrew ‘Twiggy’ Forrest op Facebook vertegenwoordigt de nieuwste toevoeging aan een reeks deepfakes die afbeeldingen van figuren in misleidende advertenties kapen, waardoor het vertrouwen in de media wordt aangetast.

Cyberbeveiligingsbedrijf Cybertrace markeerde de video Forrest, die reclame lijkt te maken voor een nep-cryptohandelsplatform.

Diepe misleiding

De beelden verschenen op Facebook en moedigden kijkers aan zich in te schrijven voor een frauduleus platform dat beweerde dagelijks duizenden dollars op te leveren voor ‘gewone individuen’. Doelwitten worden doorverwezen naar een site met de naam ‘Quantum AI’, die volgens Cybertrace bekendheid heeft verworven als een centrum voor oplichting en financieel bedrog.

De video veranderde de acties en maniertjes van Forrest van een ‘chat bij het haardvuur’ georganiseerd door de Rhodes Trust in oktober 2023. Cybertrace identificeerde de deepfake op Facebook op 27 januari, waar een AI-gemodificeerde vertolking van de miljardair wordt afgebeeld die een frauduleus crypto-handelsplatform onderschrijft.

Facebook en Instagram's moederbedrijf 'Meta' hebben begin 2020 een verbod op deepfakes ingevoerd, maar vervalste clips blijven grote schade aanrichten aan bescheiden gebruikers op de sociale mediaplatforms. Forrest hekelde de socialemediagigant echter omdat hij niet genoeg deed om oplichting te voorkomen.

De miljardair heeft strafrechtelijke aanklachten tegen Facebook lopen voor een nieuwe crypto-advertentiezwendel waarbij naar verluidt zijn imago werd uitgebuit. Hij uit zijn frustratie, Forrest bepaald,

“Facebook doet niets – dat is wat ik hoop dat de juridische stappen die ik ben begonnen zullen aanpakken, om sociale-mediabedrijven aansprakelijk te stellen voor de nalatige manier waarop zij hun advertentieplatforms beheren. Ik ben bijna twee jaar geleden een juridische procedure gestart, uit bezorgdheid over het feit dat onschuldige Australiërs op Facebook worden opgelicht.”

Deepfake-oplichters in opmars

MicroStrategy-oprichter Michael Saylor onlangs bekendgemaakt dat zijn team elke dag ongeveer 80 valse video's probeert te verwijderen, waarvan er vele zijn ontworpen om verschillende Bitcoin-zwendel te onderschrijven. Daarnaast zijn er op verschillende sociale media aangepaste video's verschenen met bekende figuren als miljardair Elon Musk, de oprichter van Tesla en SpaceX.

Sommige van deze video's bevatten links naar investeringsprogramma's, niet-geautoriseerde producten of niet-gerelateerde e-commercesites die na een paar dagen verdwijnen.

Door kunstmatige intelligentie (AI) gegenereerde deepfake-video’s komen langzaam in opkomst als een van de grootste veiligheidsbedreigingen ter wereld. Gegevens van Sumsub aangegeven dat het aandeel deepfakes in Noord-Amerika tussen 2022 en het eerste kwartaal van 1 aanzienlijk is toegenomen.

In de Verenigde Staten steeg het aandeel van 0.2% naar 2.6%, terwijl het in Canada steeg van 0.1% naar 4.6%. Tegelijkertijd daalde het aantal gedrukte vervalsingen, goed voor 4% tot 5% van alle fraude in 2022, in het afgelopen kwartaal tot 0%.

“Aanbieders van fraudebestrijding en verificatie die niet voortdurend werken aan het updaten van deepfake-detectietechnologieën lopen achter, waardoor zowel bedrijven als gebruikers gevaar lopen. Het upgraden van deepfake-detectietechnologie is een essentieel onderdeel van moderne effectieve verificatie- en fraudebestrijdingssystemen.”