Deepfake CFO lurar Hong Kong biz på 25 miljoner dollar

Deepfake CFO lurar Hong Kong biz på 25 miljoner dollar

Tidsstämpel: 5 februari 2024 1:30
Deepfake CFO lurar Hong Kong biz på $25 miljoner PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

En Hongkong-baserad finansproffs på ett multinationellt företag svindlades enligt uppgift på 25 miljoner dollar (200 miljoner HKD) i företagets pengar när bedragare skapade en djupförfalskning av hans London-baserade finanschef i ett videokonferenssamtal.

Hongkongern gick med i en vidchat där hans CFO dök upp – men verkade lite off. Så pass att den anställde till en början var misstänksam. Men hans nerver lugnades när andra kollegor han kände igen verkade delta i samtalet, polisen i Hongkong enligt uppgift förklaras.

Den falska finanschefen vädjade alltmer om att genomföra penningöverföringar, och offret följde instruktionerna som gavs under samtalet – så småningom gjorde 15 överföringar till fem lokala bankkonton.

De AI-genererade videorna har enligt uppgift skapats från tidigare äkta onlinekonferenser. För att lägga till djup och trovärdighet till bluffen använde förövarna WhatsApp, e-post och en-till-en-videokonferenser med personal i Hongkong.

"Jag tror att bedragaren laddade ner videor i förväg och sedan använde artificiell intelligens för att lägga till falska röster att använda i videokonferensen", rapporterade stadens polischef, baron Chan Shun-ching.

Vad som mer exakt hände på det ödesdigra samtalet är omtvistat. Vissa rapporter tyder på att bara en deltagare i samtalet var verklig, medan andra tyder på att flera deltagare var människor.

Alla är överens om att AI-genererade människor dök upp och att tyvärr den icke namngivna finansproffsen blev lurad. Den verkligheten upptäckte offret först efter att han kontaktat det (också namnlösa) företagets huvudkontor.

Lokalt mediauttag Standarden deklarerade incidenten den första deepfake videokonferens bedrägeri i Hong Kong.

I en enklare, mer oskyldig tid – för runt ett och ett halvt år sedan – Sophos-forskaren John Shier berättade Reg deepfakes var inte särskilt hot.

Enligt Shier föredrog bedragare enklare och billiga attacker, som gammaldags nätfiske.

Oavsett om de drivs av attraktionskraften av större ekonomiska incitament, eller påverkas av de senaste betydande framstegen inom AI-teknik som underlättar deras skapande, verkar det som om eran av att vara obekymrad över deepfakes snabbt försvinner.

Även om den djupt förfalskade CFO-bluffen kan vara den första rapporterade i Hong Kong som använder videokonferenser, är det inte den enda bluffen som använder tekniken. Enligt CNN, avslöjade polisen i Hongkong i en pressträff på fredagen att de hade gjort sex arresteringar i samband med andra deepfake-bedrägerier och att AI-deepfakes hade använts minst 20 gånger för att lura mjukvara för ansiktsigenkänning.

Deepfake-problemet är också globalt. Amerikanska senatorer förra veckan introducerade ett tvåpartisk lagförslag som skulle tillåta offer som porträtteras i AI-genererade pornografiska deepfakes utan samtycke att stämma skaparna av videorna.

Det steget kom efter sexuellt explicita AI-genererade bilder av Taylor Swift förökat sig över sociala medieplattformar – inklusive på X/Twitter, där de fick tiotals miljoner visningar innan den Musk-ägda sajten blockerade sökningar efter popikonen.

Indien har haft liknande problem när en mycket mindre grafisk – men fortfarande personligt och professionellt kränkande – AI-genererad video av den indiska skådespelaren Rashmika Mandanna dök upp online i november.

Indiens IT-minister Rajeev Chandrasekhar enligt uppgift varnade i slutet av januari för att sociala medieplattformar skulle hållas ansvariga för djupförfalskningar som deras användare lägger upp. ®

Tidsstämpel:

Mer från Registret