Deepfake CFO tricker Hong Kong Biz ud af $25 millioner

Genudgivet af Platon

Abonnenter: 0

Deepfake CFO tricks Hong Kong biz out of $25 million PlatoBlockchain Data Intelligence. Vertical Search. Ai.

En Hongkong-baseret finansprofessionel hos en multinational blev angiveligt svindlet ud af 25 millioner dollars (200 millioner HK$) af virksomhedens penge, da svindlere lavede en dyb falsk forfalskning af hans London-baserede finansdirektør i et videokonferenceopkald.

Hongkongeren sluttede sig til en vidchat, hvor hans CFO optrådte - men virkede lidt ude. Så meget, at medarbejderen i første omgang var mistænksom. Men hans nerver blev dulmet, da andre kolleger, han genkendte, så ud til at deltage i opkaldet, Hongkongs politi efter sigende forklaret.

Den falske finansdirektør fremsatte stadig mere presserende bønner om at udføre pengeoverførsler, og offeret fulgte instruktionerne givet under opkaldet - til sidst foretog 15 overførsler til fem lokale bankkonti.

De AI-genererede videoer blev angiveligt skabt fra tidligere ægte onlinekonferencer. For at tilføje dybde og troværdighed til fidusen brugte gerningsmændene WhatsApp, e-mail og en-til-en videokonferencer med Hong Kong-medarbejdere.

"Jeg tror, at svindleren downloadede videoer på forhånd og derefter brugte kunstig intelligens til at tilføje falske stemmer til brug i videokonferencen," rapporterede byens politioverbetjent, Baron Chan Shun-ching.

Hvad der ellers præcist skete på det skæbnesvangre opkald, er omstridt. Nogle rapporter tyder på, at kun én deltager i opkaldet var ægte, mens andre tyder på, at flere deltagere var mennesker.

Alle er enige om, at AI-genererede mennesker dukkede op, og at den unavngivne finansprofessionelle desværre blev narret. Den virkelighed opdagede offeret først, efter at han kontaktede det (også unavngivne) selskabs hovedkontor.

Lokalt medieudtag Standarden erklærede hændelsen den første deepfake videokonference fidus i Hong Kong.

I en enklere, mere uskyldig tid - for omkring halvandet år siden - Sophos-forsker John Shier fortalt Reg deepfakes var ikke meget af en trussel.

Ifølge Shier foretrak svindlere enklere og billige angreb, som gammeldags phishing.

Uanset om det er drevet af tiltrækningen af større økonomiske incitamenter eller påvirket af de seneste betydelige fremskridt inden for AI-teknologi, der letter deres skabelse, ser det ud til, at æraen med at være ligeglad med deepfakes hurtigt forsvinder.

Mens den dybt forfalskede CFO-fidus kan være den første rapporterede i Hong Kong, der bruger videokonferencer, er det ikke den eneste fidus, der bruger teknologien. Ifølge CNN, afslørede Hongkongs politi i en pressebriefing fredag, at de havde foretaget seks anholdelser i forbindelse med andre deepfake-svindel, og at AI-deepfakes var blevet brugt mindst 20 gange til at narre software til ansigtsgenkendelse.

Deepfake-problemet er også globalt. amerikanske senatorer i sidste uge introduceret et lovforslag fra to partier, der ville tillade ofre, der er portrætteret i AI-genererede pornografiske deepfakes uden samtykke, at sagsøge skaberne af videoerne.

Det skridt kom efter seksuelt eksplicitte AI-genererede billeder af Taylor Swift spredte sig på tværs af sociale medieplatforme – herunder på X/Twitter, hvor de samlede titusindvis af millioner af visninger, før det Musk-ejede websted blokerede søgninger efter popikonet.

Indien har haft lignende problemer da en langt mindre grafisk – men stadig personligt og professionelt krænkende – AI-genereret video af den indiske skuespiller Rashmika Mandanna dukkede op online i november.

Den indiske IT-minister Rajeev Chandrasekhar efter sigende advarede i slutningen af januar om, at sociale medieplatforme ville blive holdt ansvarlige for deepfakes, som deres brugere poster. ®