Deepfake CFO trikser Hong Kong Biz ut av $25 millioner

Publisert av Platon

Følgere: 0

Deepfake CFO lurer Hong Kong biz ut av $25 millioner PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

En Hong Kong-basert finanspersonell ved et multinasjonalt selskap ble angivelig svindlet ut av 25 millioner dollar (HK$200 millioner) av selskapets penger da svindlere skapte en dyp forfalskning av hans London-baserte finansdirektør i en videokonferansesamtale.

Hongkongeren ble med i en vidchat der finansdirektøren hans dukket opp – men virket litt ustabil. Så mye at den ansatte i utgangspunktet var mistenksom. Men nervene hans ble lindret da andre kolleger han kjente igjen så ut til å delta på samtalen, Hong Kong-politiet velig forklart.

Den falske finansdirektøren kom med stadig mer presserende bønn om å gjennomføre pengeoverføringer, og offeret fulgte instruksjonene som ble gitt under samtalen – og gjorde til slutt 15 overføringer til fem lokale bankkontoer.

De AI-genererte videoene ble angivelig laget fra tidligere ekte nettkonferanser. For å legge til dybde og troverdighet til svindelen, brukte gjerningsmennene WhatsApp, e-post og en-til-en videokonferanser med ansatte i Hong Kong.

"Jeg tror svindleren lastet ned videoer på forhånd og deretter brukte kunstig intelligens for å legge til falske stemmer for å bruke i videokonferansen," rapporterte byens politioverbetjent, Baron Chan Shun-ching.

Hva mer nøyaktig skjedde på den skjebnesvangre samtalen er omstridt. Noen rapporter tyder på at bare én deltaker i samtalen var ekte, mens andre antyder at flere deltakere var mennesker.

Alle er enige om at AI-genererte mennesker dukket opp, og at den ikke navngitte finanseksperten dessverre ble lurt. Den virkeligheten ble først oppdaget av offeret etter at han kontaktet det (også ikke navngitte) selskapets hovedkontor.

Lokalt medieuttak The Standard erklærte hendelsen den første dypfalske videokonferansesvindel i Hong Kong.

I en enklere, mer uskyldig tid – for rundt halvannet år siden – Sophos-forsker John Shier fortalte Reg deepfakes var ikke mye av en trussel.

Ifølge Shier foretrakk svindlere enklere og billige angrep, som gammeldags phishing.

Enten drevet av appellen til større økonomiske insentiver, eller påvirket av de nylige betydelige fremskrittene innen AI-teknologi som gjør det lettere å lage dem, ser det ut til at epoken med å være ubekymret for deepfakes raskt forsvinner.

Mens den dyptfalskede CFO-svindel kan være den første rapporterte i Hong Kong som bruker videokonferanser, er det ikke den eneste svindelen som bruker teknologien. I følge CNN, avslørte Hong Kong-politiet i en pressebriefing på fredag at de hadde foretatt seks arrestasjoner i forbindelse med andre dypfalske svindel og at AI-deepfakes hadde blitt brukt minst 20 ganger for å lure programvare for ansiktsgjenkjenning.

Deepfake-problemet er også globalt. Amerikanske senatorer forrige uke introdusert et lovforslag fra to partier som ville tillate ofre fremstilt i AI-genererte pornografiske dypforfalskninger uten samtykke til å saksøke skaperne av videoene.

Dette trekket kom etter seksuelt eksplisitte AI-genererte bilder av Taylor Swift prolifererte på tvers av sosiale medieplattformer – inkludert på X/Twitter, hvor de fikk titalls millioner visninger før det Musk-eide nettstedet blokkerte søk etter popikonet.

India har hatt lignende problemer da en mye mindre grafisk – men fortsatt personlig og profesjonelt krenkende – AI-generert video av den indiske skuespilleren Rashmika Mandanna dukket opp på nettet i november.

Den indiske IT-ministeren Rajeev Chandrasekhar velig advarte i slutten av januar om at sosiale medieplattformer ville bli holdt ansvarlige for dype falske brukere. ®