En finansarbeider ved et Hong Kong-basert multinasjonalt skal ha tapt HK$200 millioner ($25.6 millioner) av selskapets penger etter at svindlere brukte dypfalsk AI-teknologi for å etterligne firmaets finansdirektør i en videokonferansesamtale.
Politiet sa at den ansatte mottok en melding forrige måned fra noen som hevdet å være selskapets London-baserte finansdirektør. Personen som viste seg å være en svindler, ba arbeideren bli med i en "kryptert" videosamtale med fire til seks andre ansatte.
Etter innledende nøling ble den ansatte overbevist etter videosamtalen fordi andre tilstedeværende så ut og hørtes ut som folk han kjente fra jobben, Hong Kong Standard rapportert.
Les også: Mann taper $600,000 XNUMX til svindler ved bruk av AI med ansiktsbytte
Svindler en finansekspert
Den falske finansdirektøren kastet ikke bort tiden. Han kom raskt med presserende appeller for å lette pengeoverføringene. Offeret trodde alle andre på videosamtalen var ekte og fulgte instruksjonene, og gjorde til slutt 15 overføringer til fem lokale bankkontoer.
Totalt gikk arbeideren med på å overføre HK$200 millioner—ca US$25.6 millioner på den tiden. Den ansatte fant ut at han var blitt lurt en uke senere etter å ha sjekket med selskapets hovedkontor. Han anmeldte forholdet til politiet.
«(I) videokonferansen med flere personer, viser det seg at alle [han så] var falske,» sa Hongkongs politioverbetjent Baron Chan Shun-ching. Politimannen avslørte ikke navn eller detaljer om selskapet eller arbeideren.
Ifølge Chan ble videoene generert ved hjelp av AI og laget fra tidligere ekte nettkonferanser. For å legge til dybde og troverdighet til svindelen, brukte svindlerne WhatsApp, e-post og en-til-en videokonferanser med ansatte i Hong Kong.
"Jeg tror svindleren lastet ned videoer på forhånd og deretter brukte kunstig intelligens for å legge til falske stemmer for å bruke i videokonferansen," sa Chan, og la til i en annen rapport:
"De brukte dypfalsk teknologi for å imitere stemmen til målene deres som leste fra et manus."
Politiet sa at tilfeller der AI-deepfake-teknologi ble brukt for å lure folk ut av pengene deres har vært økende i Hong Kong. Mellom juli og september 2023 ble åtte stjålne lokale ID-kort brukt til å lage 90 lånesøknader og 54 bankkontoregistreringer, sa Chan. rapportert av CNN.
Ifølge Hong Kong-politiet hadde svindlere brukt AI deepfakes minst 20 ganger for å lure programvare for ansiktsgjenkjenning «ved å etterligne personene som er avbildet på identitetskortene». Politiet har pågrepet seks personer i forbindelse med slike svindelforsøk.
AI deepfakes bekymrer globale ledere
Etter hvert som AI blir mer avansert, vil det bli stadig vanskeligere å skille mellom ekte og falske identiteter, ifølge eksperter. Teknologien kan undergrave sikkerheten og personvernet til digitale identiteter.
For eksempel kan det brukes til å lage dype forfalskninger, realistiske, men falske bilder eller videoer som brukes til å etterligne noen andre, inkludert stemmen deres, som fremhevet i Hong Kong-saken.
Regulatorer over hele verden har begynt å være mer oppmerksomme på farene ved AI siden OpenAI lanserte sin virale chatbot ChatGPT i november 2022.
I USA, senatorer introdusert et lovforslag fra to partier sent i forrige måned som ville tillate ofre fremstilt i AI-genererte pornografiske deepfakes uten samtykke til å saksøke skaperne av videoene.
Avgjørelsen kom etter seksuelt eksplisitte AI-genererte bilder av Taylor Swift gikk viralt på sosiale medier, inkludert på X, der titalls millioner mennesker så dem før plattformen tidligere kjent som Twitter blokkerte søk etter popsangeren.
I Kina utstedte landets cyberspace-administrasjon i fjor nye forskrifter som forbyr bruk av AI-generert innhold for å spre «falske nyheter». Regelverket krever også at leverandører av deepfake-teknologi tydelig skal merke produktene sine som syntetiske.
I India har IT-minister Rajeev Chandrasekhar nylig advarte at sosiale medieselskaper vil bli holdt ansvarlige for AI-deepfakes som er lagt ut av folk på deres plattformer. Dette kommer etter en semi-naken AI-laget video av den indiske skuespilleren Rashmika Mandanna dukket opp på nett i november.
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://metanews.com/deepfake-cfo-dupes-employee-25-6m-in-hong-kong-ai-scam/
- : har
- :ikke
- :hvor
- 000
- 15%
- 20
- 2022
- 2023
- 54
- a
- Ifølge
- Logg inn
- ansvarlig
- kontoer
- legge til
- la til
- administrasjon
- avansere
- avansert
- Etter
- avtalte
- AI
- tillate
- også
- an
- og
- En annen
- appeller
- søknader
- rundt
- arrestert
- kunstig
- kunstig intelligens
- AS
- At
- frammøte
- oppmerksomhet
- Ban
- Bank
- bankkonto
- bankkontoer
- Baron
- BE
- fordi
- bli
- blir
- vært
- før du
- tro
- antatt
- mellom
- Bill
- tverrpolitisk
- blokkert
- men
- by
- ring
- kom
- CAN
- Kort
- saken
- saker
- cfo
- chan
- chatbot
- kontroll
- sjef
- Kina
- hevder
- klart
- CNN
- COM
- kommer
- Selskaper
- Selskapet
- Selskapets
- Konferanse
- konferanser
- tilkobling
- innhold
- overbevist
- Landets
- skape
- skaperne
- Troverdighet
- cyberspace
- farene
- avgjørelse
- deepfakes
- dybde
- detaljer
- gJORDE
- vanskelig
- digitalt
- skille
- åtte
- ellers
- emalje
- Ansatt
- etter hvert
- alle
- eksempel
- eksperter
- ansikts
- ansiktsgjenkjenning
- legge til rette
- forfalskning
- finansiere
- finansiell
- fem
- Til
- tidligere
- funnet
- fire
- svindlere
- fra
- FT
- generert
- ekte
- Global
- HAD
- Ha
- he
- hode
- Held
- Høy
- Fremhevet
- Hong
- Hong Kong
- HTTPS
- ID
- identiteter
- Identitet
- bilder
- ligne
- in
- Inkludert
- Øke
- stadig
- india
- indisk
- innledende
- instruksjoner
- Intelligens
- inn
- Utstedt
- IT
- DET ER
- bli medlem
- Juli
- kjent
- Kong
- Etiketten
- Siste
- I fjor
- Late
- seinere
- lansert
- minst
- i likhet med
- lån
- lokal
- så
- taper
- tapte
- laget
- gjøre
- Making
- Saken
- max bredde
- Media
- medlemmer
- melding
- millioner
- millioner
- penger
- Pengeoverføringer
- Måned
- mer
- multinasjonale
- navn
- Ny
- nyheter
- November
- of
- Office
- Offiser
- on
- på nett
- OpenAI
- or
- Annen
- andre
- ut
- Past
- Betale
- Ansatte
- person
- plattform
- Plattformer
- plato
- Platon Data Intelligence
- PlatonData
- Politiet
- pop
- postet
- privatliv
- Produkter
- tilbydere
- Lese
- Lesning
- ekte
- realistisk
- mottatt
- nylig
- anerkjennelse
- forskrifter
- rapporterer
- rapportert
- velig
- krever
- avsløre
- s
- Sa
- så
- Svindel
- svindlere
- svindel
- script
- søk
- sikkerhet
- Senatet
- SENATORER
- senior
- September
- siden
- Sangeren
- SIX
- selskap
- sosiale medier
- Software
- Noen
- hørtes
- spre
- Staff
- Standard
- startet
- stjålet
- slik
- saksøke
- raskt
- syntetisk
- mål
- Teknologi
- titus
- Det
- De
- verden
- deres
- Dem
- deretter
- denne
- tid
- ganger
- til
- Totalt
- overføre
- overføringer
- trick
- snudde
- snur
- oss
- undergrave
- som haster
- bruke
- brukt
- ved hjelp av
- Offer
- ofre
- video
- Videokonferanse
- videoer
- viral
- Voice
- STemmer
- var
- Avfall
- uke
- gikk
- var
- HVEM
- vil
- med
- Arbeid
- arbeidstaker
- verden
- bekymring
- ville
- X
- år
- zephyrnet