Deepfakes – også kjent som syntetiske medier – kan brukes til mer enn å etterligne kjendiser og gjøre desinformasjon mer troverdig. De kan også brukes til økonomisk svindel.
Svindlere kan bruke deepfake-teknologi for å lure ansatte ved finansinstitusjoner til å endre kontonummer og initiere forespørsler om pengeoverføring for betydelige beløp, sier Satish Lalchand, rektor ved Deloitte Transaction and Business Analytics. Han bemerker at disse transaksjonene ofte er vanskelige, om ikke umulige, å reversere.
Nettkriminelle tar stadig i bruk nye teknikker for å unngå verifiseringsprosesser for kjenn-din-kunden og kontroller for svindeloppdagelse. Som svar utforsker mange virksomheter måter maskinlæring (ML) kan oppdage uredelige transaksjoner som involverer syntetiske medier, syntetisk identitetssvindel eller annen mistenkelig atferd. Sikkerhetsteam bør imidlertid være oppmerksomme på begrensningene ved å bruke ML for å identifisere svindel i stor skala.
Finne svindel i stor skala
Svindel i finanssektoren de siste to årene ble drevet av det faktum at mange transaksjoner ble presset til digitale kanaler som et resultat av COVID-19-pandemien, sier Lalchand. Han nevner tre risikofaktorer som driver bruken av ML-teknologier for kunde- og forretningsverifisering: kunder, ansatte og svindlere.
Selv om ansatte i finansfirmaer vanligvis overvåkes via kameraer og digitale chatter på kontoret, fjernarbeidere blir ikke overvåket så mye, sier Lalchand. Med flere kunder som registrerer seg for finansielle tjenester virtuelt, inkorporerer finanstjenestefirmaer i økende grad ML i sine kundeverifiserings- og autentiseringsprosesser for å lukke vinduet for både ansatte og kunder. ML kan også brukes til å identifisere uredelige søknader om statlig bistand eller identitetssvindel, sier Lalchand.
I tillegg til å oppdage svindel Lån for lønnsslippbeskyttelsesprogram, ML-modeller kan trenes til å gjenkjenne transaksjonsmønstre som kan signalisere menneskehandel eller svindel med eldreovergrep, sier Gary Shiffman, medgründer av Consilient, et IT-firma som spesialiserer seg på forebygging av økonomisk kriminalitet.
Finansinstitusjoner ser nå svindel dukke opp på tvers av flere produkter, men de har en tendens til å søke etter uredelige transaksjoner i siloer. Kunstig intelligens og ML-teknologi kan bidra til å samle svindelsignaler fra flere områder, sier Shiffman.
"Institusjoner fortsetter å slå på en føflekk, og fortsetter å prøve å identifisere hvor svindelen økte, men det skjedde bare fra hele verden," sier Lalchand. "Fusjonen av informasjon ... kalles CyFi, og bringer cyber- og finansdata sammen."
ML-verktøy kan hjelpe til med å identifisere kunder positivt, oppdage identitetssvindel og oppdage sannsynligheten for risiko, sier Jose Caldera, produktsjef for globale produkter for Acuant hos GBG. ML kan undersøke tidligere adferd og risikosignaler og bruke disse lærdommene i fremtiden, sier han.
Grensene for maskinlæring
Selv om ML-modeller kan analysere datapunkter for å oppdage svindel i stor skala, vil det alltid være falske positive og falske negativer, og modellene vil forringes over tid, sier Caldera. Derfor må cybersikkerhetsteam som trener algoritmen for å oppdage svindel oppdatere modellene sine og overvåke funnene regelmessig, ikke bare hver sjette måned eller hvert år, sier han.
«Du må sørge for at du forstår at prosessen ikke er en engangsoppgave. Og … du må ha den riktige bemanningen som gjør at du kan opprettholde denne prosessen over tid, sier Caldera. "Du kommer alltid til å få mer informasjon, og ... du må være i stand til å bruke den hele tiden for å forbedre modellene dine og forbedre systemene dine."
For IT- og cybersikkerhetsteam som evaluerer effektiviteten til ML-algoritmer, sier Shiffman at de må etablere grunnsannhet - det riktige eller "sanne" svaret på et spørsmål eller et problem. For å gjøre det, prøver team som bruker ML-teknologier en modell ved å bruke et testdatasett, ved å bruke en svarnøkkel for å telle falske negative, falske positive, sanne positive og sanne negative, sier han. Når disse feilene og de riktige svarene er gjort rede for, kan selskaper rekalibrere sine ML-modeller for å identifisere uredelig aktivitet i fremtiden, forklarer han.
I tillegg til å oppdatere algoritmene sine for å oppdage svindel, må IT- og cybersikkerhetsteam som bruker ML-teknologi også være klar over juridiske restriksjoner på dele data med andre enheter, selv for å identifisere svindel, sier Shiffman. Hvis du håndterer data fra et annet land, kan det hende du ikke er lovlig i stand til å overføre dem til USA, sier han.
For team som ønsker å bruke ML-teknologi for svindeldeteksjon, advarer Caldera om at slike verktøy bare er én komponent i en svindelforebyggingsstrategi, og at det ikke finnes én løsning for å løse dette problemet. Etter å ha fått nye kunder, må cybersikkerhet og IT-fagfolk holde seg oppdatert på hvordan de endrer atferd over tid.
"Bruken eller ikke av teknologi eller maskinlæring er bare en komponent av verktøysettet ditt," sier Caldera. "Du som bedrift må forstå: Hva er kostnadene du legger på dette, hva er risikotoleransen du har, og hva er kundeposisjonen du ønsker?"
