Deepfakes - også kendt som syntetiske medier - kan bruges til mere end at efterligne berømtheder og gøre desinformation mere troværdig. De kan også bruges til økonomisk bedrageri.
Svindlere kan bruge deepfake-teknologi til at narre medarbejdere i pengeinstitutter til at ændre kontonumre og igangsættelse af anmodninger om pengeoverførsel for betydelige beløb, siger Satish Lalchand, rektor hos Deloitte Transaction and Business Analytics. Han bemærker, at disse transaktioner ofte er svære, hvis ikke umulige, at omgøre.
Cyberkriminelle anvender konstant nye teknikker til at unddrage sig, at du kender din kunde-verifikationsprocesser og kontrollerer svindel. Som reaktion herpå er mange virksomheder ved at udforske måder, hvorpå maskinlæring (ML) kan opdage svigagtige transaktioner, der involverer syntetiske medier, syntetisk identitetsbedrageri eller anden mistænkelig adfærd. Sikkerhedsteam bør dog være opmærksomme på begrænsningerne ved at bruge ML til at identificere svindel i stor skala.
Find svindel i stor skala
Svindel i den finansielle sektor i de sidste to år var drevet af det faktum, at mange transaktioner blev skubbet til digitale kanaler som følge af COVID-19-pandemien, siger Lalchand. Han nævner tre risikofaktorer, der driver anvendelsen af ML-teknologier til kunde- og virksomhedsverifikation: kunder, medarbejdere og svindlere.
Selvom ansatte i finansielle servicevirksomheder typisk overvåges via kameraer og digitale chats på kontoret, fjernarbejdere bliver ikke overvåget så meget, siger Lalchand. Med flere kunder, der virtuelt tilmelder sig finansielle tjenester, inkorporerer finansielle servicevirksomheder i stigende grad ML i deres kundeverifikations- og autentificeringsprocesser for at lukke dette vindue for både medarbejdere og kunder. ML kan også bruges til at identificere svigagtige ansøgninger om statsstøtte eller identitetssvig, siger Lalchand.
Ud over at spotte svigagtig Lån til lønseddelbeskyttelsesprogramML-modeller kan trænes til at genkende transaktionsmønstre, der kan signalere menneskehandel eller svindel med ældremisbrug, siger Gary Shiffman, medstifter af Consilient, et it-firma med speciale i forebyggelse af økonomisk kriminalitet.
Finansielle institutioner ser nu svig opstå på tværs af flere produkter, men de har en tendens til at søge efter svigagtige transaktioner i siloer. Kunstig intelligens og ML-teknologi kan hjælpe med at samle svindelsignaler fra flere områder, siger Shiffman.
"Institutionerne fortsætter med at lave en muldvarp, og fortsætter med at forsøge at identificere, hvor svindel var stigende, men det skete bare overalt," siger Lalchand. "Fusionen af information ... kaldes CyFi, der bringer cyber- og finansielle data sammen."
ML-værktøjer kan hjælpe med at identificere kunder positivt, opdage identitetsbedrageri og spotte sandsynligheden for risiko, siger Jose Caldera, Chief Product Officer for globale produkter for Acuant hos GBG. ML kan undersøge tidligere adfærd og risikosignaler og anvende disse erfaringer i fremtiden, siger han.
Grænserne for maskinlæring
Selvom ML-modeller kan analysere datapunkter for at opdage svindel i stor skala, vil der altid være falske positive og falske negative, og modellerne vil forringes over tid, siger Caldera. Derfor skal cybersikkerhedshold, der træner algoritmen til at opdage svindel, opdatere deres modeller og overvåge resultaterne regelmæssigt, ikke kun hver sjette måned eller hvert år, siger han.
"Du skal sikre dig, at du forstår, at processen ikke er en engangsopgave. Og … du skal have den rette bemanding, der gør det muligt for dig at opretholde den proces over tid,” siger Caldera. "Du vil altid få mere information, og ... du skal være i stand til konstant at bruge den til at forbedre dine modeller og forbedre dine systemer."
For it- og cybersikkerhedsteams, der evaluerer effektiviteten af ML-algoritmer, siger Shiffman, at de bliver nødt til at etablere grundsandhed - det korrekte eller "sande" svar på en forespørgsel eller et problem. For at gøre det afprøver teams, der bruger ML-teknologier, en model ved hjælp af et testdatasæt, ved at bruge en svarnøgle til at tælle dens falske negative, falske positive, sande positive og sande negative, siger han. Når først disse fejl og korrekte svar er redegjort for, kan virksomheder omkalibrere deres ML-modeller for at identificere svigagtig aktivitet i fremtiden, forklarer han.
Udover at opdatere deres algoritmer til at opdage svindel, skal it- og cybersikkerhedsteam, der bruger ML-teknologi, også være opmærksomme på lovmæssige restriktioner mht. dele data med andre enheder, selv for at identificere svindel, siger Shiffman. Hvis du håndterer data fra et andet land, er du muligvis ikke lovligt i stand til at overføre dem til USA, siger han.
For hold, der ønsker at bruge ML-teknologi til at opdage svindel, advarer Caldera om, at sådanne værktøjer kun er en komponent i en strategi for forebyggelse af bedrageri, og at der ikke er én løsning til at løse dette problem. Efter indsættelse af nye kunder skal cybersikkerheds- og it-professionelle holde sig ajour med, hvordan de ændrer adfærd over tid.
"Brugen eller ej af teknologi eller maskinlæring er kun en komponent i dit værktøjssæt," siger Caldera. "Du som virksomhed er nødt til at forstå: Hvad er omkostningerne, du lægger på dette, hvad er den risikotolerance, du har, og hvad er den kundeposition, du så ønsker?"
