Deepfakes - även känd som syntetiska medier - kan användas för mer än att utge sig för att vara kändisar och göra desinformation mer trovärdig. De kan också användas för ekonomiskt bedrägeri.
Bedragare kan använda deepfake-teknik för att lura anställda på finansinstitut att byta kontonummer och initiera begäranden om överföring av pengar för betydande belopp, säger Satish Lalchand, rektor på Deloitte Transaction and Business Analytics. Han konstaterar att dessa transaktioner ofta är svåra, för att inte säga omöjliga, att vända.
Cyberkriminella anammar ständigt nya tekniker för att undvika verifieringsprocesser för att känna till din kund och kontroller för att upptäcka bedrägerier. Som svar undersöker många företag hur maskininlärning (ML) kan upptäcka bedrägliga transaktioner som involverar syntetiska medier, syntetiska identitetsbedrägerier eller andra misstänkta beteenden. Säkerhetsteam bör dock vara uppmärksamma på begränsningarna med att använda ML för att identifiera bedrägerier i stor skala.
Hitta bedrägeri i stor skala
Bedrägerier inom finanssektorn under de senaste två åren drevs av det faktum att många transaktioner drevs till digitala kanaler som ett resultat av covid-19-pandemin, säger Lalchand. Han nämner tre riskfaktorer som driver antagandet av ML-tekniker för kund- och affärsverifiering: kunder, anställda och bedragare.
Även om anställda vid finansiella tjänsteföretag vanligtvis övervakas via kameror och digitala chattar på kontoret, fjärrarbetare inte övervakas lika mycket, säger Lalchand. Med fler kunder som virtuellt registrerar sig för finansiella tjänster, införlivar finansiella tjänsteföretag alltmer ML i sina kundverifierings- och autentiseringsprocesser för att stänga det fönstret för både anställda och kunder. ML kan också användas för att identifiera bedrägliga ansökningar om statligt bistånd eller identitetsbedrägeri, säger Lalchand.
Förutom att upptäcka bedrägliga Lån för lönecheckskyddsprogramML-modeller kan tränas för att känna igen transaktionsmönster som kan signalera människohandel eller bedrägerier med övergrepp mot äldre, säger Gary Shiffman, medgrundare av Consilient, ett IT-företag som specialiserat sig på förebyggande av ekonomisk brottslighet.
Finansiella institutioner ser nu bedrägerier dyka upp i flera produkter, men de tenderar att söka efter bedrägliga transaktioner i silos. Artificiell intelligens och ML-teknik kan hjälpa till att sammanföra bedrägerisignaler från flera områden, säger Shiffman.
"Institutionerna fortsätter att göra mullvad, och fortsätter att försöka identifiera var bedrägerierna ökade, men det hände bara från hela platsen," säger Lalchand. "Fusionen av information ... kallas CyFi, och sammanför cyberdata och finansiell data."
ML-verktyg kan hjälpa till att positivt identifiera kunder, upptäcka identitetsbedrägerier och upptäcka sannolikheten för risk, säger Jose Caldera, produktchef för globala produkter för Acuant på GBG. ML kan granska tidigare beteenden och risksignaler och tillämpa de lärdomarna i framtiden, säger han.
Gränserna för maskininlärning
Även om ML-modeller kan analysera datapunkter för att upptäcka bedrägerier i stor skala, kommer det alltid att finnas falska positiva och falska negativa, och modellerna kommer att försämras med tiden, säger Caldera. Därför måste cybersäkerhetsteam som tränar algoritmen för att upptäcka bedrägerier uppdatera sina modeller och övervaka resultaten regelbundet, inte bara var sjätte månad eller varje år, säger han.
"Du måste se till att du förstår att processen inte är en engångsuppgift. Och … du behöver ha rätt personal som gör att du kan upprätthålla den processen över tid, säger Caldera. "Du kommer alltid att få mer information, och ... du måste kunna använda den ständigt för att förbättra dina modeller och förbättra dina system."
För IT- och cybersäkerhetsteam som utvärderar effektiviteten av ML-algoritmer, säger Shiffman att de kommer att behöva fastställa grundsanningen - det korrekta eller "sanna" svaret på en fråga eller ett problem. För att göra det testar team som använder ML-teknik en modell med hjälp av en testdatauppsättning, med hjälp av en svarsnyckel för att räkna dess falska negativa, falska positiva, sanna positiva och sanna negativa, säger han. När dessa fel och korrekta svar väl har redovisats kan företag omkalibrera sina ML-modeller för att identifiera bedräglig aktivitet i framtiden, förklarar han.
Förutom att uppdatera sina algoritmer för att upptäcka bedrägerier måste IT- och cybersäkerhetsteam som använder ML-teknik också vara medvetna om juridiska restriktioner för dela data med andra enheter, även för att identifiera bedrägeri, säger Shiffman. Om du hanterar data från ett annat land kanske du inte lagligt kan överföra dem till USA, säger han.
För team som vill använda ML-teknik för att upptäcka bedrägerier, varnar Caldera för att sådana verktyg bara är en del av en strategi för att förebygga bedrägerier och att det inte finns någon lösning för att lösa det problemet. Efter att ha tagit in nya kunder måste cybersäkerhets- och IT-proffs hålla sig à jour med hur de förändrar beteenden över tid.
"Användningen eller inte av teknik eller maskininlärning är bara en komponent i din verktygsuppsättning," säger Caldera. "Du som företag måste förstå: Vad är kostnaden du lägger på det här, vilken risktolerans har du och vilken kundposition du vill ha?"
