Generativ artificiell intelligens (AI) har redan haft en genomgripande inverkan på våra liv, med många experter som delar med sig av sina åsikter om teknikens industris förändrade kommersiella potential och hur den kan användas i framtiden. Jag delade nyligen min
tankar om hur tekniken skulle förändra betalningsbranschen, men samtidigt som det finns många positiva tillämpningar för generativ AI i vår sektor; Det finns tyvärr också många människor som vill använda tekniken i bedrägliga syften. Här är några sätt som bedragare redan idag använder generativ AI som kollegor inom betalningsbranschen borde vara medvetna om:
Mer sofistikerade nätfiskehot. Vi ser redan att mer sofistikerade attacker lanseras. Ja, som nyligen upptäcktes av
Cyble, skapar bedragare till och med falska webbplatser som erbjuder gratis nedladdningar av verktyget ChatGPT. Denna typ av hyperreaktiv inställning är typisk för bedragare, som ofta drar nytta av nya trender för att fånga folks uppmärksamhet. I det här fallet erbjuder bedragare falska ChatGPT-nedladdningar som skydd för att installera skadlig programvara på offrets enhet eller maskin, vilket gör det möjligt för dem att komma åt personliga uppgifter, lösenord eller till och med kontanter.
Det här exemplet kanske inte använder generativ AI i sig, men tekniken ökar också effektiviteten av dessa typer av bedrägerier genom att förbättra en bedragares förmåga att komponera äkta falska e-postmeddelanden, webbplatser och andra former av kommunikation mycket mer exakt. Bedragare kan generera godkända e-postmeddelanden genom att använda generativa AI-modeller som har tränats med officiellt producerad information för att bättre efterlikna tillvägagångssätt, språk, grammatik och till och med hur länkar hanteras i dessa e-postmeddelanden, för att få deras nätfiskeförsök att framstå som mer legitima. Ju mer övertygande den falska är, desto högre framgångsfrekvens. Om en bedragare får tillgång till någons e-post kan de sedan nätfiska information, distribuera skadlig programvara eller orsaka ytterligare skada genom att träna sina verktyg på riktiga e-postmeddelanden, så att all framtida kommunikation mer liknar den verkliga varan.
Känslig datainsamling. Bedragare använder redan enorma bibliotek med verktyg för att samla in känslig information, men nu använder de generativa AI-drivna bedrägerier för att förbättra sin förmåga att få tillgång till och sedan ta över konton på sociala medier. Att ta över ett konto gör det möjligt för en bedragare att rikta in sig på ett offers kontakter i en pålitlig miljö, där de kan ha möjlighet att be ett offers nära vänner eller familj om pengar i en syntetiserad, auktoriserad Push Payment-attack. De kan också försöka använda sociala ingenjörstekniker för att komma åt ytterligare känslig information, antyda möjliga lösenord och hemliga svarsfrågor som används för till exempel inloggning på internetbank. I varje scenario lär generativ AI ständigt offrets kommunikationsstil, vilket gör alla framtida attacker ännu effektivare och svårare att upptäcka.
Bedragare använder också generativ AI för att generera och posta extremt övertygande jobbansökningar till officiella jobbbrädor. CV:n innehåller mycket personlig information och bedrägerier som denna används vanligtvis för att rikta in sig på utsatta personer, särskilt de som har blivit uppsagda, eller precis har börjat i sin karriär, och som är mer benägna att lämna ut personlig information till rekryterare. Efter att ha lyckats "anställa" en anställd kunde bedragare till och med be om sitt offers ID och bankuppgifter, i vetskap om att det skulle ta minst en månad innan lönedagen – gott om tid att klona identiteten och använda den.
Syntetisk identitetsgenerering. Syntetisk identitetsbedrägeri är redan ett stort problem för många banker och finansinstitutioner, men bedragare använder generativ AI och syntetisk data för att hjälpa dem att kringgå verifieringskontroller. Bedragare har nu möjlighet att generera imponerande falsk identitetsdokumentation, vilket är realistiskt nog att klara många av standardkontrollerna som är involverade i att skapa ett bankkonto, till exempel. När ett falskt bankkonto har beviljats kan bedragare ansöka om kredit, eller för att dra fördel av köp nu, betala senare erbjudanden eller ännu värre.
Generativ AI hjälper till att göra denna typ av bedrägeri enklare, snabbare och mer skalbar. Bedragare kan starta flera bedrägliga attacker med ett knapptryck. Automatisera processen att producera falska identiteter och personas, och dramatiskt öka deras chanser att lyckas. Varje attack läggs till en bedragares stora samling av verklig data, vilket förbättrar deras modells förmåga att träna sig själv och ökar noggrannheten i varje efterföljande attack. Vissa bedragare använder till och med generativa AI-verktyg för att generera syntetisk identitetsdata för försäljning på den mörka webben, i motsats till att använda den själva.
Detaljerade svar på frågor om bedrägeriutredning. Conversational AI:s förmåga att svara på frågor på liknande sätt som de flesta människor utgör ett unikt problem för bedrägeriutredare, och generativ AI förbättrar bedragares förmåga att utveckla modeller som fungerar och låter som en riktig person. Dessa modeller kan också lära av och snabbt förstå sammanhanget och historien för alla konversationer, vilket till exempel förbättrar en bedragares förmåga att klara strängare verifieringskontroller. Hypotetiskt, genom att dra fördel av en stulen identitet, kan generativ AI användas för att göra ett bedrägligt försäkringsanspråk och sedan användas för att argumentera för fallet.
Utnyttjande av större katastrofer. Bedragare har alltid försökt dra fördel av naturkatastrofer, som de senaste jordbävningarna i Turkiet och Syrien, men dessa attacker har blivit mer sofistikerade med användningen av AI-bildgenerering. Bedragare använder generativ AI för att skapa falska bilder av verkliga situationer som bakgrund för falska välgörenhetssidor. Den senaste jordbävningen snabbt
uppmärksammats av bedragare, som började skapa falska donationssidor på TikTok och andra kanaler. Många av dessa sidor använde AI för att skapa falska bilder och producera övertygande meddelanden för att locka ut pengar från sina offer.
Generativ AI är ett mycket kraftfullt verktyg för bedragare och det är uppenbart att alla utredningar av bedrägerifall, kreditansökningar och försäkringskrav nu kommer att kräva en mycket högre granskning. Många företag, inklusive OpenAI, lanserar
verktygs för att upptäcka AI-genererat innehåll som kan vara avgörande för att upptäcka generativ AI:s användning i bedrägeri.
Snabb utbildning om den skändliga användningen av generativ AI och varning för företag och individer om hoten är nu avgörande för att skydda betalningsindustrin mot denna kraftfulla nya teknik.
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- Platoblockchain. Web3 Metaverse Intelligence. Kunskap förstärkt. Tillgång här.
- Källa: https://www.finextra.com/blogposting/23862/darktrace-is-correct—six-ways-generative-ai-enabled-fraud-threatens-the-payments-industry?utm_medium=rssfinextra&utm_source=finextrablogs
- :är
- $UPP
- a
- förmåga
- Om Oss
- tillgång
- Konto
- konton
- noggrannhet
- exakt
- Agera
- Lägger
- Fördel
- mot
- AI
- Alla
- redan
- alltid
- och
- svara
- visas
- tillämpningar
- Ansök
- tillvägagångssätt
- ÄR
- argumenterar
- konstgjord
- artificiell intelligens
- Konstgjord intelligens (AI)
- AS
- At
- attackera
- Attacker
- Försök
- uppmärksamhet
- automatisera
- bakgrunder
- Bank
- bankkonto
- Banking
- Banker
- bbc
- BE
- blir
- innan
- började
- Där vi får lov att vara utan att konstant prestera,
- Bättre
- öka
- företag
- Knappen
- Köp
- by
- KAN
- Karriär
- Vid
- Kontanter
- Orsak
- chanser
- byta
- byte
- kanaler
- ChatGPT
- Kontroller
- patentkrav
- hävdar
- klar
- klick
- Stäng
- nära
- CO
- kollegor
- Samla
- samling
- kommersiella
- Kommunikation
- ständigt
- kontakter
- innehålla
- innehåll
- sammanhang
- Konversation
- kunde
- täcka
- skapa
- Skapa
- kredit
- CVS
- mörkt
- mörk Web
- datum
- distribuera
- detaljer
- utveckla
- anordning
- katastrofer
- upptäckt
- dokumentation
- donation
- Nedladdningar
- dramatiskt
- varje
- jordskalv
- lättare
- Utbildning
- Effektiv
- effektivitet
- e
- Anställd
- möjliggöra
- aktiverad
- möjliggör
- Teknik
- förbättra
- tillräckligt
- Miljö
- speciellt
- väsentlig
- Även
- exempel
- experter
- extremt
- fejka
- familj
- få
- finansiella
- Finansiella institut
- Finextra
- företag
- För
- former
- bedrägeri
- bedrägerifall
- bedragare
- bedräglig
- Fri
- vänner
- från
- ytterligare
- framtida
- Få
- resultat
- generera
- genereras
- generering
- generativ
- Generativ AI
- Ge
- beviljats
- Har
- hjälpa
- hjälpa
- här.
- högre
- höggradigt
- historia
- Hur ser din drömresa ut
- HTTPS
- stor
- Människa
- i
- ID
- identiteter
- Identitet
- bild
- bilder
- Inverkan
- imponerande
- förbättra
- förbättra
- in
- Inklusive
- ökande
- individer
- industrin
- informationen
- installera
- institutioner
- instrumental
- försäkring
- Intelligens
- Undersökningen
- Undersökningar
- utredarna
- involverade
- IT
- sig
- Jobb
- jpg
- Menande
- språk
- Large
- lansera
- lanserades
- lansera
- LÄRA SIG
- inlärning
- Nivå
- bibliotek
- tycka om
- sannolikt
- länkar
- Bor
- du letar
- Maskinen
- gjord
- större
- göra
- GÖR
- malware
- förvaltade
- många
- många människor
- Media
- meddelandehantering
- kanske
- modeller
- pengar
- Månad
- mer
- mest
- multipel
- Natural
- Nya
- of
- erbjudanden
- erbjuda
- Erbjudanden
- tjänsteman
- Officiellt
- on
- nätet
- Internetbank
- OpenAI
- Åsikter
- Möjlighet
- motsatt
- Övriga
- lösenord
- Betala
- betalning
- betalningar
- Personer
- människors
- personen
- personlig
- personlig information
- phish
- Nätfiske
- plato
- Platon Data Intelligence
- PlatonData
- utgör
- positiv
- möjlig
- Inlägg
- potentiell
- drivs
- den mäktigaste
- Problem
- process
- producera
- producerad
- skydda
- syfte
- Tryck
- frågor
- snabbare
- snabbt
- Betygsätta
- verklig
- verkliga världen
- realistisk
- senaste
- nyligen
- kräver
- Liknar
- Svara
- Till Salu
- skalbar
- bedrägerier
- scenario
- Secret
- sektor
- se
- känslig
- inställning
- delas
- delning
- skall
- liknande
- situationer
- SEX
- So
- Social hållbarhet
- Samhällsteknik
- sociala medier
- några
- sofistikerade
- ljud
- standard
- Starta
- stulna
- stil
- senare
- framgång
- Framgångsrikt
- sådana
- syntetisk
- syntetiska data
- syrien
- Ta
- tar
- Målet
- tekniker
- Teknologi
- den där
- Smakämnen
- deras
- Dem
- sig själva
- Dessa
- sak
- hotar
- hot
- Tick tack
- tid
- till
- i dag
- verktyg
- verktyg
- Tåg
- tränad
- Utbildning
- Trender
- betrodd
- Turkiet
- typer
- typisk
- typiskt
- förstå
- unika
- användning
- Verifiering
- offer
- Sårbara
- varning
- Sätt..
- sätt
- webb
- webbsidor
- som
- medan
- VEM
- kommer
- med
- skulle
- zephyrnet