AI gjør phishing mer overbevisende enn noensinne

AI gjør phishing mer overbevisende enn noensinne

Tidsstempel: 20. februar 2024 1:15
AI gjør phishing mer overbevisende enn noen gang PlatoBlockchain Data Intelligence. Vertikalt søk. Ai.

En undersøkelse viser at 65 % av organisasjonene møtte betalingssvindel i 2022, med AI-verktøy som ChatGPT og FraudGPT som muliggjorde mer overbevisende phishing-angrep.

I dag forbyr mer enn én av fire virksomheter sine ansatte å bruke generativ AI. Det gir imidlertid ikke noe forsvar mot svindlere som bruker det til å lure ansatte til å avsløre sensitiv informasjon eller betale fiktive regninger.

Ved å bruke ChatGPT eller dets mørke nettekvivalent, FraudGPT, kan svindlere raskt og enkelt produsere overbevisende dype forfalskninger av bedriftsledere ved å bruke deres stemme og image, samt realistiske filmer med resultat- og tapsoppgaver, falske IDer og falske identiteter.

Nettfiskemail

Phishing-e-poster er blant de vanligste e-postene svindel. Disse falske e-postene ber folk om å klikke på en lenke som fører til et falskt, men overbevisende nettsted. Disse phishing-e-postene etterligner også en pålitelig kilde, som Chase eller eBay. Noe privat informasjon blir deretter bedt om fra det potensielle offeret når han logger på. Disse svindlerne kan ha tilgang til bankkontoer eller til og med begå identitetstyveri umiddelbart etter at de har denne informasjonen.

Spearphishing er imidlertid mer målrettet, men likt. E-postene er adressert til en person eller en bestemt organisasjon i stedet for å sende ut generiske e-poster. Svindlerne kan ha undersøkt en stillingstittel, navnene på kolleger og til og med navnene på en veileder eller leder.

Generativ AI i phishing

Generativ AI har gjort det vanskeligere å skille hva som er ekte fra det som ikke er det. Disse svindlerne kan nå bruke generativ kunstig intelligens for å lage overbevisende phishing- og phishing-e-poster, i motsetning til de dagene da sære skrifttyper, rart språk eller grammatiske feil kan være tegn på svindel. De kan til og med bruke stemmen til fiktive telefonsamtaler og ansiktet for fiktive videosamtaler for å etterligne bedriftsledere.

Videre har problemet blitt verre av veksten av automatisering og utviklingen av antall nettsteder og apper som behandler økonomiske transaksjoner. Tilgjengeligheten av betalingssystemer som PayPal, Zelle, Venmo og Wise har økt mulighetene for kriminelle angrep og jevnet konkurransevilkårene. Et annet mulig angrepspunkt har blitt dannet av tradisjonelle bankers bruk av applikasjonsprogrammeringsgrensesnitt (API) for å koble sammen apper og plattformer.

I tillegg bruker kriminelle automatisering for å øke omfanget av angrepene og generativ AI for raskt å produsere meldinger som virker overbevisende.

Ser på statistikk

I en fersk Undersøkelsen av Association of Financial Professionals sa 65 % av de spurte at i 2022 ville organisasjonene deres ha vært ofre for forsøk på eller faktisk betalingssvindel. Omtrent 71 % av de som tapte penger ble kompromittert via e-post. I følge undersøkelsen var større organisasjoner med årlige inntekter på 1 milliard dollar de mest utsatt for e-postsvindel.

Spesielt forbedrer teknologien forbrukerinteraksjoner og risikomodeller samtidig som den introduserer utfordringer som datasikkerhet og systemiske beslutningsrisikoer.

Øk i deepfakes

Den raske utviklingen av teknologi demonstreres av de høyprofilerte deepfakes som involverer offentlige personer i nyere tid. En uredelig investeringssvindel fra i fjor sommer inneholdt en dypfalsk Elon Musk som støttet en fiktiv plattform.

I tillegg var det deepfake-videoer med talkshowvert Bill Maher, tidligere Fox News-vert Tucker Carlson og CBS News-anker Gayle King som tilsynelatende diskuterte Musks nye investeringsplattform. Disse videoene deles på Facebook, YouTube og TikTok, blant andre sosiale mediesider.

Tidstempel:

Mer fra MetaNews