AI gör nätfiske mer övertygande än någonsin

AI gör nätfiske mer övertygande än någonsin

Tidsstämpel: 20 februari 2024 1:15
AI gör nätfiske mer övertygande än någonsin PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

En undersökning visar att 65 % av organisationerna utsattes för betalningsbedrägerier 2022, med AI-verktyg som ChatGPT och FraudGPT som möjliggjorde mer övertygande nätfiskeattacker.

Numera förbjuder mer än var fjärde företag sin personal att använda generativ AI. Det ger dock inget försvar mot bedragare som använder det för att lura anställda att avslöja känslig information eller betala fiktiva räkningar.

Genom att använda ChatGPT eller dess motsvarighet till mörka webben, FraudGPT, kan bedragare snabbt och enkelt producera övertygande deepfakes av företagsledare som använder deras röst och bild, såväl som realistiska filmer med vinst- och förlustredovisningar, falska ID:n och falska identiteter.

Phishing-mejl

Nätfiske-e-post är bland de vanligaste mejlen bedrägerier. Dessa bedrägliga e-postmeddelanden ber folk att klicka på en länk som leder till en falsk men övertygande webbplats. Dessa nätfiske-e-postmeddelanden härmar också en pålitlig källa, som Chase eller eBay. Viss privat information begärs sedan av det potentiella offret när han loggar in. Dessa bedragare kan få tillgång till bankkonton eller till och med begå identitetsstöld direkt efter att de har fått denna information.

Spearphishing är dock mer riktat men liknande. E-postmeddelandena är adresserade till en individ eller en viss organisation istället för att skicka ut allmänna e-postmeddelanden. Bedragarna kan ha undersökt en jobbtitel, namnen på kollegor och till och med namnen på en arbetsledare eller chef.

Generativ AI i nätfiske

Generativ AI har gjort det svårare att skilja vad som är verkligt från vad som inte är det. Dessa bedragare kan nu använda generativ AI för att skapa övertygande nätfiske och nätfiske-e-postmeddelanden, i motsats till de dagar då konstiga typsnitt, konstigt språk eller grammatiska fel kan vara tecken på en bluff. De kan till och med använda sin röst för fiktiva telefonsamtal och sin blick för fiktiva videosamtal för att efterlikna företagsledare.

Dessutom har problemet förvärrats av tillväxten av automatisering och utvecklingen av antalet webbplatser och appar som behandlar finansiella transaktioner. Tillgången till betalningssystem som PayPal, Zelle, Venmo och Wise har ökat möjligheterna till kriminella attacker och jämnat ut spelplanen. En annan möjlig attackpunkt har bildats av traditionella bankers användning av applikationsprogrammeringsgränssnitt (API) för att koppla ihop appar och plattformar.

Dessutom använder kriminella automatisering för att öka omfattningen av sina attacker och generativ AI för att snabbt producera meddelanden som verkar övertygande.

Tittar på statistik

I en nyligen undersökning av Association of Financial Professionals sa 65 % av de tillfrågade att 2022 skulle deras organisationer ha blivit offer för försök eller faktiska betalningsbedrägerier. Cirka 71 % av dem som förlorade pengar kompromettades via e-post. Enligt undersökningen var större organisationer med årliga intäkter på 1 miljard dollar de mest mottagliga för e-postbedrägerier.

Speciellt förbättrar tekniken konsumentinteraktioner och riskmodeller samtidigt som den introducerar utmaningar som datasäkerhet och systemiska beslutsrisker.

Våg i deepfakes

Teknikens snabba utveckling demonstreras av de högprofilerade deepfakes som involverar offentliga personer på senare tid. En bedräglig investeringsbluff från förra sommaren innehöll en djupfalsk Elon Musk som stödde en fiktiv plattform.

Dessutom fanns det deepfake-videor med talkshowvärden Bill Maher, tidigare Fox News-värden Tucker Carlson och CBS News-ankaret Gayle King som skenbart diskuterade Musks nya investeringsplattform. Dessa videor delas på Facebook, YouTube och TikTok, bland andra sociala medier.

Tidsstämpel:

Mer från MetaNews