Virtuell kidnappning: Hur man ser igenom denna skrämmande bluff

Scams

Telefonbedrägeri tar en skrämmande vändning eftersom bedragare kan utnyttja AI för att orsaka allvarlig känslomässig och ekonomisk skada för offren

Phil Muncaster

18 Jan 2024  •  , 4 min. läsa

Det är varje förälders värsta mardröm. Du får ett samtal från ett okänt nummer och i andra änden av linjen hör ditt barn ropa på hjälp. Sedan kommer deras "kidnappare" på linjen och kräver en lösen, annars kommer du aldrig att se din son eller dotter igen. Tyvärr är detta inte ett tänkt scenario från en Hollywood-film.

Istället är det ett skrämmande exempel på hur långt bedragare nu kan gå till för att pressa ut pengar från sina offer och använda ny teknik för illvilliga syften. Det visar också kvaliteten på AI-röstkloningsteknik det är nu tillräckligt övertygande för att lura även nära familjemedlemmar. Lyckligtvis är det mindre sannolikt att telefonbaserade bedragare kommer att tjäna pengar ju mer folk vet om dessa system och vad man ska hålla utkik efter.

Hur virtuell kidnappning fungerar

Det finns flera viktiga steg i en typisk virtuell kidnappningsbedrägeri. I stort sett är de följande:

• Bedragarna forskning om potentiella offer de kan ringa upp och försöka pressa pengar ifrån. Detta steg kan också optimeras med hjälp av AI-verktyg (mer om detta senare).
• Bedragarna identifierar ett offer för ”kidnappning” – troligen barnet till personen de identifierade i steg 1. De kunde göra detta genom att tråla igenom deras sociala medier eller annan offentligt vänd information.
• Gruppen skapar sedan ett föreställt scenario och ser till att göra det så upprörande som möjligt för personen de ska ringa. Ju mer rädd du är, desto mindre sannolikt kommer du att fatta rationella beslut. Som alla bra sociala ingenjörsförsök vill bedragarna skynda på offrets beslutsfattande av denna anledning.
• Bedragarna kan sedan utföra lite mer öppen källkodsforskning för att beräkna när den bästa tiden att ringa skulle vara. De kan leta igenom sociala medier eller andra källor för att reda ut detta. Tanken är att kontakta dig vid en tidpunkt när din älskade är någon annanstans, helst på semester, till exempel dotter till Jennifer DeStefano.
• Bedragarna skapar sedan ljuddeepfakes och lägger in samtalet. Med hjälp av lättillgänglig programvara kommer bedragarna att skapa ljud med offrets "röst" och använda den för att försöka övertyga dig om att de har kidnappat en släkting. De kan använda annan information från sociala medier för att få bluffen att låta mer övertygande, till exempel genom att nämna detaljer om "kidnappningen" som en främling kanske inte känner till.

Om du faller för bluffen kommer du med största sannolikhet att bli ombedd att betala på ett icke-spårbart sätt, som kryptovaluta.

Överladdande virtuell kidnappning

Det finns variationer på detta tema. Mest oroande är potentialen för ChatGPT och andra AI-verktyg att överdriva virtuell kidnappning genom att göra det lättare för bedragare att hitta de perfekta offren. Annonsörer och marknadsförare har i åratal har använt "benägenhetsmodellering"-tekniker för att få rätt budskap till rätt personer vid rätt tidpunkt.

Generativ AI (GenAI) kan hjälpa bedragare att göra detsamma, genom att söka efter de individer som mest sannolikt kommer att betala upp om de utsätts för en virtuell kidnappningsbedrägeri. De kan också söka efter personer inom ett specifikt geografiskt område, med offentliga sociala medieprofiler och med en specifik socioekonomisk bakgrund.

Ett andra alternativ skulle vara att använda en SIM-bytesattack på "kidnapparen" för att kapa deras telefonnummer före bluffen. Detta skulle lägga till en irriterande legitimitet till kidnappningstelefonsamtalet. Medan DeStefano så småningom kunde försäkra sig om att hennes dotter var säker och mådde bra, och därför hängde på med sina utpressare, skulle detta vara mycket svårare att göra om offrets släkting är okontaktbar.

Vad framtiden har för röstkloning

Tyvärr är tekniken för röstkloning redan oroande övertygande, liksom vårt senaste experiment bevisar. Och det blir alltmer tillgängligt för bedragare. En underrättelsesrapport från maj varnade för legitima text-till-tal-verktyg som skulle kunna missbrukas, och ett växande intresse för cyberbrottslighet under jorden för röstkloning-som-en-tjänst (VCaaS). Om det senare tar fart kan det demokratisera möjligheten att lansera sådana attacker över hela cyberbrottsekonomin, särskilt om det används i kombination med GenAI-verktyg.

Faktiskt bredvid desinformation, deepfake-teknik används också för att kompromissa med e-post för företag (som testat av vår egen Jake Moore) och SEXTORTION Vi är bara i början av en lång resa.

Hur du kan vara säker

Den goda nyheten är att lite kunskap kan räcka långt för att sprida hotet om deepfakes i allmänhet och virtuell kidnappning i synnerhet. Det finns saker du kan göra idag för att minimera chanserna att bli utvald som offer och att falla för ett bluffsamtal om ett sådant inträffar.

Tänk på dessa tips på hög nivå:

• Överdela inte personlig information på sociala medier. Detta är absolut kritiskt. Undvik att lägga upp detaljer som adresser och telefonnummer. Om möjligt, dela inte ens foton eller video-/ljudinspelningar av din familj, och absolut inte detaljer om nära och käras semesterplaner.
• Håll dina sociala medieprofiler privata för att minimera risken för att hotaktörer hittar dig online.
• Håll utkik efter nätfiskemeddelanden som kan vara utformade för att lura dig att lämna över känslig personlig information eller inloggning på sociala mediekonton.
• Få barn och nära familj att ladda ner geolocation trackers till exempel Hitta min iPhone.
• Om du får ett samtal, låt "kidnapparna" prata. Försök samtidigt ringa den påstådda kidnappningen från en annan linje, eller få någon i närheten.
• Håll dig lugn, dela ingen personlig information, och om möjligt få dem att svara på en fråga som bara kidnapparen skulle veta och begära att få prata med dem.
• Meddela den lokala polisen så snart som möjligt.

Virtuell kidnappning är bara början. Men håll dig uppdaterad med de senaste bedrägerierna så har du en god chans att knäppa attacker i sin linda innan de orsakar allvarlig känslomässig ångest.