Vil Generativ AI dræbe den nigerianske prins fidus?

Vil Generativ AI dræbe den nigerianske prins fidus?

Tidsstempel: 20. september 2023 kl. 7
Will Generative AI Kill the Nigerian Prince Scam? PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Det var næsten to årtier siden, at Weldong Xu, en 38-årig Harvard-professor, blev stillet for retten ved Roxbury District Court i Massachusetts. Siddende bag en plexiglasbarriere, iført en læderjakke og store, tyndkantede flyverbriller, stod han over for en kaution på 600,000 dollars.

Xu havde modtaget et sekscifret beløb ved at love 35 af sine venner, studerende og kollegaer, at han rejste penge til SARS-forskning. En af de 35 omlånte endda sit hus for at hjælpe. Men til sidst sendte Xu det hele til Nigerianske e-mail-svindlere.

Harvard-professoren modtog aldrig de 50 millioner dollars, han blev lovet til gengæld. I flere år siden har hans historie tjent som en lignelse for dem, der tror, ​​de er for smarte til at falde for en simpel fidus.

Intelligens i sig selv er ikke nok, og intet, vi har prøvet i de sidste 20 år - ikke spamfiltre, phishing-bevidsthedsinitiativer eller den modenhed, der følger med mere kollektiv tid og erfaring brugt med internettet - har formået at fastholde folk fra at falde for dette ældste trick i bogen.

Så sent som i 2019, ifølge ADT, tabte amerikanere over 700,000 dollars til nigerianske prins-svindel (hidtil omtalt med det mindre kulturelt belastede navn "forskudsbedrageri"). Og virksomheder er heller ikke immune. Unormal sikkerhed tidligere på måneden rapporterede sporing af over 1,000 forskudsangreb målrettet organisationer fra omkring 70 unikke e-mail-domæner.

Mit navn er fru Rita Dominic, statsborger i Indien med base i mit adoptivland Elfenbenskysten. Faktisk er jeg på hospitalet på grund af min kræftsygdom og fik mig til at kontakte dig angående dette løfte.

Problemet bliver kun værre. Kriminelle adopterer allerede generativ kunstig intelligens at skrive mere overbevisende historier med bedre grammatik i en skala, der aldrig før har været opnåelig.

Eller måske gør det ikke en lille forskel. Måske vil netop de egenskaber, der gør generativ AI så nyttig for andre phishere, endelig gøre svindel med forhåndsgebyr til fortiden.

Sådan fungerer svindel med forhåndsgebyr

Man behøver ikke grave for dybt i sin egen indbakke for at finde et eksempel på en forhåndsgebyr-e-mail.

"Jeg fik en i morges," siger Deborah Schaffer, professor i engelsk Emerita fra Montana State University Billings, i begyndelsen af ​​interviewet. "Det var en god smule serendipity."

I 2012 udgav Schaffer en undersøgelse om sproglige træk ved e-mails med forudbetaling, som i tiåret siden ikke har ændret sig en tøddel. Præmissen er velkendt: Der er en stor sum penge et eller andet sted, og for et lille forhåndsgebyr kan den heldige modtager af e-mailen hjælpe skribenten med at få den og derefter dele uventet. "Indholdet forklarer normalt lige nok om afsenderens situation til at få det til at lyde, som om det kunne være rigtig vigtigt," forklarer Schaffer.

Jeg har en presserende projektdonation på 5.5 millioner dollars.

"Der er altid et element af uopsættelighed - 'svar venligst straks', den slags," fortsætter hun.

"Regeringsembedsmænd, hemmelige bankkonti - vi har brug for hjælp til at få disse penge ud af landet, eller investere i dit land."

"De undskylder næsten altid, at de trænger sig på læserens opmærksomhed, men de har noget, der er for godt til at gå glip af."

"Hilsen er altid høflig, nogle gange åbenlyst appellerende til bestemte interesser, såsom religiøse interesser."

Den samme grundlæggende struktur har fungeret siden længe før internettet. "Det er for nemt for folk at sige: 'Nå, jeg behøver ikke at sige ja, jeg vil bare bede om nogle flere oplysninger.' Og når de først gør det, har de åbnet døren til alle slags overbevisende strategier, som vil virke på mange mennesker, medmindre de hele tiden er på deres vagt,” forklarer Schaffer.

Og jeg vil gerne overdrage dette projekt til dig, hvis du kan nå mig tilbage, da min situation her på hospitalet ikke kan tillade mig at fortsætte med dette guddommelige projekt

"Men," tilføjer hun, "mange af disse breve - og det er her, jeg tror, ​​at AI vil ændre tingene - de er bare døde giveaways, som ikke er skrevet af engelsktalende som modersmål."

Hvordan generativ AI kunne booste svindel med forhåndsgebyrer

Som mange ser Schaffer ChatGPT som et vendepunkt i historien. "Jeg er overbevist om, at generativ kunstig intelligens kommer til at påvirke alt - enhver form for kommunikation, enhver måde, folk tænker på verden og kommunikerer med hinanden på," forudsiger den livslange engelske forsker.

For alle dets positive anvendelser gør AI-chatbots allerede det muligt for cyberkriminelle hurtigere skrive mere overbevisende phishing-materiale. Folk kan lide "Mrs. Rita Dominic” til stor gavn.

"Jeg har modtaget e-mails fra folk, der siger, at de er i England eller Australien, og at de tydeligvis ikke har engelsk som modersmål. Det er lige nok røde flag til at få læserne til at stoppe op og sige: 'Vent, er det her legitimt?'” forklarer Schaffer. Snart vil det røde flag dog blive skjult. "Jeg formoder, at AI vil rydde op i alt. Du kommer til at se tingene skrevet konsekvent på godt engelsk og polsk, der matcher din egen dialekt."

Hvor sandsynligt dette lyder, er det dog ikke nødvendigvis givet, at bedre skrivning faktisk overhovedet ville hjælpe svindlere med forskudsgebyr.

Og jeg håber at høre fra dig, så snart du modtager denne mail for flere procedurer. Forsikre mig om, at du vil handle i overensstemmelse hermed, som jeg sagde heri. Håber at modtage dit svar med det samme med dine fulde kontaktoplysninger

Vil Generativ AI faktisk overhovedet hjælpe svindlere?

To måneder efter Schaffers papir blev offentliggjort, tilbød et andet papir et andet syn på forhåndsgebyr-lingvistik. I "Hvorfor siger nigerianske svindlere, at de er fra Nigeria?,” en Microsoft-forsker anførte, at det indlysende ved fidusen faktisk er meningen med det.

"En e-mail med fortællinger om fabelagtige pengebeløb og vestafrikansk korruption vil slå alle, undtagen de mest godtroende, som bizar," skrev forskeren. Men dette, foreslog han, var bevidst. "Da [d]hans angreb har en lav tæthed af ofre, har den nigerianske svindler et altoverskyggende behov for at reducere falske positiver. Ved at sende en e-mail, der afviser alle undtagen de mest godtroende, får svindleren de mest lovende karakterer at vælge selv, og vipper forholdet mellem sand og falsk positiv til hans fordel."

Ifølge denne logik kan eventuelle fejl, forglemmelser eller andre røde markeringer i indholdet af en e-mail med forskudsgebyr kun tjene til at filtrere svindlerens mål, hvilket gør deres arbejde mere effektivt. Derfor er AI's løfte om renere prosa og bedre historiefortælling måske ikke engang et netto positivt.

For hendes vedkommende køber Schaffer ikke helt ind i den tankegang: ”Det er en meget overbevisende teori. Jeg køber det lidt, men samtidig tror jeg, at mange af svindlerne gør deres bedste, og de er bare ikke eksperter i sprogmanipulation og beherskelse af engelsk.”

Uanset om generativ AI i sidste ende revolutionerer fuldstændigt eller helt omgår svindelen med forskudsgebyrer, vil den måde, vi alle skal håndtere det på, være den samme. "Folk har brug for at lære mere om den slags svindel, de vil få i en hvilken som helst form, og strategier til at undersøge dem," understreger Schaffer.

Tak til din søster i Kristus

”Hvis der har været en tid, hvor uddannelse for hele verden har været mere afgørende, ved jeg ikke, hvornår det var. Lige nu skal vi alle sammen lære at beskytte os selv,” slutter hun.

Tidsstempel:

Mere fra Mørk læsning