FCC stemmer for at forbyde AI-drevne svindelopkald

FCC stemmer for at forbyde AI-drevne svindelopkald

Tidsstempel: 9. februar 2024 kl. 12:38

Tyler Cross Tyler Cross
Udgivet på: Februar 9, 2024

Federal Communications Commission (FTC) stemte enstemmigt for straks at forbyde svindelopkald, der involverer brug af AI-genererede stemmer.

Deepfake-teknologi kan forårsage alvorlig skade for forbrugerne. Scam-opkaldere kan bruge deepfakes til at give troværdighed til svindel på måder, som tidligere var umulige. Kriminelle er allerede begyndt at anvende disse værktøjer til at øge antallet af svindel og phishing-svindel markant.

Regeringsorganer er også i fare, da kunstig intelligens kan bruges til hurtigt at formidle misinformation, der kan skævvride resultaterne af valg både lokalt og nationalt. For nylig opfordrede et falsk opkald, der udgav sig for at være præsident Joe Biden, tusindvis af vælgere i New Hampshire til at afstå fra at stemme. Dette er kun en brøkdel af den potentielle skade teknologien kan forårsage.

"New Hampshire havde en smagsprøve på, hvordan kunstig intelligens kan bruges uhensigtsmæssigt i valgprocessen," sagde New Hampshires udenrigsminister David Scanlan.

"Dårlige skuespillere bruger AI-genererede stemmer i uopfordrede robocalls til at afpresse sårbare familiemedlemmer, efterligne berømtheder og misinformere vælgere," sagde FCC-formand Jessica Rosenworcel. "Vi varsler svindlerne bag disse robocalls."

Telefonnumre, der ofte bruger robocalls, er allerede blevet afbrudt fra det amerikanske telefonnetværk - selvom det er en bandaid-fix. Det sender en besked til svindlere om, at de sporer deres aktivitet.

"Statsadvokaterne vil nu have nye værktøjer til at slå ned på disse svindelnumre og sikre, at offentligheden er beskyttet mod bedrageri og misinformation," sagde Rosenworcel.

Afstemningen involverede en ny oversættelse af 1991-loven om telefonforbrugerbeskyttelse, som tillod lovgivere at handle uden at kræve tid til at udarbejde et helt nyt sæt regler.

Når det er sagt, er det ikke en perfekt løsning.

"Ingen skal tro, at dette vil stoppe dårlige skuespillere fra at gøre dårlige ting," sagde Andrew Schwartzman, der er seniorrådgiver ved Benton Institute for Broadband & Society. "Men det giver FCC værktøjer til at handle hurtigt og afskrække de virksomheder, der faciliterer denne praksis."

Tidsstempel:

Mere fra Sikkerhedsdetektiver