FCC stemmer for å forby AI-drevne svindelsamtaler

FCC stemmer for å forby AI-drevne svindelsamtaler

Tidsstempel: 9. februar 2024 12:38

Tyler Cross Tyler Cross
Publisert på: Februar 9, 2024

Federal Communications Commission (FTC) stemte enstemmig for å umiddelbart forby svindelanrop som involverer bruk av AI-genererte stemmer.

Deepfake-teknologi kan utgjøre alvorlig skade for forbrukere. Svindeloppringere kan bruke deepfakes for å gi troverdighet til svindel på måter som tidligere var umulige. Kriminelle begynner allerede å bruke disse verktøyene for å øke frekvensen av svindel og phishing betraktelig.

Offentlige etater er også i faresonen, ettersom kunstig intelligens kan brukes til raskt å spre feilinformasjon som kan skjeve resultatene av valg både lokalt og nasjonalt. Nylig oppfordret en falsk samtale som utgir seg for å være president Joe Biden tusenvis av velgere i New Hampshire til å avstå fra å stemme. Dette er bare en brøkdel av den potensielle skaden teknologien kan forårsake.

"New Hampshire hadde en smak av hvordan AI kan brukes upassende i valgprosessen," sa New Hampshires utenriksminister David Scanlan.

"Dårlige skuespillere bruker AI-genererte stemmer i uønskede robotsamtaler for å presse sårbare familiemedlemmer, etterligne kjendiser og feilinformere velgere," sa FCC-formann Jessica Rosenworcel. "Vi varsler svindlerne bak disse robotsamtalene."

Telefonnumre som ofte bruker robocall, er allerede koblet fra det amerikanske telefonnettverket - selv om det er en reparasjon. Den sender en melding til svindlere om at de sporer aktiviteten deres.

"Statsadvokater vil nå ha nye verktøy for å slå ned på disse svindelene og sikre at publikum er beskyttet mot svindel og feilinformasjon," sa Rosenworcel.

Avstemningen innebar en ny oversettelse av 1991 Telephone Consumer Protection Act som tillot lovgivere å handle uten å kreve tid til å utarbeide et helt nytt regelverk.

Når det er sagt, er det ikke en perfekt løsning.

"Ingen skal tro at dette vil stoppe dårlige skuespillere fra å gjøre dårlige ting," sa Andrew Schwartzman, som er seniorrådgiver ved Benton Institute for Broadband & Society. "Men det gir FCC verktøy til å handle raskt og avskrekke selskapene som legger til rette for denne praksisen."

Tidstempel:

Mer fra Sikkerhetsdetektiver