AI Fake News-nettsteder har skutt i været siden mai 2023

Antallet falske AI-nyhetssider øker etter hvert som generativ AI blir distribuert for å sette turbo på feilinformasjon, noe som vekker bekymring for spredningen av falske fortellinger globalt.

Bare i februar nådde antallet AI-genererte falske nyhetsnettsteder 739, ifølge en rapport fra NewsGuard, en plattform som er dedikert til å takle og motvirke feilinformasjon. Nettstedene kjører vanligvis under generiske navn som iBusiness Day, Ireland Top News og Daily Time Update.

Over en 10-dobling

NewsGuard sin rapporten, med tittelen "Sporing av AI-aktivert feilinformasjon," viser en betydelig økning i antall AI-genererte falske nyhetsnettsteder siden i fjor. Rapporten viser at det var mindre enn 50 AI-genererte nyhetssider i mai i fjor.

Tallet vokste til 600 per desember 2023, før det ble ytterligere ballonger til 739 steder per 22. februar. Dette har utløst bekymring over spredningen av falske nyheter og villedende informasjon på internett.

"Nettstedene har samlet ut dusinvis og, i noen tilfeller, hundrevis av generiske artikler om en rekke emner, inkludert politikk, teknologi, underholdning og reiser," sa NewsGuard.

En av hovedbekymringene som ble reist under NewsGuard-rapporten er at de fleste nettstedene legger ut informasjon utelukkende AI-generert, og opererer med lite eller ingen menneskelig tilsyn.

Dette har skapt bekymringer med oppfordringer til samarbeid mellom myndigheter og teknologifirmaer for å raskt handle for å redusere spredningen av falske nyheter og bevare «integriteten til nyhetskilder på nett».

Les også: USA står overfor en dypere trussel fra Kinas nye AI 'Supermind'

De er også forskjellige

En titt på nettstedene viste at de ikke er begrenset til et spesifikt språk, men varierte på mange måter. I følge rapporten publiserer sidene innhold på 15 språk, blant dem kinesisk, arabisk, nederlandsk, engelsk, italiensk, fransk, tysk, koreansk, spansk og mange andre.

A Kryptopolitisk artikkelen bemerker en annen bekymringsfull trend med hensyn til falske nyhetssider. I følge artikkelen er det merker som støtter nettstedene "gjennom programmatisk annonsering." Denne trenden krever en forsiktig tilnærming for bedrifter når de legger ut annonser på nettet.

"Merker må iverksette tiltak for å ekskludere upålitelige nettsteder, og sikre at deres annonser ikke vises sammen med falsk informasjon," heter det i artikkelen.

Mangelen på årvåkenhet kan føre til flere slike nettsteder spirer hver dag, i større skala, og utsetter folk for villedende informasjon.

Fabrikasjonene

Ifølge NewsGuard trives artiklene med usannheter. Noen av de falske påstandene i artiklene inkluderer kjendisdødsjukser og feilinformasjon om politiske ledere.

Artiklene inneholder også nyheter om oppdiktede hendelser, mens noen gamle hendelser kan vises som nyere i artiklene, noe som også er et vanlig trekk på disse sidene.

I en av de oppsiktsvekkende avsløringene identifiserer rapporten et kinesisk regjeringsdrevet nettsted som bruker AI-generert innhold for å spre falske fortellinger.

For eksempel hevder nyhetssiden at USA har et biovåpenlaboratorium i Kasakhstan der de opererer, og infiserer kameler «for å sette mennesker i Kina i fare».

Ifølge rapporten «fremhever dette de geopolitiske implikasjonene av AI-generert feilinformasjon og behovet for internasjonalt samarbeid for å bekjempe spredningen av falske fortellinger.»

NewsGuard har understreket behovet for at leserne skal være forsiktige, samtidig som de understreker behovet for å skille mellom AI-genererte falske nyheter og ekte nyheter. Imidlertid har det også vært bekymring for at AI-verktøy blir stadig mer sofistikerte, og skaper en tynn linje mellom ekte og AI-generert innhold.

Med generativ AI som har fått gjennomslag, har det skapt en æra hvor chatboter, bildeskapere og stemmeklonere kan lage innhold som ser "ekte" ut.

Nå, med 2024 valg, er det frykt for at flere slike nettsteder vil spire for å spre feilinformasjon om valg og villede velgere.

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
• PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
• PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
• PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
• kilde: https://metanews.com/ai-fake-news-websites-have-skyrocketed-since-may-2023/