Kina slår ned på AI-genererte nyhetsankere

Mandag sa Kinas internettregulator at de hadde kjørt en kampanje for å befri nasjonen for falske nyheter.

Statens cyberromsadministrasjon i Kina (CAC) sa inngrepet ville "klare og standardisere rekkefølgen på nettverkskommunikasjon i sentrale trafikkkoblinger," med fokus på nyhetsleverandører som korte videoplattformer og populære søkelister.

Organisasjonen siterer også virtuelle AI-ankere, forfalskede studioscener, falske nyhetskontoer som er laget for å etterligne eksisterende legitime, klippe og lime nyhetsbiter for å skjeve historielinjer, blant andre metoder som vekker nettbrukeres følelser for å samle oppmerksomhet og trafikk, eller til og med for uhyggelige formål. Clickbait, med andre ord.

CAC sa at det allerede har "ryddet" 107,000 835,000 forfalskede nyhetskontoer og falske ankere, og XNUMX XNUMX stykker falsk informasjon. Internett-regulatoren oppfordrer innbyggere til å rapportere slike falske nyhetskontoer når de møter dem på nettet.

Forrige uke, kinesisk politi sa de arresterte en person for å ha laget falske nyheter ved hjelp av ChatGPT, i samsvar med landets AI medielov, som søker å slå ned på falske nyheter som er avhengig av AI-generert innhold, inkludert dype falske.

Den internerte personen – en mann ved navn Hong fra den kinesiske provinsen Gansu – brukte ChatGPT til å lage en nyhetsartikkel om en togulykke som tok livet av ni bygningsarbeidere. Nyheten ble raskt spredt av tjueen sosiale medier-kontoer som førte til at den fikk 15,000 XNUMX visninger.

Politiet raidet Hongs hus og tok uspesifiserte tiltak mot ham. Politiet meldte at motivasjonen bak forbrytelsen var å øke trafikken.

ChatGPT er for øyeblikket utilgjengelig i Kina, men brukere kan få tilgang til det ved å bruke et telefonnummer fra et støttet land og et virtuelt privat nettverk (VPN). Tilgang til utenlandske telefonnumre og VPN-er er begrenset i Kina.

Den AI-genererte medieloven trådte i kraft 10. januar 2023. Lokalt politi hevder at det er den første bruken av loven i Gansu-provinsen.

Loven retter seg ikke bare mot personer som Hong. Det krever også "dypsyntesetjenesteleverandører" for å sikre at deres AI-algoritmer ikke blir misbrukt til ulovlige aktiviteter som svindel, svindel og falsk informasjon.

Potensialet for at dette skal være problematisk er stort for tjenesteleverandører som Tencent, produsenten av WeChat. Nettgiganten har nylig annonsert et Deepfakes-as-a-Service-produkt som, for bare $145, gir kundene muligheten til å lage sitt eget høyoppløselige digitale menneske. ®

• SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
• PlatoAiStream. Web3 Data Intelligence. Kunnskap forsterket. Tilgang her.
• Minting the Future med Adryenn Ashley. Tilgang her.
• Kjøp og selg aksjer i PRE-IPO-selskaper med PREIPO®. Tilgang her.
• kilde: https://go.theregister.com/feed/www.theregister.com/2023/05/16/china_crackdown_on_ai_generated_news/