Kina slår ned på AI-genererede nyhedsankre

Mandag sagde Kinas internettilsynsmyndighed, at det havde kørt en kampagne for at befri nationen for falske nyheder.

Kinas statslige cyberspaceadministration (CAC) sagde nedslaget ville "rydde og standardisere rækkefølgen af ​​netværkskommunikation i vigtige trafikforbindelser," med fokus på nyhedsudbydere som korte videoplatforme og populære søgelister.

Organisationen citerer også virtuelle AI-ankre, forfalskede studiescener, falske nyhedskonti, der er lavet for at efterligne eksisterende legitime, klippe og indsætte nyheder for at skæve historielinjer, blandt andre metoder, der vækker netbrugeres følelser for at samle opmærksomhed og trafik, eller endda for ondsindede formål. Clickbait, med andre ord.

CAC sagde, at det allerede har "ryddet" 107,000 forfalskede nyhedskonti og falske ankre og 835,000 stykker falsk information. Internettilsynsmyndigheden opfordrer indtrængende borgere til at rapportere sådanne falske nyhedskonti, når de støder på dem online.

I sidste uge, kinesisk politi sagde de tilbageholdt en person for at skabe falske nyheder ved hjælp af ChatGPT, i overensstemmelse med landets AI medielov, som søger at slå ned på falske nyheder, der er afhængige af AI-genereret indhold, herunder deepfakes.

Den tilbageholdte person – en mand ved navn Hong fra den kinesiske provins Gansu – brugte ChatGPT til at lave en nyhedsartikel om et togulykke, der dræbte ni bygningsarbejdere. Nyheden blev hurtigt spredt af enogtyve sociale mediekonti, der førte til 15,000 visninger.

Politiet raidede Hongs hus og tog uspecificerede foranstaltninger mod ham. Politiet rapporterede, at motivet bag forbrydelsen var at øge trafikken.

ChatGPT er i øjeblikket ikke tilgængelig i Kina, men brugere kan få adgang til det ved hjælp af et telefonnummer fra et understøttet land og et virtuelt privat netværk (VPN). Adgang til udenlandske telefonnumre og VPN'er er begrænset i Kina.

Den AI-genererede medielov trådte i kraft den 10. januar 2023. Lokalt politi hævder, at det er den første brug af loven i Gansu-provinsen.

Loven er ikke kun rettet mod personer som Hong. Det kræver også "dybsyntese-tjenesteudbydere" for at sikre, at deres AI-algoritmer ikke bliver misbrugt til ulovlige aktiviteter som svindel, svindel og falsk information.

Potentialet for, at dette bliver problematisk, er stort for tjenesteudbydere som Tencent, producenten af ​​WeChat. Webgiganten har for nylig annoncerede et Deepfakes-as-a-Service-produkt, der for kun $145 giver kunderne muligheden for at skabe deres helt eget high-definition digitale menneske. ®

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• PlatoAiStream. Web3 Data Intelligence. Viden forstærket. Adgang her.
• Udmøntning af fremtiden med Adryenn Ashley. Adgang her.
• Køb og sælg aktier i PRE-IPO-virksomheder med PREIPO®. Adgang her.
• Kilde: https://go.theregister.com/feed/www.theregister.com/2023/05/16/china_crackdown_on_ai_generated_news/