Kina slår ner på AI-genererade nyhetsankare

På måndagen sa Kinas internettillsynsmyndighet att de hade drivit en kampanj för att befria nationen från falska nyheter.

Kinas statliga cyberspaceadministration (CAC) sade tillslaget skulle "rensa och standardisera ordningen för nätverkskommunikation i viktiga trafiklänkar", med fokus på nyhetsleverantörer som korta videoplattformar och populära söklistor.

Organisationen citerar också virtuella AI-ankare, förfalskade studioscener, falska nyhetskonton som är gjorda för att efterlikna befintliga legitima, klippa och klistra in nyhetsbitar för att snedvrida berättelser, bland andra metoder som väcker nätanvändares känslor för att samla uppmärksamhet och trafik, eller till och med för otrevliga syften. Clickbait, med andra ord.

CAC sa att de redan har "rensat" 107,000 835,000 förfalskade nyhetskonton och falska ankare, och XNUMX XNUMX delar av falsk information. Internettillsynsmyndigheten uppmanar medborgarna att rapportera sådana falska nyhetskonton när de stöter på dem online.

Förra veckan, kinesisk polis sade de fängslade en person för att ha skapat falska nyheter med ChatGPT, i enlighet med landets AI medielag, som försöker slå ner på falska nyheter som är beroende av AI-genererat innehåll inklusive deepfakes.

Den gripna personen – en man vid namn Hong från den kinesiska provinsen Gansu – använde ChatGPT för att skapa en nyhetsartikel om en tågolycka som dödade nio byggnadsarbetare. Nyheten spreds snabbt av tjugoen sociala mediekonton som ledde till att den fick 15,000 XNUMX visningar.

Polisen slog till mot Hongs hus och vidtog ospecificerade åtgärder mot honom. Polisen rapporterade att motivet bakom brottet var att öka trafiken.

ChatGPT är för närvarande inte tillgängligt i Kina, men användare kan komma åt det med ett telefonnummer från ett land som stöds och ett virtuellt privat nätverk (VPN). Tillgång till utländska telefonnummer och VPN:er är begränsad i Kina.

Den AI-genererade medielagen trädde i kraft den 10 januari 2023. Lokal polis hävdar att det är den första användningen av lagen i Gansu-provinsen.

Lagen riktar sig inte bara till individer som Hong. Det kräver också "djupsyntestjänsteleverantörer" för att säkerställa att deras AI-algoritmer inte missbrukas för olagliga aktiviteter som bedrägerier, bedrägerier och falsk information.

Potentialen för att detta ska bli problematiskt är stor för tjänsteleverantörer som Tencent, tillverkaren av WeChat. Webbjätten har nyligen meddelade en Deepfakes-as-a-Service-produkt som, för bara 145 USD, erbjuder kunderna möjligheten att skapa sin alldeles egna digitala människa med hög upplösning. ®

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoAiStream. Web3 Data Intelligence. Kunskap förstärkt. Tillgång här.
• Minting the Future med Adryenn Ashley. Tillgång här.
• Köp och sälj aktier i PRE-IPO-företag med PREIPO®. Tillgång här.
• Källa: https://go.theregister.com/feed/www.theregister.com/2023/05/16/china_crackdown_on_ai_generated_news/