China treedt hard op tegen door AI gegenereerde nieuwsankers

Heruitgegeven door Plato

volgers: 0

China treedt hard op tegen door AI gegenereerde nieuwsankers PlatoBlockchain Data Intelligence. Verticaal zoeken. Ai.

Maandag zei de internetregulator van China dat het een campagne had gevoerd om het land te bevrijden van nepnieuws.

De staatscyberspace-administratie van China (CAC) zei het harde optreden zou "de volgorde van netwerkcommunicatie in belangrijke verkeerslinks wissen en standaardiseren", met de nadruk op nieuwsaanbieders zoals korte videoplatforms en populaire zoeklijsten.

De organisatie citeert ook AI virtuele ankers, vervalste studioscènes, nepnieuwsaccounts die zijn gemaakt om bestaande legitieme accounts na te bootsen, nieuwsfragmenten knippen en plakken om verhaallijnen scheef te trekken, naast andere methoden die netizens emoties opwekken om aandacht en verkeer te trekken, of zelfs voor snode doeleinden. Clickbait dus.

De CAC zei dat het al 107,000 valse nieuwsaccounts en valse ankers en 835,000 valse informatie heeft "geschoond". De internettoezichthouder dringt er bij burgers op aan dergelijke nepnieuwsaccounts die ze online tegenkomen te melden.

Vorige week Chinese politie zei ze hielden een persoon vast voor het maken van nepnieuws met behulp van ChatGPT, in overeenstemming met de regels van het land AI-mediawet, dat nepnieuws probeert aan te pakken dat afhankelijk is van door AI gegenereerde inhoud, waaronder deepfakes.

De gearresteerde – een man genaamd Hong uit de Chinese provincie Gansu – gebruikte ChatGPT om een nieuwsartikel te maken over een treinongeluk waarbij negen bouwvakkers om het leven kwamen. Het nieuws werd snel verspreid via eenentwintig sociale media-accounts, waardoor het 15,000 keer werd bekeken.

De politie deed een inval in het huis van Hong en nam niet nader gespecificeerde maatregelen tegen hem. De politie meldde dat de motivatie achter het misdrijf was om het verkeer te vergroten.

Maandag maakte AI-beeldgenerator Midjourney naar verluidt kondigde op WeChat aan dat het een bètaversie van zijn product beschikbaar had in China. Op dit moment moeten gebruikers toegang krijgen tot het platform via het QQ-kanaal van Tencent.

ChatGPT is momenteel niet beschikbaar in China, maar gebruikers hebben er toegang toe via een telefoonnummer uit een ondersteund land en een virtueel particulier netwerk (VPN). Toegang tot buitenlandse telefoonnummers en VPN's is beperkt in China.

De door AI gegenereerde mediawet is op 10 januari 2023 in werking getreden. De lokale politie beweert dat dit de eerste toepassing is van de wet in de provincie Gansu.

De wet richt zich niet alleen op individuen zoals Hong. Het vereist ook "deep-synthese-serviceproviders" om ervoor te zorgen dat hun AI-algoritmen niet worden misbruikt voor illegale activiteiten zoals fraude, oplichting en valse informatie.

De kans dat dit problematisch wordt, is groot voor serviceproviders zoals Tencent, de maker van WeChat. De webgigant heeft onlangs aangekondigd een Deepfakes-as-a-Service-product dat klanten voor slechts $ 145 de mogelijkheid biedt om hun eigen high-definition digitale mens te creëren. ®