China geht hart gegen KI-generierte Nachrichtensprecher vor

China geht hart gegen KI-generierte Nachrichtensprecher vor

Zeitstempel: 16. Mai 2023, 2:00 Uhr
China geht hart gegen den KI-generierten Nachrichtensprecher PlatoBlockchain Data Intelligence vor. Vertikale Suche. Ai.

Am Montag erklärte die chinesische Internetregulierungsbehörde, sie habe eine Kampagne durchgeführt, um das Land von Fake News zu befreien.

Die staatliche Cyberspace Administration of China (CAC) sagte Das Durchgreifen würde „die Reihenfolge der Netzwerkkommunikation in wichtigen Verkehrsverbindungen klären und standardisieren“ und sich auf Nachrichtenanbieter wie Kurzvideoplattformen und beliebte Suchlisten konzentrieren.

Die Organisation nennt außerdem virtuelle KI-Moderatoren, gefälschte Studioszenen, Fake-News-Konten, die bestehende legitime Accounts nachahmen sollen, das Ausschneiden und Einfügen von Nachrichtenteilen, um Handlungsstränge zu verzerren, und andere Methoden, die die Emotionen der Internetnutzer wecken, um Aufmerksamkeit und Traffic zu erregen, oder sogar dafür schändliche Zwecke. Clickbait, mit anderen Worten.

Das CAC sagte, es habe bereits 107,000 gefälschte Nachrichtenkonten und gefälschte Moderatoren sowie 835,000 falsche Informationen „geklärt“. Die Internetregulierungsbehörde fordert die Bürger dringend auf, solche Fake-News-Konten zu melden, wenn sie online auf sie stoßen.

Letzte Woche, chinesische Polizei sagte Sie haben nach Angaben des Landes eine Person festgenommen, weil sie mithilfe von ChatGPT gefälschte Nachrichten erstellt hatte KI-Medienrecht, das darauf abzielt, gegen gefälschte Nachrichten vorzugehen, die auf KI-generierten Inhalten, einschließlich Deepfakes, basieren.

Die festgenommene Person – ein Mann namens Hong aus der chinesischen Provinz Gansu – nutzte ChatGPT, um einen Nachrichtenartikel über einen Zugunglück zu erstellen, bei dem neun Bauarbeiter ums Leben kamen. Die Nachricht wurde schnell über einundzwanzig Social-Media-Konten verbreitet und verzeichnete 15,000 Aufrufe.

Die Polizei durchsuchte Hongs Haus und ergriff nicht näher bezeichnete Maßnahmen gegen ihn. Die Polizei gab an, dass das Motiv der Tat darin bestand, den Verkehr zu erhöhen.

Am Montag, KI-Bildgenerator Midjourney Berichten zufolge kündigte auf WeChat an, dass eine Betaversion seines Produkts in China verfügbar sei. Zu diesem Zeitpunkt müssen Benutzer über den QQ-Kanal von Tencent auf die Plattform zugreifen.

ChatGPT ist derzeit in China nicht verfügbar, aber Benutzer können mit einer Telefonnummer aus einem unterstützten Land und einem virtuellen privaten Netzwerk (VPN) darauf zugreifen. Der Zugriff auf ausländische Telefonnummern und VPNs ist in China eingeschränkt.

Das Gesetz über KI-generierte Medien trat am 10. Januar 2023 in Kraft. Die örtliche Polizei behauptet, es sei die erste Anwendung des Gesetzes in der Provinz Gansu.

Das Gesetz richtet sich nicht nur gegen Einzelpersonen wie Hong. Außerdem müssen „Deep-Synthetic-Service-Provider“ sicherstellen, dass ihre KI-Algorithmen nicht für illegale Aktivitäten wie Betrug, Betrügereien und gefälschte Informationen missbraucht werden.

Für Dienstleister wie Tencent, den Hersteller von WeChat, besteht ein hohes Problempotenzial. Der Webriese hat kürzlich angekündigt ein Deepfakes-as-a-Service-Produkt, das Kunden für nur 145 US-Dollar die Möglichkeit bietet, ihren ganz eigenen hochauflösenden digitalen Menschen zu erstellen. ®

Zeitstempel:

Mehr von Das Register