Versuche, KI-Leitplanken zu umgehen, die für Swift-Deepfakes verantwortlich gemacht werden

Versuche, KI-Leitplanken zu umgehen, die für Swift-Deepfakes verantwortlich gemacht werden

Zeitstempel: 5. Februar 2024, 5:11 Uhr
Versuche, KI-Leitplanken zu umgehen, die Swift für Deepfakes von PlatoBlockchain Data Intelligence verantwortlich machen. Vertikale Suche. Ai.

Berichten zufolge stammten die viralen, anzüglichen Deepfake-Bilder von Popstar Taylor Swift aus einem Online-Wettbewerb auf 4chan, bei dem die Teilnehmer herausgefordert wurden, KI-Software-Inhaltsfilter zu durchbrechen. 

Leute von Graphika, einem New Yorker Social-Media-Analyseunternehmen, haben die Bilder direkt auf 4chan zurückgeführt. Die Leute wurden gebeten, sich Tricks auszudenken, um die Sicherheitsbarrieren von Anwendungen wie Microsofts Designer oder OpenAIs DALL-E zu umgehen und NSFW-Bilder von weiblichen Prominenten zu erstellen. Die Bilder von Taylor Swift wurden mit Microsoft Designer erstellt und später in einem Gruppenchat auf Telegram geteilt, bevor sie laut Graphika auf X gepostet wurden.

„Wir untersuchen diese Bilder weiterhin und haben unsere bestehenden Sicherheitssysteme verstärkt, um den Missbrauch unserer Dienste zur Generierung solcher Bilder weiter zu verhindern“, sagte ein Microsoft-Sprecher Das Register in einer Erklärung. 

Deepfake-Bilder von Swift sammelte Millionen von Aufrufen auf X, bevor die Social-Media-Plattform sie entfernte und einige Suchbegriffe im Zusammenhang mit dem Songwriter vorübergehend blockierte. Graphika sagte jedoch, dass der Wettbewerb auf andere bekannte weibliche Persönlichkeiten abzielte, und warnte davor, dass die Technologie missbraucht werden könnte, um jeden ins Visier zu nehmen. 

„Während virale pornografische Bilder von Taylor Swift die allgemeine Aufmerksamkeit auf das Problem der von KI erzeugten, nicht einvernehmlichen Intimbilder gelenkt haben, ist sie bei weitem nicht das einzige Opfer“, sagte Cristina López G., leitende Analystin bei Graphika. sagte Bloomberg. „In der 4chan-Community, aus der diese Bilder stammen, ist sie nicht einmal die am häufigsten angegriffene Persönlichkeit des öffentlichen Lebens. Das zeigt, dass auf diese Weise jeder angesprochen werden kann, von Weltstars bis hin zu Schulkindern.“

Der virale Charakter der gefälschten Bilder, die Swift in sexuell anzüglichen Posen zeigen, scheint jedoch den Gesetzgeber in Aufruhr versetzt zu haben. Die Pressesprecherin des Weißen Hauses, Karine Jean-Pierre, forderte den Kongress auf, als Reaktion auf die „alarmierenden“ Bilder „gesetzgeberische Maßnahmen zu ergreifen“. 

Letzte Woche führten US-Senatoren den Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE) Act von 2024 ein parteiübergreifende Rechnung Das würde es den Opfern ermöglichen, Menschen zu verklagen, die schmutzige, von der KI generierte Deepfakes erstellen und teilen. Die Gesetzgebung, angeführt von den Senatoren Dick Durbin (D-IL), Lindsey Graham (R-SC), Amy Klobuchar (D-MN) und Josh Hawley (R-MO), verwies auf eine Studie, die behauptete, 96 Prozent der Videos seien Fake-Videos waren pornographisch und wurden ohne Erlaubnis oder Zustimmung der abgebildeten Frauen erstellt. 

Das DEFIANCE-Gesetz wurde zu dem Zeitpunkt ins Leben gerufen, als Top-CEOs von Social-Media-Plattformen in einem Kongress befragt wurden Hörtests über die sexuelle Ausbeutung von Kindern im Internet und mangelnden Schutz.

Das Register hat Graphika um weitere Kommentare gebeten. ®

Zeitstempel:

Mehr von Das Register