Swiftディープフェイクの原因とされるAIガードレールを回避する試み

伝えられるところによると、ポップスター、テイラー・スウィフトのわいせつなディープフェイク画像は、AI ソフトウェアのコンテンツ フィルターを破ることを出場者に挑戦する 4chan のオンライン コンテストから生じたものだと伝えられています。 

ニューヨークのソーシャルメディア分析会社Graphikaの関係者は、写真が4chanに直接到達したことを突き止めた。人々は、MicrosoftのDesignerやOpenAIのDALL-Eなどのアプリケーションの安全ガードレールを回避して、女性有名人のNSFW画像を作成するトリックを考え出すように求められた。 Graphikaによると、テイラー・スウィフトの写真はMicrosoft Designerを使用して作成され、後にXに投稿される前にTelegramのグループチャットで共有されたという。

Microsoft の広報担当者は、「当社はこれらの画像の調査を継続しており、当社のサービスがこれらのような画像の生成に悪用されることをさらに防ぐために既存の安全システムを強化しています」と述べています。 登録 声明インチ 

のディープフェイク画像 スウィフト X で数百万回の再生回数を記録した後、ソーシャル メディア プラットフォームが X を削除し、ソングライターに関連する一部の検索用語を一時的にブロックしました。しかし、グラフィカは、このコンテストは他の有名な女性人物をターゲットにしていると述べ、この技術が悪用されて誰でもターゲットになる可能性があると警告した。 

「テイラー・スウィフトのポルノ写真の拡散により、AIが生成した同意のない親密な画像の問題が主流の注目を集めるようになったが、被害者は彼女だけではない」とグラフィカのシニアアナリスト、クリスティーナ・ロペス・G氏は述べた。 言われ ブルームバーグ。 「これらの画像が発信された 4chan コミュニティでは、彼女は最も頻繁にターゲットにされる著名人ですらない。これは、世界的な有名人から小学生まで、誰もがこの方法で標的にされる可能性があることを示しています。」

しかし、スウィフトを性的挑発的なポーズで描いた偽画像の拡散性が、議員たちの活動を本格化させたようだ。ホワイトハウス報道官のカリーヌ・ジャンピエール氏は、「憂慮すべき」写真に対し「立法措置を講じる」よう議会に要請した。 

先週、米国上院議員らは、2024 年に明示的な偽造画像および非同意編集を妨害する (DEFIANCE) 法を提出しました。 超党派法案 そうすれば、被害者は、AIが生成した卑劣なディープフェイクを作成して共有した人々を訴えることができるようになる。ディック・ダービン上院議員(民主党-イリノイ州)、リンジー・グラハム上院議員(共和党-サウスカロライナ州)、エイミー・クロブシャー上院議員(民主党-ミネソタ州)、ジョシュ・ホーリー上院議員(共和党-ミズーリ州)が主導したこの法案は、ディープフェイク動画の96パーセントが主張された研究を指摘している。これらはポルノであり、描かれている女性からの許可や同意を得ずに作成されたものでした。 

DEFIANCE 法は、ソーシャル メディア プラットフォームのトップ CEO が議会で尋問されたときに開始されました。 耳 オンラインでの児童の性的搾取と保護の欠如について。

登録 はGraphikaにさらなるコメントを求めた。 ®

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://go.theregister.com/feed/www.theregister.com/2024/02/05/deepfakes_taylor_swift_4chan_competition/