Meta は、ソーシャル メディア プラットフォーム経由で共有される AI 生成画像を検出、識別、ラベル付けするツールを構築しています。また、オンラインのコンテンツを自動的にモデレートする大規模な言語モデルもテストしています。
火曜日、Meta社の国際問題担当社長(元英国副首相)ニック・クレッグ氏は、米国の巨大企業独自のテキストから画像へのAIモデルだけでなく、人工的に作成された素材をFacebook、Instagram、スレッド上で報告する計画を発表した。外部の機械学習アプリケーションによる。このアイデアは、オンライン上の情報は見た目とは異なる可能性があり、ソースが何であれ、人々をだますために AI ツールを使用して発明された可能性があることをネットユーザーに警告することを目的としています。
Clegg と Meta のエンジニアは現在、アプリ上で写真のようにリアルな AI が作成したコンテンツに「AI で想像」というキャプションをタグ付けするツールを開発しており、今後数か月間、必要に応じてこのラベルを表示する予定です。
組み込みの Meta AI アシスタントによって作成されたフォトリアリスティックな画像には、可視マーカーと不可視マーカーを使用して、すでに自動的にそのようなラベルが付けられているそうです。外部から送信される高品質の AI 製のコンテンツも、何らかの方法で検出され、Facebook 巨人のアプリ帝国内でそのようにマークアップされる必要があります。
短期的には、Facebook は、コンテンツのソースを宣言する、送信されたファイル内のウォーターマークに依存する予定です。これは、それらのマーキングやメタデータを削除することなく、外部の AI コンテンツ ジェネレーターに依存します。また、コンテンツを正直に宣言するよう人々に求めます。メディアを共有するときに AI が生成します。
長期的には、Meta は、素材がニューラル ネットワークによって作成されたかどうかを自動的に識別できる分類器を使用して、ユーザーが提出したラベル付けやサポートされているマーキングを含むジェネレーターへの依存を回避する予定です。このニーズは、ユーザーが「偽造メディアを使用するときは、たとえそれが偽造であると気づいていても、大騒ぎする必要があるだけでなく、外部アプリに依存して、人間によって剥ぎ取られることなく、コンピューター製のものとして正確にラベル付けする必要がある」ということです。ソフトウェア工学で言えば、脆いということです。これらの自動分類器は、期待どおりに機能する場合、最も必要とされます。
少なくとも今のところ、音声やビデオをアップロードする人は、その素材がディープフェイクであるか本物であるかを明らかにする必要があるのは間違いなく、AIが作成した映像や音声を識別する一貫した方法がまだ存在しないとメタは述べている。そして、写真にはメタ AI によって自動的にマークが付けられるか、本当の情報源を明らかにする透かしが含まれるか、おそらく人が手動でフラグを立てることができます。そして、将来的にはこれがすべて自動化される可能性があります。
「デジタルで作成または変更された写真のようにリアルなビデオやリアルなサウンドのオーディオを含むオーガニックコンテンツを投稿する場合、この開示およびラベルツールの使用を義務付けます。これを怠った場合には罰則を適用する可能性があります。」とクレッグ氏は述べています。言った。
Meta がサポートする透かしに関しては、Coalition for Content Provenance and Authenticity による透かしが含まれます (C2PA)および国際報道電気通信評議会(IPTC)。これらは、機械生成コンテンツの識別を容易にしようとするテクノロジーおよびメディア グループによる業界の取り組みです。以前に報告したように、それらは絶対確実ではなく、敗北する可能性があります。
AIコンテンツに取り組むMetaの最新戦略は、同社のコンテンツモデレーションポリシーを精査している独立した専門家の委員会である監視委員会が、操作されたメディアに対する現在の規則が「支離滅裂」であると苦情を申し立てた直後に発表された。理事会は、 プローブ 昨年、メタ社は、バイデン大統領が小児性愛者であると主張するためにデジタル的に改変されたバイデン大統領の偽動画を自社のソーシャルネットワーク帝国に残すことを許可した理由を調査した。
Meta は、C2PA および IPTC 支援ツールに加えて、投稿がポリシーに違反しているかどうかを自動的に判断する大規模な言語モデルの機能をテストしています。
ソーシャルメディア業界は、独自のデータに基づいてこれらのシステムをトレーニングしており、ソフトウェアによって人間のレビュー担当者による評価が必要なコンテンツが削減され、より厄介なケースに集中できるようになると考えられています。
「人間のコンテンツと合成コンテンツの違いがあいまいになるにつれ、人々は境界がどこにあるのか知りたがるようになっています」とクレッグ氏は言う。
「人々は AI によって生成されたコンテンツに初めて遭遇することが多く、当社のユーザーはこの新しいテクノロジーに関する透明性を高く評価していると言っています。世界中で数多くの重要な選挙が行われる来年まで、私たちはこのアプローチを採用していきます。」 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :は
- :not
- :どこ
- $UP
- 7
- a
- 能力
- 越えて
- 添加
- 業務
- 後
- AI
- AIアシスタント
- AIモデル
- すべて
- 許す
- 許可
- 既に
- また
- 標準装備されたものが、
- および
- 発表の
- 申し込む
- 認める
- アプローチ
- アプリ
- です
- 周りに
- AS
- 質問
- 評価された
- アシスタント
- At
- オーディオ
- 信頼性
- 自動化
- 自動的に
- 回避
- 知って
- 離れて
- 支持された
- BE
- き
- さ
- 信じる
- の間に
- 二人
- BIZ
- ボード
- 境界
- 建物
- 内蔵
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- 缶
- 例
- クレーム
- CO
- 連合
- 来ます
- 到来
- 整合性のある
- コンテンツ
- 可能性
- 協議会
- 細工された
- 作成した
- 電流プローブ
- カット
- 切断
- データ
- 決定しました
- 宣言してい
- 絶対に
- 副
- 希望
- 検出
- 検出された
- 検出
- 決定する
- 開発
- 違い
- デジタル処理で
- 識別する
- 開示
- do
- ダウン
- 間に
- 容易
- エッジ(Edge)
- どちら
- 選挙
- 帝国
- エンジニアリング
- エンジニア
- さらに
- EVER
- 専門家
- 外部
- フェイル
- 偽
- FB
- 名
- 初回
- フラグが立てられた
- フォーカス
- 前者
- から
- 発電機
- を取得
- 巨大な
- グローバル
- グループの
- 持っていました
- 持ってる
- he
- 高品質
- 正直に
- HTTPS
- 人間
- アイデア
- 識別する
- if
- 画像
- 画像
- 想像
- 重要
- in
- include
- 含ま
- 含めて
- 独立しました
- 産業を変えます
- イニシアチブ
- 内部
- インスタグラム
- 意図する
- 世界全体
- に
- 発明された
- 目に見えない
- ISN
- IT
- ITS
- JPG
- ただ
- 知っている
- ラベル
- ラベリング
- 言語
- 大
- 姓
- 昨年
- 後で
- 最新の
- 打ち上げ
- 最低
- ある
- ll
- 長い
- 製
- make
- 操作
- 手動で
- マークされた
- 材料
- 五月..
- メディア
- Meta
- モデル
- 適度な
- 節度
- ヶ月
- 最も
- 必要
- 必要
- 必要とされる
- ニーズ
- ネットワーク
- ニューラル
- ニューラルネットワーク
- 新作
- 次の
- ニック
- 今
- 数
- of
- 頻繁に
- on
- オンライン
- の
- or
- オーガニック
- 私たちの
- でる
- 外側
- が
- 見落とし
- 自分の
- パネル
- 罰則
- のワークプ
- ピクチャー
- 場所
- プラン
- プラットフォーム
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- ポリシー
- ポスト
- 社長
- バイデン大統領
- 前に
- 素数
- 来歴
- RE
- リアル
- 関係なく
- 依存
- 頼る
- 信頼
- 報告
- 必要とする
- 明らかにする
- 右
- ルール
- s
- 前記
- 言う
- 言う
- と思われる
- shared
- シェアリング
- ショート
- 表示する
- So
- 社会
- ソーシャルメディア
- ソーシャルメディアのプラットフォーム
- 社会的ネットワーク
- ソフトウェア
- ソフトウェア工学
- 一部
- 音
- ソース
- 滞在
- 作戦
- 提出された
- そのような
- サポート
- サポート
- 合成
- システム
- タックル
- TAG
- 取得
- テクノロジー
- 電気通信
- 期間
- テスト
- それ
- ソース
- 世界
- それら
- そこ。
- ボーマン
- 彼ら
- この
- それらの
- 介して
- 従って
- 時間
- 〜へ
- 言われ
- ツール
- 豊富なツール群
- トレーニング
- 透明性
- true
- 試します
- しよう
- 火曜日
- Uk
- アップロード
- us
- つかいます
- users
- Ve
- 、
- ビデオ
- 目に見える
- 欲しいです
- ました
- 電子透かし
- 透かし
- 仕方..
- we
- WELL
- した
- この試験は
- いつ
- かどうか
- which
- なぜ
- 意志
- 無し
- 仕事
- 世界
- 年
- まだ
- ゼファーネット