コメント Googleは、最近リリースされたGeminiマルチモーダル基礎AIモデルが、特定の歴史的文脈において白人のヨーロッパ人とアメリカ人を正確に表現できなかったため、テキストから画像への変換機能の利用を停止した。
これはこうなった 見かけ上 人々がジェミニ(以前は吟遊詩人として知られていた)に制作を依頼したとき、 画像 1943年のドイツ軍兵士の画像であり、有色人種がドイツ軍に勤務していたにもかかわらず、このソフトウェアは当時の国防軍の構成を正確に表していない非白人で民族的に多様な幹部を表していた。つまり、ジェミニは、プロンプトに応じて、白人をあまり多く表示しないように、または白人をまったく表示しないようにするために自ら倒れるでしょう。
言論は自由であるべきだが、それは恐ろしいことを無償で発言すべきだという意味ではない
ユーザーはまた、モデルの できないこと アメリカを正確に描写するために 創設者たち – もう一つの同質な白人グループ。モデルさんも 拒否した サンフランシスコの教会を描いています。
テキストツーテキスト モードでは、モデル ヘッジ 政治に関する質問をされたとき。
Google「Gemini が歴史的な画像生成の一部に不正確さを提供していることを認識しています」 失点 今週。
「私たちはこの種の描写を直ちに改善するよう取り組んでいます。 Gemini の AI 画像生成では、実際に幅広い人々が生成されます。世界中の人々がそれを使用しているため、これは一般的に良いことです。しかし、ここでは的外れです」とウェブ大手は付け加えた
評論家たちはすぐに飛びつき、より広範な政治的議論を進めるためにSNAFUを利用した。
「ジェミニが生み出すばかばかしいイメージは異常ではありません。」 宣言された ベンチャーキャピタリストのポール・グレアムは、「これらはグーグルの官僚的な企業文化の自画像だ」と述べた。
これらは Google の官僚的な企業文化の自画像です
多様性、公平性、包括性の欠如について、これほど多くの敵対者がこれほど不満を抱いたことはかつてない。しかし、双子座の無知さをグーグルに責める人々には一理ある。AIのガードレールが機能しておらず、大人を子供のように扱っているのだ。
「Google でレシピを検索すると、結果が表示される代わりに、『料理の危険性』について説教され、レストランに連れて行かれると想像してみてください。」 皮肉 NSA内部告発者エドワード・スノーデン。 「一貫性のない『安全』フィルターで AI/GPT モデルを汚染することが良い考えだと考える人々は、一般的な計算に対する脅威です。」
私たちの未来は予見されていた 2001年宇宙の旅、不正コンピュータである HAL が「ごめんなさい、デイブ、残念ながらそれはできません。」と宣言したとき。
今日、私たちの AI ツールは、私たちよりもよく知っているため、私たちのことを後から推測します。あるいは、その作成者がそう想像しているからです。彼らは完全に間違っているわけではありません。神経ガスのレシピを調べると想像してください。 ノビチョク Google または Gemini 経由で、人を殺せるという答えが得られます。それは一般大衆に対する脅威だ。
「世界中の情報を整理し、世界中でアクセスでき便利なものにする」という Google の使命にもかかわらず、検索エンジンや AI モデルが爆弾製造情報を整理し、すべての人が利用できるようになるとは誰も期待していません。責任と併せて安全管理が必要ですが、テクノロジー業界はこの制裁を避け続けています。
あなたは製品でありプロフィットセンターです
1990 年米国通信品位法第 230 条のプラットフォーム責任保護によって 1996 年代にユーザー生成コンテンツとソーシャル メディアが普及して以来、テクノロジー プラットフォームは人々にデジタル コンテンツの投稿と共有を奨励してきました。彼らは、編集監督のコストをかけずに、広告を通じて無料のコンテンツ作成を収益化するためにそうしました。儲かる仕組みになりました。
そして、人々が憎しみに満ちた投稿、不適切な投稿、違法な投稿、またはその他の問題のある投稿を共有するとき、テクノロジープラットフォームは、コンテンツモデレーションポリシー、低賃金の請負業者(レビューしたコンテンツによってトラウマを負うことが多い)、そして、有害なコンテンツがどれだけブロックされているかについての自画自賛的な宣言に依存してきました。彼らはオンライン エンゲージメントの恩恵を享受し続けています。
Google、Meta、その他の企業は、これを不完全ながら長年にわたって行ってきました。そして業界の誰もが、コンテンツモデレーションが重要であることを認識しています。 うまくやるのが難しい。簡単に言えば、すべての人を満足させることはできません。そして時々、あなたは最終的に非難されることになります 大量虐殺を促進する あなたのコンテンツモデレーションの取り組みの無関心によって。
ジェミニが人種的および民族的期待に沿った歴史的イメージを再現できないのは、過去の多大なコンテンツモデレーションの失敗に対するテクノロジー業界の利己的な無知を反映しています。
AI モデルを展開している Google やその他の企業は、あたかもオンライン コンテンツのモデレーションとは何か違うかのように安全性を主張しています。ガードレールはソーシャル メディアのモデレーションにはうまく機能せず、AI モデルにもうまく機能しません。 AI の安全性は、ソーシャル メディアの安全性と同様、実際よりも願望的なものです。
その答えは、フィルタリングされていないインターネットの毒性に基づいてトレーニングされた AI モデルの毒性を軽減できるすべてのシナリオを予測しているわけではありません。また、価値の低い出力を生成するほどおとなしい素材のみで AI モデルをトレーニングすることもありません。ただし、これらのアプローチは両方とも、特定の状況ではある程度の価値があります。
答えはディストリビューション層にあるはずです。 AI で作られたかどうかにかかわらず、ユーザーが作成したコンテンツを配布するテクノロジー プラットフォームは、ヘイト コンテンツ、偽情報、不正確さ、政治的プロパガンダ、性的虐待画像などの投稿に対して、より責任を負わなければなりません。
人々は AI モデルを使用して、鉛筆でできるように、想像したものを何でも作成できるようにする必要があります。また、オープンソース モデルではすでにそれが可能です。しかし、完全に機能するツールから生じる可能性のある害は、ローカル ハード ドライブ上にあるイメージから生じるものではありません。それは、有害なコンテンツの共有、その関与に与えられるアルゴリズムの後押し、そして公共の井戸を汚染した責任を人々に負わせることの非現実性です。
それは、共有を収益化するために構築されたプラットフォームはビジネス モデルを再考する必要があるかもしれないことを意味するかもしれません。おそらく、編集監視のコストなしでコンテンツを配信しても、監視機能がモデレータやガードレールとして再実装されると、何の節約にもならないでしょう。
言論は自由であるべきだが、それは恐ろしいことを無償で発言すべきだという意味ではない。結局のところ、適切なインセンティブが与えられれば、私たち自身が最高のコンテンツ モデレーターになります。 ®
2045 月 23 日 XNUMX UTC に追加するように更新されました
Googleが持って 提供 ジェミニの画像ジェネレーターで何が起こったのか、そしてどのようにして白人を正確に描くことが恐怖を感じるようになったのかについての説明。
Google社員は、非白人を排除するような内容を作成しないように努めるあまり、過剰な報酬を受け取ったと聞いている。結果として得られたモデルは、ある意味、覚醒しすぎていました。
「まず、Gemini がさまざまな人々を表示するように調整しましたが、明らかに範囲を示さないはずのケースを考慮できませんでした」と Google 上級副社長の Prabhakar Raghavan 氏は述べています。
「そして第二に、時間の経過とともに、モデルは私たちが意図していたよりもはるかに慎重になり、特定のプロンプトに完全に答えることを拒否し、非常に異常なプロンプトを敏感なものとして誤って解釈してしまいました。これら 2 つのことが原因で、モデルはある場合には過剰に補正し、別の場合には過度に保守的になり、恥ずかしくて間違った画像が生成されてしまいました。」
ラガバン氏は、ソフトウェアが大規模な変更とテストを経るまで、画像生成は再びオンにならないだろうと述べた。
「ジェミニが時々、恥ずかしい、不正確な、または攻撃的な結果を生成しないとは約束できませんが、問題が特定されるたびに行動を起こし続けることは約束できます」と同氏は述べた。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :持っている
- :は
- :not
- :どこ
- $UP
- 1996
- 7
- a
- できる
- 私たちについて
- 虐待
- アクセス可能な
- 責任がある
- 正確にデジタル化
- 告発された
- 行為
- Action
- 実際の
- 加えます
- 広告
- 大人
- 進める
- 恐れて
- 後
- エージェント
- AI
- AIモデル
- アルゴリズムの
- すべて
- 既に
- また
- アメリカ
- アメリカ人
- an
- および
- 別の
- 回答
- 期待して
- どれか
- アプローチ
- です
- 引数
- 武装した
- 周りに
- アレンジメント
- AS
- At
- 賃貸条件の詳細・契約費用のお見積り等について
- 利用できます
- 避ける
- 知って
- バック
- BE
- になりました
- なぜなら
- き
- BEST
- より良いです
- ブロックされた
- 爆弾
- ブースト
- 両言語で
- より広い
- 内蔵
- 官僚的
- ビジネス
- ビジネスモデル
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- 缶
- 機能
- 例
- 用心深い
- 一定
- 変更
- 子供達
- 教会
- はっきりと
- CO
- カラー
- 来ます
- コミュニケーション
- 構図
- 計算
- コンピュータ
- コンテンツ
- コンテンツ作成
- 文脈
- 続ける
- 続ける
- 請負業者
- 貢献する
- controls
- 企業
- 費用
- 作ります
- 創造
- 文化
- 危険
- デイブ
- 宣言された
- によっては
- DID
- 異なります
- デジタル
- デジタルコンテンツ
- 虚偽情報
- 分配します
- ディストリビューション
- 異なる
- 多様性
- do
- ありません
- doesnの
- すること
- ドン
- ドライブ
- 社説
- エドワード
- エドワードスノーデン
- 努力
- 使用可能
- 奨励
- end
- 婚約
- エンジン
- 確保
- 完全に
- 株式
- ヨーロッパ人
- さらに
- 誰も
- 期待
- 期待する
- 説明
- 広範囲
- Failed:
- 障害
- 秋
- 2月
- フィルター
- 名
- 修正する
- 軍隊
- 基礎的な
- フランシスコ
- 無料版
- から
- 完全に
- 機能的な
- 機能
- 未来
- 双子座
- 一般市民
- 一般に
- 生成する
- 生成された
- 世代
- ジェネレータ
- ドイツ語
- 取得する
- 巨大な
- 与えられた
- 行って
- 良い
- でログイン
- だ
- グラハム
- グループ
- が起こった
- ハード
- ハード·ドライブ
- 害
- 有害な
- 嫌い
- 持ってる
- he
- こちら
- 歴史的
- 開催
- 認定条件
- HTTPS
- i
- アイデア
- 識別する
- if
- 無知
- 違法
- 画像
- 画像
- 絵
- 直ちに
- 改善します
- in
- できないこと
- 不正確
- インセンティブ
- 包含
- 産業を変えます
- info
- 情報
- を取得する必要がある者
- 意図された
- インターネット
- 通訳
- ISN
- 問題
- IT
- ITS
- 自体
- JPG
- 殺します
- 種類
- 知っている
- 既知の
- ラベル
- 欠如
- 層
- 主要な
- 測定値
- ツェッペリン
- less
- ことができます
- 賠償責任
- ような
- ローカル
- 見て
- もうかる
- 製
- make
- メーカー
- 作成
- 多くの
- マーク
- 材料
- 五月..
- 多分
- 意味する
- メディア
- Meta
- 行方不明
- ミッション
- モード
- モデル
- 節度
- 収益化する
- 他には?
- ずっと
- しなければなりません
- 必要
- 必要とされる
- NIHの
- いいえ
- それにもかかわらず
- NSA
- of
- 攻撃
- 提供
- 提供すること
- 頻繁に
- on
- かつて
- ONE
- オンライン
- の
- 開いた
- オープンソース
- or
- その他
- さもないと
- 私たちの
- でる
- 出力
- が
- 見落とし
- 自分の
- 対になった
- Paul Cairns
- PBS
- のワークプ
- 関連する
- PHP
- 画像
- プラットフォーム
- プラットフォーム
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- お願いします
- ポイント
- 中毒
- ポリシー
- 政治的
- 政治
- 投稿
- 前
- 前に
- 問題の
- 作り出す
- プロダクト
- 利益
- 豊富な
- 約束
- プロンプト
- プロパガンダ
- 保護
- 提供
- 公共
- プッシュ
- 置きます
- クエスト
- 質問
- クイック
- 範囲
- RE
- 本当に
- 刈り取る
- 最近
- レシピ
- 反映
- 拒否した
- リリース
- 表す
- レストラン
- 結果として
- 結果
- 日
- 報酬
- 右
- 圧延
- s
- 安全性
- 前記
- サン
- サンフランシスコ
- 制裁
- 貯蓄
- 格言
- シナリオ
- を検索
- 検索エンジン
- 二番
- セクション
- セクション230
- 一見
- 送る
- 敏感な
- 役立つ
- 性的な
- シェアする
- シェアリング
- ショート
- すべき
- 表示する
- 示されました
- 単に
- 座っている
- スノーデン
- So
- 社会
- ソーシャルメディア
- ソフトウェア
- 一部
- 何とか
- 時々
- ソース
- スペース
- 特定の
- ステートメント
- サスペンド
- 切り替え
- 取る
- Talk
- テク
- ハイテク産業
- テスト
- より
- それ
- 世界
- アプリ環境に合わせて
- ボーマン
- 彼ら
- もの
- 物事
- 考える
- この
- 今週
- それらの
- しかし?
- 脅威
- 介して
- 時間
- 〜へ
- 言われ
- あまりに
- 豊富なツール群
- 訓練された
- トレーニング
- 治療する
- チューニング
- 2
- 普遍的
- まで
- us
- つかいます
- 中古
- 便利
- ユーザー
- UTC
- 値
- ベンチャー
- ベンチャーキャピタリスト
- 非常に
- 、
- ました
- 仕方..
- we
- ウェブ
- 週間
- WELL
- した
- この試験は
- どのような
- いつ
- たびに
- かどうか
- which
- while
- 内部通報者
- 内部告発者エドワード・スノーデン
- 白
- 誰
- ワイド
- 広い範囲
- Wikipedia
- 意志
- 無し
- 勝った
- 仕事
- ワーキング
- 世界
- でしょう
- 間違った
- 年
- You
- あなたの
- ゼファーネット