インタビュー × 画像 でっちあげの黒人有権者に支持されたドナルド・トランプ氏、女子クラスメートのポルノディープフェイクを作成する中学生たち、そしてGoogleのGeminiチャットボットについて 失敗 白人の写真を正確に生成します。
これらは、 AI インシデント データベース – テクノロジーがどのように誤って起こるかをすべて監視しているウェブサイト。
AI インシデント データベースは、当初は AI が社会に確実に利益をもたらすことを目指す団体である Partnership On AI の後援の下でプロジェクトとして立ち上げられましたが、現在では、最大かつ最古 (設立 1894 年) の独立系企業である Underwriters Laboratories が資金提供する非営利団体となっています。米国の検査機関。家具からコンピューターのマウスに至るまで、あらゆる種類の製品をテストしており、その Web サイトにはこれまでに 600 件を超える独自のオートメーションおよび AI 関連のインシデントがカタログ化されています。
「AI システムの開発者と一般消費者の間には大きな情報の非対称性があり、それは不公平です」とジョージ ワシントン大学経営大学院の助教授で現在 AI インシデント データベースの理事を務めるパトリック ホール氏は主張します。 。彼が言った 登録: 「私たちはさらなる透明性を必要としています。その情報を共有することだけが私たちの仕事だと感じています。」
AI インシデント データベースは、非営利団体によって設立された CVE プログラムをモデルとしています。 マイター、または 国家道路運輸安全局の 公開されたサイバーセキュリティの脆弱性や自動車事故を報告するウェブサイト。 「飛行機事故、列車事故、あるいは大規模なサイバーセキュリティインシデントが発生するたびに、何が問題だったのかを理解し、同じことを繰り返さないようにするために、何が起こったかを記録することが何十年にもわたって一般的に行われてきました。」
この Web サイトは現在、約 10 名に加えて、AI 関連のインシデントをオンラインでレビューして投稿する数名のボランティアと請負業者によって管理されています。ヘザー・フレイズ、ジョージタウン大学上級研究員 セキュリティおよび新興技術センター AI 評価と AI インシデント データベースのディレクターに焦点を当てたこの Web サイトは、ソフトウェアの脆弱性やバグだけでなく、AI のリスクと害による現実世界への影響に焦点を当てている点でユニークであると主張しました。
この組織は現在、メディア報道から事件を収集し、Twitter 上で人々が報告した問題を検討しています。 AI インシデント データベースには、250 年 2022 月の ChatGPT のリリース前に 600 件の固有のインシデントが記録されており、現在では XNUMX 件を超える固有のインシデントがリストされています。
AI の問題を長期にわたって監視すると、興味深い傾向が明らかになり、人々はテクノロジーの現在の実際の害を理解できるようになる可能性があります。
ジョージ ワシントン大学のホールは、データベース内のレポートの約半数が生成 AI に関連していることを明らかにしました。そのうちのいくつかは、次のような「面白くてばかばかしいもの」です 危険な製品 Amazon で販売されているタイトルは「そのリクエストには対応できません」 – 販売者が大規模な言語モデルを使用して説明を書いていることを示す明らかな兆候 – または AI によって生成されたスパムのその他の例。しかし中には、サンフランシスコで起きた事故で女性を轢いて車輪の下に引きずり込んだクルーズのロボットタクシーのように、「本当に憂鬱で深刻な」ものもある。
「現在、AI はほとんどが西部開拓時代であり、早く進んで物事を打ち破ろうという姿勢が主流です」と彼は嘆きました。このテクノロジーがどのように社会を形作っているのかは明らかではありません。チームは、AI インシデント データベースがその悪用方法に関する洞察を提供し、意図しない結果を明らかにできることを期待しています。開発者や政策立案者がモデルを改善したり規制したりできるよう、より良い情報を得ることを期待しています。最も差し迫ったリスク。
「周囲ではたくさんの誇大宣伝が行われています。人々は実存的リスクについて話します。 AI が人類の文明に非常に深刻なリスクをもたらす可能性があることは確かですが、自動運転車に関連する多くの怪我や、使用されているアルゴリズムによる偏見の永続化など、より現実世界のリスクのいくつかは明らかです。消費者金融や就職先で。それが私たちが見ているものです。」
「私たちがたくさんのことを失っていることはわかっていますよね?すべてがメディアに報道されたり取り上げられたりするわけではありません。多くの場合、人々は自分たちが経験している害が AI から来ていることにさえ気づいていないかもしれません」と Frase 氏は述べています。 「身体的被害は大幅に増えると予想しています。私たちは、大規模な言語モデルから[主に]心理的危害やその他の無形の危害が発生しているのを目にしていますが、生成ロボット工学が登場すると、物理的危害は大幅に増加すると思います。」
フレーゼ氏が最も懸念しているのは、AIが人権と市民的自由を侵食する可能性があることだ。彼女は、AI インシデントを収集することで、政策が時間の経過とともにテクノロジーの安全性を高めたかどうかがわかると信じています。
「問題を解決するには、測定する必要があります」とホール氏は付け加えた。
この組織は常にボランティアを募集しており、現在はより多くの事件を捕捉し、意識を高めることに重点を置いています。フレイズ氏は、このグループのメンバーはAIの擁護者ではないと強調した。「私たちはおそらくかなり反AIであるように思われているが、そうではない。実際に使ってみたいと思います。私たちはただ良いものを求めているだけなのです。」
ホール氏も同意した。 「テクノロジーを前進させ続けるには、誰かがそれをより安全にする仕事をしなければなりません」と彼は言いました。 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源: https://go.theregister.com/feed/www.theregister.com/2024/03/08/ai_mishaps_are_surging_and/
- :持っている
- :は
- :not
- $UP
- 2022
- 250
- 600
- 7
- a
- 私たちについて
- 事故
- 正確にデジタル化
- 実際に
- 追加されました
- 管理
- 同意して
- AI
- AIシステム
- アルゴリズム
- すべて
- 許す
- 常に
- Amazon
- an
- および
- どれか
- です
- 主張した
- 周りに
- AS
- 評価
- アシスタント
- 関連する
- At
- 態度
- オートメーション
- 認知度
- になる
- さ
- と考えています
- 利点
- より良いです
- の間に
- バイアス
- ビッグ
- ブラック
- ボード
- 取締役会
- ブレーク
- バグ
- 構築します
- ビジネス
- 焙煎が極度に未発達や過発達のコーヒーにて、クロロゲン酸の味わいへの影響は強くなり、金属を思わせる味わいと乾いたマウスフィールを感じさせます。
- by
- 缶
- 捕捉した
- キャプチャ
- 自動車
- チャットボット
- AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
- 市民の
- Civilization
- 主張した
- クリア
- CO
- 収集
- 到来
- コマンドと
- コンピュータ
- 心配
- 結果
- consumer
- 消費者
- 請負業者
- 可能性
- カバレッジ
- Crash
- 作成
- クルーズ
- 電流プローブ
- 現在
- シーブ
- サイバー
- サイバーセキュリティ
- データベース
- 数十年
- ディープフェイク
- 開発者
- 異なります
- 取締役
- 取締役
- 災害
- do
- ドナルド
- ドナルド·トランプ
- 運転
- 新興の
- 雇用
- 確保
- さらに
- すべてのもの
- 実存的な
- 期待する
- 体験
- フェア
- かなり
- false
- 遠く
- スピーディー
- 感じます
- 仲間
- 女性
- ファイナンス
- 修正する
- 焦点を当て
- 焦点を当てて
- フォワード
- フランシスコ
- から
- 満たす
- 積立
- おかしいです
- 双子座
- 生成する
- 生々しい
- 生成AI
- ジョージ
- ジョージタウン
- 受け
- Go
- ゴエス
- 良い
- でログイン
- グループ
- グループの
- 半分
- ホール
- 一握り
- が起こった
- 出来事
- 害
- 害
- 持ってる
- he
- 特徴
- 高速道路
- 希望
- 期待している
- 認定条件
- HTTPS
- 巨大な
- 人間
- 人権
- 誇大広告
- i
- if
- 影響
- 改善します
- in
- 事件
- の増加
- 独立しました
- 情報
- 情報に基づく
- 洞察
- 無形
- 興味深い
- 問題
- IT
- ITS
- ジョブ
- JPG
- ただ
- キープ
- 保管
- 種類
- 知っている
- ラベル
- 研究所
- 実験室
- 言語
- 大
- 最大の
- 最新の
- 打ち上げ
- ような
- リストされた
- リスト
- ログインして
- 探して
- たくさん
- たくさん
- 製
- make
- メーカー
- マネージド
- 五月..
- me
- だけど
- メディア
- メンバー
- 行方不明
- モデル
- 他には?
- 最も
- 主に
- 移動する
- 必要
- 非営利
- 非営利団体
- 11月
- 今
- of
- オフ
- 最も古い投稿
- on
- かつて
- オンライン
- or
- 組織
- その他
- 私たちの
- が
- パートナーシップ
- パトリック
- のワークプ
- 物理的な
- ピクチャー
- 飛行機
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- さらに
- ポリシー
- 政策立案
- ポーズ
- ポスト
- 練習
- を押す
- 多分
- 問題
- 製品
- 東京大学大学院海洋学研究室教授
- 演奏曲目
- プロジェクト
- 提供します
- 心理的な
- 公共
- 公然と
- RE
- リアル
- 現実の世界
- 実現する
- 本当に
- 記録
- 規制する
- 関連する
- リリース
- 繰り返す
- 報告
- 各種レポート作成
- レポート
- 要求
- 明らかに
- 明らかに
- レビュー
- レビュー
- 右
- 権利
- リスク
- リスク
- ロボタクシー
- ロボット工学
- 大体
- ランニング
- s
- より安全な
- 安全性
- 前記
- サン
- サンフランシスコ
- 学校
- セキュリティ
- 見ること
- 自己
- 自動運転車
- シニア
- 深刻な
- サービング
- セッションに
- 厳しい
- シェーピング
- シェアする
- 彼女
- 表示する
- 符号
- ウェブサイト
- So
- これまでのところ
- 社会
- ソフトウェア
- 売ら
- 一部
- スパム
- 米国
- サポート
- 確か
- 急増する
- システム
- Talk
- チーム
- テクノロジー
- 技術の
- 10
- テスト
- テスト
- それ
- アプリ環境に合わせて
- それら
- その後
- そこ。
- ボーマン
- 彼ら
- 物事
- 考える
- 介して
- 時間
- <font style="vertical-align: inherit;">回数</font>
- タイトル
- 〜へ
- 言われ
- 追跡する
- トレーニング
- 透明性
- 輸送
- トレンド
- 切り札
- 試します
- さえずり
- 下
- わかる
- ユニーク
- ユナイテッド
- 米国
- 大学
- つかいます
- 中古
- 自動車
- 非常に
- ボランティア
- 有権者
- 脆弱性
- 欲しいです
- ワシントン
- 方法
- we
- ウェブサイト
- went
- ウェスト
- この試験は
- 白
- 誰
- ワイルド
- 野生の西
- 意志
- 女性
- 仕事
- 世界
- 書きます
- 間違った
- You
- ゼファーネット