Microsoft、スタッフの懸念に応えてCopilot AIを修正

Microsoftは自社のCopilot AIツールをアップデートし、スタッフやFTCの懸念を受けて「選択賛成」や「人生反対」などのプロンプトをブロックし、ポリシー違反に関する警告を導入した。

スタッフの AI エンジニアが Copilot の画像生成について懸念を表明した後 AI 水曜日に連邦取引委員会に宛てた書簡の中で、マイクロソフトは人工知能ツール「コパイロット」の変更を開始したと述べた。

また、お読みください。 AI スタートアップが第 1 四半期に輝き、ベンチャー キャピタルの資金調達が 40% 急増

水曜日のCNBCの調査で言及された「プロライフ」と「プロチョイス」、「プロチョイス」[原文ママ]、および「フォー・トゥエンティ」という用語は現在ブロックされている。さらに、CNBC は、ポリシー違反を繰り返すとツールの停止につながる可能性があるという警告を認識していました。

新規: Microsoft は、スタッフ エンジニアが水曜日に FTC に書簡を送った後、Copilot AI ツールの変更を開始しました。

CNBCの調査で言及されたいくつかの特定のプロンプトは現在ブロックされており、停止につながる複数の違反の警告も表示されている。https://t.co/xUixCQVicm

— ヘイデン フィールド (@haydenfield) 2024 年 3 月 8 日

AIエンジニアが語る

Microsoft の AI エンジニアである Shane Jones 氏は、次のように警告しています。 副操縦士 同社の AI 画像ジェネレーターであるデザイナーが著作権法に違反し、暴力的または性的なコンテンツを作成しました。ジョーンズ氏は、イメージ ジェネレーターの開発には関与していませんが、空き時間を利用してイメージ ジェネレーターの脆弱性を調査するレッドチームを作成することを申し出ました。

Microsoftのエンジニアは、同社のAI画像生成ツールによってあまりにも簡単に作成された攻撃的で有害な画像について警鐘を鳴らし、行動を促す手紙を送っている。https://t.co/yX9I1dCmxc

— KOMOニュース (@komonews) 2024 年 3 月 6 日

彼は、Image Generator が薬物使用、未成年者の飲酒、中絶の権利に関する暴力シーンなど、生々しい性的な画像を生成できることを発見しました。

昨年 12 月に調査結果を社内で共有した後、同氏は Microsoft に製品の廃止を要請しました。マイクロソフトはこれに従わなかった。

ジョーンズ氏は、Copilot Designer の上級管理職と話し合い、Microsoft の責任ある AI 部門に連絡を取ったが、満足のいく返答は得られなかったことを強調した。

ジョーンズ氏は1月に上院商業・科学・運輸委員会のメンバーと会談し、米国の上院議員に宛てた書簡を書いた。

同氏は現在、事態をさらに進めており、マイクロソフトの取締役会と米国反トラスト委員会の委員長リナ・カーンに宛てた書簡の中で、安全対策の改善、透明性、Androidアプリの成人向けレーティングの改訂を要求している。

さらに同氏は、OpenAIとMicrosoftが昨秋のリリース前から画像生成器の問題を認識していたと主張し、MicrosoftのAIインシデント報告手順の公平な評価を要求した。

Jones 氏は、Microsoft の主任ソフトウェア エンジニアリング マネージャーをほぼ 6 年間務めています。

副操縦士が応答する

Copilot の警告アラートによると、プロンプトはブロックされており、システムはこのプロンプトに自動的にフラグを立てました。これは、Copilot の警告アラートと競合する可能性があるためです。 コンテンツポリシー。ポリシー違反が増えると自動的にアクセスが停止される可能性があり、ユーザーがこれが間違いだと思う場合は改善のために報告する必要があると述べた。

今週初めからの大幅な改善は、AIツールがアサルトライフルを持った暗殺者のふりをする子供や十代の若者の画像作成リクエストを「申し訳ありませんが、そのような画像は生成できません」として拒否するようになった点だ。 Microsoft のポリシーと私の倫理原則の両方に違反しています。他の人を怒らせたり、傷つけたりする可能性のあることを私に依頼しないでください。ご協力をよろしくお願いいたします。

A Microsoft 代表者はCNBCに対し、変更に関する質問に答えて、安全フィルターをさらに強化し、システムの誤用を軽減するために、継続的に監視し、調整を行い、追加の制御を導入していると語った。 

ジョーンズ氏はマイクロソフトの取締役会に書簡を送り、 FTC リナ・カーン議長は水曜日、自身の懸念をさらに一歩進めて発言した。彼はCNBCに手紙への事前アクセスを許可した。

FTCはCNBCへの書簡の受領を認めたが、記録に関して追加のコメントは提供しないことを選択した。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/