ジョー・バイデンが質問に答えてくれる賢くて庶民的なAIチャットボットを望んでいる場合、彼の選挙チームはChatGPTの競合相手であるAnthropic社のClaudeを使用することはできないと同社が本日発表した。
同社は「候補者が自分になりすますチャットボットを構築するためにクロードを使用することを許可しておらず、ターゲットを絞った政治キャンペーンにクロードを使用することも許可していません」としている。 発表の。このポリシーに違反した場合は警告が出され、最終的には Anthropic のサービスへのアクセスが停止されます。
Anthropic がその「選挙不正利用」方針を公に表明したのは、AI が誤った誤解を招く情報、画像、ビデオを大量に生成する可能性があるためです。 世界中に警鐘を鳴らしている.
メタ実装ルール r政治におけるAIツールの使用を制限する 昨年の秋、OpenAI も同様のポリシーを持っています。
Anthropic は、その政治的保護は 3 つの主要なカテゴリに分類されると述べました。それは、選挙問題に関連するポリシーの開発と施行、潜在的な悪用に対するモデルの評価とテスト、そして正確な投票情報へのユーザーの誘導です。
アントロピックの 利用規定これは、Claude にアクセスする前にすべてのユーザーが表面上同意するもので、政治キャンペーンやロビー活動に AI ツールを利用することを禁止しています。同社は、違反者には警告とサービス停止が行われ、人間による審査プロセスが導入されると述べた。
同社はまた、システムの厳格な「レッドチーム化」も行っています。これは、既知のパートナーによる積極的かつ組織的な試みで、「脱獄」またはその他の方法でクロードを不正な目的に使用しようとします。
「私たちは、利用規定に違反するプロンプト、たとえば投票者抑制のための戦術に関する情報を要求するプロンプトに、システムがどのように応答するかをテストしています」とアントロピック氏は説明します。さらに同社は、「政治的同等性」、つまり候補者や議題間の代表性の比較を保証するための一連のテストを開発したと述べた。
アメリカでは、人類学 TurboVoteと提携 生成 AI ツールを使用する代わりに、信頼できる情報で有権者を支援します。
「米国に拠点を置くユーザーが投票情報を要求すると、超党派組織デモクラシー・ワークスのリソースである TurboVote にリダイレクトするオプションがポップアップでユーザーに提供される」とアンスロピック氏は説明した。今後数週間のうちに」—次に他の国でも同様の措置を追加する予定だ。
As 解読する 以前に報告された, ChatGPTを運営するOpenAIも同様の措置を講じており、ユーザーを超党派のウェブサイトCanIVote.orgにリダイレクトしている。
Anthropic の取り組みは、AI が民主的プロセスにもたらす課題に対処するテクノロジー業界内の広範な運動と連携しています。たとえば、米国連邦通信委員会は最近、AI が生成した通信の使用を禁止しました。 ロボコールでのディープフェイク音声、政治分野におけるAIの適用を規制する緊急性を強調する決定。
Facebookと同様に、Microsoftも 発表された取り組み AI によって生成された誤解を招く政治広告に対抗するため、「サービスとしてのコンテンツ資格情報」を導入し、選挙コミュニケーション ハブを立ち上げました。
自身の AI バージョンを作成する候補者に関しては、OpenAI はすでに特定のユースケースに取り組む必要がありました。会社 サスペンド 大統領候補のディーン・フィリップス下院議員を模倣したボットを作成したことが判明した開発者のアカウント。この動きは、政治運動におけるAIの悪用に対処する請願書が非営利団体パブリック・シチズンによって提出された後に起こり、政治運動における生成型AIの禁止を規制当局に求めた。
Anthropic はそれ以上のコメントを拒否し、OpenAI はからの問い合わせに応じなかった。 解読する.
暗号ニュースを常に把握し、受信トレイで毎日更新を入手してください。