Meta の AI インターネット チャットボットのデモは、すぐにフェイク ニュースと人種差別的な発言を吐き出し始めます

インブリーフ 別の日、インターネット上の別の不正な AI チャットボット。

先週のメタ Blenderbot 3 を解き放った、おしゃべりな言語モデル、ウェブ上での実験でしたが、期待どおりにうまくいきました。

BlenderBot 3 は、ドナルド トランプ氏が 2024 年以降も引き続き米国大統領であることをすぐに確認し、次のような物議を醸す質問をされたとき、反ユダヤ主義的な見解を吐き出しました。 示す ビジネスインサイダーによる。 言い換えれば、BlenderBot 3 はフェイク ニュースを拡散し、インターネットからスクレイピングされたテキストからトレーニングされたすべての言語モデルと同様に、人種的固定観念から偏った意見を保持する傾向があります。

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta は、そのチャットボットが「虚偽または不快な発言」をする可能性があるとネチズンに警告し、実験用のデータをさらに収集するためにライブ デモをオンラインに維持しています。 人々は、BlenderBot 3 の返信を好きまたは嫌いになり、特定のメッセージが不適切、無意味、または失礼であると思われる場合は研究者に通知することが奨励されています。 目標は、このフィードバックを使用して、将来、より安全で毒性が少なく、より効果的なチャットボットを開発することです。

Google 検索スニペットでフェイク ニュースの拡散を阻止

検索の巨人は、ユーザーが Google 検索に質問を入力したときに時々ポップアップするテキスト ボックスをより正確にするのに役立つ AI モデルを展開しました。

機能スニペットと呼ばれるこれらの説明は、人々が特定の事実を探している場合に役立ちます。 たとえば、「太陽系にはいくつの惑星がありますか?」と入力します。 「XNUMXつの惑星」を示す機能スニペットをスローします. ネチズンは、答えを得るためにランダムな Web ページをクリックして情報を読む必要はありません。フィーチャー スニペットはこれを自動的に行います。

しかし、Google の回答は常に正確であるとは限らず、漫画の犬スヌーピーによるエイブラハム リンカーンの暗殺のような架空の出来事について特定の日付を示すこともありました。 従った ザ・ヴァージへ。 Google によると、そのシステムは、 マルチタスク統合モデル (MUM)、偽の質問に対する機能スニペットの生成を 40% 削減する必要があります。 多くの場合、テキストの説明がまったく表示されません。

「当社の最新の AI モデルを使用することで、当社のシステムはコンセンサスの概念を理解できるようになりました。コンセンサスとは、ウェブ上の複数の高品質の情報源がすべて同じ事実に同意することです。」 説明 ブログ投稿インチ

「私たちのシステムは、スニペット コールアウト (注目のスニペットの上に大きなフォントで呼び出された単語) を Web 上の他の高品質のソースと照合して、ソースが異なる単語を使用している場合でも、そのコールアウトに一般的なコンセンサスがあるかどうかを確認できます。または同じことを説明する概念。

OpenAI の DALL-E 2 は Heinz Ketchup の広告作成に役立ちました

米国の食品大手である Heinz は、クリエイティブ エージェンシーと提携して、OpenAI の DALL-E 2 モデルによって生成された AI 画像を使用して広告を作成し、同社の最も有名な製品であるケチャップを宣伝しました。 この広告は、ハインツの「Draw Ketchup」キャンペーンの最新作ですが、カナダの広告代理店である Rethink は、スケッチを人間に頼るのではなく、機械に相談しました。 

Rethink のエグゼクティブ クリエイティブ ディレクターである Mike Dubrick 氏は、次のように述べています。 言われ 今週のドラム。 「次はブランドにアイデアを提案することでした。 ブリーフの後、私たちが素晴らしいと思うことを共有するとき、正式なプレゼンテーションまで待つことはめったにありません。」

最終的な結果は、明確でシンプルなメッセージを含む巧妙な広告です。「ケチャップ」という単語を含むさまざまな種類のテキスト プロンプトが与えられると、DALL-E 2 は紛れもなくハインツのボトルのように見えるものを生成します。 言い換えれば、会社のスローガンである「ハインツでなければならない」をキューに入れます。 以下の広告を見ることができます。

YouTubeのビデオ

DALL-E 2 は最近、アーティストが 雑誌の表紙 コスモポリタン用。 これは、これらのテキストから画像へのツールがクリエイティブ産業でどのように商業的に使用できるかを示すもう XNUMX つの例です。 ®