ChatGPTが一夜にして衝撃的なナンセンスな言葉を吐き始める

OpenAIのChatGPTチャットボットユーザーが昨夜発見したように、生成AIシステムは時々意味不明なことを吐き出すことがあります。

OpenAI 注意, 2340年20月2024日XNUMXUTCに「ChatGPTからの予期せぬ応答に関する報告を調査中」と、まったくナンセンスな言葉を発しているように見えるチャットボットの画像をユーザーが嬉々として投稿した。

明らかに偽物のものもあれば、人気のチャットボットが実際に非常に奇妙な動作をしていることを示す回答もありました。 Reddit の ChatGPT フォーラムでは、ユーザーが 掲示 「コンピュータとは何ですか?」という質問に対するチャットボットの奇妙なとりとめのない応答。

反応は次のように始まりました。「これは、国のための芸術の網、科学のねずみ、悲しい少数の人々の簡単な描画としてこれを行います...」そして、ただ続けて、ますます超現実的になってきました。

他のユーザーは、チャットボットが別の言語で応答したり、単に意味のないゴミで応答したりしているように見える例を投稿しました。

一部のユーザー 記載された 出力は「ワードサラダ」として出力されます。

おいしい。

認知科学者であり人工知能の専門家でもあるゲイリー・マーカス氏は、 書いた 彼のブログでは、「ChatGPT が暴走した」と述べ、さらにその動作を「警告」であると説明しました。

OpenAI は正確に何が起こったのか詳しく説明していないが、もっともらしい理論の 1 つは、以下の 1 つまたは複数の 設定 チャットボットの応答を制御するために舞台裏で使用されていた機能が正しく構成されていなかったため、ユーザーに意味不明な内容が表示されていました。

最初に問題を認めてから 7 分後に OpenAI は「問題は特定され、現在修正中である」と述べ、それ以来状況を監視している。 「コンピュータって何？」を試してみたところ、今朝の質問に対して、ChatGPT ははるかに合理的な答えを返しました。「コンピュータは、データを保存、取得、処理できるプログラム可能な電子デバイスです。」

私たちはまた、なぜ昨夜凶暴になったのか尋ねました。

それはこう答えた。

マーカス氏は次のように述べています。「結局のところ、生成 AI は一種の錬金術です。人々はできる限り大量のデータを収集し、（どうやら噂が信じられるのであれば）隠されたプロンプトのようなものをいじくり回しています…すべてがうまくいくことを願っています。」

同氏は続けて、実際にはシステムは決して安定しておらず、安全性の保証が欠けていると述べた。 「より不透明で、より解釈しやすく、保守しやすく、デバッグしやすい、つまりより扱いやすい、まったく異なるテクノロジーの必要性が依然として最重要です。」

私たちは、何が起こったのかについてのより詳細な説明を求めて OpenAI に連絡しました。会社からの返答があれば、この記事を更新します。 ®

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/