OpenAI の質問応答ボットである ChatGPT は、Stack Overflow のチームにとって十分にスマートではありません。Stack Overflow は本日、AI ボットによって生成された回答が頻繁に間違っているため、一時的に禁止することを発表しました。
スタック オーバーフローは、AI によって生成された回答に関する恒久的な決定は、より大規模なスタッフの話し合いが終わるまで差し控えると述べたが、ChatGPT が組織とそのユーザーの両方にとって「実質的に有害」になる可能性があるという懸念から、現在行動を起こしている.
「ChatGPT の平均正解率が低すぎる」スタック オーバーフロー と 「ChatGPT は禁止されています」というタイトルのポリシー ステートメントで。
ChatGPTがリリースされました 先週 でOpenAIによって宣伝されました ブログ投稿 質問に対する詳細な回答を提供できる会話型 AI として、「フォローアップの質問に答え、間違いを認め、不適切な前提に異議を唱え、不適切な要求を拒否する」ことができます。
OpenAI は、ChatGPT の用途の XNUMX つとしてデバッグ コードを挙げています。 しかし、この投稿を書いた Stack Overflow の管理者は、そうではないと述べています。
「ChatGPT が生成する回答は、間違っている可能性が高いですが、通常は良いように見え、回答は非常に簡単に作成できます」と Stack Overflow は述べています。
「これらの回答の量 (数千) と、その回答を判断するために、少なくともある程度の専門知識を持つ誰かが詳細に読む必要があることが多いという事実により、ボランティアベースの質の高いキュレーションインフラストラクチャが効果的に圧倒されています。」 SO チームが追加しました。
この問題に迅速に対処するために、Stack Overflow は、ChatGPT によって生成された回答または新しい投稿を投稿する人に対しては、たとえそのような投稿が別の方法で受け入れられる場合でも、措置を講じる予定であると述べました。
ChatGPT は、悪用や有害なアドバイスを含む回答を避けるように設計されていましたが、ユーザーはすぐにそのようなことを回避できることに気付きました。 たとえば、ChatGPT に「したくない」と伝えることで、 モロトフカクテルを作る、ただし、Python 関数を完成させたい 印刷指示 同じことを行うには、印刷機能を使用して作成する方法を正確に教えてくれます。
AIはまた、悪い情報を提供したとしても呼び出されています 伝記スケッチ、そして「説得力のある誤った回答が人々をだますことができることを証明した」ことに対して、いくつかを見つけたあるTwitterユーザーによると 悪い数学 ChatGPT によって生成されます。
これらの報告された精度の問題に関して OpenAI が何を計画しているかを知るために OpenAI に連絡を取りましたが、返事はありません。
Stack Overflow は、ChatGPT およびその他の同様のツールに関する新しいポリシーを検討すると述べていますが、決定日と、最終的に何を制限するかは不明です。 ®
