AI が書いたテキストと人間が書いたテキストを区別するように訓練された分類器を立ち上げています。
人間が書いたテキストと、さまざまなプロバイダーの AI が書いたテキストを区別するように分類器をトレーニングしました。 AI によって書かれたすべてのテキストを確実に検出することは不可能ですが、優れた分類器を使用すれば、AI によって生成されたテキストが人間によって書かれたという誤った主張を軽減できると考えています。 自動誤報キャンペーン、学術的な不正行為のために AI ツールを使用し、AI チャットボットを人間として位置付けます。
私たちの分類器は完全に信頼できるわけではありません。 英語のテキストの「チャレンジ セット」に対する評価では、分類器は AI によって書かれたテキスト (真陽性) の 26% を「AI によって書かれた可能性が高い」と正しく識別し、人間によって書かれたテキストを AI によって書かれたものとして誤ってラベル付けしたのは 9% でした。時間 (誤検知)。 通常、分類器の信頼性は、入力テキストの長さが長くなるにつれて向上します。 当社と比較して 以前にリリースされた分類子、この新しい分類子は、最近の AI システムからのテキストに対してはるかに信頼性が高くなります。
このような不完全なツールが役立つかどうかについてのフィードバックを得るために、この分類器を公開しています。 AI によって生成されたテキストの検出に関する作業は継続され、将来的に改善された方法を共有したいと考えています。
無料の進行中の分類器を自分で試してみてください。
制限事項
私たちの分類器には、多くの重要な制限があります。 主要な意思決定ツールとして使用しないでください、代わりに、テキストのソースを決定する他の方法を補完するものとして。
- 分類子は、短いテキスト (1,000 文字未満) では非常に信頼性が低くなります。 より長いテキストでも、分類子によって誤ってラベル付けされることがあります。
- 人間が書いたテキストは、分類子によって AI によって書かれたものとして誤って、自信を持ってラベル付けされることがあります。
- 分類子は英語のテキストにのみ使用することをお勧めします。 他の言語ではパフォーマンスが大幅に低下し、コードでは信頼できません。
- 非常に予測可能なテキストは、確実に識別できません。 たとえば、最初の 1,000 個の素数のリストが AI によって書かれたものか、人間によって書かれたものかを予測することは不可能です。正解は常に同じだからです。
- AI が作成したテキストを編集して、分類子を回避できます。 私たちのような分類子は、成功した攻撃に基づいて更新および再トレーニングできますが、検出が長期的に有利になるかどうかは不明です。
- ニューラル ネットワークに基づく分類子は、トレーニング データの外部でのキャリブレーションが不十分であることが知られています。 トレーニング セット内のテキストとは大きく異なる入力の場合、分類器は間違った予測に非常に自信を持っている場合があります。
分類器のトレーニング
私たちの分類器は、同じトピックに関する人間が書いたテキストと AI が書いたテキストのペアのデータセットで微調整された言語モデルです。 このデータセットは、事前トレーニング データや、 GPT を指導する. 各テキストをプロンプトと応答に分けました。 これらのプロンプトに対して、私たちは、私たちや他の組織によって訓練されたさまざまな言語モデルから応答を生成しました。 この Web アプリでは、信頼度のしきい値を調整して誤検出率を低く抑えています。 つまり、分類子が非常に自信を持っている場合にのみ、AI によって書かれた可能性が高いテキストとしてマークを付けます。
教育者への影響と意見募集
AI によって書かれたテキストを識別することは、教育者の間で重要な議論のポイントであり、同様に重要なのは、教室で AI によって生成されたテキスト分類器の限界と影響を認識することです。 私たちは開発しました 予備リソース 教育者向けの ChatGPT の使用について、いくつかの使用方法、および関連する制限事項と考慮事項について概説しています。 このリソースは教育者に焦点を当てていますが、私たちの分類器と関連する分類器ツールは、ジャーナリスト、誤報/偽情報の研究者、およびその他のグループに影響を与えることを期待しています.
米国の教育者と協力して、彼らが教室で見ていることを学び、ChatGPT の機能と制限について話し合っています。 これらは、影響を受けるコミュニティと直接接触して、大規模な言語モデルを安全に展開するという私たちの使命の一部として行うべき重要な会話です。
これらの問題の影響を直接受ける場合 (教師、管理者、保護者、生徒、教育サービス プロバイダーを含むがこれらに限定されない) は、次の方法でフィードバックをお寄せください。 -. に関する直接的なフィードバック 予備リソース また、教育者が開発中または役立つと判断したリソース (コース ガイドライン、名誉規定とポリシーの更新、インタラクティブ ツール、AI リテラシー プログラムなど) も歓迎します。
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
- 情報源: https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/
- 000
- 1
- 視聴者の38%が
- 7
- a
- アカデミック
- 管理者
- 利点
- AI
- AIチャットボット
- すべて
- 常に
- 間で
- &
- 回答
- アプリ
- 関連する
- 攻撃
- 利用できます
- ベース
- なぜなら
- 信じる
- 以下
- の間に
- 広げる
- コール
- 機能
- 文字
- チャットボット
- AI言語モデルを活用してコードのデバッグからデータの異常検出まで、
- クレーム
- コード
- コミュニティ
- 比べ
- 補体
- 信頼
- 確信して
- 自信を持って
- 検討事項
- 接触
- 続ける
- 会話
- コース
- データ
- 意思決定
- 展開します
- 検出
- 決定
- 発展した
- 開発
- 異なります
- 直接
- 直接に
- 話し合います
- 議論
- 見分けます
- 分割された
- 各
- 教育
- 教育
- 魅力的
- 英語
- 平等に
- 評価
- さらに
- 例
- 期待する
- 非常に
- フィードバック
- 名
- 焦点を当て
- 発見
- 無料版
- から
- 完全に
- 未来
- 生成された
- 取得する
- 良い
- でログイン
- グループの
- ガイドライン
- 役立つ
- 希望
- HTTPS
- 人間
- 人間
- 特定され
- 識別する
- 識別
- 影響
- 影響を受けた
- 影響
- 重要
- 不可能
- 改善されました
- in
- その他の
- 含めて
- 間違って
- 増加
- を取得する必要がある者
- 相互作用的
- 問題
- IT
- ジャーナリスト
- キープ
- 既知の
- ラベリング
- 言語
- ESL, ビジネスESL <br> 中国語/フランス語、その他
- 大
- 発射
- LEARN
- 長さ
- 可能性が高い
- 制限
- 限定的
- 制限
- リスト
- リテラシー
- 長期的
- より長いです
- ロー
- 作成
- マーク
- メソッド
- 誤報
- ミッション
- モデル
- 他には?
- ネットワーク
- ニューラルネットワーク
- 新作
- 数
- 番号
- ONE
- OpenAI
- 組織
- その他
- 輪郭
- 奉仕活動
- 外側
- 足
- 両親
- 部
- 実行する
- ピース
- プラトン
- プラトンデータインテリジェンス
- プラトデータ
- お願いします
- ポイント
- 方針
- ポジショニング
- 正の
- 予測する
- 予測可能な
- 予測
- 主要な
- 素数
- プログラム
- 提供します
- プロバイダ
- 公然と
- レート
- 最近
- 認識する
- 推奨する
- リリース
- 信頼性
- 信頼性のある
- 研究者
- リソースを追加する。
- リソース
- 応答
- ランニング
- 安全に
- 同じ
- 見ること
- サービス
- サービスプロバイダ
- セッションに
- シェアする
- ショート
- すべき
- 著しく
- 一部
- ソース
- ソース
- 生徒
- 提出された
- 成功した
- そのような
- システム
- 教師
- ソース
- アプリ環境に合わせて
- しきい値
- 〜へ
- 豊富なツール群
- トピック
- 訓練された
- トレーニング
- true
- 一般的に
- 更新しました
- 更新版
- us
- つかいます
- 多様
- ウェブ
- 歓迎
- この試験は
- かどうか
- which
- while
- 意志
- 言葉
- 仕事
- 書かれた
- 間違った
- あなた自身
- ゼファーネット