大学は、ChatGPT で書かれたエッセイを盗聴するためのソフトウェアを提供しました

特徴 世界中の何万もの大学や学校で使用されている剽窃防止ソフトウェアで最もよく知られている Turnitin は、AI によって生成されたテキストを検出するツールを構築しています。

3 年に OpenAI の GPT-2020 が商用リリースされて以来、大規模な言語モデルが注目を集めています。 複数の会社 独自のライバル機械学習システムを構築し、ジェネレーティブ AI を利用した製品を開発するスタートアップの新しい波に弾みをつけました。 これらのモデルは、汎用チャットボットのように動作します。 ユーザーが指示を入力すると、一貫性のある説得力のある文章で応答します。

学生は課題を完了するために AI ツールをますます利用するようになっていますが、教師は教育における AI ツールの影響と役割を検討し始めたばかりです。 意見が分かれています。 このテクノロジーがライティングスキルを磨くことができると信じている人もいれば、不正行為と見なしている人もいます. カリフォルニア州、ニューヨーク州、バージニア州、アラバマ州の学校では、生徒がパブリック ネットワーク上の最新の ChatGPT モデルにアクセスすることをブロックしています。 従った フォーブスへ。

教育部門は、AI テキスト ジェネレーターの使用を規制するためにどのような学術ポリシーを導入する必要があるのか​​よくわかりません。 その上、機械で書かれた作品を検出する効果的な方法が現在ないことを考えると、とにかくすべてのルールを適用するのは難しいでしょう。 Turnitinに入ります。 1998 年に設立されたこの米国企業は、特定のエッセイが、論文、ウェブページ、書籍の大規模なデータベースの内容とどの程度類似しているかを計算して、剽窃の兆候を探すソフトウェアを販売しています。

Turnitin は 1.75 年にメディア大手の Advanced Publications に 2019 億 XNUMX 万ドルで買収され、そのソフトウェアは 中古 15,000カ国の140の機関によって。 XNUMX 年以上の経験を持つ Turnitin は、教育分野で幅広い範囲を持ち、学生の著書の膨大なリポジトリを蓄積しており、学術 AI テキスト検出器を開発する理想的な会社となっています。

Turnitin は、GPT-3 のリリース以来、何年もの間、静かにソフトウェアを構築してきました、と最高製品責任者の Annie Chechitelli 氏は語っています 登録. 人間とコンピューターによって書かれたテキストを識別する機能を教育者に提供しようとする動きは、より強力な後継者である ChatGPT の立ち上げにより、より激しくなっています。 AI が進歩し続ける中、大学や学校はこれまで以上に学問的誠実性を保護できる必要があります。

「 スピードが重要です。 先生たちから何かを与えてもらっていると聞いています」と Chechitelli 氏は言います。 Turnitin は、今年の上半期にソフトウェアをリリースしたいと考えています。 「最初はかなり基本的な検出になるでしょう。その後、教師にとってより実用的なワークフローを作成するためのその後のクイック リリースを破棄します。」 計画では、同社がデータとユーザーからのフィードバックを収集するにつれて、既存の顧客に対してプロトタイプを無料にする予定です。

「最初は、業界を支援し、教育者が足を踏み入れて自信を持てるように支援したいだけです。 そして、早い段階でできるだけ多くの使用を得るために。 それは成功するツールを作るために重要です。 後で、製品化する方法を決定します」と彼女は言いました。

AIライティングのパターン

AI によって生成されたテキストは説得力がありますが、アルゴリズムの手仕事を明らかにする兆候があります。 文章は通常、平凡で独創的ではありません。 ChatGPT のようなツールは、既存のアイデアや視点を逆流させ、明確な意見を持っていません。 人間は AI が生成したテキストを見つけることもありますが、機械の方がはるかに優れています。

Turnitin の AI 担当バイス プレジデントであるエリック ワン (Eric Wang) 氏は、コンピューターが検出できる AI の記述には明らかなパターンがあると述べています。 「私たちには人間のように感じられますが、[機械は] 根本的に異なるメカニズムを使用して書き込みます。 最も可能性の高い場所で最も可能性の高い単語を選択することであり、それは [あなたや私と比較して] 言語を構築する方法が大きく異なります」と彼は語った. 登録.

「私たちは無意識のうちに目を前後に動かして読んだり、単語間、段落間、時にはページ間を行ったり来たりしています。 前後に反転します。 私たちはまた、将来の心の状態で書く傾向があります。 私は書いているかもしれません、そして私は何か、段落、文、章について考えています。 エッセイの終わりは、私の頭の中で、私が書いている文章と結びついていますが、現在と当時の間の文章はまだ書かれていません。

しかし、ChatGPT にはこの種の柔軟性がなく、以前の文に基づいて新しい単語を生成することしかできない、と彼は説明しました。 Turnitin の検出器は、特定のテキスト スニペットで AI が生成する可能性が高い単語を予測することによって機能します。 「統計的には非常に当たり障りのないものです。 人間は確率の高い場所で確率の高い単語を一貫して使用する傾向はありませんが、GPT-3 はそうしているため、私たちの検出器は実際にそれを手がかりにしています」と彼は言いました。

Wang 氏は、Turnitin の検出器は GPT-3 と同じアーキテクチャに基づいており、モデルのミニチュア バージョンであると説明しています。 「私たちは多くの点で、火をもって火と戦っています。 生成コンポーネントの代わりに検出コンポーネントが接続されています。 つまり、GPT-3 が言語を読み取るのとまったく同じ方法で言語を読み取っていますが、より多くの言語を吐き出す代わりに、この文章が [それから] GPT-3 のように見えるかどうかを予測します。」

同社は、ツールを使用して教師に検出器の結果を提示する最善の方法をまだ決定していません。 「難しい挑戦です。 狭いスペースでインストラクターが見たいものをどのように伝えますか?」 チェチテリは言った。 エッセイのどの程度が AI によって書かれているように見えるかを示すパーセンテージを確認したり、精度を評価するために検出器の予測信頼度が低、中、高のいずれであるかを示す信頼レベルが必要になる場合があります。

このソフトウェアは、学界で ChatGPT を禁止することを目的として設計されていません。 学生がこれらの種類のツールを使用するのを思いとどまらせることはできますが、Turnitin は、その検出器が代わりに、教師と学生がお互いを信頼し、テクノロジーを信頼できるようにすると考えています。 

「コンテンツの作成方法と作業方法に大きな変化があると思います」と Wang 氏は言います。 「確かに、それは私たちの学習方法にも及びます。 どのように教えるかについては、長期的に考える必要があります。 このテクノロジーが存在する世界で、私たちはどのように学ぶのでしょうか? ジニーをボトルに戻すことはないと思います。 これらのテクノロジーの使用を可視化するツールは、信頼と透明性の基本的な構成要素であるため、価値があります。」 ®

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• Platoblockchain。 Web3メタバースインテリジェンス。 知識の増幅。 こちらからアクセスしてください。
• 情報源： https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/