Universitäten boten Software an, um von ChatGPT geschriebene Aufsätze auszuspähen

Merkmal Turnitin, am besten bekannt für seine Anti-Plagiat-Software, die von Zehntausenden von Universitäten und Schulen auf der ganzen Welt verwendet wird, entwickelt ein Tool zur Erkennung von Text, der von KI generiert wurde.

Große Sprachmodelle haben seit der kommerziellen Veröffentlichung von GPT-3 von OpenAI im Jahr 2020 an Bedeutung gewonnen. Jetzt mehrere Unternehmen haben ihre eigenen konkurrierenden maschinellen Lernsysteme entwickelt und damit eine neue Welle von Start-ups gestartet, die Produkte entwickeln, die auf generativer KI basieren. Diese Modelle funktionieren wie Allzweck-Chatbots. Benutzer geben Anweisungen ein und antworten mit Passagen aus zusammenhängendem, überzeugendem Text.

Schüler wenden sich zunehmend KI-Tools zu, um Aufgaben zu erledigen, während Lehrer erst anfangen, deren Auswirkungen und Rolle in der Bildung zu berücksichtigen. Die Meinungen sind geteilt. Einige glauben, dass die Technologie die Schreibfähigkeiten verbessern kann, während andere sie als Betrug ansehen. Schulen in Kalifornien, New York, Virginia und Alabama haben Schüler daran gehindert, auf das neueste ChatGPT-Modell in öffentlichen Netzwerken zuzugreifen. gemäß nach Forbes.

Bildungsabteilungen sind sich nicht ganz sicher, welche akademischen Richtlinien eingeführt werden sollten, um die Verwendung von KI-Textgeneratoren zu regulieren. Außerdem wären alle Regeln sowieso schwer durchzusetzen, wenn man bedenkt, dass es derzeit keine effektive Möglichkeit gibt, maschinell geschriebene Arbeit zu erkennen. Geben Sie Turnitin ein. Das 1998 gegründete US-Unternehmen vertreibt Software, die berechnet, wie ähnlich ein bestimmter Aufsatz zu Inhalten aus einer großen Datenbank mit Aufsätzen, Webseiten und Büchern ist, um nach Anzeichen von Plagiaten zu suchen.

Turnitin wurde 1.75 vom Mediengiganten Advanced Publications für 2019 Milliarden US-Dollar übernommen, ebenso wie seine Software benutzt von 15,000 Institutionen in 140 Ländern. Mit über zwei Jahrzehnten Erfahrung verfügt Turnitin über eine breite Reichweite im Bildungsbereich und hat ein riesiges Archiv an studentischem Schreiben angehäuft, was es zum idealen Unternehmen für die Entwicklung eines akademischen KI-Textdetektors macht.

Turnitin hat die Software seit der Veröffentlichung von GPT-3 jahrelang im Stillen entwickelt, sagte Annie Chechitelli, Chief Product Officer Das Register. Der Eifer, Pädagogen die Möglichkeit zu geben, von Menschen und Computern geschriebene Texte zu identifizieren, ist mit der Einführung des leistungsfähigeren Nachfolgers ChatGPT noch intensiver geworden. Mit fortschreitender KI müssen Universitäten und Schulen heute mehr denn je in der Lage sein, die akademische Integrität zu schützen.

„Geschwindigkeit zählt. Wir hören von Lehrern, geben Sie uns einfach etwas“, sagte Chechitelli. Turnitin hofft, seine Software in der ersten Hälfte dieses Jahres auf den Markt bringen zu können. „Zunächst wird es eine ziemlich einfache Erkennung sein, und dann werden wir nachfolgende Schnellversionen rauswerfen, die einen Arbeitsablauf schaffen, der für Lehrer umsetzbarer ist.“ Es ist geplant, den Prototyp für seine bestehenden Kunden kostenlos zur Verfügung zu stellen, während das Unternehmen Daten und Benutzerfeedback sammelt.

„Am Anfang wollen wir wirklich nur der Branche helfen und den Pädagogen helfen, sich selbstbewusster zu fühlen. Und um frühzeitig so viel Nutzung wie möglich zu erhalten; das ist wichtig, um ein erfolgreiches Werkzeug zu machen. Später werden wir festlegen, wie wir es produzieren werden“, sagte sie.

Muster im KI-Schreiben

Obwohl von KI generierter Text überzeugend ist, gibt es verräterische Anzeichen, die die Handarbeit eines Algorithmus offenbaren. Das Schreiben ist normalerweise langweilig und unoriginell; Tools wie ChatGPT geben bestehende Ideen und Standpunkte wieder und haben keine eigene Stimme. Menschen können manchmal KI-generierten Text erkennen, aber Maschinen sind bei dieser Aufgabe viel besser.

Eric Wang, Vice President of AI bei Turnitin, sagte, dass es offensichtliche Muster im KI-Schreiben gibt, die Computer erkennen können. „Auch wenn es sich für uns menschlich anfühlt, [Maschinen schreiben mit] einem grundlegend anderen Mechanismus. Es geht darum, das wahrscheinlichste Wort am wahrscheinlichsten Ort auszuwählen, und das ist eine ganz andere Art, Sprache zu konstruieren [im Vergleich] zu dir und mir“, sagte er Das Register.

„Wir lesen, indem wir mit den Augen hin und her springen, ohne es zu wissen, oder zwischen Wörtern, Absätzen und manchmal zwischen Seiten hin und her huschen. Wir blättern hin und her. Wir neigen auch dazu, mit einem zukunftsorientierten Geisteszustand zu schreiben. Vielleicht schreibe ich und denke über etwas nach, einen Absatz, einen Satz, ein Kapitel; das Ende des Essays ist in meinem Kopf mit dem Satz verknüpft, den ich schreibe, obwohl die Sätze zwischen jetzt und dann noch geschrieben werden müssen.“

ChatGPT verfügt jedoch nicht über diese Art von Flexibilität und kann nur neue Wörter basierend auf vorherigen Sätzen generieren, erklärte er. Der Detektor von Turnitin funktioniert, indem er vorhersagt, welche Wörter die KI in einem bestimmten Textausschnitt mit größerer Wahrscheinlichkeit generiert. „Statistisch gesehen ist es sehr langweilig. Menschen neigen nicht dazu, ein Wort mit hoher Wahrscheinlichkeit konsequent an Orten mit hoher Wahrscheinlichkeit zu verwenden, aber GPT-3 tut dies, sodass unser Detektor wirklich darauf hinweist“, sagte er.

Wang sagte, der Detektor von Turnitin basiere auf derselben Architektur wie GPT-3 und beschrieb ihn als Miniaturversion des Modells. „Wir sind in vielerlei Hinsicht, würde ich [sagen], Feuer mit Feuer bekämpfen. Anstelle einer Generierungskomponente ist eine Detektorkomponente daran angeschlossen. Es liest also Sprache genau so, wie GPT-3 Sprache liest, aber anstatt mehr Sprache auszuspucken, gibt es uns eine Vorhersage darüber, ob wir denken, dass diese Passage wie GPT-3 aussieht.“

Das Unternehmen entscheidet noch, wie es die Ergebnisse seines Detektors Lehrern, die das Tool verwenden, am besten präsentieren kann. „Es ist eine schwierige Herausforderung. Wie sagt man einem Ausbilder auf engstem Raum, was er sehen möchte?“ sagte Chechitelli. Sie möchten vielleicht einen Prozentsatz sehen, der zeigt, wie viel von einem Aufsatz von KI geschrieben zu sein scheint, oder sie möchten Konfidenzniveaus, die zeigen, ob das Vorhersagevertrauen des Detektors niedrig, mittel oder hoch ist, um die Genauigkeit zu beurteilen.

Die Software wurde nicht mit dem Ziel entwickelt, ChatGPT in der Wissenschaft zu verbieten. Obwohl es Schüler davon abhalten könnte, diese Art von Tools zu verwenden, glaubt Turnitin, dass sein Detektor es Lehrern und Schülern stattdessen ermöglichen wird, einander und der Technologie zu vertrauen. 

„Ich denke, es gibt eine große Veränderung in der Art und Weise, wie wir Inhalte erstellen und wie wir arbeiten“, sagte Wang. „Das betrifft sicherlich auch die Art und Weise, wie wir lernen. Wir müssen langfristig darüber nachdenken, wie wir unterrichten. Wie lernen wir in einer Welt, in der diese Technologie existiert? Ich denke, man kann den Geist nicht zurück in die Flasche stecken. Jedes Tool, das die Nutzung dieser Technologien sichtbar macht, wird wertvoll sein, da dies die Grundbausteine ​​für Vertrauen und Transparenz sind.“ ®

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• Platoblockkette. Web3-Metaverse-Intelligenz. Wissen verstärkt. Hier zugreifen.
• Quelle: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/