Einige Universitäten verzichten auf die Verwendung einer von Turnitin entwickelten Software, die erkennen soll, ob Texte in von Studierenden eingereichten Aufsätzen und Aufgaben von KI verfasst wurden.
Für diejenigen, die es nicht wissen: Turnitin bietet Lehrern Tools zur Erkennung von Plagiaten in Schularbeiten und hat im April die Möglichkeit hinzugefügt, nach maschinell verfasster Prosa zu suchen. Wenn es aktiviert bleibt, scannt es automatisch Dokumente und verarbeitet den Text in Blöcke, analysiert jeden Satz und weist eine Bewertung von 0 zu, wenn es den Anschein hat, dass er von Menschen verfasst wurde, und 1, wenn es so aussieht, als wäre er automatisch mithilfe von KI generiert worden. Für die Datei wird eine durchschnittliche Bewertung berechnet, um vorherzusagen, wie viel Text anscheinend von der KI geschrieben wurde.
Es stellt sich die größere Frage, wie Turnitin KI-Schreiben erkennt und ob das überhaupt möglich ist
Verschiedene amerikanische Universitäten, darunter Vanderbilt, Michigan State, Northwestern und die University of Texas in Austin, haben jedoch beschlossen, diese Software nicht zu verwenden, weil sie befürchten, dass sie dazu führen könnte, dass Studenten fälschlicherweise des Betrugs beschuldigt werden bekannt von Bloomberg.
Turnitin gab zu, dass sein KI-Texterkennungstool nicht perfekt sei, gab jedoch an, dass die Falsch-Positiv-Rate bei weniger als einem Prozent liege.
Die Vanderbilt University sagte, selbst diese Zahl sei zu hoch und würde dazu führen, dass fälschlicherweise 750 Arbeiten pro Jahr markiert werden, wenn man bedenkt, dass sie im Jahr 75,000 2022 Arbeiten über das System von Turnitin laufen ließ.
„Darüber hinaus stellt sich die größere Frage, wie Turnitin KI-Schreiben erkennt und ob das überhaupt möglich ist. Bisher gibt Turnitin keine detaillierten Informationen darüber, wie es feststellt, ob ein Schriftstück KI-generiert ist. Sie haben höchstens gesagt, dass das Tool nach Mustern sucht, die beim KI-Schreiben üblich sind, aber sie erklären oder definieren nicht, was diese Muster sind“, Michael Coley, Berater für Lehrtechnologie der Institution erklärt letzten Monat.
„Es gibt echte Datenschutzbedenken, wenn es darum geht, Schülerdaten zu erfassen und in einen Detektor einzugeben, der von einem separaten Unternehmen mit unbekannten Datenschutz- und Datennutzungsrichtlinien verwaltet wird. Grundsätzlich ist die KI-Erkennung für die Technologie bereits eine sehr schwierig zu lösende Aufgabe (sofern dies überhaupt möglich ist), und dies wird nur noch schwieriger, je verbreiteter und fortschrittlicher KI-Tools werden. Auf dieser Grundlage glauben wir nicht, dass KI-Erkennungssoftware ein wirksames Werkzeug ist, das eingesetzt werden sollte.“
Annie Chechitelli, Chief Product Officer von Turnitin, sagte Das Register dass das AI-Flagging-Tool nicht zur automatischen Bestrafung von Schülern verwendet werden sollte und dass 98 Prozent seiner Kunden die Funktion nutzen. Allerdings wird es automatisch aktiviert, und Lehrer, die die Ergebnisse nicht sehen möchten, müssen sich ausdrücklich abmelden. Sie könnten die Funktion auch eingeschaltet lassen und ignorieren.
„Bei Turnitin ist es schon immer unsere Leitlinie, dass es keinen Ersatz dafür gibt, einen Schüler, seinen Schreibstil und seinen Bildungshintergrund zu kennen“, sagte Chechitelli.
„Die Technologie von Turnitin ist nicht dazu gedacht, die berufliche Diskretion der Pädagogen zu ersetzen. Berichte, die auf das Vorhandensein von KI-Schreiben hinweisen, wie die KI-Schreiberkennungsfunktion von Turnitin, stellen lediglich Datenpunkte und Ressourcen zur Verfügung, um ein Gespräch mit Schülern zu unterstützen, nicht jedoch die Feststellung von Fehlverhalten.
„Es ist ein Teil eines umfassenderen Puzzles, das viele Komponenten umfasst.“
Berichte, die auf das Vorhandensein von KI-Schreiben hinweisen, liefern lediglich Datenpunkte, die ein Gespräch mit Studierenden unterstützen
Auch wenn Software wie der KI-Detektor von Turnitin nicht dazu gedacht ist, Schüler automatisch zu bestrafen, haben die Ergebnisse dennoch großen Einfluss auf Lehrer.
Ein Dozent an der University Texas A&M-Commerce beispielsweise zog die Augenbrauen hoch, als er ChatGPT dazu nutzte entdecken ob die von ihm korrigierten Arbeiten ML-geschrieben waren oder nicht. Die Noten der Schüler wurden zurückgestellt, einige wurden vom Betrug freigesprochen, andere reichten ihre Arbeit erneut ein.
Es ist schwierig herauszufinden, ob ein Text von einem Menschen oder einer Maschine erstellt wurde. OpenAI nahm ab Sechs Monate nach seiner Veröffentlichung änderte das Unternehmen seinen AI-Output-Klassifikator aufgrund seiner geringen Genauigkeit und gab an, neue Methoden zur Erkennung von KI-generierten Inhalten zu entwickeln.
Um die Sache noch komplizierter zu machen, kann KI-Erkennungssoftware bei der Analyse von Texten, die von Menschen geschrieben und dann mit KI bearbeitet wurden, und umgekehrt, leicht außer Acht gelassen werden. Ein vorheriger Studie Eine von Informatikern der University of Maryland durchgeführte Studie ergab, dass die Chancen der besten Klassifikatoren, KI-Text zu erkennen, nicht besser sind als bei einem Münzwurf. ®
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
- PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
- PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
- PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
- Quelle: https://go.theregister.com/feed/www.theregister.com/2023/09/23/turnitin_ai_detection/
- :hast
- :Ist
- :nicht
- $UP
- 000
- 1
- 2022
- 7
- 75
- 98
- a
- Fähigkeit
- Über Uns
- Genauigkeit
- Angeklagte
- hinzugefügt
- zusätzlich
- zugelassen
- advanced
- Nach der
- AI
- bereits
- ebenfalls
- immer
- amerikanisch
- an
- Analyse
- und
- erscheint
- April
- SIND
- AS
- At
- Austin
- Im Prinzip so, wie Sie es von Google Maps kennen.
- durchschnittlich
- Hintergrund
- basierend
- BE
- werden
- war
- Sein
- Glauben
- BESTE
- Besser
- Bloomberg
- breiteres
- aber
- by
- berechnet
- CAN
- Chancen
- ChatGPT
- Betrug
- aus der Ferne überprüfen
- Chef
- Chief Product Officer
- behauptet
- CO
- Münze
- wie die
- gemeinsam
- Unternehmen
- Komponenten
- zusammengesetzt
- Computer
- Bedenken
- Berücksichtigung
- Berater
- Inhalt
- Gespräch
- könnte
- erstellt
- Kunden
- technische Daten
- Datenpunkte
- Datum
- entschieden
- definieren
- entworfen
- detailliert
- entdecken
- Entdeckung
- entschlossen
- schwer
- Diskretion
- do
- Unterlagen
- Don
- zwei
- jeder
- leicht
- Bildungs-
- Erzieher
- Effektiv
- freigegeben
- Eingabe
- Sogar
- Beispiel
- Erklären
- falsch
- Ängste
- Merkmal
- Abbildung
- Reichen Sie das
- Aussichten für
- gefunden
- grundlegend
- weiter
- erzeugt
- gibt
- sehr
- die Vermittlung von Kompetenzen,
- Schwerer
- Haben
- he
- GUTE
- Ultraschall
- aber
- HTTPS
- human
- Humans
- Identifizierung
- if
- in
- Dazu gehören
- Einschließlich
- beeinflussen
- Information
- Institution
- Lehr-
- in
- isn
- IT
- SEINE
- jpg
- Wissen
- Wissend
- größer
- Nachname
- führen
- Verlassen
- geführt
- links
- weniger
- Gefällt mir
- SIEHT AUS
- Maschine
- verwaltet
- viele
- Markierung
- Maryland
- Angelegenheiten
- gemeint
- Methoden
- Michael
- Michigan
- Monat
- Monat
- mehr
- vor allem warme
- viel
- Neu
- nicht
- of
- WOW!
- Angebote
- Offizier
- on
- EINEM
- einzige
- OpenAI
- or
- UNSERE
- übrig
- Papiere
- Muster
- Personen
- Prozent
- perfekt
- Stück
- Plato
- Datenintelligenz von Plato
- PlatoData
- Punkte
- Politik durchzulesen
- Arm
- positiv
- möglich
- vorhersagen
- Präsenz
- früher
- Datenschutz
- anpassen
- Produkt
- Professionell
- die
- setzen
- Rätsel
- Frage
- geschafft
- Bewerten
- echt
- freigegeben
- ersetzen
- Meldungen
- Downloads
- Folge
- Die Ergebnisse
- s
- Said
- Schule
- Wissenschaftler
- Ergebnis
- sehen
- scheint
- Satz
- getrennte
- sollte
- einfach
- SIX
- Halbjahr
- Software
- LÖSEN
- einige
- Bundesstaat
- Immer noch
- Schüler und Studenten
- Die Kursteilnehmer
- Stil
- eingereicht
- Support
- schaltet
- System
- Einnahme
- Aufgabe
- auch Lehrer
- Technologie
- Texas
- Text
- als
- zur Verbesserung der Gesundheitsgerechtigkeit
- Das
- ihr
- dann
- Dort.
- vom Nutzer definierten
- fehlen uns die Worte.
- diejenigen
- Durch
- zu
- sagte
- auch
- Werkzeug
- Werkzeuge
- Werfen
- Versuch
- Turned
- Universitäten
- Universität
- unbekannt
- us
- Anwendungsbereich
- -
- benutzt
- Verwendung von
- sehr
- Schraubstock
- wollen
- wurde
- Weg..
- we
- waren
- Was
- wann
- ob
- während
- WHO
- werden wir
- mit
- Arbeiten
- würde
- Schreiben
- geschrieben
- Jahr
- Zephyrnet