Vissa universitet väljer bort att använda Turnitin-tillverkad programvara utformad för att upptäcka om text i uppsatser och uppgifter som lämnats in av studenter är skriven av AI.
Turnitin, för de som inte vet, erbjuder verktyg till lärare för att identifiera plagiat i människors skolarbete och lade i april till möjligheten att leta efter maskinskriven prosa. Om den lämnas aktiverad skannar den automatiskt dokument och bearbetar texten i bitar, analyserar varje mening och tilldelar poängen 0 om det verkar som om det komponerats av människor och 1 om det verkar som om det genererades automatiskt med AI. En genomsnittlig poäng beräknas för filen för att förutsäga hur mycket text som verkar vara AI-skriven.
Det är en större fråga om hur Turnitin upptäcker AI-skrivning och om det ens är möjligt
Olika amerikanska universitet, inklusive Vanderbilt, Michigan State, Northwestern och University of Texas i Austin har beslutat att inte använda denna programvara på grund av rädsla för att det skulle kunna leda till att studenter felaktigt anklagas för fusk, eftersom noterade av Bloomberg.
Turnitin medgav att dess AI-textdetekteringsverktyg inte är perfekt, men hävdade att dess falska positiva frekvens är mindre än en procent.
Vanderbilt University sa att till och med den siffran var för hög och skulle leda till att 750 tidningar av misstag flaggades per år, med tanke på att det körde 75,000 2022 tidningar genom Turnitins system XNUMX.
"Dessutom är det en större fråga om hur Turnitin upptäcker AI-skrivning och om det ens är möjligt. Hittills ger Turnitin ingen detaljerad information om hur den avgör om en text är AI-genererad. Det mest de har sagt är att verktyget letar efter mönster som är vanliga i AI-skrivande, men de förklarar eller definierar inte vad dessa mönster är, säger institutionens instruktionsteknikkonsult Michael Coley förklarade förra månaden.
"Det finns verkliga integritetsproblem när det gäller att ta studentdata och lägga in den i en detektor som hanteras av ett separat företag med okänd sekretess- och dataanvändningspolicy. I grunden är AI-detektion redan en mycket svår uppgift för teknik att lösa (om det ens är möjligt) och detta kommer bara att bli svårare när AI-verktyg blir vanligare och mer avancerade. Baserat på detta tror vi inte att programvara för AI-detektion är ett effektivt verktyg som bör användas.”
Annie Chechitelli, Turnitins produktchef, berättade Registret att AI-flaggningsverktyget inte ska användas för att automatiskt straffa elever, och att 98 procent av dess kunder använder funktionen. Som sagt, det aktiveras automatiskt och lärare som inte vill se poängen måste uttryckligen välja bort det. De kan också lämna funktionen påslagen och ignorera den.
"På Turnitin är vår vägledning, och har alltid varit, att det inte finns någon ersättning för att känna en student, deras skrivstil och deras utbildningsbakgrund," berättade Chechitelli.
”Turnitins teknologi är inte avsedd att ersätta lärares professionella utrymme för skönsmässig bedömning. Rapporter som indikerar närvaron av AI-skrivning, som Turnitins AI-skrivdetekteringsfunktion, tillhandahåller helt enkelt datapunkter och resurser för att stödja en konversation med elever, inte beslut om oredlighet.
"Det är en del av ett bredare pussel som innehåller många komponenter."
Rapporter som indikerar närvaron av AI-skrivning tillhandahåller helt enkelt datapunkter för att stödja en konversation med elever
Även om programvara som Turnitins AI-detektor inte är avsedd att användas som ett sätt att automatiskt straffa elever, påverkar resultaten fortfarande lärare i hög grad.
En föreläsare vid University Texas A&M-Commerce höjde till exempel på ögonbrynen när han använde ChatGPT i ett försök att upptäcka huruvida papper han markerat var ML-skrivna eller inte. Elevernas betyg ställdes på is, och några friades från fusk medan några lämnade in sina arbeten igen.
Det är svårt att ta reda på om text skapades av en människa eller maskin. OpenAI tog ner dess AI-utgångsklassificerare sex månader efter att den släpptes på grund av dess dåliga noggrannhet, och sa att den försökte komma på nya metoder för att upptäcka AI-genererat innehåll.
För att ytterligare komplicera saken kan AI-detektionsprogram lätt kastas bort när man analyserar text som skrivits av människor och sedan redigerats med AI och vice versa. En tidigare studera ledd av datavetare vid University of Maryland fann att chanserna för de bästa klassificerarna att upptäcka AI-text inte är bättre än en myntkastning. ®
- SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
- PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
- PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
- Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
- PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
- Källa: https://go.theregister.com/feed/www.theregister.com/2023/09/23/turnitin_ai_detection/
- : har
- :är
- :inte
- $UPP
- 000
- 1
- 2022
- 7
- 75
- 98
- a
- förmåga
- Om Oss
- noggrannhet
- den anklagade
- lagt till
- Dessutom
- medgav
- avancerat
- Efter
- AI
- redan
- också
- alltid
- amerikan
- an
- analys
- och
- visas
- April
- ÄR
- AS
- At
- austin
- automatiskt
- genomsnitt
- bakgrund
- baserat
- BE
- blir
- varit
- Där vi får lov att vara utan att konstant prestera,
- tro
- BÄST
- Bättre
- Direkt
- bredare
- men
- by
- beräknat
- KAN
- chanser
- ChatGPT
- fusk
- ta
- chef
- produktchef
- hävdade
- CO
- Coin
- komma
- Gemensam
- företag
- komponenter
- sammansatt
- dator
- oro
- med tanke på
- konsult
- innehåll
- Konversation
- kunde
- skapas
- Kunder
- datum
- datapunkter
- Datum
- beslutade
- definiera
- utformade
- detaljerad
- upptäcka
- Detektering
- bestämd
- svårt
- diskretion
- do
- dokument
- donation
- grund
- varje
- lätt
- pedagogiska
- lärare
- Effektiv
- aktiverad
- in
- Även
- exempel
- Förklara
- falsk
- oro
- Leverans
- Figur
- Fil
- För
- hittade
- fundamentalt
- ytterligare
- genereras
- ger
- kraftigt
- vägleda
- hårdare
- Har
- he
- Hög
- hålla
- Hur ser din drömresa ut
- Men
- HTTPS
- humant
- Människa
- identifiera
- if
- in
- innefattar
- Inklusive
- påverka
- informationen
- Institution
- instruktions-
- in
- isn
- IT
- DESS
- jpg
- Vet
- Menande
- större
- Efternamn
- leda
- Lämna
- Led
- vänster
- mindre
- tycka om
- UTSEENDE
- Maskinen
- förvaltade
- många
- märkning
- Maryland
- Betyder Något
- menas
- metoder
- Michael
- Michigan
- Månad
- månader
- mer
- mest
- mycket
- Nya
- Nej
- of
- sänkt
- Erbjudanden
- Officer
- on
- ONE
- endast
- OpenAI
- or
- vår
- ut
- över
- papper
- mönster
- Personer
- procent
- perfekt
- bit
- plato
- Platon Data Intelligence
- PlatonData
- poäng
- Strategier
- dålig
- positiv
- möjlig
- förutse
- Närvaron
- föregående
- privatpolicy
- processer
- Produkt
- professionell
- ge
- sätta
- pussel
- fråga
- insamlat
- Betygsätta
- verklig
- frigörs
- ersätta
- Rapport
- Resurser
- resultera
- Resultat
- s
- Nämnda
- Skola
- vetenskapsmän
- göra
- se
- verkar
- mening
- separat
- skall
- helt enkelt
- SEX
- Sex månader
- Mjukvara
- LÖSA
- några
- Ange
- Fortfarande
- student
- Studenter
- stil
- lämnats
- stödja
- bytte
- system
- tar
- uppgift
- lärare
- Teknologi
- texas
- text
- än
- den där
- Smakämnen
- deras
- sedan
- Där.
- de
- detta
- de
- Genom
- till
- berättade
- alltför
- verktyg
- verktyg
- Kasta
- försöker
- vände
- Universitet
- universitet
- okänd
- us
- Användning
- användning
- Begagnade
- med hjälp av
- mycket
- vice
- vill
- var
- Sätt..
- we
- były
- Vad
- när
- om
- medan
- VEM
- kommer
- med
- Arbete
- skulle
- skrivning
- skriven
- år
- zephyrnet