Noen universiteter velger bort å bruke Turnitin-laget programvare utviklet for å oppdage om tekst i essays og oppgaver levert av studenter er skrevet av AI.
Turnitin, for de som ikke vet, tilbyr verktøy til lærere for å identifisere plagiat i folks skolearbeid, og la i april til muligheten til å se etter maskinskrevet prosa. Hvis den er aktivert, skanner den automatisk dokumenter og behandler teksten i biter, analyserer hver setning og tildeler en poengsum på 0 hvis det virker som om det er komponert av mennesker og 1 hvis det ser ut til at det ble automatisk generert ved hjelp av AI. En gjennomsnittlig poengsum beregnes for filen for å forutsi hvor mye tekst som ser ut til å være AI-skrevet.
Det er et større spørsmål om hvordan Turnitin oppdager AI-skriving og om det i det hele tatt er mulig
Ulike amerikanske universiteter, inkludert Vanderbilt, Michigan State, Northwestern og University of Texas i Austin har imidlertid besluttet å ikke bruke denne programvaren på grunn av frykt for at det kan føre til at studenter blir falskt anklaget for juks, som bemerket av Bloomberg.
Turnitin innrømmet at AI-tekstdeteksjonsverktøyet ikke er perfekt, men hevdet at dets falske positive rate er mindre enn én prosent.
Vanderbilt University sa at selv dette tallet var for høyt, og ville føre til feilaktig flagging av 750 papirer i året, med tanke på at det kjørte 75,000 2022 papirer gjennom Turnitins system i XNUMX.
"I tillegg er det et større spørsmål om hvordan Turnitin oppdager AI-skriving og om det i det hele tatt er mulig. Til dags dato gir Turnitin ingen detaljert informasjon om hvordan den avgjør om et skrift er AI-generert. Det meste de har sagt er at verktøyet ser etter mønstre som er vanlige i AI-skriving, men de forklarer eller definerer ikke hva disse mønstrene er,» institusjonens instruksjonsteknologikonsulent Michael Coley forklarte forrige måned.
"Det er reelle personvernbekymringer ved å ta studentdata og legge dem inn i en detektor som administreres av et eget selskap med ukjente retningslinjer for personvern og databruk. I utgangspunktet er AI-deteksjon allerede en svært vanskelig oppgave for teknologi å løse (hvis det i det hele tatt er mulig), og dette vil bare bli vanskeligere ettersom AI-verktøy blir mer vanlig og mer avansert. Basert på dette, tror vi ikke at AI-deteksjonsprogramvare er et effektivt verktøy som bør brukes."
Annie Chechitelli, Turnitins sjef for produkt, fortalte Registeret at AI-flaggingsverktøyet ikke skal brukes til å automatisk straffe studenter, og at 98 prosent av kundene bruker funksjonen. Når det er sagt, slås den på automatisk, og lærere som ikke vil se poengsummen, må eksplisitt velge bort. De kan også la funksjonen være slått på og ignorere den.
"På Turnitin er veiledningen vår, og har alltid vært, at det ikke er noen erstatning for å kjenne en student, deres skrivestil og deres utdanningsbakgrunn," fortalte Chechitelli oss.
«Turnitins teknologi er ikke ment å erstatte lærernes faglige skjønn. Rapporter som indikerer tilstedeværelsen av AI-skriving, som Turnitins AI-skrivedeteksjonsfunksjon, gir ganske enkelt datapunkter og ressurser for å støtte en samtale med studenter, ikke avgjørelser om feil oppførsel.
"Det er en del av et bredere puslespill som inkluderer mange komponenter."
Rapporter som indikerer tilstedeværelsen av AI-skriving gir ganske enkelt datapunkter for å støtte en samtale med studenter
Selv om programvare som Turnitins AI-detektor ikke er ment å brukes som en måte å automatisk straffe elever på, påvirker resultatene fortsatt lærerne i stor grad.
En foreleser ved University Texas A&M-Commerce løftet for eksempel øyenbrynene da han brukte ChatGPT i et forsøk på å oppdage om papirer han markerte var ML-skrevne eller ikke. Elevenes karakterer ble satt på vent, og noen ble renset for juks mens noen leverte inn arbeidet på nytt.
Det er vanskelig å finne ut om tekst ble laget av et menneske eller en maskin. OpenAI tok ned AI-utgangsklassifikatoren seks måneder etter at den ble utgitt på grunn av dens dårlige nøyaktighet, og sa at den prøvde å komme opp med nye metoder for å oppdage AI-generert innhold.
For å komplisere saken ytterligere, kan AI-deteksjonsprogramvare lett bli kastet av når man analyserer tekst som er skrevet av mennesker og deretter redigert ved hjelp av AI og omvendt. En tidligere studere ledet av informatikere ved University of Maryland fant ut at sjansene for at de beste klassifikatorene oppdager AI-tekst ikke er bedre enn et myntkast. ®
- SEO-drevet innhold og PR-distribusjon. Bli forsterket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk deg selv. Tilgang her.
- PlatoAiStream. Web3 Intelligence. Kunnskap forsterket. Tilgang her.
- PlatoESG. Karbon, CleanTech, Energi, Miljø, Solenergi, Avfallshåndtering. Tilgang her.
- PlatoHelse. Bioteknologisk og klinisk etterretning. Tilgang her.
- kilde: https://go.theregister.com/feed/www.theregister.com/2023/09/23/turnitin_ai_detection/
- : har
- :er
- :ikke
- $OPP
- 000
- 1
- 2022
- 7
- 75
- 98
- a
- evne
- Om oss
- nøyaktighet
- tiltalte
- la til
- I tillegg
- innrømmet
- avansert
- Etter
- AI
- allerede
- også
- alltid
- amerikansk
- an
- analyserer
- og
- vises
- April
- ER
- AS
- At
- austin
- automatisk
- gjennomsnittlig
- bakgrunn
- basert
- BE
- bli
- vært
- være
- tro
- BEST
- Bedre
- Bloomberg
- bredere
- men
- by
- beregnet
- CAN
- sjansene
- ChatGPT
- juks
- sjekk
- sjef
- produktsjef
- hevdet
- CO
- Coin
- Kom
- Felles
- Selskapet
- komponenter
- komponert
- datamaskin
- bekymringer
- vurderer
- konsulent
- innhold
- Samtale
- kunne
- opprettet
- Kunder
- dato
- datapunkter
- Dato
- besluttet
- definere
- designet
- detaljert
- oppdage
- Gjenkjenning
- bestemmes
- vanskelig
- skjønn
- do
- dokumenter
- Don
- to
- hver enkelt
- lett
- pedagogisk
- lærere
- Effektiv
- aktivert
- går inn
- Selv
- eksempel
- Forklar
- falsk
- frykt
- Trekk
- Figur
- filet
- Til
- funnet
- fundamentalt
- videre
- generert
- gir
- sterkt
- veiledning
- hardere
- Ha
- he
- Høy
- hold
- Hvordan
- Men
- HTTPS
- menneskelig
- Mennesker
- identifisering
- if
- in
- inkluderer
- Inkludert
- påvirke
- informasjon
- Institusjon
- instruksjons
- inn
- er n
- IT
- DET ER
- jpg
- Vet
- Knowing
- større
- Siste
- føre
- Permisjon
- Led
- venstre
- mindre
- i likhet med
- UTSEENDE
- maskin
- fikk til
- mange
- merking
- Maryland
- Saker
- ment
- metoder
- Michael
- Michigan
- Måned
- måneder
- mer
- mest
- mye
- Ny
- Nei.
- of
- off
- Tilbud
- Offiser
- on
- ONE
- bare
- OpenAI
- or
- vår
- ut
- enn
- papirer
- mønstre
- Ansatte
- prosent
- perfekt
- brikke
- plato
- Platon Data Intelligence
- PlatonData
- poeng
- Politikk
- dårlig
- positiv
- mulig
- forutsi
- tilstedeværelse
- forrige
- privatliv
- Prosesser
- Produkt
- profesjonell
- gi
- sette
- puslespillet
- spørsmål
- hevet
- Sats
- ekte
- utgitt
- erstatte
- Rapporter
- Ressurser
- resultere
- Resultater
- s
- Sa
- Skole
- forskere
- Resultat
- se
- synes
- dømme
- separat
- bør
- ganske enkelt
- SIX
- Seks måneder
- Software
- LØSE
- noen
- Tilstand
- Still
- Student
- Studenter
- stil
- innsendt
- støtte
- byttet om
- system
- ta
- Oppgave
- lærere
- Teknologi
- texas
- tekst
- enn
- Det
- De
- deres
- deretter
- Der.
- de
- denne
- De
- Gjennom
- til
- fortalte
- også
- verktøy
- verktøy
- Toss
- prøver
- snudde
- universiteter
- universitet
- ukjent
- us
- bruk
- bruke
- brukt
- ved hjelp av
- veldig
- vice
- ønsker
- var
- Vei..
- we
- var
- Hva
- når
- om
- mens
- HVEM
- vil
- med
- Arbeid
- ville
- skriving
- skrevet
- år
- zephyrnet