Nogle universiteter fravælger at bruge Turnitin-fremstillet software designet til at opdage, om tekst i essays og opgaver indsendt af studerende er skrevet af AI.
Turnitin, for dem, der ikke ved det, tilbyder lærere værktøjer til at identificere plagiat i folks skolearbejde og tilføjede i april muligheden for at tjekke for maskinskrevet prosa. Hvis den lades aktiveret, scanner den automatisk dokumenter og behandler teksten i bidder, analyserer hver sætning og tildeler en score på 0, hvis det ser ud til, at det er komponeret af mennesker og 1, hvis det ser ud til, at det blev genereret automatisk ved hjælp af AI. En gennemsnitlig score beregnes for filen for at forudsige, hvor meget tekst der ser ud til at være AI-skrevet.
Der er et større spørgsmål om, hvordan Turnitin registrerer AI-skrivning, og om det overhovedet er muligt
Forskellige amerikanske universiteter, herunder Vanderbilt, Michigan State, Northwestern og University of Texas i Austin har imidlertid besluttet ikke at bruge denne software på grund af frygt for, at det kan føre til, at studerende bliver falsk anklaget for snyd, som bemærkede af Bloomberg.
Turnitin indrømmede, at dets AI-tekstdetektionsværktøj ikke er perfekt, men hævdede, at dets falske positive rate er mindre end én procent.
Vanderbilt University sagde, at selv dette tal var for højt og ville resultere i en fejlagtig markering af 750 papirer om året, i betragtning af at det kørte 75,000 papirer gennem Turnitins system i 2022.
"Derudover er der et større spørgsmål om, hvordan Turnitin registrerer AI-skrivning, og om det overhovedet er muligt. Til dato giver Turnitin ingen detaljerede oplysninger om, hvordan den afgør, om et stykke skrift er AI-genereret. Det meste, de har sagt, er, at værktøjet leder efter mønstre, der er almindelige i AI-skrivning, men de forklarer eller definerer ikke, hvad disse mønstre er,” institutionens instruktionsteknologikonsulent Michael Coley forklarede sidste måned.
"Der er reelle bekymringer om privatlivets fred ved at tage elevdata og indtaste dem i en detektor, der administreres af et separat firma med ukendte privatlivs- og databrugspolitikker. Grundlæggende er AI-detektion allerede en meget vanskelig opgave for teknologi at løse (hvis det overhovedet er muligt), og dette vil kun blive sværere, efterhånden som AI-værktøjer bliver mere almindelige og mere avancerede. Baseret på dette mener vi ikke, at AI-detektionssoftware er et effektivt værktøj, der bør bruges."
Det fortalte Annie Chechitelli, Turnitins chief product officer Registret at AI-flagningsværktøjet ikke skal bruges til automatisk at straffe elever, og at 98 procent af dets kunder bruger funktionen. Når det er sagt, er det automatisk slået til, og lærere, der ikke ønsker at se dets resultater, skal udtrykkeligt fravælge det. De kunne også lade funktionen være tændt og ignorere den.
"Hos Turnitin er vores vejledning, og har altid været, at der ikke er nogen erstatning for at kende en studerende, deres skrivestil og deres uddannelsesmæssige baggrund," fortalte Chechitelli os.
“Turnitins teknologi er ikke beregnet til at erstatte underviseres professionelle skøn. Rapporter, der indikerer tilstedeværelsen af AI-skrivning, som Turnitins AI-skrivningsdetekteringsfunktion, giver blot datapunkter og ressourcer til at understøtte en samtale med elever, ikke afgørelser om uredelighed.
"Det er en brik i et bredere puslespil, der omfatter mange komponenter."
Rapporter, der indikerer tilstedeværelsen af AI-skrivning, giver blot datapunkter til at understøtte en samtale med elever
Selvom software som Turnitins AI-detektor ikke er beregnet til at blive brugt som en måde til automatisk at straffe elever, påvirker resultaterne stadig lærere i høj grad.
En underviser ved University Texas A&M-Commerce løftede for eksempel øjenbrynene, da han brugte ChatGPT i et forsøg på at opdage om papirer, han markerede, var ML-skrevne eller ej. Elevernes karakterer blev sat i bero, og nogle blev renset for snyd, mens nogle genindleverede deres arbejde.
Det er svært at finde ud af, om tekst er skabt af et menneske eller en maskine. OpenAI tog ned dens AI-outputklassifikator seks måneder efter, at den blev frigivet på grund af dens ringe nøjagtighed, og sagde, at den forsøgte at komme med nye metoder til at detektere AI-genereret indhold.
For yderligere at komplicere sagerne kan AI-detektionssoftware nemt blive smidt ud, når man analyserer tekst, der er skrevet af mennesker og derefter redigeret ved hjælp af AI og omvendt. En tidligere studere ledet af dataloger ved University of Maryland fandt ud af, at chancerne for, at de bedste klassifikatorer opdager AI-tekst, ikke er bedre end et møntkast. ®
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- PlatoHealth. Bioteknologiske og kliniske forsøgs intelligens. Adgang her.
- Kilde: https://go.theregister.com/feed/www.theregister.com/2023/09/23/turnitin_ai_detection/
- :har
- :er
- :ikke
- $OP
- 000
- 1
- 2022
- 7
- 75
- 98
- a
- evne
- Om
- nøjagtighed
- anklagede
- tilføjet
- Derudover
- indrømmede
- fremskreden
- Efter
- AI
- allerede
- også
- altid
- amerikansk
- an
- analysere
- ,
- kommer til syne
- april
- ER
- AS
- At
- austin
- automatisk
- gennemsnit
- baggrund
- baseret
- BE
- bliver
- været
- være
- Tro
- BEDSTE
- Bedre
- Bloomberg
- bredere
- men
- by
- beregnet
- CAN
- odds
- ChatGPT
- snyd
- kontrollere
- chef
- produktchef
- hævdede
- CO
- Coin
- Kom
- Fælles
- selskab
- komponenter
- sammensat
- computer
- Bekymringer
- Overvejer
- konsulent
- indhold
- Samtale
- kunne
- oprettet
- Kunder
- data
- datapunkter
- Dato
- besluttede
- definere
- konstrueret
- detaljeret
- opdage
- Detektion
- bestemmer
- svært
- diskretion
- do
- dokumenter
- Don
- grund
- hver
- nemt
- uddannelsesmæssige
- pædagoger
- Effektiv
- aktiveret
- indtastning
- Endog
- eksempel
- Forklar
- falsk
- frygt
- Feature
- Figur
- File (Felt)
- Til
- fundet
- fundamentalt
- yderligere
- genereret
- giver
- stærkt
- vejledning
- hårdere
- Have
- he
- Høj
- hold
- Hvordan
- Men
- HTTPS
- menneskelig
- Mennesker
- identificere
- if
- in
- omfatter
- Herunder
- indflydelse
- oplysninger
- Institution
- instruktions-
- ind
- isn
- IT
- ITS
- jpg
- Kend
- Kendskab til
- større
- Efternavn
- føre
- Forlade
- Led
- til venstre
- mindre
- ligesom
- UDSEENDE
- maskine
- lykkedes
- mange
- mærkning
- Maryland
- Matters
- betød
- metoder
- Michael
- Michigan
- Måned
- måned
- mere
- mest
- meget
- Ny
- ingen
- of
- off
- Tilbud
- Officer
- on
- ONE
- kun
- OpenAI
- or
- vores
- ud
- i løbet af
- papirer
- mønstre
- Mennesker
- procent
- perfekt
- stykke
- plato
- Platon Data Intelligence
- PlatoData
- punkter
- politikker
- fattige
- positiv
- mulig
- forudsige
- tilstedeværelse
- tidligere
- Beskyttelse af personlige oplysninger
- Processer
- Produkt
- professionel
- give
- sætte
- puslespil
- spørgsmål
- hævet
- Sats
- ægte
- frigivet
- erstatte
- Rapporter
- Ressourcer
- resultere
- Resultater
- s
- Said
- Skole
- forskere
- score
- se
- synes
- dømme
- adskille
- bør
- ganske enkelt
- SIX
- Seks måneder
- Software
- SOLVE
- nogle
- Tilstand
- Stadig
- studerende
- Studerende
- stil
- indsendt
- support
- skiftede
- systemet
- tager
- Opgaver
- lærere
- Teknologier
- Texas
- tekst
- end
- at
- deres
- derefter
- Der.
- de
- denne
- dem
- Gennem
- til
- fortalt
- også
- værktøj
- værktøjer
- Smid væk
- forsøger
- Drejede
- Universiteter
- universitet
- ukendt
- us
- Brug
- brug
- anvendte
- ved brug af
- meget
- vice
- ønsker
- var
- Vej..
- we
- var
- Hvad
- hvornår
- hvorvidt
- mens
- WHO
- vilje
- med
- Arbejde
- ville
- skrivning
- skriftlig
- år
- zephyrnet