Universiteter tilbød software til at opsnuse ChatGPT-skrevne essays

Feature Turnitin, bedst kendt for sin anti-plagiatsoftware, der bruges af titusindvis af universiteter og skoler rundt om i verden, bygger et værktøj til at opdage tekst genereret af AI.

Store sprogmodeller har vundet indpas siden den kommercielle udgivelse af OpenAI's GPT-3 i 2020. Nu flere virksomheder har bygget deres egne rivaliserende maskinlæringssystemer og kickstartet en ny bølge af startups, der udvikler produkter drevet af generativ AI. Disse modeller fungerer som chatbots til generelle formål. Brugere skriver instruktioner, og de vil svare med passager af sammenhængende, overbevisende tekst.

Studerende bruger i stigende grad AI-værktøjer for at udføre opgaver, mens lærere kun er begyndt at overveje deres indflydelse og rolle i undervisningen. Meningerne er delte. Nogle mener, at teknologien kan finpudse skrivefærdigheder, mens andre ser det som snyd. Skoler i Californien, New York, Virginia og Alabama har blokeret elever fra at få adgang til den seneste ChatGPT-model på offentlige netværk, ifølge til Forbes.

Uddannelsesafdelinger er ikke helt sikre på, hvilke akademiske politikker der bør indføres for at regulere brugen af ​​AI-tekstgeneratorer. Desuden ville alle regler alligevel være vanskelige at håndhæve i betragtning af, at der i øjeblikket ikke er nogen effektiv måde at opdage maskinskrevet arbejde på. Indtast Turnitin. Grundlagt i 1998 sælger det amerikanske firma software, der beregner, hvor ens et bestemt essay er sammenlignet med indhold fra en stor database med papirer, websider og bøger for at lede efter tegn på plagiat.

Turnitin blev opkøbt af mediegiganten Advanced Publications for 1.75 milliarder dollars i 2019, og dets software er blevet anvendte af 15,000 institutioner i 140 lande. Med over to årtiers erfaring har Turnitin en bred rækkevidde inden for uddannelse og har samlet et enormt lager af studerendes skrivning, hvilket gør det til det ideelle firma til at udvikle en akademisk AI-tekstdetektor.

Turnitin har stille og roligt bygget softwaren i årevis lige siden udgivelsen af ​​GPT-3, fortalte Annie Chechitelli, chief product officer, Registret. Hastværket med at give undervisere mulighed for at identificere tekst skrevet af mennesker og computere er blevet mere intens med lanceringen af ​​dens stærkere efterfølger, ChatGPT. Mens kunstig intelligens fortsætter med at udvikle sig, skal universiteter og skoler være i stand til at beskytte den akademiske integritet nu mere end nogensinde.

"Hastighed betyder noget. Vi hører fra lærere, bare give os noget,” sagde Chechitelli. Turnitin håber at lancere sin software i første halvdel af dette år. "Det bliver ret grundlæggende registrering i starten, og så smider vi efterfølgende hurtige udgivelser ud, der vil skabe en arbejdsgang, der er mere handlingsdygtig for lærere." Planen er at gøre prototypen gratis for sine eksisterende kunder, efterhånden som virksomheden indsamler data og brugerfeedback.

”I starten vil vi egentlig bare hjælpe branchen og hjælpe pædagoger med at få benene under sig og føle sig mere selvsikre. Og for at få så meget brug, som vi kan tidligt; det er vigtigt for at lave et vellykket værktøj. Senere vil vi bestemme, hvordan vi skal producere det,” sagde hun.

Mønstre i AI-skrivning

Selvom tekst genereret af AI er overbevisende, er der afslørende tegn, der afslører en algoritmes håndværk. Skriften er normalt intetsigende og uoriginal; værktøjer som ChatGPT sætter gang i eksisterende ideer og synspunkter og har ikke en tydelig stemme. Mennesker kan nogle gange få øje på AI-genereret tekst, men maskiner er meget bedre til jobbet.

Turnitins VP for AI, Eric Wang, sagde, at der er åbenlyse mønstre i AI-skrivning, som computere kan opdage. "Selvom det føles menneskeligt for os, skriver [maskiner ved hjælp af] en fundamentalt anderledes mekanisme. Det er at vælge det mest sandsynlige ord på det mest sandsynlige sted, og det er en meget anderledes måde at konstruere sprog på [sammenlignet] med dig og jeg, sagde han. Registret.

"Vi læser ved at springe frem og tilbage med øjnene uden selv at vide det, eller vi bladre frem og tilbage mellem ord, mellem afsnit og nogle gange mellem sider. Vi bladrer frem og tilbage. Vi har også en tendens til at skrive med en fremtidig sindstilstand. Jeg skriver måske, og jeg tænker på noget, et afsnit, en sætning, et kapitel; slutningen af ​​essayet er i mit sind knyttet til den sætning, jeg skriver, selvom sætningerne mellem nu og da endnu ikke er skrevet."

ChatGPT har dog ikke denne form for fleksibilitet og kan kun generere nye ord baseret på tidligere sætninger, forklarede han. Turnitins detektor virker ved at forudsige, hvilke ord AI er mere tilbøjelige til at generere i et givet tekststykke. "Det er meget intetsigende statistisk. Mennesker har ikke en tendens til konsekvent at bruge et ord med høj sandsynlighed på steder med høj sandsynlighed, men GPT-3 gør det, så vores detektor er virkelig opmærksom på det,” sagde han.

Wang sagde, at Turnitins detektor er baseret på den samme arkitektur som GPT-3 og beskrev den som en miniatureversion af modellen. "Vi er på mange måder [vil jeg sige] bekæmper ild med ild. Der er en detektorkomponent knyttet til den i stedet for en genereringskomponent. Så det, det gør, er, at det læser sprog på nøjagtig samme måde, som GPT-3 læser sprog, men i stedet for at spytte mere sprog ud, giver det os en forudsigelse af, om vi synes, denne passage ligner [den er fra] GPT-3."

Virksomheden beslutter stadig, hvordan dens detektors resultater bedst præsenteres for lærere, der bruger værktøjet. ”Det er en svær udfordring. Hvordan fortæller man en instruktør på en lille plads, hvad de vil se?" sagde Chechitelli. De ønsker måske at se en procentdel, der viser, hvor meget af et essay, der ser ud til at være AI-skrevet, eller de vil måske have konfidensniveauer, der viser, om detektorens forudsigelsestillid er lav, medium eller høj for at vurdere nøjagtigheden.

Softwaren er ikke designet med det formål at få ChatGPT forbudt i den akademiske verden. Selvom det kunne afholde eleverne fra at bruge disse typer værktøjer, mener Turnitin, at dets detektor i stedet vil gøre det muligt for lærere og elever at stole på hinanden og teknologien. 

"Jeg tror, ​​der er et stort skift i den måde, vi skaber indhold på, og den måde, vi arbejder på," sagde Wang. "Det gælder selvfølgelig også den måde, vi lærer på. Vi skal tænke langsigtet over, hvordan vi underviser. Hvordan lærer vi i en verden, hvor denne teknologi findes? Jeg tror, ​​der er ingen mulighed for at putte ånden tilbage i flasken. Ethvert værktøj, der giver synlighed til brugen af ​​disse teknologier, vil være værdifuldt, fordi det er de grundlæggende byggesten til tillid og gennemsigtighed." ®

• SEO Powered Content & PR Distribution. Bliv forstærket i dag.
• Platoblokkæde. Web3 Metaverse Intelligence. Viden forstærket. Adgang her.
• Kilde: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/