Universiteten erbjöd programvara för att sniffa upp ChatGPT-skrivna uppsatser

Leverans Turnitin, mest känd för sin anti-plagiatmjukvara som används av tiotusentals universitet och skolor runt om i världen, bygger ett verktyg för att upptäcka text som genereras av AI.

Stora språkmodeller har fått draghjälp sedan den kommersiella lanseringen av OpenAI:s GPT-3 2020. Nu flera företag har byggt sina egna rivaliserande maskininlärningssystem, vilket kickstartat en ny våg av startups som utvecklar produkter som drivs av generativ AI. Dessa modeller fungerar som chatbots för allmänna ändamål. Användare skriver instruktioner och de kommer att svara med stycken av sammanhängande, övertygande text.

Studenter vänder sig alltmer till AI-verktyg för att slutföra uppgifter, medan lärare bara börjar överväga sin inverkan och roll i utbildningen. Åsikterna är delade. Vissa tror att tekniken kan finslipa skrivfärdigheter, medan andra ser det som fusk. Skolor i Kalifornien, New York, Virginia och Alabama har blockerat elever från att komma åt den senaste ChatGPT-modellen på offentliga nätverk, enligt till Forbes.

Utbildningsavdelningar är inte helt säkra på vilken akademisk policy som bör införas för att reglera användningen av AI-textgeneratorer. Dessutom skulle alla regler vara svåra att tillämpa ändå med tanke på att det för närvarande inte finns något effektivt sätt att upptäcka maskinskrivet arbete. Gå in i Turnitin. Det amerikanska företaget grundades 1998 och säljer programvara som beräknar hur lik en viss uppsats är jämfört med innehåll från en stor databas med tidningar, webbsidor och böcker för att leta efter tecken på plagiat.

Turnitin förvärvades av mediejätten Advanced Publications för 1.75 miljarder dollar 2019, och dess mjukvara har blivit Begagnade av 15,000 140 institutioner i XNUMX länder. Med över två decenniers erfarenhet har Turnitin en bred räckvidd inom utbildning och har samlat på sig ett enormt arkiv av studentskrivande, vilket gör det till det idealiska företaget att utveckla en akademisk AI-textdetektor.

Turnitin har i tysthet byggt mjukvaran i flera år ända sedan lanseringen av GPT-3, berättade Annie Chechitelli, produktchef. Registret. Brådskan att ge lärare möjligheten att identifiera text skriven av människor och datorer har blivit mer intensiv i och med lanseringen av dess mer kraftfulla efterträdare, ChatGPT. När AI fortsätter att utvecklas måste universitet och skolor kunna skydda den akademiska integriteten nu mer än någonsin.

"Hastighet spelar roll. Vi hör från lärare, bara ge oss något”, sa Chechitelli. Turnitin hoppas kunna lansera sin programvara under första halvåret i år. "Det kommer att vara ganska grundläggande upptäckt till en början, och sedan kommer vi att kasta ut efterföljande snabbversioner som kommer att skapa ett arbetsflöde som är mer handlingskraftigt för lärare." Planen är att göra prototypen gratis för sina befintliga kunder när företaget samlar in data och användarfeedback.

”I början vill vi egentligen bara hjälpa branschen och hjälpa pedagoger att få benen under sig och känna sig säkrare. Och för att få så mycket användning som vi kan tidigt; det är viktigt för att göra ett framgångsrikt verktyg. Senare kommer vi att bestämma hur vi ska producera det, sa hon.

Mönster i AI-skrivning

Även om text som genereras av AI är övertygande, finns det tydliga tecken som avslöjar en algoritms handarbete. Skriften är vanligtvis intetsägande och original; verktyg som ChatGPT återuppstår befintliga idéer och synpunkter och har inte en distinkt röst. Människor kan ibland upptäcka AI-genererad text, men maskiner är mycket bättre på jobbet.

Turnitins VP för AI, Eric Wang, sa att det finns uppenbara mönster i AI-skrivning som datorer kan upptäcka. "Även om det känns mänskligt för oss, [maskiner skriver med hjälp av] en fundamentalt annorlunda mekanism. Det är att välja det mest sannolika ordet på den mest sannolika platsen, och det är ett helt annat sätt att konstruera språket [jämfört med dig och jag,» sa han Registret.

”Vi läser genom att hoppa fram och tillbaka med ögonen utan att ens veta om det, eller fladdra fram och tillbaka mellan ord, mellan stycken och ibland mellan sidor. Vi bläddrar fram och tillbaka. Vi tenderar också att skriva med ett framtida sinnestillstånd. Jag kanske skriver, och jag tänker på något, ett stycke, en mening, ett kapitel; slutet av uppsatsen är i mitt sinne kopplat till meningen jag skriver även om meningarna mellan nu och då ännu inte har skrivits.”

ChatGPT har dock inte den här typen av flexibilitet och kan bara generera nya ord baserat på tidigare meningar, förklarade han. Turnitins detektor fungerar genom att förutsäga vilka ord AI är mer sannolikt att generera i ett givet textutdrag. "Det är väldigt intetsägande statistiskt sett. Människor tenderar inte att konsekvent använda ett ord med hög sannolikhet på platser med hög sannolikhet, men GPT-3 gör det så att vår detektor verkligen pekar på det, säger han.

Wang sa att Turnitins detektor är baserad på samma arkitektur som GPT-3 och beskrev den som en miniatyrversion av modellen. "Vi är på många sätt skulle jag [säga] bekämpa eld med eld. Det finns en detektorkomponent kopplad till den istället för en genereringskomponent. Så vad den gör är att den läser språk på exakt samma sätt som GPT-3 läser språk, men istället för att spotta ut mer språk, ger det oss en förutsägelse om vi tycker att den här passagen ser ut som [den är från] GPT-3."

Företaget bestämmer fortfarande hur man bäst ska presentera sin detektors resultat för lärare som använder verktyget. "Det är en svår utmaning. Hur berättar man för en instruktör på ett litet utrymme vad de vill se?” sa Chechitelli. De kanske vill se en procentandel som visar hur mycket av en uppsats som verkar vara AI-skriven, eller så kanske de vill ha konfidensnivåer som visar om detektorns förutsägelsekonfidens är låg, medium eller hög för att bedöma noggrannheten.

Mjukvaran är inte utformad med målet att få ChatGPT förbjudet i den akademiska världen. Även om det kan avskräcka elever från att använda dessa typer av verktyg, tror Turnitin att dess detektor istället kommer att göra det möjligt för lärare och elever att lita på varandra och tekniken. 

"Jag tror att det finns en stor förändring i hur vi skapar innehåll och hur vi arbetar", sa Wang. "Visst gäller det hur vi lär oss. Vi måste tänka långsiktigt på hur vi undervisar. Hur lär vi oss i en värld där denna teknik finns? Jag tror att det inte går att stoppa andan tillbaka i flaskan. Alla verktyg som ger synlighet åt användningen av dessa tekniker kommer att vara värdefulla eftersom de är de grundläggande byggstenarna för förtroende och transparens.” ®

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• Platoblockchain. Web3 Metaverse Intelligence. Kunskap förstärkt. Tillgång här.
• Källa: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/