Universiteiten boden software aan om door ChatGPT geschreven essays op te sporen

Kenmerk Turnitin, vooral bekend om zijn antiplagiaatsoftware die door tienduizenden universiteiten en scholen over de hele wereld wordt gebruikt, bouwt een tool om door AI gegenereerde tekst te detecteren.

Grote taalmodellen hebben aan populariteit gewonnen sinds de commerciële release van OpenAI's GPT-3 in 2020. Nu meerdere bedrijven hebben hun eigen rivaliserende machine learning-systemen gebouwd, waarmee ze een nieuwe golf van startups op gang hebben gebracht die producten ontwikkelen die worden aangedreven door generatieve AI. Deze modellen werken als algemene chatbots. Gebruikers typen instructies en ze zullen reageren met passages van samenhangende, overtuigende tekst.

Studenten wenden zich steeds vaker tot AI-tools om opdrachten te voltooien, terwijl docenten pas beginnen na te denken over hun impact en rol in het onderwijs. Meningen zijn verdeeld. Sommigen geloven dat de technologie de schrijfvaardigheid kan verbeteren, terwijl anderen het zien als vals spelen. Scholen in Californië, New York, Virginia en Alabama hebben de toegang van leerlingen tot het nieuwste ChatGPT-model op openbare netwerken geblokkeerd. volgens naar Forbes.

Onderwijsafdelingen weten niet helemaal zeker welk academisch beleid moet worden ingevoerd om het gebruik van AI-tekstgeneratoren te reguleren. Bovendien zouden alle regels hoe dan ook moeilijk te handhaven zijn, aangezien er momenteel geen effectieve manier is om machinaal geschreven werk te detecteren. Voer Turnitin in. Het Amerikaanse bedrijf, opgericht in 1998, verkoopt software die berekent hoe vergelijkbaar een bepaald essay is in vergelijking met de inhoud van een grote database met papers, webpagina's en boeken om te zoeken naar tekenen van plagiaat.

Turnitin werd in 1.75 overgenomen door mediagigant Advanced Publications voor $ 2019 miljard en de software is gebruikt door 15,000 instellingen in 140 landen. Met meer dan twee decennia aan ervaring heeft Turnitin een breed bereik in het onderwijs en heeft het een enorme opslagplaats van schrijfmateriaal van studenten verzameld, waardoor het het ideale bedrijf is om een ​​academische AI-tekstdetector te ontwikkelen.

Turnitin bouwt al jaren stilletjes aan de software sinds de release van GPT-3, vertelde Annie Chechitelli, chief product officer Het register. De haast om onderwijzers de mogelijkheid te geven om tekst geschreven door mensen en computers te identificeren, is intenser geworden met de lancering van zijn krachtigere opvolger, ChatGPT. Naarmate AI zich verder ontwikkelt, moeten universiteiten en scholen de academische integriteit nu meer dan ooit kunnen beschermen.

“Snelheid is belangrijk. We horen van leraren dat ze ons gewoon iets moeten geven,' zei Chechitelli. Turnitin hoopt zijn software in de eerste helft van dit jaar te lanceren. "In het begin zal het vrij eenvoudige detectie zijn, en daarna zullen we de volgende snelle releases weggooien die een workflow creëren die beter bruikbaar is voor docenten." Het plan is om het prototype gratis te maken voor zijn bestaande klanten terwijl het bedrijf gegevens en gebruikersfeedback verzamelt.

“In het begin wilden we eigenlijk gewoon de industrie helpen en onderwijzers helpen de benen onder hen te krijgen en meer zelfvertrouwen te krijgen. En om in een vroeg stadium zoveel mogelijk gebruik te krijgen; dat is belangrijk om een ​​succesvolle tool te maken. Later zullen we bepalen hoe we het gaan produceren, 'zei ze.

Patronen in AI-schrijven

Hoewel door AI gegenereerde tekst overtuigend is, zijn er veelbetekenende tekenen die het handwerk van een algoritme onthullen. Het schrijven is meestal flauw en niet origineel; tools zoals ChatGPT braken bestaande ideeën en standpunten uit en hebben geen duidelijke stem. Mensen kunnen soms AI-gegenereerde tekst herkennen, maar machines zijn veel beter in het werk.

Turnitin's VP van AI, Eric Wang, zei dat er duidelijke patronen zijn in het schrijven van AI die computers kunnen detecteren. “Ook al voelt het voor ons menselijk aan, [machines schrijven met behulp van] een fundamenteel ander mechanisme. Het is het kiezen van het meest waarschijnlijke woord op de meest waarschijnlijke locatie, en dat is een heel andere manier om taal te construeren [vergeleken] dan jij en ik,” vertelde hij Het register.

“We lezen door heen en weer te springen met onze ogen zonder het te beseffen, of heen en weer te flitsen tussen woorden, tussen alinea's en soms tussen pagina's. We draaien heen en weer. We hebben ook de neiging om te schrijven met een toekomstige gemoedstoestand. Ik ben misschien aan het schrijven en ik denk aan iets, een paragraaf, een zin, een hoofdstuk; het einde van het essay is in mijn gedachten gekoppeld aan de zin die ik aan het schrijven ben, ook al moeten de zinnen tussen nu en dan nog worden geschreven.

ChatGPT heeft echter niet zo'n flexibiliteit en kan alleen nieuwe woorden genereren op basis van eerdere zinnen, legde hij uit. De detector van Turnitin werkt door te voorspellen welke woorden AI waarschijnlijk zal genereren in een bepaald tekstfragment. “Het is statistisch gezien erg flauw. Mensen hebben niet de neiging om consistent een woord met een hoge waarschijnlijkheid te gebruiken op plaatsen met een hoge waarschijnlijkheid, maar GPT-3 doet dat, dus onze detector speelt daar echt op in, "zei hij.

Wang zei dat de detector van Turnitin gebaseerd is op dezelfde architectuur als GPT-3 en beschreef het als een miniatuurversie van het model. “We zijn in veel opzichten vuur met vuur aan het bestrijden, zou ik zeggen. Er is een detectorcomponent aan gekoppeld in plaats van een genereercomponent. Dus wat het doet, is dat het taal leest op exact dezelfde manier als GPT-3 taal leest, maar in plaats van meer taal uit te spuwen, geeft het ons een voorspelling of we denken dat deze passage eruitziet als [het komt uit] GPT-3."

Het bedrijf moet nog beslissen hoe de resultaten van zijn detector het beste kunnen worden gepresenteerd aan leraren die de tool gebruiken. “Het is een moeilijke uitdaging. Hoe vertel je een instructeur in een kleine ruimte wat ze willen zien?” zei Chechitelli. Ze willen misschien een percentage zien dat laat zien hoeveel van een essay lijkt te zijn geschreven door AI, of ze willen misschien betrouwbaarheidsniveaus die laten zien of het voorspellingsvertrouwen van de detector laag, gemiddeld of hoog is om de nauwkeurigheid te beoordelen.

De software is niet ontworpen met het doel om ChatGPT in de academische wereld te verbannen. Hoewel het studenten ervan zou kunnen weerhouden dit soort tools te gebruiken, gelooft Turnitin dat de detector docenten en studenten in staat zal stellen elkaar en de technologie te vertrouwen. 

"Ik denk dat er een grote verschuiving is in de manier waarop we inhoud creëren en de manier waarop we werken," zei Wang. “Dat geldt zeker voor de manier waarop we leren. We moeten op de lange termijn nadenken over hoe we lesgeven. Hoe leren we in een wereld waar deze technologie bestaat? Ik denk dat het niet mogelijk is om de geest terug in de fles te stoppen. Elke tool die zichtbaarheid geeft aan het gebruik van deze technologieën zal waardevol zijn, omdat dit de fundamentele bouwstenen zijn van vertrouwen en transparantie.” ®

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• Platoblockchain. Web3 Metaverse Intelligentie. Kennis versterkt. Toegang hier.
• Bron: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/