Universities Offered Software To Sniff Out ChatGPT-written Essays

Ponovno objavil Platon

Spremljevalci: 0

Universities offered software to sniff out ChatGPT-written essays PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Feature Turnitin, najbolj znan po svoji programski opremi proti plagiatorstvu, ki jo uporablja na desettisoče univerz in šol po vsem svetu, gradi orodje za zaznavanje besedila, ki ga ustvari AI.

Veliki jezikovni modeli so postali priljubljeni od komercialne izdaje GPT-3 OpenAI leta 2020. Zdaj več podjetij so zgradili lastne konkurenčne sisteme za strojno učenje in s tem sprožili nov val zagonskih podjetij, ki razvijajo izdelke, ki jih poganja generativni AI. Ti modeli delujejo kot splošni klepetalni roboti. Uporabniki vtipkajo navodila in ti se bodo odzvali z odlomki koherentnega, prepričljivega besedila.

Učenci se vse pogosteje obračajo na orodja AI za dokončanje nalog, medtem ko učitelji šele začenjajo razmišljati o njihovem vplivu in vlogi v izobraževanju. Mnenja so deljena. Nekateri verjamejo, da lahko tehnologija izpopolni pisne sposobnosti, drugi pa jo vidijo kot goljufanje. Šole v Kaliforniji, New Yorku, Virginiji in Alabami so učencem preprečile dostop do najnovejšega modela ChatGPT v javnih omrežjih, po v Forbes.

Oddelki za izobraževanje niso povsem prepričani, katere akademske politike bi bilo treba uvesti za urejanje uporabe generatorjev besedila AI. Poleg tega bi bilo vsa pravila tako ali tako težko uveljaviti, saj trenutno ni učinkovitega načina za odkrivanje strojno napisanega dela. Vnesite Turnitin. Ameriško podjetje, ustanovljeno leta 1998, prodaja programsko opremo, ki izračuna, kako podoben je določen esej v primerjavi z vsebino iz velike baze člankov, spletnih strani in knjig, da bi poiskala znake plagiatorstva.

Turnitin je leta 1.75 kupil medijski velikan Advanced Publications za 2019 milijarde dolarjev, njegova programska oprema pa je bila Rabljeni 15,000 ustanov v 140 državah. Z več kot dvema desetletjema izkušenj ima Turnitin širok doseg v izobraževanju in je zbral ogromen repozitorij pisanja študentov, zaradi česar je idealno podjetje za razvoj akademskega detektorja besedila z umetno inteligenco.

Annie Chechitelli, glavna produktna direktorica, je povedala, da je Turnitin več let tiho razvijal programsko opremo vse od izdaje GPT-3. Register. Hitenje, da bi učiteljem omogočili prepoznavanje besedila, ki so ga napisali ljudje in računalniki, je postalo intenzivnejše z uvedbo njegovega močnejšega naslednika ChatGPT. Ker umetna inteligenca še naprej napreduje, morajo biti univerze in šole bolj kot kdaj koli prej sposobne zaščititi akademsko integriteto.

»Hitrost je pomembna. Slišimo od učiteljev, da nam samo nekaj dajo,« je dejal Chechitelli. Turnitin upa, da bo svojo programsko opremo lansiral v prvi polovici tega leta. "Najprej bo to precej osnovno odkrivanje, nato pa bomo odstranili poznejše hitre izdaje, ki bodo ustvarile potek dela, ki bo za učitelje bolj uporaben." Načrt je, da bo prototip brezplačen za obstoječe stranke, saj podjetje zbira podatke in povratne informacije uporabnikov.

»Na začetku želimo samo pomagati industriji in pomagati učiteljem, da se uprejo in se počutijo bolj samozavestne. In da čim bolj izkoristimo zgodaj; to je pomembno za izdelavo uspešnega orodja. Kasneje se bomo odločili, kako ga bomo producirali,« je dejala.

Vzorci pri pisanju z umetno inteligenco

Čeprav je besedilo, ki ga ustvari umetna inteligenca, prepričljivo, obstajajo znaki, ki razkrivajo ročno delo algoritma. Pisanje je navadno medlo in neizvirno; orodja, kot je ChatGPT, ponavljajo obstoječe ideje in stališča in nimajo izrazitega glasu. Ljudje lahko včasih opazijo besedilo, ki ga ustvari umetna inteligenca, vendar so stroji veliko boljši pri delu.

Turnitinov podpredsednik oddelka za umetno inteligenco Eric Wang je dejal, da obstajajo očitni vzorci pri pisanju umetne inteligence, ki jih lahko računalniki zaznajo. »Čeprav se nam zdi podobno ljudem, [stroji pišejo z] bistveno drugačnim mehanizmom. Gre za izbiro najverjetnejše besede na najverjetnejši lokaciji in to je zelo drugačen način konstruiranja jezika [v primerjavi] z vami in mano,« je povedal za Register.

»Beremo tako, da skačemo sem in tja z očmi, ne da bi se tega sploh zavedali, ali švigamo naprej in nazaj med besedami, med odstavki in včasih med stranmi. Obrnili se bomo naprej in nazaj. Prav tako se nagibamo k pisanju s prihodnjim stanjem duha. Morda pišem in razmišljam o nečem, odstavku, stavku, poglavju; konec eseja je v mojih mislih povezan s stavkom, ki ga pišem, čeprav morajo biti stavki od zdaj do takrat še napisani.«

ChatGPT pa nima te vrste prilagodljivosti in lahko ustvari nove besede le na podlagi prejšnjih stavkov, je pojasnil. Turnitinov detektor deluje tako, da napove, katere besede bo umetna inteligenca bolj verjetno ustvarila v danem delčku besedila. »Statistično je zelo pusto. Ljudje nimamo nagnjenosti k dosledni uporabi besede z visoko verjetnostjo na mestih z visoko verjetnostjo, vendar GPT-3 to počne, tako da naš detektor to resnično upošteva,« je dejal.

Wang je dejal, da Turnitinov detektor temelji na isti arhitekturi kot GPT-3 in ga opisal kot miniaturno različico modela. »Rekel bi, da se na veliko načinov borimo proti ognju z ognjem. Namesto komponente za generiranje je nanj priključena komponenta detektorja. Torej, kar počne, je, da bere jezik na popolnoma enak način, kot GPT-3 bere jezik, vendar namesto da izpljune več jezika, nam da napoved, ali menimo, da je ta odlomek videti kot [je iz] GPT-3.«

Podjetje se še odloča o tem, kako najbolje predstaviti rezultate svojega detektorja učiteljem, ki uporabljajo orodje. »To je težak izziv. Kako poveš inštruktorju v majhnem prostoru, kaj želi videti?« je rekel Chechitelli. Morda bodo želeli videti odstotek, ki kaže, koliko se zdi, da je esej napisan z umetno inteligenco, ali pa bodo morda želeli stopnje zaupanja, ki bodo pokazale, ali je zaupanje napovedi detektorja nizko, srednje ali visoko, da bi ocenili točnost.

Programska oprema ni zasnovana s ciljem prepovedi ChatGPT v akademskih krogih. Čeprav bi lahko učence odvrnil od uporabe tovrstnih orodij, Turnitin verjame, da bo njegov detektor učiteljem in učencem omogočil, da zaupajo drug drugemu in tehnologiji.

"Mislim, da je prišlo do velikega premika v načinu ustvarjanja vsebine in načinu dela," je dejal Wang. »Vsekakor to velja za način našega učenja. O tem, kako poučujemo, moramo razmišljati dolgoročno. Kako se učimo v svetu, kjer ta tehnologija obstaja? Mislim, da duha ni mogoče dati nazaj v steklenico. Vsako orodje, ki omogoča preglednost uporabe teh tehnologij, bo dragoceno, saj so to temeljni gradniki zaupanja in preglednosti.« ®