Az egyetemek szoftvert kínáltak a ChatGPT által írt esszék kiszippantására

Funkció A világ több tízezer egyeteme és iskola által használt plágiumellenes szoftveréről ismert Turnitin egy olyan eszközt épít, amellyel észlelheti a mesterséges intelligencia által generált szöveget.

A nagy nyelvi modellek egyre nagyobb teret hódítottak az OpenAI GPT-3 2020-as kereskedelmi forgalomba hozatala óta. több cég felépítették saját rivális gépi tanulási rendszereiket, elindítva a startupok új hullámát, amelyek generatív AI-val hajtott termékeket fejlesztenek. Ezek a modellek általános célú chatbotként működnek. A felhasználók utasításokat írnak be, és koherens, meggyőző szövegekkel válaszolnak.

A diákok egyre gyakrabban veszik igénybe az AI-eszközöket a feladatok elvégzéséhez, míg a tanárok csak most kezdik mérlegelni ezek hatását és szerepét az oktatásban. Megoszlanak a vélemények. Egyesek úgy vélik, hogy ez a technológia javíthatja az íráskészséget, míg mások csalásnak tartják. Kalifornia, New York, Virginia és Alabama iskolái blokkolták a tanulókat abban, hogy nyilvános hálózatokon hozzáférjenek a legújabb ChatGPT-modellhez, szerint a Forbes-nak.

Az oktatási osztályok nem egészen biztosak abban, hogy milyen tudományos politikákat kellene bevezetni az AI szöveggenerátorok használatának szabályozására. Emellett minden szabályt nehéz lenne betartatni, tekintve, hogy jelenleg nincs hatékony módszer a géppel írt munka észlelésére. Lépjen be Turnitinbe. Az 1998-ban alapított amerikai cég olyan szoftvereket forgalmaz, amelyek kiszámolják, mennyire hasonlít egy adott esszé egy nagy, iratokból, weboldalakból és könyvekből álló adatbázis tartalmához, hogy a plágiumra utaló jeleket keressen.

A Turnitint 1.75-ben 2019 milliárd dollárért vásárolta meg az Advanced Publications médiaóriás, és szoftverét használt 15,000 140 intézmény XNUMX országból. A több mint két évtizedes tapasztalattal rendelkező Turnitin széleskörű oktatási területtel rendelkezik, és hatalmas tárházat halmozott fel a hallgatói írások terén, így ideális cég az akadémiai AI szövegdetektor fejlesztéséhez.

A Turnitin évek óta csendesen építi a szoftvert a GPT-3 megjelenése óta, mondta Annie Chechitelli, termékigazgató. A regisztráció. Az a rohanás, hogy az oktatók képesek legyenek azonosítani az emberek és a számítógépek által írt szövegeket, az erősebb utód, a ChatGPT piacra dobásával egyre intenzívebbé vált. Ahogy a mesterséges intelligencia folyamatosan fejlődik, az egyetemeknek és iskoláknak képesnek kell lenniük a tudományos integritás védelmére, mint valaha.

"A sebesség számít. A tanároktól azt halljuk, hogy adjanak nekünk valamit” – mondta Chechitelli. A Turnitin reményei szerint az idei év első felében piacra dobhatja szoftverét. "Eleinte elég alapfelismerés lesz, majd kidobjuk a későbbi gyorskiadásokat, amelyek egy olyan munkafolyamatot hoznak létre, amely a tanárok számára is használhatóbb." A tervek szerint a prototípust ingyenessé teszik meglévő ügyfelei számára, mivel a cég adatokat és felhasználói visszajelzéseket gyűjt.

„Kezdetben tényleg csak segíteni akarunk az iparnak, és segíteni az oktatóknak, hogy a lábuk alá kerüljenek, és magabiztosabbak legyenek. És hogy minél több használatot hozzunk létre korán; ez fontos a sikeres eszköz elkészítéséhez. Később meghatározzuk, hogyan állítjuk elő a terméket” – mondta.

Minták az AI-írásban

Bár a mesterséges intelligencia által generált szöveg meggyőző, vannak árulkodó jelek, amelyek az algoritmusok munkáját árulják el. Az írás általában nyájas és nem eredeti; Az olyan eszközök, mint a ChatGPT, újra előteremtik a meglévő ötleteket és nézőpontokat, és nincs külön hangjuk. Az emberek néha észreveszik a mesterséges intelligencia által generált szöveget, de a gépek sokkal jobbak a munkában.

A Turnitin mesterséges intelligenciáért felelős alelnöke, Eric Wang azt mondta, hogy a mesterséges intelligencia írásában nyilvánvaló minták vannak, amelyeket a számítógépek képesek észlelni. „Annak ellenére, hogy emberinek tűnik számunkra, [a gépek írnak] egy alapvetően más mechanizmussal. Ez a legvalószínűbb szó kiválasztása a legvalószínűbb helyen, és ez egészen más módja a nyelvalkotásnak [összehasonlítva] hozzád és hozzám” – mondta. A regisztráció.

„Úgy olvasunk, hogy előre-hátra ugrálunk a szemünkkel anélkül, hogy tudnánk, vagy ide-oda repkedünk a szavak, a bekezdések és néha az oldalak között. Össze-vissza forgatjuk. Hajlamosak vagyunk jövőbeli lelkiállapottal is írni. Lehet, hogy írok, és gondolok valamire, egy bekezdésre, egy mondatra, egy fejezetre; az esszé vége gondolatban össze van kötve azzal a mondattal, amit írok, bár a most és addigi mondatokat még meg kell írni.”

A ChatGPT azonban nem rendelkezik ilyen rugalmassággal, és csak a korábbi mondatok alapján tud új szavakat generálni – magyarázta. A Turnitin detektora úgy működik, hogy megjósolja, hogy az AI mely szavakat generál nagyobb valószínűséggel egy adott szövegrészletben. „Statisztikailag ez nagyon unalmas. Az emberek nem szoktak következetesen nagy valószínűségű szót használni nagy valószínűséggel előforduló helyeken, de a GPT-3 igen, így a detektorunk valóban rámutat erre” – mondta.

Wang elmondta, hogy a Turnitin detektora ugyanazon az architektúrán alapul, mint a GPT-3, és a modell miniatűr változataként írta le. „Sok szempontból tűzzel harcolunk a tűz ellen. A generáló komponens helyett egy detektor alkatrész van hozzá csatlakoztatva. Tehát pontosan ugyanúgy olvassa a nyelvet, mint a GPT-3, de ahelyett, hogy több nyelvet köpne ki, előrejelzést ad arról, hogy szerintünk ez a rész úgy néz ki, mint a GPT-3.

A vállalat még mindig azon dönt, hogyan mutassa be legjobban detektorának eredményeit a tanároknak az eszköz használatával. „Nehéz kihívás. Hogyan mondd el egy oktatónak kis helyen, hogy mit akarnak látni? – mondta Chechitelli. Előfordulhat, hogy szeretnének látni egy százalékos értéket, amely megmutatja, hogy egy esszé mekkora része tűnik mesterséges intelligencia által írtnak, vagy olyan megbízhatósági szintet szeretnének, amely megmutatja, hogy a detektor előrejelzési megbízhatósága alacsony, közepes vagy magas a pontosság értékeléséhez.

A szoftvert nem azzal a céllal tervezték, hogy a ChatGPT-t betiltsák az egyetemeken. Bár elriaszthatja a diákokat az ilyen típusú eszközök használatától, a Turnitin úgy véli, hogy detektora ehelyett lehetővé teszi a tanárok és a diákok számára, hogy megbízzanak egymásban és a technológiában. 

„Úgy gondolom, hogy jelentős változás áll be a tartalom létrehozásának és a munkavégzés módjában” – mondta Wang. „Ez természetesen kiterjed arra is, ahogyan tanulunk. Hosszú távon kell gondolkodnunk azon, hogyan tanítunk. Hogyan tanuljunk egy olyan világban, ahol ez a technológia létezik? Szerintem nem szabad visszatenni a dzsinnt az üvegbe. Minden eszköz, amely láthatóvá teszi e technológiák használatát, értékes lesz, mert ezek a bizalom és az átláthatóság alapvető építőkövei.” ®

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• Platoblockchain. Web3 metaverzum intelligencia. Felerősített tudás. Hozzáférés itt.
• Forrás: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/