Universitățile au oferit software pentru a adulmeca eseurile scrise de ChatGPT

Caracteristică Turnitin, cel mai bine cunoscut pentru software-ul său anti-plagiat folosit de zeci de mii de universități și școli din întreaga lume, construiește un instrument pentru a detecta textul generat de AI.

Modelele de limbi mari au câștigat popularitate de la lansarea comercială a GPT-3 de la OpenAI în 2020. Acum mai multe companii și-au construit propriile sisteme rivale de învățare automată, declanșând un nou val de startup-uri care dezvoltă produse bazate pe IA generativă. Aceste modele funcționează ca niște chatbot-uri de uz general. Utilizatorii introduc instrucțiuni și vor răspunde cu pasaje de text coerent și convingător.

Elevii apelează din ce în ce mai mult la instrumentele AI pentru a finaliza sarcinile, în timp ce profesorii abia încep să ia în considerare impactul și rolul lor în educație. Părerile sunt împărțite. Unii cred că tehnologia poate îmbunătăți abilitățile de scriere, în timp ce alții o văd ca o înșelăciune. Școlile din California, New York, Virginia și Alabama au blocat elevilor să acceseze cel mai recent model ChatGPT în rețelele publice, conform către Forbes.

Departamentele de educație nu sunt foarte sigure ce politici academice ar trebui introduse pentru a reglementa utilizarea generatoarelor de text AI. În plus, toate regulile ar fi oricum dificil de aplicat, având în vedere că în prezent nu există o modalitate eficientă de a detecta munca scrisă de mașină. Intră Turnitin. Fondată în 1998, compania americană vinde software care calculează cât de similar este un anumit eseu în comparație cu conținutul dintr-o bază de date mare de lucrări, pagini web și cărți pentru a căuta semne de plagiat.

Turnitin a fost achiziționat de gigantul media Advanced Publications pentru 1.75 miliarde de dolari în 2019, iar software-ul său a fost utilizat de 15,000 de instituții din 140 de țări. Cu peste două decenii de experiență, Turnitin are o acoperire largă în educație și a adunat un depozit uriaș de scrieri ale studenților, ceea ce o face compania ideală pentru a dezvolta un detector de text AI academic.

Turnitin a construit software-ul în liniște de ani de zile de la lansarea lui GPT-3, a declarat Annie Chechitelli, director de produs. Registrul. Graba de a oferi educatorilor capacitatea de a identifica text scris de oameni și computere a devenit mai intensă odată cu lansarea succesorului său mai puternic, ChatGPT. Pe măsură ce IA continuă să progreseze, universitățile și școlile trebuie să fie capabile să protejeze integritatea academică acum mai mult ca niciodată.

„Viteza contează. Auzim de la profesori doar să ne dea ceva”, a spus Chechitelli. Turnitin speră să-și lanseze software-ul în prima jumătate a acestui an. „La început va fi o detectare destul de simplă, iar apoi vom arunca versiuni rapide ulterioare care vor crea un flux de lucru mai ușor de acționat pentru profesori.” Planul este de a face prototipul gratuit pentru clienții săi existenți, deoarece compania colectează date și feedback-ul utilizatorilor.

„La început, vrem doar să ajutăm industria și să ajutăm educatorii să-și pună picioarele sub ei și să se simtă mai încrezători. Și pentru a obține cât mai mult timp de utilizare; asta este important pentru a face un instrument de succes. Mai târziu, vom determina cum îl vom produce”, a spus ea.

Modele în scrierea AI

Deși textul generat de AI este convingător, există semne revelatoare care dezvăluie opera unui algoritm. Scrierea este de obicei fadă și neoriginală; instrumente precum ChatGPT regurgitează ideile și punctele de vedere existente și nu au o voce distinctă. Oamenii pot identifica uneori textul generat de AI, dar mașinile sunt mult mai bune la locul de muncă.

Vicepreședintele AI al Turnitin, Eric Wang, a spus că există modele evidente în scrierea AI pe care computerele le pot detecta. „Chiar dacă pentru noi este un om, [mașinile scriu folosind] un mecanism fundamental diferit. Este alegerea cuvântului cel mai probabil în locația cea mai probabilă și acesta este un mod foarte diferit de a construi limbajul [comparativ] cu tine și cu mine”, a spus el. Registrul.

„Citim sărind din ochi înainte și înapoi fără să ne dăm seama, sau zburdând înainte și înapoi între cuvinte, între paragrafe și uneori între pagini. Vom răsturna înainte și înapoi. De asemenea, avem tendința de a scrie cu o stare de spirit viitoare. S-ar putea să scriu, și mă gândesc la ceva, un paragraf, o propoziție, un capitol; sfârșitul eseului este legat în mintea mea de propoziția pe care o scriu, deși propozițiile de acum și atunci nu au fost încă scrise.”

ChatGPT, însă, nu are acest tip de flexibilitate și poate genera doar cuvinte noi pe baza propozițiilor anterioare, a explicat el. Detectorul Turnitin funcționează prin prezicerea ce cuvinte este mai probabil să genereze AI într-un anumit fragment de text. „Este foarte bland din punct de vedere statistic. Oamenii nu au tendința de a folosi în mod constant un cuvânt cu probabilitate mare în locuri cu probabilitate mare, dar GPT-3 face astfel încât detectorul nostru chiar indică acest lucru”, a spus el.

Wang a spus că detectorul lui Turnitin se bazează pe aceeași arhitectură ca GPT-3 și l-a descris ca o versiune în miniatură a modelului. „Suntem în multe feluri, aș spune că luptăm cu focul. Există o componentă detector atașată la el în loc de o componentă de generare. Deci, ceea ce face este că citește limbajul exact în același mod în care GPT-3 citește limbajul, dar în loc să scuipe mai mult limbaj, ne oferă o predicție dacă credem că acest pasaj arată ca [este din] GPT-3.”

Compania încă decide cum să prezinte cel mai bine rezultatele detectorului său profesorilor care folosesc instrumentul. „Este o provocare dificilă. Cum îi spui unui instructor într-un spațiu mic ceea ce vrea să vadă?” spuse Chechitelli. Ar putea dori să vadă un procent care arată cât de mult dintr-un eseu pare să fie scris prin inteligență artificială sau ar putea dori niveluri de încredere care să arate dacă încrederea de predicție a detectorului este scăzută, medie sau ridicată pentru a evalua acuratețea.

Software-ul nu este conceput cu scopul de a interzice ChatGPT în mediul academic. Deși ar putea descuraja studenții să folosească aceste tipuri de instrumente, Turnitin consideră că detectorul său va permite profesorilor și studenților să aibă încredere unul în celălalt și în tehnologie. 

„Cred că există o schimbare majoră în modul în care creăm conținut și în modul în care lucrăm”, a spus Wang. „Cu siguranță, asta se extinde și asupra modului în care învățăm. Trebuie să ne gândim pe termen lung la modul în care predăm. Cum învățăm într-o lume în care există această tehnologie? Cred că nu se poate pune geniul înapoi în sticlă. Orice instrument care oferă vizibilitate utilizării acestor tehnologii va fi valoros, deoarece acestea sunt elementele fundamentale ale încrederii și transparenței.” ®

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
• Sursa: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/