Le università hanno offerto software per fiutare i saggi scritti da ChatGPT

caratteristica Turnitin, meglio conosciuto per il suo software antiplagio utilizzato da decine di migliaia di università e scuole in tutto il mondo, sta costruendo uno strumento per rilevare il testo generato dall'intelligenza artificiale.

I modelli di linguaggio di grandi dimensioni hanno guadagnato terreno dal rilascio commerciale di GPT-3 di OpenAI nel 2020. Ora più società hanno costruito i propri sistemi di apprendimento automatico rivali, dando il via a una nuova ondata di startup che sviluppano prodotti basati sull'intelligenza artificiale generativa. Questi modelli funzionano come chatbot generici. Gli utenti digitano le istruzioni e rispondono con passaggi di testo coerenti e convincenti.

Gli studenti si rivolgono sempre più agli strumenti di intelligenza artificiale per completare i compiti, mentre gli insegnanti stanno solo iniziando a considerare il loro impatto e il loro ruolo nell'istruzione. Le opinioni sono divise. Alcuni credono che la tecnologia possa affinare le capacità di scrittura, mentre altri la vedono come un imbroglio. Le scuole in California, New York, Virginia e Alabama hanno impedito agli alunni di accedere all'ultimo modello ChatGPT sulle reti pubbliche, secondo a Forbes.

I dipartimenti dell'istruzione non sono del tutto sicuri di quali politiche accademiche debbano essere introdotte per regolamentare l'uso dei generatori di testo AI. Inoltre, tutte le regole sarebbero comunque difficili da applicare, considerando che attualmente non esiste un modo efficace per rilevare il lavoro scritto a macchina. Entra Turnitin. Fondata nel 1998, la società statunitense vende software che calcola quanto è simile un particolare saggio rispetto al contenuto di un ampio database di documenti, pagine Web e libri per cercare segni di plagio.

Turnitin è stata acquisita dal gigante dei media Advanced Publications per 1.75 miliardi di dollari nel 2019 e il suo software è stato utilizzato da 15,000 istituzioni in 140 paesi. Con oltre due decenni di esperienza, Turnitin ha un'ampia portata nel campo dell'istruzione e ha accumulato un enorme archivio di scritti degli studenti, rendendola l'azienda ideale per sviluppare un rilevatore di testo AI accademico.

Turnitin ha costruito silenziosamente il software per anni sin dal rilascio di GPT-3, ha dichiarato Annie Chechitelli, chief product officer Il registro. La corsa per dare agli educatori la capacità di identificare il testo scritto da esseri umani e computer è diventata più intensa con il lancio del suo più potente successore, ChatGPT. Mentre l'intelligenza artificiale continua a progredire, le università e le scuole devono essere in grado di proteggere l'integrità accademica ora più che mai.

“La velocità conta. Sentiamo che gli insegnanti ci danno solo qualcosa", ha detto Chechitelli. Turnitin spera di lanciare il suo software nella prima metà di quest'anno. "All'inizio sarà un rilevamento piuttosto semplice, quindi lanceremo versioni rapide successive che creeranno un flusso di lavoro più fruibile per gli insegnanti". Il piano è di rendere il prototipo gratuito per i suoi clienti esistenti man mano che l'azienda raccoglie dati e feedback degli utenti.

“All'inizio, vogliamo davvero solo aiutare l'industria e aiutare gli educatori a prendere le gambe sotto di loro e sentirsi più sicuri. E per ottenere il massimo utilizzo possibile all'inizio; questo è importante per creare uno strumento di successo. Più tardi, determineremo come lo produrremo", ha detto.

Modelli nella scrittura AI

Sebbene il testo generato dall'intelligenza artificiale sia convincente, ci sono segni rivelatori che rivelano il lavoro manuale di un algoritmo. La scrittura è solitamente blanda e poco originale; strumenti come ChatGPT rigurgitano idee e punti di vista esistenti e non hanno una voce distinta. Gli esseri umani a volte possono individuare il testo generato dall'intelligenza artificiale, ma le macchine sono molto più brave nel lavoro.

Il vicepresidente dell'intelligenza artificiale di Turnitin, Eric Wang, ha affermato che ci sono schemi evidenti nella scrittura di intelligenza artificiale che i computer possono rilevare. “Anche se ci sembra umano, [le macchine scrivono usando] un meccanismo fondamentalmente diverso. Sta scegliendo la parola più probabile nella posizione più probabile, e questo è un modo molto diverso di costruire il linguaggio [rispetto] a te e io ", ha detto Il registro.

“Leggiamo saltando avanti e indietro con gli occhi senza nemmeno saperlo, o svolazzando avanti e indietro tra le parole, tra i paragrafi e talvolta tra le pagine. Gireremo avanti e indietro. Tendiamo anche a scrivere con uno stato d'animo futuro. Potrei scrivere e pensare a qualcosa, un paragrafo, una frase, un capitolo; la fine del saggio è legata nella mia mente alla frase che sto scrivendo anche se le frasi tra adesso e allora devono ancora essere scritte.

ChatGPT, tuttavia, non ha questo tipo di flessibilità e può solo generare nuove parole basate su frasi precedenti, ha spiegato. Il rilevatore di Turnitin funziona prevedendo quali parole è più probabile che l'IA generi in un determinato frammento di testo. “È molto blando statisticamente. Gli esseri umani non tendono a usare costantemente una parola ad alta probabilità in luoghi ad alta probabilità, ma GPT-3 lo fa, quindi il nostro rilevatore lo individua davvero ", ha detto.

Wang ha affermato che il rilevatore di Turnitin è basato sulla stessa architettura di GPT-3 e lo ha descritto come una versione in miniatura del modello. “Stiamo [dicendo] in molti modi combattendo il fuoco con il fuoco. C'è un componente rilevatore collegato ad esso invece di un componente di generazione. Quindi quello che sta facendo è leggere la lingua esattamente nello stesso modo in cui GPT-3 legge la lingua, ma invece di sputare più lingua, ci dà una previsione se pensiamo che questo passaggio assomigli a [proviene da] GPT-3.

L'azienda sta ancora decidendo come presentare al meglio i risultati del suo rilevatore agli insegnanti che utilizzano lo strumento. “È una sfida difficile. Come si fa a dire a un istruttore in una piccola quantità di spazio cosa vogliono vedere? disse Chechitelli. Potrebbero voler vedere una percentuale che mostri quanta parte di un saggio sembra essere scritta dall'intelligenza artificiale, oppure potrebbero volere livelli di confidenza che mostrino se la confidenza della previsione del rilevatore è bassa, media o alta per valutare l'accuratezza.

Il software non è progettato con l'obiettivo di vietare ChatGPT nel mondo accademico. Sebbene possa dissuadere gli studenti dall'utilizzare questi tipi di strumenti, Turnitin ritiene che il suo rilevatore consentirà invece a insegnanti e studenti di fidarsi l'uno dell'altro e della tecnologia. 

"Penso che ci sia un grande cambiamento nel modo in cui creiamo contenuti e nel modo in cui lavoriamo", ha detto Wang. “Certamente questo si estende al modo in cui apprendiamo. Dobbiamo pensare a lungo termine a come insegniamo. Come impariamo in un mondo in cui esiste questa tecnologia? Penso che non si possa rimettere il genio nella bottiglia. Qualsiasi strumento che dia visibilità all'uso di queste tecnologie sarà prezioso perché questi sono gli elementi costitutivi fondamentali della fiducia e della trasparenza". ®

• Distribuzione di contenuti basati su SEO e PR. Ricevi amplificazione oggi.
• Platoblockchain. Web3 Metaverse Intelligence. Conoscenza amplificata. Accedi qui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/