Universidades ofereceram software para farejar ensaios escritos pelo ChatGPT

Característica O Turnitin, mais conhecido por seu software antiplágio usado por dezenas de milhares de universidades e escolas em todo o mundo, está desenvolvendo uma ferramenta para detectar texto gerado por IA.

Grandes modelos de linguagem ganharam força desde o lançamento comercial do GPT-3 da OpenAI em 2020. Agora várias empresas construíram seus próprios sistemas rivais de aprendizado de máquina, iniciando uma nova onda de startups desenvolvendo produtos alimentados por IA generativa. Esses modelos funcionam como chatbots de uso geral. Os usuários digitam instruções e respondem com passagens de texto coerente e convincente.

Os alunos estão cada vez mais recorrendo a ferramentas de IA para concluir tarefas, enquanto os professores estão apenas começando a considerar seu impacto e papel na educação. As opiniões estão divididas. Alguns acreditam que a tecnologia pode aprimorar as habilidades de escrita, enquanto outros a veem como trapaça. Escolas na Califórnia, Nova York, Virgínia e Alabama impediram que os alunos acessem o modelo mais recente do ChatGPT em redes públicas. segundo para Forbes.

Os departamentos de educação não têm certeza de quais políticas acadêmicas devem ser introduzidas para regular o uso de geradores de texto de IA. Além disso, todas as regras seriam difíceis de aplicar de qualquer maneira, considerando que atualmente não há uma maneira eficaz de detectar o trabalho escrito por máquina. Entre no Turnitin. Fundada em 1998, a empresa americana vende um software que calcula a semelhança de um determinado ensaio em comparação com o conteúdo de um grande banco de dados de artigos, páginas da web e livros para procurar sinais de plágio.

A Turnitin foi adquirida pela gigante da mídia Advanced Publications por US$ 1.75 bilhão em 2019, e seu software foi usava por 15,000 instituições em 140 países. Com mais de duas décadas de experiência, a Turnitin tem um amplo alcance na educação e acumulou um enorme repositório de textos de alunos, tornando-se a empresa ideal para desenvolver um detector de texto de IA acadêmico.

A Turnitin vem construindo discretamente o software há anos, desde o lançamento do GPT-3, disse Annie Chechitelli, diretora de produtos. O registro. A corrida para dar aos educadores a capacidade de identificar textos escritos por humanos e computadores tornou-se mais intensa com o lançamento de seu sucessor mais poderoso, o ChatGPT. À medida que a IA continua a progredir, as universidades e escolas precisam ser capazes de proteger a integridade acadêmica agora mais do que nunca.

“A velocidade importa. Estamos ouvindo de professores que nos dão algo”, disse Chechitelli. A Turnitin espera lançar seu software no primeiro semestre deste ano. “No início, será uma detecção bastante básica e, em seguida, lançaremos lançamentos rápidos subsequentes que criarão um fluxo de trabalho mais acionável para os professores.” O plano é tornar o protótipo gratuito para seus clientes existentes, à medida que a empresa coleta dados e feedback do usuário.

“No começo, nós realmente queremos apenas ajudar a indústria e ajudar os educadores a se sentirem mais confiantes. E para obter o máximo de uso possível desde o início; isso é importante para criar uma ferramenta de sucesso. Mais tarde, vamos determinar como vamos produtizá-lo”, disse ela.

Padrões na escrita de IA

Embora o texto gerado pela IA seja convincente, há sinais reveladores que revelam o trabalho manual de um algoritmo. A escrita geralmente é branda e sem originalidade; ferramentas como ChatGPT regurgitam ideias e pontos de vista existentes e não têm uma voz distinta. Às vezes, os humanos podem identificar o texto gerado pela IA, mas as máquinas são muito melhores no trabalho.

O vice-presidente de IA da Turnitin, Eric Wang, disse que existem padrões óbvios na escrita de IA que os computadores podem detectar. “Mesmo que pareça humano para nós, [máquinas escrevem usando] um mecanismo fundamentalmente diferente. É escolher a palavra mais provável no local mais provável, e essa é uma maneira muito diferente de construir a linguagem [comparada] a você e a mim”, disse ele O registro.

“Lemos pulando para frente e para trás com os olhos, mesmo sem saber, ou indo e voltando entre as palavras, entre os parágrafos e, às vezes, entre as páginas. Nós vamos virar para frente e para trás. Também tendemos a escrever com um estado de espírito futuro. Posso estar escrevendo e pensando em algo, um parágrafo, uma frase, um capítulo; o final do ensaio está ligado em minha mente à frase que estou escrevendo, embora as frases entre agora e depois ainda não tenham sido escritas.

O ChatGPT, porém, não tem esse tipo de flexibilidade e só consegue gerar novas palavras a partir de frases anteriores, explicou. O detector do Turnitin funciona prevendo quais palavras a IA tem mais probabilidade de gerar em um determinado trecho de texto. “É muito branda estatisticamente. Os humanos não tendem a usar consistentemente uma palavra de alta probabilidade em locais de alta probabilidade, mas o GPT-3 faz com que nosso detector realmente indique isso”, disse ele.

Wang disse que o detector do Turnitin é baseado na mesma arquitetura do GPT-3 e o descreveu como uma versão em miniatura do modelo. “De muitas maneiras, eu diria, combatendo fogo com fogo. Há um componente de detector anexado a ele em vez de um componente de geração. Então, o que está fazendo é ler a linguagem exatamente da mesma maneira que o GPT-3 lê a linguagem, mas em vez de cuspir mais linguagem, nos dá uma previsão de se achamos que essa passagem se parece com [é do] GPT-3.”

A empresa ainda está decidindo a melhor forma de apresentar os resultados de seu detector aos professores que usam a ferramenta. “É um desafio difícil. Como você diz a um instrutor em uma pequena quantidade de espaço o que eles querem ver?” disse Chechitelli. Eles podem querer ver uma porcentagem que mostra quanto de um ensaio parece ser escrito por IA ou podem querer níveis de confiança mostrando se a confiança da previsão do detector é baixa, média ou alta para avaliar a precisão.

O software não foi projetado com o objetivo de banir o ChatGPT na academia. Embora possa impedir os alunos de usar esses tipos de ferramentas, a Turnitin acredita que seu detector permitirá que professores e alunos confiem uns nos outros e na tecnologia. 

“Acho que há uma grande mudança na forma como criamos conteúdo e na forma como trabalhamos”, disse Wang. “Certamente isso se estende à maneira como aprendemos. Precisamos pensar a longo prazo sobre como ensinamos. Como aprendemos em um mundo onde essa tecnologia existe? Acho que não tem como colocar o gênio de volta na garrafa. Qualquer ferramenta que dê visibilidade ao uso dessas tecnologias será valiosa porque esses são os alicerces da confiança e da transparência.” ®

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• Platoblockchain. Inteligência Metaverso Web3. Conhecimento Ampliado. Acesse aqui.
• Fonte: https://go.theregister.com/feed/www.theregister.com/2023/01/23/turnitin_chatgpt_detector/