Algumas universidades estão optando por não usar o software criado pela Turnitin, projetado para detectar se o texto das redações e trabalhos enviados pelos alunos foi escrito por IA.
O Turnitin, para quem não sabe, oferece aos professores ferramentas para identificar plágio nos trabalhos escolares das pessoas e, em abril, adicionou a capacidade de verificar prosa escrita à máquina. Se deixado ativado, ele verifica automaticamente os documentos e processa o texto em pedaços, analisando cada frase e atribuindo uma pontuação de 0 se parecer que foi composta por humanos e 1 se parecer que foi gerada automaticamente por IA. Uma pontuação média é calculada para o arquivo para prever quanto texto parece ter sido escrito por IA.
Há uma questão maior de como o Turnitin detecta a escrita de IA e se isso é mesmo possível
Várias universidades americanas, no entanto, incluindo Vanderbilt, Michigan State, Northwestern e a Universidade do Texas em Austin, decidiram não usar este software por temor de que isso pudesse levar os alunos a serem falsamente acusados de trapacear, como notado por Bloomberg.
Turnitin admitiu que sua ferramenta de detecção de texto AI não é perfeita, mas afirmou que sua taxa de falsos positivos é inferior a um por cento.
A Universidade Vanderbilt disse que mesmo esse número era muito alto e resultaria na sinalização equivocada de 750 artigos por ano, considerando que 75,000 artigos foram publicados através do sistema Turnitin em 2022.
“Além disso, há uma questão maior de como o Turnitin detecta a escrita de IA e se isso é mesmo possível. Até o momento, o Turnitin não fornece informações detalhadas sobre como determina se um texto escrito é gerado por IA. O máximo que disseram é que a ferramenta procura padrões comuns na escrita de IA, mas não explica nem define quais são esses padrões”, disse o consultor de tecnologia instrucional da instituição, Michael Coley. explicado no mês passado.
“Existem preocupações reais com a privacidade em coletar dados de alunos e inseri-los em um detector gerenciado por uma empresa separada com políticas de privacidade e uso de dados desconhecidas. Fundamentalmente, a detecção de IA já é uma tarefa muito difícil de ser resolvida pela tecnologia (se é que é possível) e isso só se tornará mais difícil à medida que as ferramentas de IA se tornarem mais comuns e mais avançadas. Com base nisso, não acreditamos que o software de detecção de IA seja uma ferramenta eficaz que deva ser usada.”
Annie Chechitelli, diretora de produtos da Turnitin, disse O registro que a ferramenta de sinalização de IA não deve ser usada para punir automaticamente os alunos e que 98% dos seus clientes estão usando o recurso. Dito isto, ele é ativado automaticamente e os professores que não desejam ver suas pontuações devem cancelar explicitamente a exclusão. Eles também poderiam deixar o recurso ativado e ignorá-lo.
“Na Turnitin, nossa orientação é, e sempre foi, que não há substituto para conhecer o aluno, seu estilo de escrita e sua formação educacional”, disse-nos Chechitelli.
“A tecnologia da Turnitin não pretende substituir a discrição profissional dos educadores. Os relatórios que indicam a presença de escrita de IA, como o recurso de detecção de escrita de IA do Turnitin, simplesmente fornecem pontos de dados e recursos para apoiar uma conversa com os alunos, e não determinações de má conduta.
“É uma peça de um quebra-cabeça mais amplo que inclui muitos componentes.”
Os relatórios que indicam a presença de escrita de IA simplesmente fornecem pontos de dados para apoiar uma conversa com os alunos
Mesmo que softwares como o detector de IA da Turnitin não sejam usados como forma de penalizar automaticamente os alunos, os resultados ainda influenciam muito os professores.
Um professor da Universidade Texas A&M-Commerce, por exemplo, levantou as sobrancelhas quando usou o ChatGPT na tentativa de descobrir se os papéis que ele estava corrigindo eram escritos em ML ou não. As notas dos alunos foram suspensas e alguns foram inocentados de trapaça, enquanto outros reenviaram seus trabalhos.
Descobrir se o texto foi criado por um ser humano ou por uma máquina é difícil. OpenAI derrubou seu classificador de saída de IA seis meses depois de ter sido lançado devido à sua baixa precisão, e disse que estava tentando criar novos métodos de detecção de conteúdo gerado por IA.
Para complicar ainda mais a situação, o software de detecção de IA pode ser facilmente prejudicado ao analisar texto que foi escrito por humanos e depois editado usando IA e vice-versa. Um anterior estudo liderado por cientistas da computação da Universidade de Maryland descobriu que as chances dos melhores classificadores detectarem texto de IA não são melhores do que jogar uma moeda ao ar. ®
- Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
- PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
- PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
- PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
- PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
- Fonte: https://go.theregister.com/feed/www.theregister.com/2023/09/23/turnitin_ai_detection/
- :tem
- :é
- :não
- $UP
- 000
- 1
- 2022
- 7
- 75
- 98
- a
- habilidade
- Sobre
- precisão
- acusado
- adicionado
- Adicionalmente
- admitiu
- avançado
- Depois de
- AI
- já
- tb
- sempre
- americano
- an
- análise
- e
- aparece
- Abril
- SOMOS
- AS
- At
- austin
- automaticamente
- média
- fundo
- baseado
- BE
- tornam-se
- sido
- ser
- Acreditar
- MELHOR
- Melhor
- Bloomberg
- mais amplo
- mas a
- by
- calculado
- CAN
- chances
- ChatGPT
- batota
- verificar
- chefe
- diretor de produto
- afirmou
- CO
- Moeda
- como
- comum
- Empresa
- componentes
- composta
- computador
- Preocupações
- considerando
- consultor
- conteúdo
- Conversa
- poderia
- criado
- Clientes
- dados,
- Os pontos de dados
- Data
- decidido
- definir
- projetado
- detalhado
- descobrir
- Detecção
- determina
- difícil
- critério
- do
- INSTITUCIONAIS
- don
- dois
- cada
- facilmente
- educacional
- educadores
- Eficaz
- habilitado
- entrar
- Mesmo
- exemplo
- Explicação
- falso
- medos
- Característica
- Figura
- Envie o
- Escolha
- encontrado
- fundamentalmente
- mais distante
- gerado
- dá
- grandemente
- orientações
- mais duro
- Ter
- he
- Alta
- segurar
- Como funciona o dobrador de carta de canal
- Contudo
- HTTPS
- humano
- Humanos
- identificar
- if
- in
- inclui
- Incluindo
- influência
- INFORMAÇÕES
- Instituição
- instrutivo
- para dentro
- isn
- IT
- ESTÁ
- jpg
- Saber
- Conhecimento
- Maior
- Sobrenome
- conduzir
- Deixar
- levou
- esquerda
- menos
- como
- OLHARES
- máquina
- gerenciados
- muitos
- marca��o
- Maryland
- Matéria
- significava
- métodos
- Michael
- Michigan
- Mês
- mês
- mais
- a maioria
- muito
- Novo
- não
- of
- WOW!
- Oferece
- Oficial
- on
- ONE
- só
- OpenAI
- or
- A Nossa
- Fora
- Acima de
- papéis
- padrões
- Pessoas
- por cento
- perfeita
- peça
- platão
- Inteligência de Dados Platão
- PlatãoData
- pontos
- políticas
- pobre
- positivo
- possível
- predizer
- presença
- anterior
- política de privacidade
- processos
- Produto
- profissional
- fornecer
- colocar
- quebra-cabeça
- questão
- angariado
- Taxa
- reais
- liberado
- substituir
- Relatórios
- Recursos
- resultar
- Resultados
- s
- Dito
- Escola
- cientistas
- Ponto
- Vejo
- parece
- sentença
- separado
- rede de apoio social
- simplesmente
- SIX
- Seis meses
- Software
- RESOLVER
- alguns
- Estado
- Ainda
- estudante
- Estudantes
- estilo
- apresentado
- ajuda
- comutado
- .
- tomar
- Tarefa
- professores
- Tecnologia
- texas
- texto
- do que
- que
- A
- deles
- então
- Lá.
- deles
- isto
- aqueles
- Através da
- para
- disse
- também
- ferramenta
- ferramentas
- Sorteio
- tentando
- Virado
- Universidades
- universidade
- desconhecido
- us
- Uso
- usar
- usava
- utilização
- muito
- vício
- queremos
- foi
- Caminho..
- we
- foram
- O Quê
- quando
- se
- enquanto
- QUEM
- precisarão
- de
- Atividades:
- seria
- escrita
- escrito
- ano
- zefirnet