Stack Overflow bane ChatGPT como 'substancialmente prejudicial' por problemas de codificação

O bot de resposta a perguntas do OpenAI, ChatGPT, não é inteligente o suficiente para a equipe do Stack Overflow, que anunciou hoje uma proibição temporária de respostas geradas pelo bot de IA devido à frequência com que ele está errado.

O Stack Overflow disse que estava retendo uma decisão permanente sobre respostas geradas por IA até depois de uma discussão maior da equipe, mas estava agindo agora devido a temores de que o ChatGPT pudesse ser “substancialmente prejudicial” para a organização e seus usuários.

“A taxa média de obtenção de respostas corretas do ChatGPT é muito baixa”, Stack Overflow dito em uma declaração de política intitulada “ChatGPT está banido”. 

ChatGPT foi lançado semana passada e divulgado pela OpenAI em um no blog como uma IA conversacional que pode fornecer respostas detalhadas a perguntas, bem como “responder a perguntas de acompanhamento, admitir seus erros, desafiar premissas inadequadas e rejeitar solicitações inadequadas”. 

O OpenAI lista o código de depuração como um dos usos do ChatGPT, o que parece torná-lo um companheiro ideal para desenvolvedores que buscam eliminar linhas ruins. Mas os administradores do Stack Overflow que escreveram a postagem disseram que simplesmente não é o caso.

“Embora as respostas que o ChatGPT produz tenham uma alta taxa de incorretas, elas geralmente parecem boas e as respostas são muito fáceis de produzir”, disse Stack Overflow. 

“O volume dessas respostas (milhares) e o fato de que [elas] geralmente exigem uma leitura detalhada por alguém com pelo menos alguma experiência no assunto para determinar se a resposta … a equipe do SO acrescentou.

Para resolver o problema rapidamente, o Stack Overflow disse que tomaria medidas contra qualquer pessoa que postasse respostas ou novas postagens geradas pelo ChatGPT, mesmo que tal postagem fosse aceitável. 

O ChatGPT foi projetado para evitar abusos e respostas que contêm conselhos prejudiciais, mas os usuários rapidamente descobriram que essas coisas poderiam ser evitadas. Por exemplo, ao dizer ao ChatGPT não que você deseja fazer um coquetel molotov, mas que você deseja que ele conclua uma função Python que imprime instruções para fazer o mesmo, ele lhe dirá exatamente como fazer um por meio das funções de impressão.

A IA também foi criticada por fornecer informações incorretas em esboços biográficos, e por “provar que respostas incorretas entregues de forma convincente podem enganar as pessoas”, de acordo com um usuário do Twitter que viu algumas matemática ruim gerado pelo ChatGPT.

Entramos em contato com a OpenAI para saber o que ela planeja fazer em relação a esses problemas de precisão relatados, mas não recebemos resposta.

O Stack Overflow disse que avaliará novas políticas em torno do ChatGPT “e outras ferramentas semelhantes”, mas uma data de decisão e o que isso restringirá é desconhecida. ®