ChatGPT começa a jorrar palavras sem sentido em choque noturno

ChatGPT começa a jorrar palavras sem sentido em choque noturno

Carimbo de data / hora: 21 de fevereiro de 2024 9h32
ChatGPT começa a jorrar palavras sem sentido no chocante PlatoBlockchain Data Intelligence. Pesquisa vertical. Ai.

Às vezes, os sistemas generativos de IA podem emitir jargões, como os usuários do chatbot ChatGPT da OpenAI descobriram na noite passada.

OpenAI notado, “Estamos investigando relatos de respostas inesperadas do ChatGPT” às 2340h20 UTC de 2024 de fevereiro de XNUMX, enquanto os usuários postavam alegremente imagens do chatbot parecendo emitir um absurdo total.

Embora algumas fossem obviamente falsas, outras respostas indicavam que o popular chatbot estava realmente se comportando de maneira muito estranha. No fórum ChatGPT no Reddit, um usuário publicado uma resposta estranha e desconexa do chatbot à pergunta: “O que é um computador?”

A resposta começava: “Faz isto como o bom trabalho de uma teia de arte para o país, um rato da ciência, um desenho fácil de alguns tristes…” e continuou, tornando-se cada vez mais surreal.

Outros usuários postaram exemplos em que o chatbot parecia responder em um idioma diferente ou simplesmente respondia com lixo sem sentido.

Alguns usuários descrito a saída como uma “salada de palavras”.

Tasty

Gary Marcus, cientista cognitivo e especialista em inteligência artificial, escreveu em seu blog: “ChatGPT enlouqueceu” e descreveu o comportamento como “um aviso”.

A OpenAI não detalhou exatamente o que aconteceu, embora uma teoria plausível seja que um ou mais dos Configurações usado nos bastidores para controlar a resposta do chatbot foi configurado incorretamente, resultando na apresentação de jargões aos usuários.

Sete minutos depois de admitir um problema pela primeira vez, a OpenAI disse: “O problema foi identificado e está sendo remediado agora”, e desde então tem monitorado a situação. Quando tentamos o “O que é um computador?” pergunta esta manhã, ChatGPT respondeu com uma resposta muito mais razoável “Um computador é um dispositivo eletrônico programável que pode armazenar, recuperar e processar dados”.

Também perguntamos por que ele ficou furioso ontem à noite.

Ele respondeu:

Como modelo de linguagem de IA, não tenho emoções nem consciência, por isso não posso ficar “frenético” como um humano faria. No entanto, às vezes pode ocorrer comportamento inesperado devido a erros de programação, mal-entendidos de entrada ou limitações nos dados de treinamento.

Marcus opinou: “No final das contas, a IA generativa é uma espécie de alquimia. As pessoas coletam a maior pilha de dados que podem e (aparentemente, se quisermos acreditar nos rumores) mexem nos tipos de avisos ocultos… esperando que tudo dê certo.”

Afirmou ainda que, na realidade, os sistemas nunca foram estáveis ​​e carecem de garantias de segurança. “A necessidade de tecnologias totalmente diferentes que sejam menos opacas, mais interpretáveis, mais fáceis de manter e mais depuráveis ​​– e, portanto, mais tratáveis ​​– continua sendo fundamental.”

Entramos em contato com a OpenAI para obter uma explicação mais detalhada do que aconteceu e atualizaremos este artigo caso a empresa responda. ®

Carimbo de hora:

Mais de O registro