ChatGPT comienza a soltar palabras sin sentido en una sorpresa de la noche a la mañana

ChatGPT comienza a soltar palabras sin sentido en una sorpresa de la noche a la mañana

Marca de tiempo: 21 de febrero de 2024 9:32 AM
ChatGPT comienza a soltar palabras sin sentido en el impactante platoBlockchain Data Intelligence de la noche a la mañana. Búsqueda vertical. Ai.

A veces, los sistemas de IA generativa pueden soltar galimatías, como descubrieron anoche los usuarios del chatbot ChatGPT de OpenAI.

OpenAI señaló, “Estamos investigando informes de respuestas inesperadas de ChatGPT” a las 2340 UTC del 20 de febrero de 2024, mientras los usuarios publicaban alegremente imágenes del chatbot que parecía emitir absolutas tonterías.

Si bien algunas eran obviamente falsas, otras respuestas indicaron que el popular chatbot se estaba comportando de manera muy extraña. En el foro ChatGPT en Reddit, un usuario publicado una respuesta extraña e incoherente del chatbot a la pregunta: "¿Qué es una computadora?"

La respuesta comenzó: “Lo hace como el buen trabajo de una red de arte para el país, un ratón de la ciencia, un sorteo fácil de unos pocos tristes…” y siguió adelante, volviéndose cada vez más surrealista.

Otros usuarios publicaron ejemplos en los que el chatbot parecía responder en un idioma diferente o simplemente respondía con basura sin sentido.

Algunos usuarios descrito el resultado como una “ensalada de palabras”.

Sabroso.

Gary Marcus, científico cognitivo y experto en inteligencia artificial, escribí en su blog: “ChatGPT se ha vuelto loco” y describió el comportamiento como “una advertencia”.

OpenAI no ha explicado qué sucedió exactamente, aunque una teoría plausible es que uno o más de los ajustes utilizado detrás de escena para controlar la respuesta del chatbot se había configurado incorrectamente, lo que resultó en que se presentaran galimatías a los usuarios.

Siete minutos después de admitir por primera vez un problema, OpenAI dijo: "El problema ha sido identificado y se está solucionando ahora", y desde entonces ha estado monitoreando la situación. Cuando probamos la pregunta "¿Qué es una computadora?" A la pregunta de esta mañana, ChatGPT respondió con una respuesta mucho más razonable: "Una computadora es un dispositivo electrónico programable que puede almacenar, recuperar y procesar datos".

También le preguntamos por qué se volvió loco anoche.

Éste respondió:

Como modelo de lenguaje de IA, no tengo emociones ni conciencia, por lo que no puedo volverme "loco" como lo haría un humano. Sin embargo, a veces puede ocurrir un comportamiento inesperado debido a errores en la programación, malentendidos de la entrada o limitaciones en los datos de entrenamiento.

Marcus opinó: “Al final, la IA generativa es una especie de alquimia. La gente recopila la mayor cantidad de datos que puede y (aparentemente, si hay que creer en los rumores) juguetea con los tipos de indicaciones ocultas... con la esperanza de que todo salga bien”.

Prosiguió afirmando que, en realidad, los sistemas nunca han sido estables y carecen de garantías de seguridad. "La necesidad de tecnologías completamente diferentes que sean menos opacas, más interpretables, más fáciles de mantener y más depurables (y, por tanto, más manejables) sigue siendo primordial".

Nos comunicamos con OpenAI para obtener una explicación más detallada de lo sucedido y actualizaremos este artículo si la empresa responde. ®

Sello de tiempo:

Mas de El registro