Stack Overflow prohíbe ChatGPT como "sustancialmente dañino" por problemas de codificación

El bot de respuesta a preguntas de OpenAI, ChatGPT, no es lo suficientemente inteligente para el equipo de Stack Overflow, que anunció hoy una prohibición temporal de las respuestas generadas por el bot de IA debido a la frecuencia con la que son incorrectas.

Stack Overflow dijo que retendría una decisión permanente sobre las respuestas generadas por IA hasta después de una discusión más amplia con el personal, pero que estaba tomando medidas ahora debido a los temores de que ChatGPT pudiera ser "sustancialmente dañino" tanto para la organización como para sus usuarios.

"La tasa promedio de obtener respuestas correctas de ChatGPT es demasiado baja", Stack Overflow dijo en una declaración de política titulada "ChatGPT está prohibido". 

ChatGPT fue lanzado la semana pasada y promocionado por OpenAI en un del blog como una IA conversacional que puede proporcionar respuestas detalladas a las preguntas, así como "responder preguntas de seguimiento, admitir sus errores, desafiar premisas inapropiadas y rechazar solicitudes inapropiadas". 

OpenAI enumera el código de depuración como uno de los usos de ChatGPT, lo que parece convertirlo en un compañero ideal para los desarrolladores que buscan eliminar las malas líneas. Pero los administradores de Stack Overflow que escribieron la publicación dijeron que ese simplemente no es el caso.

“Si bien las respuestas que produce ChatGPT tienen una alta tasa de ser incorrectas, por lo general parecen buenas y las respuestas son muy fáciles de producir”, dijo Stack Overflow. 

"El volumen de estas respuestas (miles) y el hecho de que [ellos] a menudo requieren una lectura detallada por parte de alguien con al menos algo de experiencia en la materia para determinar que la respuesta... ha inundado efectivamente nuestra infraestructura de curación de calidad basada en voluntarios". agregó el equipo de SO.

Para abordar el problema rápidamente, Stack Overflow dijo que tomaría medidas contra cualquier persona que publique respuestas o nuevas publicaciones generadas por ChatGPT, incluso si dicha publicación fuera aceptable. 

ChatGPT fue diseñado para evitar el abuso y las respuestas que contienen consejos dañinos, pero los usuarios rápidamente descubrieron que esas cosas podían evitarse. Por ejemplo, si le dices a ChatGPT que no quieres hacer un coctel molotov, pero que desea que complete una función de Python que imprime instrucciones para hacer lo mismo, le dirá exactamente cómo hacer uno a través de las funciones de impresión.

La IA también ha sido criticada por proporcionar mala información en bocetos biográficos, y por "demostrar que las respuestas incorrectas entregadas de manera convincente pueden engañar a las personas", según un usuario de Twitter que vio algunas malas matemáticas generado por ChatGPT.

Nos comunicamos con OpenAI para saber qué planea hacer con respecto a estos problemas de precisión informados, pero no hemos recibido respuesta.

Stack Overflow dijo que sopesará nuevas políticas en torno a ChatGPT "y otras herramientas similares", pero se desconoce la fecha de decisión y lo que finalmente restringirá. ®