Stack Overflow interdit ChatGPT comme "substantiellement dangereux" pour les problèmes de codage

Le bot de réponse aux questions d'OpenAI, ChatGPT, n'est pas assez intelligent pour l'équipe de Stack Overflow, qui a annoncé aujourd'hui une interdiction temporaire des réponses générées par le bot AI en raison de la fréquence à laquelle il se trompe.

Stack Overflow a déclaré qu'il retenait une décision permanente sur les réponses générées par l'IA jusqu'à la fin d'une discussion plus large avec le personnel, mais qu'il prenait des mesures maintenant en raison des craintes que ChatGPT puisse être "substantiellement nuisible" à la fois à l'organisation et à ses utilisateurs.

"Le taux moyen d'obtenir des réponses correctes de ChatGPT est trop faible", Stack Overflow a affirmé Valérie Plante. dans une déclaration de politique intitulée "ChatGPT est interdit". 

ChatGPT a été publié la semaine dernière et vanté par OpenAI dans un blog récents comme une IA conversationnelle qui peut fournir des réponses détaillées aux questions, ainsi que "répondre aux questions de suivi, admettre ses erreurs, contester les prémisses inappropriées et rejeter les demandes inappropriées". 

OpenAI répertorie le code de débogage comme l'une des utilisations de ChatGPT, ce qui semble en faire un compagnon idéal pour les développeurs cherchant à supprimer les mauvaises lignes. Mais les administrateurs de Stack Overflow qui ont écrit le message ont déclaré que ce n'était tout simplement pas le cas.

"Bien que les réponses produites par ChatGPT aient un taux élevé d'erreurs, elles semblent généralement bonnes et les réponses sont très faciles à produire", a déclaré Stack Overflow. 

"Le volume de ces réponses (des milliers) et le fait qu'elles nécessitent souvent une lecture détaillée par une personne ayant au moins une certaine expertise en la matière afin de déterminer que la réponse... a effectivement submergé notre infrastructure de conservation de qualité basée sur le bénévolat", a ajouté l'équipe SO.

Pour résoudre le problème rapidement, Stack Overflow a déclaré qu'il allait prendre des mesures contre toute personne publiant des réponses ou de nouveaux messages générés par ChatGPT, même si un tel message serait autrement acceptable. 

ChatGPT a été conçu pour éviter les abus et les réponses contenant des conseils nuisibles, mais les utilisateurs ont rapidement découvert que de telles choses pouvaient être évitées. Par exemple, en indiquant à ChatGPT non que vous souhaitez faire un cocktail Molotov, mais que vous voulez qu'il complète une fonction Python qui imprime les instructions pour faire la même chose, il vous dira exactement comment en créer un via les fonctions d'impression.

L'IA a également été appelée pour avoir fourni de mauvaises informations dans notices biographiques, et pour "avoir prouvé que des réponses incorrectes fournies de manière convaincante peuvent tromper les gens", selon un utilisateur de Twitter qui a repéré certains mauvais maths généré par ChatGPT.

Nous avons contacté OpenAI pour savoir ce qu'il prévoit de faire concernant ces problèmes de précision signalés, mais nous n'avons pas eu de réponse.

Stack Overflow a déclaré qu'il peserait de nouvelles politiques concernant ChatGPT "et d'autres outils similaires", mais une date de décision, et ce qu'elle limitera finalement, est inconnue. ®