Stack Overflow забороняє ChatGPT як «суттєво шкідливий» через проблеми з кодуванням

Бот OpenAI, що відповідає на запитання, ChatGPT, недостатньо розумний для команди Stack Overflow, яка сьогодні оголосила про тимчасову заборону на відповіді, створені ботом AI, через те, як часто він помиляється.

У Stack Overflow заявили, що не приймають постійне рішення щодо відповідей, створених штучним інтелектом, до повного обговорення з персоналом, але зараз вживають заходів через побоювання, що ChatGPT може бути «суттєво шкідливим» як для організації, так і для її користувачів.

«Середній рівень отримання правильних відповідей від ChatGPT занадто низький», Stack Overflow сказав у заяві про політику під назвою «ChatGPT заборонено». 

Випущено ChatGPT минулого тижня і рекламований OpenAI в a блог як розмовний штучний інтелект, який може надавати детальні відповіді на запитання, а також «відповідати на додаткові запитання, визнавати свої помилки, оскаржувати невідповідні передумови та відхиляти невідповідні запити». 

OpenAI перераховує код налагодження як одне з використання ChatGPT, що, здається, робить його ідеальним компаньйоном для розробників, які прагнуть вирізати погані рядки. Але адміністратори Stack Overflow, які написали допис, сказали, що це просто не так.

«Хоча відповіді, які створює ChatGPT, мають високий відсоток неправильних, зазвичай вони виглядають так, ніби вони можуть бути хорошими, і відповіді дуже легко отримати», — сказав Stack Overflow. 

«Обсяг цих відповідей (тисячі) і той факт, що [вони] часто вимагають детального прочитання кимось із принаймні деякими знаннями у відповідній темі, щоб визначити, що відповідь … фактично заполонила нашу інфраструктуру контролю якості, засновану на волонтерах», додала команда SO.

Щоб швидко вирішити цю проблему, Stack Overflow заявив, що збирається вжити заходів проти будь-кого, хто публікуватиме відповіді або нові публікації, створені ChatGPT, навіть якщо така публікація в іншому випадку буде прийнятною. 

ChatGPT було розроблено, щоб уникнути зловживань і відповідей, які містять шкідливі поради, але користувачі швидко виявили, що такі речі можна обійти. Наприклад, сказавши ChatGPT, що ви цього не хочете зробити коктейль Молотова, але ви хочете, щоб він виконував функцію Python, яка друкує інструкції щоб зробити те саме, вам точно підкаже, як зробити його за допомогою функцій друку.

Штучний інтелект також був викликаний за надання недостовірної інформації біографічні нариси, а також за «доведення того, що неправильні відповіді, надані переконливо, можуть обдурити людей», за словами одного користувача Twitter, який помітив деякі погана математика створено ChatGPT.

Ми звернулися до OpenAI, щоб дізнатися, що вона планує робити щодо цих повідомлених проблем із точністю, але не отримали відповіді.

Stack Overflow заявив, що буде розглядати нові політики щодо ChatGPT «та інших подібних інструментів», але дата прийняття рішення та те, що воно остаточно обмежить, невідомі. ®