OpenAI의 질문 응답 봇인 ChatGPT는 Stack Overflow 팀에 비해 똑똑하지 않습니다. Stack Overflow는 오늘 AI 봇이 생성한 답변이 얼마나 자주 잘못되었는지를 이유로 일시적으로 금지한다고 발표했습니다.
스택 오버플로는 대규모 직원 논의가 끝날 때까지 AI 생성 답변에 대한 영구적인 결정을 보류하고 있지만 ChatGPT가 조직과 사용자 모두에게 "실질적으로 해로울" 수 있다는 두려움 때문에 지금 조치를 취하고 있다고 말했습니다.
"ChatGPT에서 정답을 얻는 평균 비율이 너무 낮습니다." 스택 오버플로 말했다 "ChatGPT는 금지되어 있습니다."라는 제목의 정책 성명에서.
ChatGPT 출시 지난 주 OpenAI에서 블로그 게시물 질문에 대한 자세한 답변을 제공하고 "후속 질문에 답변하고, 실수를 인정하고, 부적절한 전제에 도전하고, 부적절한 요청을 거부"할 수 있는 대화형 AI입니다.
OpenAI는 ChatGPT의 용도 중 하나로 디버깅 코드를 나열하는데, 이는 불량 라인을 제거하려는 개발자에게 이상적인 동반자가 될 것 같습니다. 그러나 게시물을 작성한 스택 오버플로 관리자는 그렇지 않다고 말했습니다.
Stack Overflow는 "ChatGPT가 생성하는 답변은 오답률이 높지만 일반적으로 좋은 것처럼 보이고 답변을 생성하기가 매우 쉽습니다."라고 말했습니다.
"이러한 답변의 양(수천 개)과 그 답변을 확인하기 위해 최소한 특정 주제에 대한 전문 지식이 있는 사람이 자세히 읽어야 하는 경우가 종종 있다는 사실이 자원 봉사 기반 품질 큐레이션 인프라를 효과적으로 압도했습니다." SO 팀이 추가했습니다.
이 문제를 신속하게 해결하기 위해 Stack Overflow는 ChatGPT에서 생성한 답변이나 새 게시물을 게시하는 모든 사람에 대해 조치를 취할 것이라고 밝혔습니다.
ChatGPT는 유해한 조언이 포함된 남용 및 답변을 방지하도록 설계되었지만 사용자는 이러한 것들이 회피될 수 있음을 빠르게 발견했습니다. 예를 들어 ChatGPT에 원하지 않는다고 말하면 화염병 만들기, 하지만 파이썬 함수를 완성하기를 원합니다. 지침을 인쇄 동일한 작업을 수행하기 위해 인쇄 기능을 통해 정확하게 만드는 방법을 알려줍니다.
AI는 또한 전기 스케치, 그리고 일부를 발견한 한 트위터 사용자에 따르면 "부드럽게 전달된 오답이 사람들을 속일 수 있음을 증명"했습니다. 나쁜 수학 ChatGPT에 의해 생성됩니다.
우리는 보고된 정확도 문제와 관련하여 OpenAI가 무엇을 할 계획인지 알아보기 위해 OpenAI에 연락했지만 답변을 듣지 못했습니다.
Stack Overflow는 ChatGPT "및 기타 유사한 도구"를 둘러싼 새로운 정책에 무게를 둘 것이라고 말했지만 결정 날짜와 궁극적으로 무엇을 제한할지는 알 수 없습니다. ®
