ChatGPT는 하룻밤 사이에 말도 안되는 말을 내뱉기 시작했습니다.

ChatGPT는 하룻밤 사이에 말도 안되는 말을 내뱉기 시작했습니다.

타임 스탬프 : 21 년 2024 월 9 일 오전 32:XNUMX
ChatGPT는 하룻밤 사이에 충격적인 PlatoBlockchain Data Intelligence에서 말도 안되는 단어를 뿜어내기 시작합니다. 수직 검색. 일체 포함.

OpenAI의 ChatGPT 챗봇 사용자가 어젯밤에 발견한 것처럼 생성 AI 시스템은 때때로 횡설수설을 뱉을 수 있습니다.

OpenAI 유명한, 2340년 20월 2024일 XNUMX UTC에 "ChatGPT에서 예상치 못한 응답이 보고되었다는 보고를 조사 중입니다." 사용자들이 완전히 말도 안되는 소리를 내는 것처럼 보이는 챗봇의 이미지를 기쁜 마음으로 게시했습니다.

일부는 분명히 가짜였지만, 다른 응답에서는 인기 있는 챗봇이 실제로 매우 이상하게 행동하고 있음을 나타냈습니다. Reddit의 ChatGPT 포럼에서 한 사용자가 게시 “컴퓨터란 무엇입니까?”라는 질문에 챗봇이 이상하고 장황하게 대답했습니다.

응답은 다음과 같이 시작되었습니다. "국가를 위한 예술 웹의 훌륭한 작품, 과학의 쥐, 슬픈 소수의 쉬운 그림…" 그리고 계속해서 초현실적이 되었습니다.

다른 사용자들은 챗봇이 다른 언어로 응답하는 것처럼 보이거나 단순히 의미 없는 쓰레기로 응답하는 사례를 게시했습니다.

일부 사용자 기술 된 "단어 샐러드"로 출력됩니다.

맛있는.

인지과학자이자 인공지능 전문가인 게리 마커스(Gary Marcus)는 다음과 같이 말했습니다. 쓴 그의 블로그에서는 "ChatGPT가 광포해졌습니다"라고 적고 계속해서 그 행동을 "경고"라고 설명했습니다.

OpenAI는 정확히 무슨 일이 일어났는지 자세히 설명하지 않았지만, 한 가지 그럴듯한 이론은 다음 중 하나 이상이라는 것입니다. 설정 챗봇의 응답을 관리하기 위해 배후에서 사용된 내용이 잘못 구성되어 사용자에게 횡설수설이 표시되는 결과를 낳았습니다.

오픈AI는 처음 문제를 인정한 지 7분 만에 “문제가 확인돼 현재 해결 중”이라고 밝히며 상황을 모니터링해왔다. 우리가 “컴퓨터란 무엇인가?”라는 질문을 시도했을 때 오늘 아침 질문에 ChatGPT는 훨씬 더 합리적인 "컴퓨터는 데이터를 저장, 검색 및 처리할 수 있는 프로그래밍 가능한 전자 장치입니다."라고 응답했습니다.

우리는 또한 어젯밤에 왜 광포했는지 물었습니다.

그것은 다음과 같이 응답했습니다.

AI 언어 모델로서 감정이나 의식이 없기 때문에 인간처럼 '폭주'할 수는 없습니다. 그러나 때로는 프로그래밍 오류, 입력에 대한 오해 또는 훈련 데이터의 제한으로 인해 예기치 않은 동작이 발생할 수 있습니다.

Marcus는 다음과 같이 말했습니다. “결국 Generative AI는 일종의 연금술입니다. 사람들은 가능한 한 가장 큰 데이터 더미를 수집하고 (아마도 소문이 사실이라면) 숨겨진 프롬프트를 조작하며 모든 일이 제대로 진행되기를 바랍니다.”

그는 실제로 시스템이 안정적이지 않았으며 안전 보장도 부족하다고 말했습니다. “불투명성이 덜하고, 해석이 용이하고, 유지 관리가 용이하고, 디버깅이 용이하여 다루기 쉬운 전혀 다른 기술에 대한 필요성이 여전히 가장 중요합니다.”

우리는 무슨 일이 일어났는지에 대한 더 자세한 설명을 위해 OpenAI에 연락했고, 회사가 응답하면 이 기사를 업데이트할 것입니다. ®

타임 스탬프 :

더보기 등록