OpenAI와 저널리즘

The New York Times와의 논의는 19월 27일 마지막 커뮤니케이션을 통해 건설적으로 진행되는 것으로 나타났습니다. 협상은 ChatGPT의 속성이 포함된 실시간 디스플레이를 중심으로 한 고부가가치 파트너십에 초점을 맞췄으며, 이로 인해 The New York Times는 새로운 이점을 얻게 됩니다. 기존 및 신규 독자와 연결하는 방법이며 사용자는 보고에 액세스할 수 있습니다. 우리는 다른 단일 소스와 마찬가지로 해당 콘텐츠가 기존 모델의 교육에 의미 있게 기여하지 않았으며 향후 교육에도 충분한 영향을 미치지 않을 것이라고 The New York Times에 설명했습니다. New York Times를 읽으면서 알게 된 XNUMX월 XNUMX일의 소송은 우리에게 놀라움과 실망으로 다가왔습니다.

그 과정에서 그들은 콘텐츠가 일부 역류되는 것을 언급했지만 문제를 조사하고 수정하겠다는 우리의 노력에도 불구하고 어떤 사례도 공유하기를 반복적으로 거부했습니다. 우리는 7월에 우리가 이 문제를 얼마나 진지하게 우선순위로 삼는지 보여주었습니다. ChatGPT 기능을 중단했습니다 의도하지 않은 방식으로 실시간 콘텐츠를 재현할 수 있다는 사실을 알게 된 직후였습니다.

흥미롭게도 New York Times가 유발한 역류는 최근에 급증한 오래된 기사에서 나온 것으로 보입니다. 여러 제삼-파티 웹 사이트. 우리 모델이 역류하도록 하기 위해 종종 긴 기사 발췌를 포함하여 프롬프트를 의도적으로 조작한 것 같습니다. 이러한 프롬프트를 사용할 때에도 우리 모델은 일반적으로 The New York Times가 암시하는 방식으로 작동하지 않습니다. 이는 모델이 모델에 역류하도록 지시했거나 여러 시도에서 사례를 선별했음을 의미합니다.

그들의 주장에도 불구하고 이러한 오용은 일반적인 사용자 활동이 아니며 허용되는 사용자 활동이 아니며 The New York Times를 대체할 수 없습니다. 그럼에도 불구하고, 우리는 훈련 데이터를 역류시키는 적대적 공격에 대한 시스템 저항력을 높이기 위해 지속적으로 노력하고 있으며 이미 최근 모델에서 많은 진전을 이루었습니다.