OpenAI i dziennikarstwo

Wydawało się, że od czasu naszego ostatniego komunikatu z 19 grudnia nasze dyskusje z The New York Times przebiegały konstruktywnie. Negocjacje skupiały się na partnerstwie o wysokiej wartości w zakresie wyświetlania w czasie rzeczywistym z atrybucją w ChatGPT, w ramach którego The New York Times zyska nowy sposób na nawiązanie kontaktu z obecnymi i nowymi czytelnikami, a nasi użytkownicy zyskają dostęp do swoich raportów. Wyjaśniliśmy dziennikowi „The New York Times”, że jak w przypadku każdego pojedynczego źródła, ich treść nie przyczyniła się znacząco do szkolenia naszych istniejących modeli, a także nie miałaby wystarczającego wpływu na przyszłe szkolenia. Ich pozew z 27 grudnia – o którym dowiedzieliśmy się z lektury „The New York Times” – był dla nas zaskoczeniem i rozczarowaniem.

Po drodze wspomnieli, że zauważyli pewne niedokładności w ich treści, ale wielokrotnie odmawiali udostępnienia jakichkolwiek przykładów, pomimo naszego zaangażowania w zbadanie i naprawienie wszelkich problemów. Pokazaliśmy, jak poważnie traktujemy tę kwestię jako priorytet, tak jak w lipcu, kiedy to zrobiliśmy usunięto funkcję ChatGPT natychmiast po tym, jak dowiedzieliśmy się, że może odtwarzać treści w czasie rzeczywistym w niezamierzony sposób.

Co ciekawe, niedomykalności wywołane przez „The New York Times” wydają się pochodzić z artykułów sprzed wielu lat, które rozprzestrzeniły się na wielokrotność trzeci-przyjęcie strony internetowe. Wygląda na to, że celowo manipulowali podpowiedziami, często włączając długie fragmenty artykułów, aby nasz model się cofnął. Nawet gdy korzystamy z takich podpowiedzi, nasze modelki zazwyczaj nie zachowują się w sposób, jaki sugeruje „The New York Times”, co sugeruje, że albo poinstruowały modelkę, aby zwróciła uwagę, albo wybrały przykłady z wielu prób.

Pomimo twierdzeń, to niewłaściwe użycie nie jest typową ani dozwoloną działalnością użytkownika i nie zastępuje dziennika The New York Times. Niezależnie od tego stale zwiększamy odporność naszych systemów na ataki kontradyktoryjne mające na celu zwracanie danych szkoleniowych i poczyniliśmy już znaczne postępy w naszych najnowszych modelach.