OpenAI و روزنامه نگاری

به نظر می رسید که گفتگوهای ما با نیویورک تایمز از طریق آخرین ارتباط ما در 19 دسامبر پیشرفت سازنده ای داشته باشد. مذاکرات بر یک شراکت با ارزش در مورد نمایش زمان واقعی با ذکر منبع در ChatGPT متمرکز بود، که در آن نیویورک تایمز یک مطلب جدید به دست آورد. راهی برای ارتباط با خوانندگان فعلی و جدید خود، و کاربران ما به گزارش های خود دسترسی پیدا می کنند. ما به نیویورک تایمز توضیح داده بودیم که، مانند هر منبع دیگری، محتوای آنها به طور معناداری به آموزش مدل‌های موجود ما کمک نمی‌کند و همچنین برای آموزش‌های آینده به اندازه کافی تأثیرگذار نخواهد بود. شکایت آنها در 27 دسامبر - که با خواندن نیویورک تایمز از آن مطلع شدیم - برای ما غافلگیرکننده و ناامید کننده بود.

در طول مسیر، آنها اشاره کرده بودند که محتوای خود را مجدداً مشاهده کرده‌اند، اما به‌رغم تعهد ما به بررسی و رفع هرگونه مشکل، مکرراً از به اشتراک گذاشتن نمونه‌ها خودداری کردند. ما نشان داده‌ایم که چقدر جدی با این موضوع به عنوان یک اولویت برخورد می‌کنیم، مثلاً در ژوئیه که ما آن را انجام دادیم یک ویژگی ChatGPT را حذف کرد بلافاصله پس از اینکه فهمیدیم می تواند محتوای بلادرنگ را به روش های ناخواسته بازتولید کند.

جالب اینجاست که به نظر می‌رسد رجعت‌هایی که نیویورک تایمز ایجاد کرده است از مقالات سال‌های گذشته است که در چندگانه سوم-حزب وب سایت. به نظر می‌رسد که آنها عمداً اعلان‌ها را دستکاری کرده‌اند، که اغلب شامل گزیده‌های طولانی از مقالات می‌شود، تا مدل ما را به عقب برگردانند. حتی در هنگام استفاده از چنین اعلان‌هایی، مدل‌های ما معمولاً آن‌گونه که نیویورک تایمز القا می‌کند رفتار نمی‌کنند، که نشان می‌دهد آنها یا به مدل دستور داده‌اند که دوباره برگردد یا نمونه‌های خود را از بسیاری از تلاش‌ها انتخاب کرده‌اند.

علیرغم ادعاهای آنها، این استفاده نادرست یک فعالیت معمولی یا مجاز کاربر نیست و جایگزینی برای نیویورک تایمز نیست. صرف نظر از این، ما به طور مستمر در حال مقاوم‌تر کردن سیستم‌های خود در برابر حملات متخاصم برای بازگرداندن داده‌های آموزشی هستیم و قبلاً در مدل‌های اخیر خود پیشرفت زیادی کرده‌ایم.