DALL·E 3 اکنون در ChatGPT Plus و Enterprise در دسترس است

ما از یک سیستم ایمنی چند لایه برای محدود کردن توانایی DALL·E 3 برای تولید تصاویر بالقوه مضر، از جمله محتوای خشونت‌آمیز، بزرگسالان یا نفرت‌آمیز استفاده می‌کنیم. بررسی‌های ایمنی بر روی درخواست‌های کاربر و تصاویر حاصل از آن قبل از نمایش برای کاربران انجام می‌شود. ما همچنین با کاربران اولیه و تیم‌های قرمز خبره برای شناسایی و رفع شکاف‌های پوشش سیستم‌های ایمنی خود که با قابلیت‌های مدل جدید ظهور کرده‌اند، کار کردیم. برای مثال، بازخورد به ما کمک کرد تا موارد لبه‌ای برای تولید محتوای گرافیکی، مانند تصاویر جنسی، و تست استرس توانایی مدل برای تولید تصاویر گمراه‌کننده متقاعدکننده را شناسایی کنیم. 

به عنوان بخشی از کار انجام شده برای آماده سازی DALL·E 3 برای استقرار، ما همچنین اقداماتی را برای محدود کردن احتمال تولید محتوا در سبک هنرمندان زنده، تصاویر شخصیت های عمومی و بهبود نمایش جمعیتی در بین تصاویر تولید شده انجام داده ایم. برای مطالعه بیشتر در مورد کار انجام شده برای آماده سازی DALL·E 3 برای استقرار گسترده، به ادامه مطلب مراجعه کنید کارت سیستم DALL·E 3.

بازخورد کاربر به ما کمک می کند تا مطمئن شویم که به بهبود ادامه می دهیم. کاربران ChatGPT می‌توانند با استفاده از نماد پرچم، بازخورد خود را با تیم تحقیقاتی ما به اشتراک بگذارند تا خروجی‌های ناامن یا خروجی‌هایی را که دقیقاً منعکس‌کننده درخواست شما به ChatGPT نیستند، به ما اطلاع دهند. گوش دادن به جامعه متنوع و گسترده ای از کاربران و درک دنیای واقعی برای توسعه و استقرار هوش مصنوعی مسئولانه بسیار مهم است و هسته اصلی ماموریت ما است.

ما در حال تحقیق و ارزیابی نسخه اولیه یک طبقه‌بندی‌کننده منشأ هستیم - یک ابزار داخلی جدید که می‌تواند به ما کمک کند تشخیص دهیم که آیا یک تصویر توسط DALL·E 3 ایجاد شده است یا نه. در ارزیابی‌های داخلی اولیه، بیش از 99٪ در تشخیص دقیق است. زمانی که تصویر تغییر نکرده باشد، یک تصویر توسط DALL·E ایجاد شده است. زمانی که تصویر در معرض انواع تغییرات معمولی مانند برش، تغییر اندازه، فشرده‌سازی JPEG یا زمانی که متن یا برش‌هایی از تصاویر واقعی بر روی بخش‌های کوچکی از تصویر تولید شده قرار می‌گیرند، بیش از 95 درصد دقیق باقی می‌ماند. با وجود این نتایج قوی در آزمایش داخلی، طبقه‌بندی‌کننده تنها می‌تواند به ما بگوید که احتمالاً یک تصویر توسط DALL·E ایجاد شده است و هنوز ما را قادر به نتیجه‌گیری قطعی نمی‌کند. این طبقه‌بندی‌کننده منشأ ممکن است بخشی از طیف وسیعی از تکنیک‌ها باشد تا به مردم کمک کند بفهمند محتوای صوتی یا بصری توسط هوش مصنوعی تولید شده است یا خیر. این چالشی است که نیازمند همکاری در سراسر زنجیره ارزش هوش مصنوعی، از جمله با پلتفرم‌هایی است که محتوا را بین کاربران توزیع می‌کنند. ما انتظار داریم که اطلاعات زیادی در مورد نحوه عملکرد این ابزار و مکان هایی که ممکن است مفیدتر باشد بیاموزیم و در طول زمان رویکرد خود را بهبود بخشیم.