DALL·E 3 זמין כעת ב-ChatGPT Plus וב-Enterprise

אנו משתמשים במערכת בטיחות רב-שכבתית כדי להגביל את יכולתו של DALL·E 3 ליצור תמונות שעלולות להזיק, כולל תוכן אלים, מבוגרים או שנאה. בדיקות בטיחות פועלות על פני הנחיות המשתמש והתמונות המתקבלות לפני שהן מוצגות למשתמשים. עבדנו גם עם משתמשים מוקדמים ואנשי צוות אדומים מומחים כדי לזהות ולטפל בפערים בכיסוי של מערכות הבטיחות שלנו, שהופיעו עם יכולות דגם חדש. לדוגמה, המשוב עזר לנו לזהות מקרי קצה ליצירת תוכן גרפי, כגון דימויים מיניים, ולבחון את היכולת של המודל ליצור תמונות מטעות באופן משכנע. 

כחלק מהעבודה שנעשתה להכנת DALL·E 3 לפריסה, נקטנו גם בצעדים להגביל את הסבירות של המודל ליצור תוכן בסגנון של אמנים חיים, תמונות של אישי ציבור, וכדי לשפר את הייצוג הדמוגרפי על פני תמונות שנוצרו. כדי לקרוא עוד על העבודה שנעשתה להכנת DALL·E 3 לפריסה רחבה, ראה את כרטיס מערכת DALL·E 3.

משוב משתמשים יעזור לוודא שאנחנו ממשיכים להשתפר. משתמשי ChatGPT יכולים לשתף משוב עם צוות המחקר שלנו על ידי שימוש בסמל הדגל כדי ליידע אותנו על פלטים או פלטים לא בטוחים שאינם משקפים במדויק את ההנחיה שנתת ל-ChatGPT. הקשבה לקהילה מגוונת ורחבה של משתמשים והבנה בעולם האמיתי היא קריטית לפיתוח ופריסה של בינה מלאכותית באחריות והיא הליבה למשימתנו.

אנו חוקרים ומעריכים גרסה ראשונית של מסווג מקור - כלי פנימי חדש שיכול לעזור לנו לזהות אם תמונה נוצרה על ידי DALL·E 3 או לא. בהערכות פנימיות מוקדמות, הוא מדויק ביותר מ-99% בזיהוי האם תמונה נוצרה על ידי DALL·E כאשר התמונה לא שונתה. היא נשארת מדויקת ביותר מ-95% כאשר התמונה הייתה נתונה לסוגים נפוצים של שינויים, כגון חיתוך, שינוי גודל, דחיסת JPEG, או כאשר טקסט או גזרות מתמונות אמיתיות מונחות על גבי חלקים קטנים מהתמונה שנוצרה. למרות התוצאות החזקות הללו בבדיקות פנימיות, המסווג יכול רק לומר לנו שתמונה נוצרה ככל הנראה על ידי DALL·E, ועדיין לא מאפשרת לנו להגיע למסקנות סופיות. סיווג מקור זה עשוי להפוך לחלק ממגוון טכניקות שיעזרו לאנשים להבין אם תוכן אודיו או חזותי נוצר בינה מלאכותית. זה אתגר שידרוש שיתוף פעולה בכל שרשרת הערך של AI, כולל עם הפלטפורמות שמפיצות תוכן למשתמשים. אנו מצפים ללמוד הרבה על איך הכלי הזה עובד והיכן הוא עשוי להיות הכי שימושי, ולשפר את הגישה שלנו לאורך זמן.