כלי ניהול תוכן חדש ומשופר

כדי לעזור למפתחים להגן על האפליקציות שלהם מפני שימוש לרעה אפשרי, אנו מציגים את המהירים והמדויקים יותר נקודת קצה של מתן. נקודת קצה זו מספקת למפתחי OpenAI API גישה חופשית אליו מבוסס GPT מסווגים שמזהים תוכן לא רצוי - מופע של באמצעות מערכות AI לסייע בפיקוח אנושי על מערכות אלו. שחררנו גם את א נייר טכני מתאר את המתודולוגיה שלנו ואת ה מערך נתונים משמש להערכה.

כאשר ניתנת קלט טקסט, נקודת הסיום של ניהול מעריכה האם התוכן הוא מיני, שונא, אלים או מקדם פגיעה עצמית - תוכן האסור על ידינו מדיניות התוכן. נקודת הקצה הוכשרה להיות מהירה, מדויקת ולביצוע יציבות במגוון יישומים. חשוב לציין, זה מקטין את הסיכוי שמוצרים "יגידו" את הדבר הלא נכון, אפילו כשהם פרוסים למשתמשים בקנה מידה גדול. כתוצאה מכך, בינה מלאכותית יכולה לפתוח יתרונות במסגרות רגישות, כמו חינוך, שבהן לא ניתן היה להשתמש בה בביטחון.

נקודת הקצה של Moderation עוזרת למפתחים ליהנות מהשקעות התשתית שלנו. במקום לבנות ולתחזק את המסווגים שלהם - תהליך נרחב, כפי שאנו מתעדים במסמך שלנו מאמר- הם יכולים במקום זאת לגשת למסווגים מדויקים באמצעות קריאת API אחת.

כחלק מ-OpenAI's מחויבות ל מה שהופך את מערכת ה-AI לבטוחה יותר, אנו מספקים נקודת קצה זו כדי לאפשר ניהול חינם של כל התוכן שנוצר על ידי OpenAI API. לדוגמה, בעולם, לקוח OpenAI API, משתמש בנקודת הקצה של Moderation כדי לעזור לדמויות הווירטואליות המבוססות בינה מלאכותית שלהם "להישאר על הסקריפט". על ידי מינוף הטכנולוגיה של OpenAI, Inworld יכולה להתמקד במוצר הליבה שלהם - יצירת דמויות בלתי נשכחות.

בנוסף, אנו מברכים על השימוש בנקודת הקצה למתן תוכן לֹא נוצר עם OpenAI API. במקרה אחד, החברה ngl - פלטפורמת הודעות אנונימית, עם התמקדות בבטיחות - משתמשת בנקודת הקצה של Moderation כדי לזהות שפה שנאה ובריונות באפליקציה שלהם. NGL מגלה שמסווגים אלו מסוגלים להכליל לסלנג העדכני ביותר, מה שמאפשר להם להישאר בטוחים יותר לאורך זמן. השימוש בנקודת הקצה של Moderation לניטור תעבורה שאינה API הוא בגרסת בטא פרטית ויהיה כפוף לתשלום. אם אתה מעוניין, אנא פנה אלינו בכתובת support@openai.com.

התחל עם נקודת הקצה של Moderation על ידי צ'ק-אאוט התיעוד. פרטים נוספים על תהליך האימון וביצועי המודל זמינים אצלנו מאמר. שחררנו גם א מערך נתונים להערכה, הכולל נתוני סריקה נפוצה המסומנים בתוך קטגוריות אלו, שאנו מקווים שידרבן מחקר נוסף בתחום זה.