Anthropic יצרה צ'אט בוט דמוקרטי בינה מלאכותית על ידי כך שאפשרה את בחירת העקרונות שלו על ידי המשתמשים.

בחקירה פורצת דרך של יכולות AI, Anthropic, חברת בינה מלאכותית (AI), התאימה מודל שפה גדול (LLM) כדי לשקף ערכים המוגדרים על ידי המשתמש. מחקר ייחודי זה כלל איסוף מידע מ-1,000 משתתפים כדי לכוונן את התגובות של ה-LLM על סמך השיפוטים הקולקטיביים שלהם.

בניגוד ל-LLMs קונבנציונליים המצוידים במעקות בטיחות מוגדרים מראש כדי להגביל תפוקות מסוימות, הגישה של Anthropic חובקת סוכנות משתמשים. דוגמניות כמו קלוד מאנתרופיק ו-ChatGPT מ-OpenAI מצייתים לרוב לתגובות בטיחות מוגדרות מראש, במיוחד לגבי נושאים רגישים. עם זאת, מבקרים טוענים שהתערבויות כאלה עלולות לסכן את האוטונומיה של המשתמש, שכן הגדרת הקבילות משתנה והיא סובייקטיבית בין תרבויות ותקופות זמן.

פתרון פוטנציאלי לאתגר מורכב זה הוא העצמת המשתמשים לעצב את יישור הערך של מודלים של AI. אנתרופיק החלה בניסוי "בינה מלאכותית חוקתית קולקטיבית" בשיתוף פעולה עם Polis ופרויקט המודיעין הקולקטיבי. הם שיתפו 1,000 משתמשים מרקעים מגוונים והעלו סדרה של שאלות באמצעות סקרים כדי לאסוף תובנות חשובות.

הניסוי עוסק במתן סמכות למשתמשים לקבוע התאמה מבלי לחשוף אותם לתפוקות לא רצויות. תהליך זה כלל העלאת ערכי משתמש ושילובם במודל שהוכשר מראש. אנתרופיק משתמש בטכניקה המכונה "בינה מלאכותית חוקתית", שבה המודל מסופק עם מערכת כללים שיש לפעול לפיה, בדומה לחוקה המנחה את הממשל במדינות.

בניסוי Collective Constitutional AI, Anthropic שמה לה למטרה לשלב משוב מקבוצות משתמשים בחוקת המודל. לפי הפוסט בבלוג של Anthropic, התוצאות מצביעות על הצלחה מדעית, ושופכות אור על אתגרים הקשורים במתן אפשרות למשתמשים להגדיר ביחד את הערכים של מוצר LLM.

מכשול בולט שעמד בפני הצוות היה פיתוח תהליך בנצ'מרק חדש. בהתחשב באופי החלוצי של הניסוי והסתמכות על מתודולוגיית הבינה המלאכותית החוקתית של אנתרופיק, אין מבחן מבוסס להשוואת מודלים בסיסיים לאלה המכוונים היטב באמצעות ערכים ממקור המונים.

בסופו של דבר, נראה כי המודל המשלב נתונים שנגזרו ממשוב סקרים של משתמשים הציג שיפור "קל" לעומת המודל הבסיסי בהפחתת תפוקות מוטות. אנתרופי מביע התרגשות לא רק מהמודל שנוצר אלא, חשוב מכך, מהתהליך פורץ הדרך עצמו. ניסוי זה מסמל את אחד המקרים הראשוניים שבהם הציבור, כקולקטיב, השפיע בכוונה על התנהגותו של מודל שפה גדול. התקווה היא שקהילות ברחבי העולם יבנו על טכניקות כאלה כדי לפתח מודלים שיתאימו לצרכיהן התרבותיים והקונטקסטואליים הספציפיים.