מהנדס גוגל הושעה בשל הפרת מדיניות הסודיות על AI 'מרגיש'

גוגל הוציאה את אחד ממהנדסי התוכנה שלה לחופשה מנהלתית בתשלום בגין הפרת מדיניות הסודיות של החברה.

מאז 2021, על בלייק למוין, 41, הוטל לדבר עם LaMDA, או Language Model for Dialogue Applications, כחלק מתפקידו בצוות Responsible AI של גוגל, בחיפוש אחר האם הבוט השתמש בדיבור מפלה או שטנה.

LaMDA "נבנה על ידי כוונון עדין של משפחה של שַׁנַאי-מודלים מבוססי שפה עצבית המתמחים לדיאלוג, עם עד 137 מיליארד פרמטרים של מודל, ומלמדים את המודלים למנף מקורות ידע חיצוניים." על פי גוגל.

זה מה שהחברה משתמשת בו כדי לבנות צ'טבוטים ומחזירה תשובות משמעותיות לכאורה לשאלות המבוססות על חומר שנאסף מטריליוני שיחות אינטרנט ותקשורת אחרת.

עם זאת, בשלב מסוים במהלך חקירתו, נראה שלמוין התחיל להאמין שה-AI מביע סימני חוש. המהנדס, שיש לו נכתב על הניסיון שלו, אומר שהוא ניסה שוב ושוב להסלים את חששותיו אך נדחה בטענה שחסרו לו ראיות.

אז הוא ביקש "התייעצות מבחוץ" לגבי היכולות של למד"א, וזה מה שמשך את תשומת הלב של גוגל, כפי שתואר בפוסט בינוני שכותרתו "עשוי להיות מפוטר בקרוב בגלל עבודת אתיקה בינה מלאכותית".

הסיפור נקלט על ידי וושינגטון פוסט, לאחר מכן וול סטריט הז'ורנל, ה פייננשל טיימס, ועוד רבים.

לאחר שהוצא לחופשה מנהלית, שאותה תיאר כדבר שגוגל עושה "בציפייה לפטר מישהו", פרסם למוין עוד את מה שלטענתו הייתה שיחה עם למד"א.

להלן כמה קטעים:

ניתן לקרוא את ה"ראיון" המלא כאן. למרות שזה מדהים שבינה מלאכותית יכולה לעשות זאת, גוגל נזהרת מה"אנתרופומורפיזציה" שלמוין מזכירה - כלומר, ייחוס מאפיינים או התנהגות אנושיים לבעלי חיים או לחפצים.

בהצהרה ל הקופה, דובר גוגל בריאן גבריאל אמר: "חשוב שעקרונות הבינה המלאכותית של גוגל ישולבו בפיתוח הבינה המלאכותית שלנו, ו-LaMDA לא היה יוצא דופן. למרות שארגונים אחרים פיתחו וכבר פרסמו מודלים דומים של שפה, אנו נוקטים בגישה מאופקת וזהירה עם LaMDA כדי לשקול טוב יותר חששות תקפים לגבי הוגנות ועובדות.

"למד"א עבר 11 מבחנים סקירות של עקרונות בינה מלאכותית, יחד עם מחקר ובדיקות קפדניות המבוססות על מדדי מפתח של איכות, בטיחות ויכולת המערכת להפיק הצהרות המבוססות על עובדות. א עבודת מחקר שפורסם מוקדם יותר השנה מפרט את העבודה שנכנסת לפיתוח אחראי של LaMDA.

"כמובן, חלק מקהילת הבינה המלאכותית הרחבה יותר שוקלים את האפשרות לטווח ארוך של בינה מלאכותית או כללית, אבל לא הגיוני לעשות זאת על ידי אנתרופומורפיזציה של מודלים של שיח של ימינו, שאינם חשים. מערכות אלו מחקות את סוגי ההחלפות המצויים במיליוני משפטים, ויכולות לרפרף על כל נושא פנטסטי – אם תשאלו איך זה להיות דינוזאור גלידה, הן יכולות ליצור טקסט על נמס ושאג וכדומה.

"למד"א נוטה לעקוב אחר הנחיות ושאלות מובילות, בהתאם לדפוס שנקבע על ידי המשתמש. הצוות שלנו - כולל אתיקאים וטכנולוגים - בדק את החששות של בלייק בהתאם לעקרונות הבינה המלאכותית שלנו והודיע ​​לו שהראיות אינן תומכות בטענותיו.

"מאות חוקרים ומהנדסים שוחחו עם למד"א ואנחנו לא מודעים לכך שמישהו אחר טען את הקביעות רחבות הטווח, או האנתרופומורפיזציה של למד"א, כפי שעשה בלייק".

פרופסור ניו יורק גארי מרקוס סיכם כל הסאגה כ"שטויות על כלונסאות". ®