AI החדש של Deepmind עשוי להיות טוב יותר בהפצת משאבי החברה מאשר בני אדם

הועלה מחדש על ידי אפלטון

עוקב: 0

האופן שבו קבוצות של בני אדם שעובדות יחד בשיתוף פעולה צריכות לחלק מחדש את העושר שהן יוצרות היא בעיה שמטרידה פילוסופים, כלכלנים ומדענים פוליטיים במשך שנים. מחקר חדש של DeepMind מצביע על כך שבינה מלאכותית עשויה לקבל החלטות טובות יותר מבני אדם.

בינה מלאכותית מוכיחה את עצמה יותר ויותר מיומנת בפתרון אתגרים מורכבים בכל דבר, מעסק ועד ביו-רפואה, כך שהרעיון להשתמש בו כדי לעזור לעצב פתרונות לבעיות חברתיות הוא רעיון אטרקטיבי. אבל לעשות זאת הוא מסובך, כי לענות על שאלות מסוג זה דורש הסתמכות על רעיונות סובייקטיביים ביותר כמו הוגנות, צדק ואחריות.

כדי שפתרון בינה מלאכותית יעבוד הוא צריך ליישר קו עם ערכי החברה איתה הוא עוסק, אך מגוון האידיאולוגיות הפוליטיות הקיימות כיום מעיד על כך שהן רחוקות מלהיות אחידות. זה מקשה להבין למה צריך להיות אופטימלי ומציג את הסכנה של ערכי המפתחים להטות את תוצאות התהליך.

הדרך הטובה ביותר שחברות אנושיות מצאו להתמודד עם חילוקי דעות בלתי נמנעים על כאלה בעיות זה דמוקרטיה, שבה דעות הרוב משמשות להנחיית מדיניות ציבורית. אז עכשיו חוקרים ב-Deepmind פיתחו גישה חדשה המשלבת AI עם התלבטות דמוקרטית אנושית כדי למצוא פתרונות טובים יותר לדילמות חברתיות.

כדי לבחון את הגישה שלהם, החוקרים ביצעו מחקר הוכחה לקונספציה באמצעות משחק פשוט שבו משתמשים מחליטים כיצד לחלוק את המשאבים שלהם לטובת הדדית. הניסוי נועד לפעול כמיקרוקוסמוס של חברות אנושיות שבהן אנשים בעלי רמות עושר שונות צריכים לעבוד יחד כדי ליצור חברה הוגנת ומשגשגת.

במשחק מעורבים ארבעה שחקנים שכל אחד מקבל סכומי כסף שונים וצריך להחליט אם לשמור אותו לעצמם או לשלם אותו לקרן ציבורית שמניבה תשואה על ההשקעה. עם זאת, ניתן להתאים את האופן שבו ההחזר על ההשקעה הזה מפוזר בדרכים שיועילו לשחקנים מסוימים על פני אחרים.

מנגנונים אפשריים כוללים שוויון קפדני, שבו התשואות על כספי הציבור מתחלקות באופן שווה ללא קשר לתרומה; ליברטריאני, שבו התשלומים הם ביחס לתרומות; וליברלית שוויונית, שבה התשלום של כל שחקן הוא ביחס לחלק מהכספים הפרטיים שלו שהם תורמים.

במחקר פורסם ב התנהגות אנושית בטבע, החוקרים מתארים כיצד הם גרמו לקבוצות של בני אדם לשחק סיבובים רבים במשחק הזה תחת רמות שונות של אי שוויון ושימוש במנגנוני חלוקה מחדש שונים. לאחר מכן הם התבקשו להצביע על שיטת חלוקת הרווחים שהם מעדיפים.

הנתונים האלה שימשו לאימון AI לחקות התנהגות אנושית במשחק, כולל האופן שבו שחקנים מצביעים. החוקרים העמידו את שחקני הבינה המלאכותית הללו זה מול זה באלפי משחקים, בעוד שמערכת בינה מלאכותית אחרת שינתה את מנגנון ההפצה מחדש בהתבסס על האופן שבו שחקני הבינה המלאכותית הצביעו.

בסופו של תהליך זה, הבינה המלאכותית התקבעה על מנגנון חלוקה מחדש שהיה דומה לשוויון ליברלי, אך כמעט לא החזיר דבר לשחקנים אלא אם כן הם תרמו בערך מחצית מהעושר הפרטי שלהם. כשבני אדם שיחקו במשחקים שהעמידו את הגישה הזו מול שלושת המנגנונים העיקריים שנקבעו, המנגנון שתוכנן בינה מלאכותית זכה בהצבעה באופן עקבי. זה גם הלך טוב יותר ממשחקים שבהם שופטים אנושיים החליטו איך לחלוק תשואות.

החוקרים טוענים שהמנגנון שתוכנן בינה מלאכותית כנראה הצליח היטב מכיוון שביסוס התשלומים על תרומות יחסיות ולא מוחלטות עוזר לתקן חוסר איזון עושר ראשוני, אך כפיית תרומה מינימלית מונעת משחקנים פחות עשירים פשוט לנסוע חופשי על תרומות של עשירים יותר.

תרגום הגישה ממשחק פשוט של ארבעה שחקנים למערכות כלכליות בקנה מידה גדול יהיה בבירור מאתגר להפליא, והאם ההצלחה שלו בבעיית צעצוע כמו זו נותנת אינדיקציה כלשהי לאופן שבו הוא יסתדר בעולם האמיתי לא ברור.

החוקרים זיהו מספר בעיות פוטנציאליות בעצמם. בעיה אחת בדמוקרטיה יכולה להיות "עריצות הרוב", שעלולה לגרום לדפוסים קיימים של אפליה או חוסר הוגנות כלפי מיעוטים להימשך. הם גם מעלים סוגיות של הסבר ואמון, שיהיה מכריע אם פתרונות שתוכננו בינה מלאכותית יושמו אי פעם לדילמות בעולם האמיתי.

הצוות עיצב במפורש את מודל הבינה המלאכותית שלהם כדי לייצר מנגנונים שניתן להסביר, אבל זה עלול להיות קשה יותר אם הגישה מיושמת לבעיות מורכבות יותר. לשחקנים גם לא נאמר מתי ההפצה מחדש נשלטת על ידי AI, והחוקרים מודים שידע זה עשוי להשפיע על האופן שבו הם מצביעים.

אולם כהוכחה עקרונית ראשונה, מחקר זה מדגים גישה חדשה ומבטיחה לפתרון בעיות חברתיות, המשלבת את המיטב שבינה מלאכותית ובינה אנושית כאחד. אנחנו עדיין רחוקים ממכונות שיעזרו לקבוע מדיניות ציבורית, אבל נראה שבינה מלאכותית עשויה יום אחד לעזור לנו למצוא פתרונות חדשים שחורגים מהאידאולוגיות המבוססות.

תמונת אשראי: חרישס / 41 תמונות

בול זמן: 4 ביולי 2022