ממשל ביידן-הריס מכריז על פעולות חדשות לקידום חדשנות בינה מלאכותית אחראית המגנה על זכויות ובטיחות האמריקאים » בלוג CCC

הפיתוח והיישום של מערכות בינה מלאכותית אחראיות הגיעו לחזית השיחות והחששות בממשלה, בתעשייה ובאקדמיה. בשבוע שעבר הציגה ממשל ביידן-האריס פעולות חדשות לקדם בינה מלאכותית אחראית. הפעולות כוללות:

• השקעות חדשות להפעלת מחקר ופיתוח (מו"פ) אמריקאי אחראי בינה מלאכותית. הקרן הלאומית למדע מכריזה על מימון של 140 מיליון דולר להשקת שבעה מכוני מחקר לאומיים חדשים בינה מלאכותית. השקעה זו תביא את המספר הכולל של המכונים ל-25 ברחבי הארץ, ותרחיב את רשת הארגונים המעורבים כמעט בכל מדינה. מכונים אלה מזרזים מאמצים שיתופיים בין מוסדות להשכלה גבוהה, סוכנויות פדרליות, תעשייה ואחרים כדי לקדם התקדמות בינה מלאכותית טרנספורמטיבית, שהיא אתית, מהימנה, אחראית ומשרתת את טובת הציבור. בנוסף לקידום חדשנות אחראית, מכונים אלה מחזקים את תשתית מו"פ הבינה המלאכותית של אמריקה ותומכים בפיתוח של כוח עבודה מגוון של בינה מלאכותית. המכונים החדשים שהוכרזו היום יקדמו מו"פ בינה מלאכותית כדי להניע פריצות דרך בתחומים קריטיים, כולל אקלים, חקלאות, אנרגיה, בריאות הציבור, חינוך ואבטחת סייבר.

• הערכות ציבוריות של מערכות AI גנרטיביות קיימות. המינהל מכריז על התחייבות עצמאית ממפתחי בינה מלאכותית מובילים, כולל Anthropic, Google, Hugging Face, Microsoft, NVIDIA, OpenAI ו-Stability AI, להשתתף בהערכה פומבית של מערכות בינה מלאכותית, בהתאם לעקרונות החשיפה האחראית - בפלטפורמת הערכה. פותח על ידי Scale AI - בכפר AI ב-DEFCON 31. זה יאפשר להעריך את המודלים הללו באופן יסודי על ידי אלפי שותפים קהילתיים ומומחי AI כדי לחקור כיצד המודלים מתיישבים עם העקרונות והפרקטיקות המתוארים בתוכנית התוכנית של ממשל ביידן-הריס עבור מגילת זכויות בינה מלאכותית ומסגרת ניהול סיכונים בינה מלאכותית. תרגיל עצמאי זה יספק מידע קריטי לחוקרים ולציבור על ההשפעות של המודלים הללו, ויאפשר לחברות ולמפתחים בינה מלאכותית לנקוט בצעדים לתיקון בעיות שנמצאו במודלים אלה. בדיקה של מודלים של בינה מלאכותית ללא תלות בממשלה או בחברות שפיתחו אותם היא מרכיב חשוב בהערכתם האפקטיבית.

• מדיניות כדי להבטיח שממשלת ארה"ב מובילה דוגמה להפחתת סיכוני בינה מלאכותית וניצול הזדמנויות בינה מלאכותית. משרד הניהול והתקציב (OMB) מכריז כי הוא יפרסם טיוטת הנחיות מדיניות לגבי השימוש במערכות בינה מלאכותית על ידי ממשלת ארה"ב להערות הציבור. הנחיה זו תקבע מדיניות ספציפית עבור מחלקות וסוכנויות פדרליות שיפעלו בהן כדי להבטיח את הפיתוח, הרכש והשימוש שלהן במרכזי מערכות בינה מלאכותית לשמירה על זכויות ובטיחות העם האמריקאי. זה גם יאפשר לסוכנויות למנף באחריות בינה מלאכותית כדי לקדם את משימותיהן ולחזק את יכולתן לשרת את האמריקאים בצורה הוגנת - ולשמש מודל לממשלות מדינות ומקומיות, עסקים ואחרים שיפעלו לפיהם ברכש ובשימוש בבינה מלאכותית. OMB תפרסם את טיוטת ההנחיה הזו להערות הציבור בקיץ הקרוב, כך שהיא תיהנה מתשומה מצד עורכי דין, החברה האזרחית, התעשייה ובעלי עניין אחרים לפני שייגמר סופית.

יוזמה זו מתבססת על המאמצים הניכרים האחרונים של הממשל לצמצם את הסיכונים וההשלכות של פיתוח בינה מלאכותית כדי להבטיח את הזכויות והבטיחות של אזרחי ארה"ב. יוזמות ממשלתיות אחרות כוללות: ה שרטוט למגילת זכויות בינה מלאכותית, שונים פעולות ביצועיות קשורות, מה היא מסגרת ניהול סיכונים בינה מלאכותית וכן מפת דרכים להקמת משאב לאומי למחקר בינה מלאכותית. מאמצים אלה מוכיחים את החשיבות של יישום שיטות אחראיות בפיתוח מערכות בינה מלאכותית.

קונסורציום קהילת המחשוב ערך בשבוע שעבר סדנה בנושא "גישות מונעות קהילה למחקר בטכנולוגיה וחברה"פועלים לקראת מטרה דומה לזה של יוזמות הממשלה האחרונות. הסדנה התמקדה במתן אפשרות לשיחות בין חוקרי מחשוב לאלה המושפעים לרעה ממערכות בינה מלאכותית, כדי להבין טוב יותר את ההשלכות שיש למערכות אלו על קהילות שונות שאינן מיוצגות בחסר, ולדון בפתרונות פוטנציאליים. הסדנה הדגישה את החשיבות של מחקר השתתפותי והתארה כיצד שותפים וחוקרים בקהילה יכולים לעבוד יחד בצורה יעילה ואתית לביצוע מחקר מונחה קהילה. שימו לב לדו"ח הקרוב!