סמינר מקוון בנושא שידול להצעות NSF: מערכות מאופשרות ללמידה בטוחה

הקרן הלאומית למדע (NSF) תקיים סמינר מקוון לבקשת ההצעה שלהם "מערכות מאושרות ללמידה בטוחה" ב-5 באפריל, 2023, 1:00-2:00 שעון מזרח.

תקציר הסמינר המקוון: כאשר מערכות בינה מלאכותית (AI) עולות במהירות בגודלן, רוכשות יכולות חדשות ונפרסות בהגדרות עתירות סיכון, הבטיחות שלהן הופכת חשובה ביותר. הבטחת בטיחות המערכת דורשת יותר מאשר שיפור דיוק, יעילות ומדרגיות: היא מחייבת להבטיח שמערכות חזקות לאירועים קיצוניים, ולנטר אותן להתנהגות חריגה ולא בטוחה.

מטרת תוכנית Safe Learning-Enabled Systems, שהיא שותפות בין הקרן הלאומית למדע, Open Philanthropy ו-Good Ventures, היא לטפח מחקר יסודי שמוביל לתכנון ויישום של מערכות תומכות למידה שבהן הבטיחות מובטחת עם רמות גבוהות של ביטחון עצמי. בעוד שמערכות למידת מכונה מסורתיות מוערכות באופן נקודתי ביחס למערך מבחנים קבוע, כיסוי סטטי כזה מספק ביטחון מוגבל בלבד כאשר הם נחשפים לתנאים חסרי תקדים בסביבות הפעלה עתירות סיכון. אימות שרכיבי למידה של מערכות כאלה משיגים ערובות בטיחות לכל התשומות האפשריות עשוי להיות קשה, אם לא בלתי אפשרי. במקום זאת, לעתים קרובות יהיה צורך לקבוע ערבויות בטיחות של מערכת ביחס לנתונים שנוצרו באופן שיטתי מסביבות הפעלה מציאותיות (עם זאת פסימיות כראוי). בטיחות דורשת גם עמידות בפני "לא ידועים לא ידועים", מה שמחייב שיטות משופרות לניטור אחר סכנות סביבתיות בלתי צפויות או התנהגויות מערכת חריגות, כולל במהלך פריסה. במקרים מסוימים, בטיחות עשויה לדרוש עוד שיטות חדשות להנדסה לאחור, בדיקה ופירוש ההיגיון הפנימי של מודלים נלמדים כדי לזהות התנהגות בלתי צפויה שלא ניתן היה למצוא על ידי בדיקת קופסה שחורה בלבד, ושיטות לשיפור הביצועים על ידי התאמה ישירה ההיגיון הפנימי של המערכות. לא משנה מה ההגדרה, יש לציין בבירור ובדייקנות את הבטחות הבטיחות מקצה לקצה של כל מערכת המאפשרת למידה. כל מערכת המתיימרת לעמוד במפרט בטיחות חייבת לספק ראיות קפדניות, באמצעות ניתוח מאומת אמפירית ו/או עם הוכחה מתמטית.

סמינר מקוון זה ידון בשידול ויענה על שאלות מקהילת המחקר.

הירשם לסמינר המקוון כאן.