وبینار در مورد درخواست پیشنهاد NSF: سیستم های فعال یادگیری ایمن

بنیاد ملی علوم (NSF) یک وبینار برای درخواست پیشنهاد خود برگزار خواهد کرد.سیستم های فعال یادگیری ایمن” در 5 آوریل 2023، ساعت 1:00 تا 2:00 بعد از ظهر به وقت شرقی.

خلاصه وبینار: از آنجایی که سیستم‌های هوش مصنوعی (AI) به سرعت در اندازه‌شان افزایش می‌یابند، قابلیت‌های جدیدی به دست می‌آورند و در تنظیمات پرمخاطره مستقر می‌شوند، ایمنی آنها بسیار مهم می‌شود. اطمینان از ایمنی سیستم به چیزی بیش از بهبود دقت، کارایی و مقیاس پذیری نیاز دارد: مستلزم اطمینان از مقاوم بودن سیستم ها در برابر حوادث شدید و نظارت بر آنها برای رفتار غیرعادی و ناایمن است.

هدف برنامه Safe Learning-Enabled Systems، که مشارکتی بین بنیاد ملی علوم، Open Philanthropy و Good Ventures است، تقویت تحقیقات بنیادی است که منجر به طراحی و اجرای سیستم‌های مبتنی بر یادگیری می‌شود که در آن ایمنی با تضمین می‌شود. سطح بالایی از اعتماد به نفس در حالی که سیستم‌های یادگیری ماشین سنتی با توجه به یک مجموعه آزمایشی ثابت ارزیابی می‌شوند، چنین پوشش استاتیکی تنها اطمینان محدودی را در صورت قرار گرفتن در شرایط بی‌سابقه در محیط‌های عملیاتی پرمخاطره فراهم می‌کند. تأیید اینکه اجزای یادگیری چنین سیستم‌هایی به تضمین ایمنی برای همه ورودی‌های ممکن دست می‌یابند، اگر غیرممکن نباشد، ممکن است دشوار باشد. در عوض، ضمانت‌های ایمنی یک سیستم اغلب باید با توجه به داده‌های تولید شده سیستماتیک از محیط‌های عملیاتی واقع‌بینانه (اما بدبینانه) ایجاد شود. ایمنی همچنین مستلزم انعطاف پذیری در برابر "ناشناخته های ناشناخته" است، که نیازمند روش های بهبود یافته برای نظارت بر خطرات محیطی غیرمنتظره یا رفتارهای غیرعادی سیستم، از جمله در هنگام استقرار است. در برخی موارد، ایمنی ممکن است به روش‌های جدیدی برای مهندسی معکوس، بازرسی و تفسیر منطق درونی مدل‌های آموخته‌شده نیاز داشته باشد تا رفتار غیرمنتظره‌ای را که تنها با آزمایش جعبه سیاه پیدا نمی‌شود، و روش‌هایی برای بهبود عملکرد با تطبیق مستقیم شناسایی کند. منطق داخلی سیستم ها هر تنظیماتی که باشد، ضمانت‌های ایمنی سرتاسر سیستم‌های دارای یادگیری باید به‌طور واضح و دقیق مشخص شوند. هر سیستمی که ادعا می‌کند مشخصات ایمنی را برآورده می‌کند باید شواهد دقیقی را از طریق تجزیه و تحلیل تجربی و/یا با اثبات ریاضی ارائه کند.

این وبینار در مورد درخواست و پاسخ به سؤالات جامعه پژوهشی بحث خواهد کرد.

برای وبینار ثبت نام کنید اینجا کلیک نمایید.