ندوة عبر الويب حول طلب مقترحات NSF: أنظمة تمكين التعلم الآمن

ستعقد مؤسسة العلوم الوطنية (NSF) ندوة عبر الإنترنت لطلب تقديم العروض "أنظمة تمكين التعلم الآمن"في الخامس من نيسان (أبريل) 5 ، 2023: 1-00: 2 مساءً بالتوقيت الشرقي.

ملخص البرنامج التعليمي على الويب: مع زيادة حجم أنظمة الذكاء الاصطناعي (AI) بسرعة ، واكتساب قدرات جديدة ، ونشرها في إعدادات عالية المخاطر ، تصبح سلامتها مهمة للغاية. يتطلب ضمان سلامة النظام أكثر من تحسين الدقة والكفاءة وقابلية التوسع: فهو يتطلب التأكد من أن الأنظمة قوية في مواجهة الأحداث المتطرفة ، ومراقبتها بحثًا عن السلوكيات الشاذة وغير الآمنة.

الهدف من برنامج النظم الممكنة للتعلم الآمن ، وهو عبارة عن شراكة بين National Science Foundation و Open Philanthropy و Good Ventures ، هو تعزيز البحث التأسيسي الذي يؤدي إلى تصميم وتنفيذ الأنظمة التي تدعم التعلم والتي يتم ضمان السلامة فيها. مستويات عالية من الثقة. بينما يتم تقييم أنظمة التعلم الآلي التقليدية بشكل نقطي فيما يتعلق بمجموعة اختبار ثابتة ، فإن مثل هذه التغطية الثابتة توفر ضمانًا محدودًا فقط عند تعرضها لظروف غير مسبوقة في بيئات التشغيل عالية المخاطر. قد يكون التحقق من أن مكونات التعلم في هذه الأنظمة تحقق ضمانات السلامة لجميع المدخلات الممكنة أمرًا صعبًا ، إن لم يكن مستحيلًا. بدلاً من ذلك ، غالبًا ما يلزم إنشاء ضمانات سلامة النظام فيما يتعلق بالبيانات التي يتم إنشاؤها بشكل منهجي من بيئات تشغيل واقعية (لكنها متشائمة بشكل مناسب). تتطلب السلامة أيضًا المرونة في مواجهة "الأمور غير المعروفة" ، الأمر الذي يستلزم أساليب محسنة للرصد للمخاطر البيئية غير المتوقعة أو سلوكيات النظام الشاذة ، بما في ذلك أثناء النشر. في بعض الحالات ، قد تتطلب السلامة أيضًا طرقًا جديدة للهندسة العكسية ، والتفتيش ، وتفسير المنطق الداخلي للنماذج المكتسبة لتحديد السلوك غير المتوقع الذي لا يمكن العثور عليه عن طريق اختبار الصندوق الأسود وحده ، وطرق تحسين الأداء من خلال التكيف المباشر المنطق الداخلي للأنظمة. أيا كان الإعداد ، يجب تحديد ضمانات السلامة الشاملة لأي نظام يدعم التعلم بوضوح ودقة. يجب أن يقدم أي نظام يدعي أنه يفي بمواصفات السلامة أدلة صارمة ، من خلال تحليل مؤيد تجريبيًا و / أو بإثبات رياضي.

ستناقش هذه الندوة عبر الويب الالتماس والإجابة على أسئلة مجتمع البحث.

سجل للندوة عبر الإنترنت هنا.