การสัมมนาผ่านเว็บเกี่ยวกับการร้องขอข้อเสนอของ NSF: Safe-Learning Enabled Systems

มูลนิธิวิทยาศาสตร์แห่งชาติ (NSF) จะจัดการสัมมนาทางเว็บเพื่อเสนอข้อเสนอ "ระบบที่เปิดใช้งานการเรียนรู้อย่างปลอดภัย” วันที่ 5 เมษายน 2023 เวลา 1:00-2:00 น. ตามเวลาตะวันออก

สรุปการสัมมนาผ่านเว็บ: เนื่องจากระบบปัญญาประดิษฐ์ (AI) มีขนาดเพิ่มขึ้นอย่างรวดเร็ว ได้รับความสามารถใหม่ๆ และถูกนำไปใช้ในการตั้งค่าที่มีเดิมพันสูง ความปลอดภัยของระบบจึงมีความสำคัญอย่างยิ่ง การรับประกันความปลอดภัยของระบบต้องการมากกว่าการปรับปรุงความแม่นยำ ประสิทธิภาพ และความสามารถในการปรับขนาด: จำเป็นต้องตรวจสอบให้แน่ใจว่าระบบมีความทนทานต่อเหตุการณ์ที่รุนแรง และตรวจสอบพฤติกรรมที่ผิดปกติและไม่ปลอดภัย

วัตถุประสงค์ของโครงการ Safe Learning-Enabled Systems ซึ่งเป็นความร่วมมือระหว่าง National Science Foundation, Open Philanthropy และ Good Ventures คือการส่งเสริมการวิจัยพื้นฐานที่นำไปสู่การออกแบบและการใช้งานระบบการเรียนรู้ที่ปลอดภัยด้วย ความมั่นใจในระดับสูง แม้ว่าระบบแมชชีนเลิร์นนิงแบบดั้งเดิมจะได้รับการประเมินตามจุดที่เกี่ยวข้องกับชุดการทดสอบแบบตายตัว ความครอบคลุมแบบคงที่ดังกล่าวให้การรับประกันที่จำกัดเมื่อเผชิญกับสภาวะที่ไม่เคยเกิดขึ้นมาก่อนในสภาพแวดล้อมการทำงานที่มีเดิมพันสูง การตรวจสอบว่าองค์ประกอบการเรียนรู้ของระบบดังกล่าวรับประกันความปลอดภัยสำหรับอินพุตที่เป็นไปได้ทั้งหมดอาจเป็นเรื่องยากหรือเป็นไปไม่ได้ การรับประกันความปลอดภัยของระบบมักจะต้องสร้างขึ้นโดยคำนึงถึงข้อมูลที่สร้างขึ้นอย่างเป็นระบบจากสภาพแวดล้อมการทำงานจริง (แต่ในแง่ร้ายอย่างเหมาะสม) ความปลอดภัยยังต้องการความยืดหยุ่นต่อ "สิ่งที่ไม่รู้จักที่ไม่รู้จัก" ซึ่งจำเป็นต้องมีวิธีการที่ได้รับการปรับปรุงสำหรับการตรวจสอบอันตรายต่อสิ่งแวดล้อมที่ไม่คาดคิดหรือพฤติกรรมที่ผิดปกติของระบบ รวมถึงระหว่างการปรับใช้ ในบางกรณี ความปลอดภัยอาจต้องการวิธีการใหม่เพิ่มเติมสำหรับการทำวิศวกรรมย้อนกลับ การตรวจสอบ และการตีความตรรกะภายในของแบบจำลองที่เรียนรู้ เพื่อระบุพฤติกรรมที่ไม่คาดคิดซึ่งไม่สามารถพบได้จากการทดสอบกล่องดำเพียงอย่างเดียว และวิธีการปรับปรุงประสิทธิภาพโดยการปรับโดยตรง ตรรกะภายในของระบบ การรับประกันความปลอดภัยแบบ end-to-end ของระบบที่เปิดใช้การเรียนรู้จะต้องระบุอย่างชัดเจนและแม่นยำ ระบบใดๆ ที่อ้างว่าเป็นไปตามข้อกำหนดด้านความปลอดภัยจะต้องแสดงหลักฐานที่เข้มงวด ผ่านการวิเคราะห์เชิงประจักษ์และ/หรือด้วยการพิสูจน์ทางคณิตศาสตร์

การสัมมนาผ่านเว็บนี้จะหารือเกี่ยวกับการชักชวนและตอบคำถามจากชุมชนการวิจัย

ลงทะเบียนสำหรับการสัมมนาผ่านเว็บ โปรดคลิกที่นี่เพื่ออ่านรายละเอียดเพิ่มเติม.