Webinar tentang Permohonan Proposal NSF: Sistem Diaktifkan Pembelajaran Aman

National Science Foundation (NSF) akan mengadakan webinar untuk pengajuan proposal mereka “Sistem Diaktifkan Pembelajaran Aman” pada 5 April 2023, 1-00 Waktu Bagian Timur.

Sinopsis Webinar: Karena ukuran sistem kecerdasan buatan (AI) meningkat pesat, memperoleh kemampuan baru, dan digunakan dalam pengaturan berisiko tinggi, keamanannya menjadi sangat penting. Memastikan keamanan sistem memerlukan lebih dari sekadar meningkatkan akurasi, efisiensi, dan skalabilitas: hal ini memerlukan kepastian bahwa sistem kuat terhadap kejadian ekstrem, dan memantaunya untuk perilaku anomali dan tidak aman.

Tujuan dari program Safe Learning-Enabled Systems, yang merupakan kemitraan antara National Science Foundation, Open Philanthropy, dan Good Ventures, adalah untuk mendorong penelitian dasar yang mengarah pada desain dan implementasi sistem yang mendukung pembelajaran di mana keamanan dipastikan dengan tingkat kepercayaan diri yang tinggi. Sementara sistem pembelajaran mesin tradisional dievaluasi secara tepat sehubungan dengan set pengujian tetap, cakupan statis seperti itu hanya memberikan jaminan terbatas saat dihadapkan pada kondisi yang belum pernah terjadi sebelumnya di lingkungan operasi berisiko tinggi. Memverifikasi bahwa komponen pembelajaran dari sistem tersebut mencapai jaminan keamanan untuk semua input mungkin sulit, jika bukan tidak mungkin. Alih-alih, jaminan keamanan sistem seringkali perlu ditetapkan sehubungan dengan data yang dihasilkan secara sistematis dari lingkungan operasi yang realistis (namun pesimistis). Keselamatan juga memerlukan ketahanan terhadap “ketidaktahuan yang tidak diketahui”, yang memerlukan peningkatan metode untuk memantau bahaya lingkungan yang tidak terduga atau perilaku sistem yang tidak normal, termasuk selama penerapan. Dalam beberapa kasus, keselamatan mungkin memerlukan metode baru untuk merekayasa balik, memeriksa, dan menafsirkan logika internal model yang dipelajari untuk mengidentifikasi perilaku tak terduga yang tidak dapat ditemukan hanya dengan pengujian kotak hitam, dan metode untuk meningkatkan kinerja dengan mengadaptasi secara langsung logika internal sistem. Apa pun pengaturannya, jaminan keamanan end-to-end sistem yang mendukung pembelajaran harus ditentukan dengan jelas dan tepat. Setiap sistem yang diklaim memenuhi spesifikasi keselamatan harus memberikan bukti yang kuat, melalui analisis yang diperkuat secara empiris dan/atau dengan bukti matematis.

Webinar ini akan membahas ajakan dan menjawab pertanyaan dari komunitas riset.

Daftarkan untuk webinar di sini.