एनएसएफ प्रस्ताव सॉलिसिटेशन पर वेबिनार: सेफ-लर्निंग इनेबल्ड सिस्टम्स

राष्ट्रीय विज्ञान फाउंडेशन (एनएसएफ) अपने प्रस्ताव अनुरोध के लिए एक वेबिनार आयोजित करेगा।सुरक्षित-शिक्षण सक्षम प्रणालियाँ” 5 अप्रैल, 2023 को पूर्वी समयानुसार दोपहर 1:00-2:00 बजे।

वेबिनार सारांश: जैसे-जैसे कृत्रिम बुद्धिमत्ता (एआई) प्रणालियाँ तेजी से आकार में बढ़ती हैं, नई क्षमताएँ प्राप्त करती हैं, और उच्च जोखिम वाली सेटिंग्स में तैनात की जाती हैं, उनकी सुरक्षा बेहद महत्वपूर्ण हो जाती है। सिस्टम सुरक्षा सुनिश्चित करने के लिए सटीकता, दक्षता और स्केलेबिलिटी में सुधार करने से कहीं अधिक की आवश्यकता है: यह सुनिश्चित करना आवश्यक है कि सिस्टम चरम घटनाओं के लिए मजबूत हो, और असंगत और असुरक्षित व्यवहार के लिए उनकी निगरानी की जाए।

सुरक्षित शिक्षण-सक्षम सिस्टम कार्यक्रम का उद्देश्य, जो राष्ट्रीय विज्ञान फाउंडेशन, ओपन फिलैंथ्रोपी और गुड वेंचर्स के बीच एक साझेदारी है, मूलभूत अनुसंधान को बढ़ावा देना है जो सीखने-सक्षम प्रणालियों के डिजाइन और कार्यान्वयन की ओर ले जाता है जिसमें सुरक्षा सुनिश्चित की जाती है आत्मविश्वास का उच्च स्तर. जबकि पारंपरिक मशीन लर्निंग सिस्टम का मूल्यांकन एक निश्चित परीक्षण सेट के संबंध में बिंदुवार किया जाता है, उच्च जोखिम वाले ऑपरेटिंग वातावरण में अभूतपूर्व परिस्थितियों के संपर्क में आने पर ऐसी स्थैतिक कवरेज केवल सीमित आश्वासन प्रदान करती है। यह सत्यापित करना कि ऐसी प्रणालियों के सीखने के घटक सभी संभावित इनपुट के लिए सुरक्षा गारंटी प्राप्त करते हैं, असंभव नहीं तो मुश्किल हो सकता है। इसके बजाय, एक सिस्टम की सुरक्षा गारंटी को अक्सर यथार्थवादी (अभी तक उचित रूप से निराशावादी) ऑपरेटिंग वातावरण से व्यवस्थित रूप से उत्पन्न डेटा के संबंध में स्थापित करने की आवश्यकता होगी। सुरक्षा के लिए "अज्ञात अज्ञात" के प्रति लचीलेपन की भी आवश्यकता होती है, जिसके लिए तैनाती के दौरान अप्रत्याशित पर्यावरणीय खतरों या असामान्य सिस्टम व्यवहारों की निगरानी के लिए बेहतर तरीकों की आवश्यकता होती है। कुछ उदाहरणों में, सुरक्षा के लिए अप्रत्याशित व्यवहार की पहचान करने के लिए रिवर्स-इंजीनियरिंग, निरीक्षण और सीखे गए मॉडल के आंतरिक तर्क की व्याख्या करने के लिए नए तरीकों की आवश्यकता हो सकती है, जो अकेले ब्लैक-बॉक्स परीक्षण द्वारा नहीं पाया जा सकता है, और सीधे अनुकूलन द्वारा प्रदर्शन में सुधार के तरीकों की आवश्यकता हो सकती है। सिस्टम का आंतरिक तर्क। सेटिंग जो भी हो, किसी भी सीखने-सक्षम सिस्टम की एंड-टू-एंड सुरक्षा गारंटी स्पष्ट और सटीक रूप से निर्दिष्ट की जानी चाहिए। सुरक्षा विनिर्देश को पूरा करने का दावा करने वाली किसी भी प्रणाली को अनुभवजन्य और/या गणितीय प्रमाण के साथ विश्लेषण के माध्यम से कठोर साक्ष्य प्रदान करना होगा।

यह वेबिनार अनुसंधान समुदाय के अनुरोधों पर चर्चा करेगा और प्रश्नों के उत्तर देगा।

वेबिनार के लिए पंजीकरण करें यहाँ उत्पन्न करें.