NSF تجویز کی درخواست پر ویبینار: محفوظ سیکھنے کے قابل نظام

نیشنل سائنس فاؤنڈیشن (این ایس ایف) ان کی تجویز کے لیے ایک ویبینار منعقد کرے گی۔محفوظ سیکھنے کے قابل نظام” 5 اپریل، 2023، 1:00-2:00 PM مشرقی وقت۔

ویبینار کا خلاصہ: جیسا کہ مصنوعی ذہانت (AI) سسٹم تیزی سے سائز میں اضافہ کرتے ہیں، نئی صلاحیتیں حاصل کرتے ہیں، اور ہائی اسٹیک سیٹنگز میں تعینات ہوتے ہیں، ان کی حفاظت انتہائی اہم ہو جاتی ہے۔ سسٹم کی حفاظت کو یقینی بنانے کے لیے درستگی، کارکردگی اور اسکیل ایبلٹی کو بہتر بنانے سے زیادہ کی ضرورت ہوتی ہے: اس کے لیے اس بات کو یقینی بنانے کی ضرورت ہوتی ہے کہ سسٹمز انتہائی واقعات کے لیے مضبوط ہوں، اور ان کی غیرمعمولی اور غیر محفوظ رویے کے لیے نگرانی کی جائے۔

Safe Learning-Enabled Systems پروگرام کا مقصد، جو کہ نیشنل سائنس فاؤنڈیشن، Open Philanthropy اور Good Ventures کے درمیان شراکت داری ہے، بنیادی تحقیق کو فروغ دینا ہے جو سیکھنے کے قابل نظاموں کے ڈیزائن اور نفاذ کی طرف لے جاتا ہے جس میں حفاظت کو یقینی بنایا جاتا ہے۔ اعتماد کی اعلی سطح. جب کہ روایتی مشین لرننگ سسٹم کا ایک فکسڈ ٹیسٹ سیٹ کے حوالے سے پوائنٹ وار جائزہ لیا جاتا ہے، اس طرح کی جامد کوریج صرف اس وقت محدود یقین دہانی فراہم کرتی ہے جب ہائی اسٹیک آپریٹنگ ماحول میں بے مثال حالات کا سامنا ہو۔ اس بات کی تصدیق کرنا کہ اس طرح کے نظام کے سیکھنے کے اجزاء تمام ممکنہ ان پٹ کے لیے حفاظتی ضمانتیں حاصل کرتے ہیں، اگر ناممکن نہیں تو مشکل ہو سکتا ہے۔ اس کے بجائے، نظام کی حفاظت کی ضمانتوں کو اکثر حقیقت پسندانہ (ابھی تک مناسب طور پر مایوسی پسند) آپریٹنگ ماحول سے منظم طریقے سے تیار کردہ ڈیٹا کے حوالے سے قائم کرنے کی ضرورت ہوگی۔ حفاظت کے لیے "نامعلوم نامعلوم" کے لیے لچک کی بھی ضرورت ہوتی ہے، جس کے لیے غیر متوقع ماحولیاتی خطرات یا نظام کے بے ترتیب رویوں کی نگرانی کے لیے بہتر طریقوں کی ضرورت ہوتی ہے، بشمول تعیناتی کے دوران۔ بعض صورتوں میں، حفاظت کو مزید غیر متوقع رویے کی نشاندہی کرنے کے لیے سیکھے ہوئے ماڈلز کی اندرونی منطق کو ریورس انجینئرنگ، معائنہ اور تشریح کرنے کے لیے نئے طریقوں کی ضرورت پڑ سکتی ہے جو صرف بلیک باکس ٹیسٹنگ کے ذریعے نہیں مل سکتی تھی، اور براہ راست موافقت کے ذریعے کارکردگی کو بہتر بنانے کے طریقے۔ نظام کی داخلی منطق۔ ترتیب کچھ بھی ہو، کسی بھی سیکھنے کے قابل نظام کی اینڈ ٹو اینڈ سیفٹی گارنٹی واضح اور قطعی طور پر بیان کی جانی چاہیے۔ کوئی بھی نظام جو حفاظتی تصریحات کو پورا کرنے کا دعویٰ کرتا ہے، اسے تجرباتی طور پر اور/یا ریاضیاتی ثبوت کے ساتھ تصدیق شدہ تجزیہ کے ذریعے سخت ثبوت فراہم کرنا چاہیے۔

یہ ویبینار تحقیقی برادری کے سوالات اور جوابات پر تبادلہ خیال کرے گا۔

ویب نام کے لئے رجسٹر کریں یہاں.