چونکہ کمپنیاں اپنے پروڈکٹ پورٹ فولیوز میں مصنوعی ذہانت (AI) کی صلاحیتوں کو تیزی سے شامل کر رہی ہیں، سائبرسیکیوریٹی ماہرین نے خبردار کیا ہے کہ مشین لرننگ (ML) اجزاء نئی قسم کے حملوں کا شکار ہیں اور انہیں محفوظ رکھنے کی ضرورت ہے۔
Startup HiddenLayer، جس کا آغاز 19 جولائی کو ہوا، اس کا مقصد کمپنیوں کو اپنے حساس مشین لرننگ ماڈلز اور ان ماڈلز کو تربیت دینے کے لیے استعمال کیے جانے والے ڈیٹا کی بہتر حفاظت میں مدد کرنا ہے۔ کمپنی نے اپنی پہلی مصنوعات جاری کی ہیں جن کا مقصد ML کا پتہ لگانے اور رسپانس سیگمنٹ ہے، جس کا مقصد ماڈلز کو حملے کے خلاف سخت کرنے کے ساتھ ساتھ ان ماڈلز کو تربیت دینے کے لیے استعمال ہونے والے ڈیٹا کی حفاظت کرنا ہے۔
خطرات نظریاتی نہیں ہیں: کمپنی کے بانیوں نے سائلنس میں اس وقت کام کیا جب محققین نے میلویئر کا پتہ لگانے کے لیے کمپنی کے AI انجن کو نظرانداز کرنے کے طریقے تلاش کیے، hiddenLayer کے سی ای او کرسٹوفر سیسٹیٹو کہتے ہیں۔
"انہوں نے پروڈکٹ کے ذریعے ہی ماڈل پر حملہ کیا اور ماڈل کے ساتھ کافی بات چیت کی تاکہ یہ معلوم کیا جا سکے کہ ماڈل کہاں کمزور تھا،" وہ کہتے ہیں۔
سیسٹیٹو کو توقع ہے کہ AI/ML سسٹمز کے خلاف حملے بڑھیں گے کیونکہ مزید کمپنیاں اپنی مصنوعات میں خصوصیات کو شامل کرتی ہیں۔
"AI اور ML سب سے تیزی سے بڑھتی ہوئی ٹیکنالوجیز ہیں جو ہم نے اب تک دیکھی ہیں، اس لیے ہم توقع کرتے ہیں کہ وہ سب سے تیزی سے بڑھتے ہوئے حملہ کرنے والے ویکٹر ہوں گے جو ہم نے کبھی دیکھے ہیں،" وہ کہتے ہیں۔
مشین لرننگ ماڈل میں خامیاں
ML بہت سی کمپنیوں کی اگلی نسل کی مصنوعات کے لیے ایک لازمی چیز بن گئی ہے، لیکن کاروبار عام طور پر حفاظتی مضمرات پر غور کیے بغیر AI پر مبنی خصوصیات شامل کرتے ہیں۔ خطرات میں ماڈل کی چوری بھی شامل ہے، جیسے سائلینس کے خلاف کی گئی تحقیق، اور فنکشنل نکالنا، جہاں حملہ آور ایک ماڈل سے استفسار کر سکتے ہیں اور آؤٹ پٹس کی بنیاد پر ایک فعال مساوی نظام بنا سکتے ہیں۔
دو سال پہلے، مائیکروسافٹ، MITRE، اور دیگر کمپنیاں Adversarial Machine Learning Threat Matrix بنایا AI پر مبنی نظاموں کے خلاف ممکنہ خطرات کی فہرست بنانے کے لیے۔ اب کے طور پر rebranded مصنوعی ذہانت کے نظام (ATLAS) کے لیے مخالفانہ خطرہ کا منظر۔ممکنہ حملوں کی لغت اس بات پر روشنی ڈالتی ہے کہ جدید ٹیکنالوجیز جدید حملوں کو راغب کریں گی۔
"روایتی سائبرسیکیوریٹی کمزوریوں کے برعکس جو مخصوص سافٹ ویئر اور ہارڈ ویئر سسٹمز سے منسلک ہیں، مخالف ایم ایل کمزوریاں ML الگورتھم کے تحت موروثی حدود کے ذریعے فعال ہوتی ہیں،" کے مطابق GitHub پر ATLAS پروجیکٹ کا صفحہ. "ڈیٹا کو نئے طریقوں سے ہتھیار بنایا جا سکتا ہے جس میں اس توسیع کی ضرورت ہوتی ہے کہ ہم سائبر مخالف رویے کو کس طرح ماڈل بناتے ہیں، ابھرتے ہوئے خطرے کے ویکٹرز اور تیزی سے تیار ہوتے مخالف مشین لرننگ اٹیک لائف سائیکل کی عکاسی کرتے ہیں۔"
عملی خطرہ hiddenLayer کے تین بانیوں — Sestito، Tanner Burns، اور James Ballard — کو اچھی طرح معلوم ہے جنہوں نے Cylance میں ایک ساتھ کام کیا۔ اس وقت، اسکائی لائٹ سائبر کے محققین معروف اچھا کوڈ شامل کیا گیا۔ - اصل میں، گیم راکٹ لیگ کے ایگزیکیوٹیبل سے سٹرنگز کی ایک فہرست - سائلینس کی ٹیکنالوجی کو یہ یقین کرنے میں بے وقوف بنانے کے لیے کہ 84% میلویئر دراصل بے نظیر تھا۔
"ہم نے امدادی کوششوں کی قیادت کی جب ہمارے مشین لرننگ ماڈل پر براہ راست ہماری مصنوعات کے ذریعے حملہ کیا گیا اور یہ محسوس کیا کہ یہ کسی بھی تنظیم کے لیے اپنی مصنوعات میں ایم ایل ماڈلز کی تعیناتی کے لیے ایک بہت بڑا مسئلہ ہو گا،" سیسٹیٹو نے کہا۔ hiddenLayer کے آغاز کا اعلان کرنے والا ایک بیان.
حقیقی وقت میں مخالفین کی تلاش
hiddenLayer کا مقصد ایک ایسا نظام بنانا ہے جو ML سسٹمز کے آپریشن کی نگرانی کر سکے اور ڈیٹا یا حسابات تک رسائی کی ضرورت کے بغیر، یہ طے کر سکے کہ آیا سافٹ ویئر پر کسی معروف مخالف طریقوں کا استعمال کرتے ہوئے حملہ کیا جا رہا ہے۔
"ہم ماڈلز کے ساتھ رویے کے تعاملات کو دیکھ رہے ہیں - یہ IP ایڈریس یا اختتامی نقطہ ہو سکتا ہے،" Sestito کہتے ہیں۔ "ہم تجزیہ کر رہے ہیں کہ آیا ماڈل کو اس طرح استعمال کیا جا رہا ہے جیسا کہ اسے استعمال کرنے کا ارادہ ہے یا اگر ان پٹ اور آؤٹ پٹس کا فائدہ اٹھایا جا رہا ہے یا درخواست کنندہ بہت زیادہ اینٹروپی فیصلے کر رہا ہے۔"
وہ کہتے ہیں کہ حقیقی وقت میں طرز عمل کا تجزیہ کرنے کی صلاحیت کمپنی کے ایم ایل کا پتہ لگانے اور ردعمل کو دوسرے طریقوں سے الگ کرتی ہے۔ اس کے علاوہ، ٹکنالوجی کو مخصوص ماڈل یا تربیتی ڈیٹا تک رسائی کی ضرورت نہیں ہے، جو دانشورانہ املاک کو مزید موصل کرتی ہے، hiddenLayer کا کہنا ہے۔
سیسٹیٹو کا کہنا ہے کہ نقطہ نظر کا یہ مطلب بھی ہے کہ سیکیورٹی ایجنٹ کی طرف سے اوور ہیڈ 1 یا 2 ملی سیکنڈ کے آرڈر پر چھوٹا ہے۔
"ہم خام ڈیٹا کے ویکٹرائز ہونے کے بعد ان پٹس کو دیکھ رہے ہیں، اس لیے کارکردگی کا بہت کم اثر ہوا ہے،" وہ کہتے ہیں۔
