স্টার্টআপের লক্ষ্য এআই, মেশিন লার্নিং ডেভেলপমেন্টকে সুরক্ষিত করা

যেহেতু কোম্পানিগুলি তাদের পণ্যের পোর্টফোলিওগুলিতে কৃত্রিম বুদ্ধিমত্তা (AI) ক্ষমতাগুলি ক্রমবর্ধমানভাবে যুক্ত করছে, সাইবার নিরাপত্তা বিশেষজ্ঞরা সতর্ক করেছেন যে মেশিন লার্নিং (ML) উপাদানগুলি নতুন ধরনের আক্রমণের জন্য ঝুঁকিপূর্ণ এবং সুরক্ষিত করা প্রয়োজন৷

স্টার্টআপ হিডেনলেয়ার, যা 19 জুলাই চালু হয়েছিল, কোম্পানিগুলিকে তাদের সংবেদনশীল মেশিন-লার্নিং মডেলগুলি এবং সেই মডেলগুলিকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহৃত ডেটাগুলিকে আরও ভালভাবে সুরক্ষিত করতে সহায়তা করা। কোম্পানি ML সনাক্তকরণ এবং প্রতিক্রিয়া সেগমেন্টের লক্ষ্যে তার প্রথম পণ্যগুলি প্রকাশ করেছে, আক্রমণের বিরুদ্ধে মডেলগুলিকে কঠোর করার পাশাপাশি সেই মডেলগুলিকে প্রশিক্ষণের জন্য ব্যবহৃত ডেটা সুরক্ষিত করার লক্ষ্যে।

ঝুঁকিগুলি তাত্ত্বিক নয়: কোম্পানির প্রতিষ্ঠাতারা সাইল্যান্সে কাজ করেছিলেন যখন গবেষকরা ম্যালওয়্যার শনাক্ত করার জন্য কোম্পানির এআই ইঞ্জিনকে বাইপাস করার উপায় খুঁজে পেয়েছিলেন, হিডেনলেয়ারের সিইও ক্রিস্টোফার সেস্টিটো বলেছেন।

"তারা পণ্যের মাধ্যমে মডেলটিকে আক্রমণ করেছিল এবং মডেলটির সাথে যথেষ্ট যোগাযোগ করেছিল ... মডেলটি কোথায় দুর্বল ছিল তা নির্ধারণ করতে," তিনি বলেছেন।

সেস্টিটো আশা করে যে AI/ML সিস্টেমের বিরুদ্ধে আক্রমণ বাড়বে কারণ আরও কোম্পানি তাদের পণ্যগুলিতে বৈশিষ্ট্যগুলিকে অন্তর্ভুক্ত করবে।

"AI এবং ML হল সবচেয়ে দ্রুত বর্ধনশীল প্রযুক্তি যা আমরা দেখেছি, তাই আমরা আশা করি যে সেগুলি সবচেয়ে দ্রুত বর্ধনশীল আক্রমণ ভেক্টর হতে পারে যা আমরা কখনও দেখেছি," তিনি বলেছেন।

মেশিন লার্নিং মডেলের ত্রুটি

ML অনেক কোম্পানির পরবর্তী প্রজন্মের পণ্যগুলির জন্য একটি আবশ্যক হয়ে উঠেছে, কিন্তু ব্যবসাগুলি সাধারণত নিরাপত্তার প্রভাব বিবেচনা না করেই এআই-ভিত্তিক বৈশিষ্ট্য যুক্ত করে। হুমকির মধ্যে রয়েছে মডেল ফাঁকি, যেমন সাইল্যান্সের বিরুদ্ধে পরিচালিত গবেষণা, এবং কার্যকরী নিষ্কাশন, যেখানে আক্রমণকারীরা একটি মডেলকে জিজ্ঞাসা করতে পারে এবং আউটপুটগুলির উপর ভিত্তি করে একটি কার্যকরী সমতুল্য সিস্টেম তৈরি করতে পারে।

দুই বছর আগে, মাইক্রোসফ্ট, MITRE, এবং অন্যান্য কোম্পানি অ্যাডভারসারিয়াল মেশিন লার্নিং থ্রেট ম্যাট্রিক্স তৈরি করেছে AI-ভিত্তিক সিস্টেমের বিরুদ্ধে সম্ভাব্য হুমকি তালিকাভুক্ত করতে। এখন হিসাবে rebranded কৃত্রিম বুদ্ধিমত্তা সিস্টেমের জন্য প্রতিকূল হুমকির ল্যান্ডস্কেপ (ATLAS), সম্ভাব্য আক্রমণের অভিধান হাইলাইট করে যে উদ্ভাবনী প্রযুক্তি উদ্ভাবনী আক্রমণকে আকর্ষণ করবে।

"প্রথাগত সাইবারসিকিউরিটি দুর্বলতাগুলির বিপরীতে যা নির্দিষ্ট সফ্টওয়্যার এবং হার্ডওয়্যার সিস্টেমের সাথে আবদ্ধ, ML অ্যালগরিদমের অন্তর্নিহিত অন্তর্নিহিত সীমাবদ্ধতাগুলির দ্বারা প্রতিকূল ML দুর্বলতাগুলি সক্ষম করা হয়," অনুসারে GitHub এ ATLAS প্রকল্প পৃষ্ঠা. "ডেটা নতুন উপায়ে অস্ত্রোপচার করা যেতে পারে যার জন্য আমরা সাইবার প্রতিপক্ষের আচরণকে কীভাবে মডেল করি তার সম্প্রসারণ প্রয়োজন, উদীয়মান হুমকি ভেক্টর এবং দ্রুত বিকশিত প্রতিপক্ষের মেশিন লার্নিং আক্রমণ জীবনচক্রকে প্রতিফলিত করতে।"

ব্যবহারিক হুমকি হিডেন লেয়ারের তিনজন প্রতিষ্ঠাতা - সেস্টিটো, ট্যানার বার্নস এবং জেমস ব্যালার্ড - যারা সাইলেন্সে একসাথে কাজ করেছিলেন তাদের কাছে সুপরিচিত। তখন স্কাইলাইট সাইবার গবেষকরা পরিচিত ভাল কোড যুক্ত করা হয়েছে — আসলে, রকেট লিগের এক্সিকিউটেবল গেমের স্ট্রিংগুলির একটি তালিকা — সাইলেন্সের প্রযুক্তিকে বোকা বানানোর জন্য যে 84% ম্যালওয়্যার আসলেই সৌম্য ছিল।

"আমাদের পণ্যের মাধ্যমে আমাদের মেশিন লার্নিং মডেলটি সরাসরি আক্রমণ করার পরে আমরা ত্রাণ প্রচেষ্টার নেতৃত্ব দিয়েছিলাম এবং বুঝতে পেরেছিলাম যে এটি তাদের পণ্যগুলিতে এমএল মডেল স্থাপনকারী যে কোনও সংস্থার জন্য একটি বিশাল সমস্যা হবে," সেস্টিটো বলেছেন হিডেন লেয়ারের লঞ্চ ঘোষণা করে একটি বিবৃতি.

রিয়েল টাইমে প্রতিপক্ষের জন্য খুঁজছেন

হিডেন লেয়ারের লক্ষ্য এমন একটি সিস্টেম তৈরি করা যা এমএল সিস্টেমের ক্রিয়াকলাপ নিরীক্ষণ করতে পারে এবং ডেটা বা গণনার অ্যাক্সেসের প্রয়োজন ছাড়াই, পরিচিত প্রতিকূল পদ্ধতিগুলির একটি ব্যবহার করে সফ্টওয়্যারটি আক্রমণ করা হচ্ছে কিনা তা নির্ধারণ করতে পারে।

"আমরা মডেলগুলির সাথে আচরণগত মিথস্ক্রিয়া দেখছি - এটি একটি আইপি ঠিকানা বা শেষ পয়েন্ট হতে পারে," সেস্টিটো বলেছেন। "আমরা বিশ্লেষণ করছি যে মডেলটি ব্যবহার করার উদ্দেশ্যে ব্যবহার করা হচ্ছে কিনা বা ইনপুট এবং আউটপুটগুলি লিভারেজ করা হচ্ছে বা অনুরোধকারী খুব উচ্চ এনট্রপি সিদ্ধান্ত নিচ্ছেন কিনা।"

রিয়েল টাইমে আচরণগত বিশ্লেষণ করার ক্ষমতা কোম্পানির এমএল সনাক্তকরণ এবং প্রতিক্রিয়াকে অন্যান্য পদ্ধতির থেকে আলাদা করে, তিনি বলেছেন। উপরন্তু, প্রযুক্তির জন্য নির্দিষ্ট মডেল বা প্রশিক্ষণের ডেটা অ্যাক্সেসের প্রয়োজন হয় না, মেধা সম্পত্তিকে আরও নিরোধক করে, হিডেন লেয়ার বলে।

পদ্ধতির মানে হল যে নিরাপত্তা এজেন্ট থেকে ওভারহেড ছোট, 1 বা 2 মিলিসেকেন্ডের অর্ডারে, সেস্টিটো বলেছেন।

"আমরা কাঁচা ডেটা ভেক্টরাইজ করার পরে ইনপুটগুলি দেখছি, তাই খুব কম পারফরম্যান্স হিট হয়েছে," তিনি বলেছেন।