আনপ্যাচড ক্রিটিক্যাল দুর্বলতাগুলি টেকওভারের জন্য এআই মডেলগুলিকে উন্মুক্ত করে৷

গবেষকরা AI মডেলগুলির দ্বারা ব্যবহৃত অবকাঠামোতে প্রায় এক ডজন গুরুতর দুর্বলতা চিহ্নিত করেছেন (প্লাস তিনটি উচ্চ- এবং দুটি মাঝারি-তীব্রতা বাগ), যা কোম্পানিগুলিকে ঝুঁকির মধ্যে ফেলে দিতে পারে কারণ তারা AI এর সুবিধা নেওয়ার জন্য প্রতিযোগিতা করে। তাদের মধ্যে কিছু আনপ্যাচ রয়ে গেছে.

প্রভাবিত প্ল্যাটফর্মগুলি হোস্টিং, মোতায়েন এবং বড় ভাষা মডেল (LLM), এবং অন্যান্য ML প্ল্যাটফর্ম এবং AIs ভাগ করার জন্য ব্যবহৃত হয়। এর মধ্যে রয়েছে রে, মেশিন-লার্নিং মডেলের বিতরণ করা প্রশিক্ষণে ব্যবহৃত; MLflow, একটি মেশিন-লার্নিং লাইফসাইকেল প্ল্যাটফর্ম; মডেলডিবি, একটি মেশিন-লার্নিং ম্যানেজমেন্ট প্ল্যাটফর্ম; এবং H20 সংস্করণ 3, জাভা ভিত্তিক মেশিন লার্নিংয়ের জন্য একটি ওপেন সোর্স প্ল্যাটফর্ম।

Mঅ্যাচিন-লার্নিং সিকিউরিটি ফার্ম প্রোটেক্ট এআই তার এআই-নির্দিষ্ট বাগ-বাউন্টি প্রোগ্রাম হান্টার-এর অংশ হিসেবে 16 নভেম্বর ফলাফল প্রকাশ করেছে। এটা নাসফ্টওয়্যার রক্ষণাবেক্ষণকারী এবং বিক্রেতাদের দুর্বলতা সম্পর্কে অবহিত করে, তাদের সমস্যাগুলি প্যাচ করার জন্য 45 দিন সময় দেয়৷

প্রতিটি সমস্যার জন্য একটি CVE শনাক্তকারী বরাদ্দ করা হয়েছে, এবং অনেকগুলি সমস্যা ঠিক করা হলেও, অন্যগুলি প্যাচ করা হয়নি, সেক্ষেত্রে Protect AI একটি সমাধানের সুপারিশ করেছে তার পরামর্শ.

AI বাগগুলি সংস্থাগুলির জন্য উচ্চ ঝুঁকি উপস্থাপন করে৷

Protect AI-এর মতে, AI সিস্টেমের দুর্বলতা আক্রমণকারীদের AI মডেলগুলিতে অননুমোদিত অ্যাক্সেস দিতে পারে, যাতে তারা তাদের নিজস্ব লক্ষ্যগুলির জন্য মডেলগুলিকে সহ-অপ্ট করতে পারে।

কিন্তু, তারা তাদের বাকি নেটওয়ার্কে একটি দ্বারও দিতে পারে, বলেছেন প্রোটেক্ট এআই-এর প্রধান স্থপতি শন মরগান। লো-কোড এআই পরিষেবাগুলি থেকে সার্ভার আপস এবং প্রমাণপত্র চুরি প্রাথমিক অ্যাক্সেসের জন্য দুটি সম্ভাবনা, উদাহরণস্বরূপ।

"ইনফারেন্স সার্ভারগুলিতে ব্যবহারকারীদের এমএল মডেলগুলি [দূরবর্তীভাবে] ব্যবহার করতে সক্ষম হওয়ার জন্য অ্যাক্সেসযোগ্য এন্ডপয়েন্ট থাকতে পারে, তবে কারও নেটওয়ার্কে প্রবেশ করার অনেক উপায় রয়েছে," তিনি বলেছেন। “এই ML সিস্টেমগুলি যেগুলিকে আমরা লক্ষ্য করছি [বাগ-বাউন্টি প্রোগ্রামের সাথে] প্রায়শই উন্নত সুযোগ-সুবিধা থাকে, এবং তাই এটা খুবই গুরুত্বপূর্ণ যে যদি কেউ আপনার নেটওয়ার্কে প্রবেশ করতে সক্ষম হয়, তাহলে তারা দ্রুত বিশেষাধিকার একটি খুব সংবেদনশীল সিস্টেমে বৃদ্ধি করতে পারে না। "

উদাহরণস্বরূপ, রে ডিস্ট্রিবিউটেড লার্নিং প্ল্যাটফর্মের জন্য এপিআই-তে একটি সমালোচনামূলক স্থানীয় ফাইল-অন্তর্ভুক্তি সমস্যা (এখন প্যাচ করা হয়েছে) আক্রমণকারীকে সিস্টেমের যেকোনো ফাইল পড়তে দেয়। H20 প্ল্যাটফর্মের আরেকটি সমস্যা (এছাড়াও স্থির) একটি এআই মডেলের আমদানির মাধ্যমে কোড কার্যকর করার অনুমতি দেয়।

ঝুঁকি তাত্ত্বিক নয়: বড় কোম্পানিগুলি ইতিমধ্যেই আক্রমনাত্মক প্রচারণা শুরু করেছে দরকারী AI মডেলগুলি খুঁজে বের করতে এবং সেগুলিকে তাদের বাজার এবং ক্রিয়াকলাপে প্রয়োগ করতে৷ ব্যাঙ্কগুলি ইতিমধ্যেই বন্ধকী প্রক্রিয়াকরণ এবং অ্যান্টি-মানি লন্ডারিং-এর জন্য মেশিন লার্নিং এবং এআই ব্যবহার করে, উদাহরণস্বরূপ।

খোঁজ করার সময় এই AI সিস্টেমে দুর্বলতা প্রোটেক্ট এআই-এর প্রেসিডেন্ট এবং সহ-প্রতিষ্ঠাতা ড্যারিয়ান দেহানপিশেহ বলেছেন, এটি অবকাঠামোর সাথে আপস করতে পারে, মেধা সম্পত্তি চুরি করাও একটি বড় লক্ষ্য।

"শিল্প গুপ্তচরবৃত্তি একটি বড় উপাদান, এবং AI এবং ML-এর যুদ্ধে, মডেলগুলি একটি অত্যন্ত মূল্যবান বৌদ্ধিক সম্পত্তি সম্পদ," তিনি বলেছেন। "দৈনিক ভিত্তিতে একটি মডেল প্রশিক্ষণের জন্য কত টাকা ব্যয় হয় তা নিয়ে চিন্তা করুন, এবং আপনি যখন এক বিলিয়ন প্যারামিটার এবং আরও অনেক কিছুর কথা বলছেন, তাই প্রচুর বিনিয়োগ, কেবলমাত্র খাঁটি মূলধন যা সহজেই আপস বা চুরি হয়ে যায়।"

হ্যাকারওনের সিনিয়র সলিউশন আর্কিটেক্ট ডেন শেরেটস বলেছেন, ChatGPT-এর মতো AI সিস্টেমের সাথে মানুষের মধ্যে থাকা প্রাকৃতিক-ভাষার মিথস্ক্রিয়াগুলির উপর ভিত্তি করে গড়ে ওঠা অবকাঠামোর বিরুদ্ধে অভিনব শোষণের লড়াই আরও বেশি প্রভাব ফেলবে। এর কারণ যখন সাইবার অপরাধীরা এই ধরণের দুর্বলতাগুলিকে ট্রিগার করতে সক্ষম হয়, তখন এআই সিস্টেমের কার্যকারিতা প্রভাবকে আরও বেশি করে তুলবে।

এই আক্রমণগুলি "সিস্টেমটিকে সংবেদনশীল বা গোপনীয় ডেটা ছিটকে দিতে পারে, বা দূষিত অভিনেতাকে সিস্টেমের ব্যাকএন্ডে অ্যাক্সেস পেতে সহায়তা করতে পারে," তিনি বলেছেন। "প্রশিক্ষণ ডেটা বিষাক্তকরণের মতো এআই দুর্বলতাগুলিও একটি উল্লেখযোগ্য লহরী প্রভাব ফেলতে পারে, যার ফলে ভুল বা দূষিত আউটপুটগুলি ব্যাপকভাবে ছড়িয়ে পড়ে।"

AI পরিকাঠামোর নিরাপত্তা: প্রায়ই উপেক্ষা করা হয়

এক বছর আগে ChatGPT প্রবর্তনের পর, AI-র উপর ভিত্তি করে প্রযুক্তি এবং পরিষেবাগুলি - বিশেষ করে জেনারেটিভ AI (GenAI) - বন্ধ হয়ে গেছে। এর পরিপ্রেক্ষিতে, ক বিভিন্ন ধরনের প্রতিপক্ষের আক্রমণ তৈরি করা হয়েছে যা এআই এবং মেশিন-লার্নিং সিস্টেম এবং তাদের ক্রিয়াকলাপকে লক্ষ্য করতে পারে। 15 নভেম্বর, উদাহরণস্বরূপ, AI নিরাপত্তা সংস্থা Adversa AI
GPT-ভিত্তিক সিস্টেমে আক্রমণের সংখ্যা প্রকাশ করেছে প্রম্পট ফাঁস করা এবং সিস্টেমের অ্যাক্সেস আছে এমন APIগুলি গণনা সহ।

তবুও, প্রোটেক্টএআই-এর বাগ প্রকাশগুলি এই সত্যকে আন্ডারস্কোর করে যে মেশিন-লার্নিং প্রক্রিয়া এবং এআই অপারেশনগুলিকে সমর্থন করে এমন সরঞ্জাম এবং অবকাঠামোও লক্ষ্যবস্তু হতে পারে। এবং প্রায়শই, ব্যবসাগুলি AI-ভিত্তিক সরঞ্জাম এবং কর্মপ্রবাহ গ্রহণ করে প্রায়শই তথ্য নিরাপত্তা গোষ্ঠীর সাথে পরামর্শ না করে.

“যেকোনো হাই-টেক হাইপ সাইকেলের মতো, লোকেরা সিস্টেম স্থাপন করবে, তারা অ্যাপ্লিকেশনগুলি তৈরি করবে এবং তারা ব্যবসা এবং বাজারের চাহিদা মেটাতে নতুন অভিজ্ঞতা তৈরি করবে এবং প্রায়শই নিরাপত্তাকে অবহেলা করবে এবং তারা এইগুলি তৈরি করবে। 'শ্যাডো স্ট্যাক' ধরনের, অথবা তারা ধরে নেবে যে তাদের বিদ্যমান নিরাপত্তা ক্ষমতা তাদের নিরাপদ রাখতে পারে,” বলেছেন দেহানপিশেহ। "কিন্তু আমরা [সাইবারসিকিউরিটি পেশাদাররা] প্রথাগত ডেটা সেন্টারের জন্য যে কাজগুলি করছি, তা অবশ্যই আপনাকে ক্লাউডে নিরাপদ রাখবে না এবং এর বিপরীতে।"

Protect AI বিভিন্ন মেশিন-লার্নিং প্ল্যাটফর্মের জন্য হাজার হাজার গবেষকদের কাছ থেকে দুর্বলতা জমা দেওয়ার জন্য তার বাগ বাউন্টি প্ল্যাটফর্ম, হান্টার নামে পরিচিত, ব্যবহার করেছে, কিন্তু এখনও পর্যন্ত, এই সেক্টরে বাগ হান্টিং তার শৈশবকালেই রয়েছে। যে পরিবর্তন হতে পারে, যদিও.

উদাহরণস্বরূপ, ট্রেন্ড মাইক্রোর জিরো ডে ইনিশিয়েটিভ এআই/এমএল সরঞ্জামগুলিতে বাগগুলি খুঁজে পাওয়ার জন্য এখনও উল্লেখযোগ্য চাহিদা দেখেনি, তবে গোষ্ঠীটি নিয়মিত পরিবর্তন দেখেছে যে শিল্প কী ধরণের দুর্বলতাগুলি গবেষকরা খুঁজে পেতে চায়, এবং সম্ভবত একটি AI ফোকাস আসবে শীঘ্রই, ডাস্টিন চাইল্ডস বলেছেন, ট্রেন্ড মাইক্রোর জিরো ডে ইনিশিয়েটিভের হুমকি সচেতনতার প্রধান৷

"আমরা AI তে একই জিনিস দেখছি যা আমরা অন্যান্য শিল্পে দেখেছি যখন তারা বিকশিত হয়েছে," তিনি বলেছেন। “প্রথমে, কার্যকারিতা যুক্ত করার পক্ষে নিরাপত্তাকে অগ্রাধিকার না দেওয়া হয়েছিল। এখন যেহেতু এটি গ্রহণযোগ্যতার একটি নির্দিষ্ট স্তরে আঘাত করেছে, লোকেরা নিরাপত্তার প্রভাব সম্পর্কে জিজ্ঞাসা করতে শুরু করেছে।"

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://www.darkreading.com/vulnerabilities-threats/unpatched-critical-vulnerabilities-ai-models-takeover