চ্যাটজিপিটির যুগে, এআই মডেলগুলি ব্যাপকভাবে জনপ্রিয়… এবং সহজেই আপস করা হয় – গণপ্রযুক্তি নেতৃত্ব পরিষদ

2023 শেষ হওয়ার অনেক আগে, এটি ইতিমধ্যেই জেনারেটিভ এআই-এর বছর হিসাবে মুকুট পেয়েছে। ChatGPT-এর মতো মডেলগুলির আবির্ভাবের দ্বারা উদ্বুদ্ধ যা ব্যবহারকারীর প্রম্পটগুলির জন্য বিশদ, তির্যকভাবে মানুষের উত্তর তৈরি করে, বিশেষজ্ঞ এবং নবীনরা একইভাবে কাজ, শিক্ষা এবং সৃজনশীলতার উপর প্রযুক্তির সম্ভাব্য প্রভাবগুলি নিয়ে ভাবতে শুরু করেছিলেন।

কিন্তু যদিও আজকের বৃহৎ ভাষার মডেলগুলি (LLMs) অত্যাশ্চর্যভাবে সক্ষম, তারাও হতবাকভাবে দুর্বল, বলেছেন খৌরির অধ্যাপক আলিনা ওপ্রিয়া৷ তিনি এক দশকেরও বেশি সময় ধরে সাইবারসিকিউরিটি প্রসঙ্গে এআই নিয়ে অধ্যয়ন করছেন এবং সম্প্রতি একটি প্রতিবেদন সহ-লেখক যা এআই-এর উপর এই আক্রমণগুলি নিয়ে আলোচনা করে — তারা কীভাবে কাজ করে, কীভাবে তাদের শ্রেণীবদ্ধ করা হয় এবং কীভাবে তারা হতে পারে (এবং পারে না) প্রশমিত

"জেনারেটিভ এআই সুরক্ষিত রাখা সত্যিই কঠিন," ওপ্রিয়া বলেছেন। "এই মডেলগুলির স্কেল এবং তাদের প্রশিক্ষণ ডেটা সময়ের সাথে বৃদ্ধি পাবে, যা শুধুমাত্র এই আক্রমণগুলিকে সহজ করে তোলে৷ এবং একবার আপনি জেনারেটিভ এআই সম্পর্কে কথা বলা শুরু করলে যা পাঠ্যের বাইরে চিত্র এবং বক্তৃতায় যায়, নিরাপত্তা একটি খুব খোলা প্রশ্ন হয়ে যায়।"

বাণিজ্য বিভাগের ন্যাশনাল ইনস্টিটিউট অফ স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি (এনআইএসটি) দ্বারা প্রকাশিত প্রতিবেদনটি এনআইএসটি-এর অ্যাপোস্টল ভ্যাসিলেভের সাথে গত বছর সহ-লেখক Oprea রিপোর্টের একটি আপডেট। সেই প্রাথমিক প্রতিবেদনটি আরও ঐতিহ্যগত ভবিষ্যদ্বাণীমূলক এআই নিয়ে কাজ করেছিল, কিন্তু তারপর থেকে জেনারেটিভ এআই-এর জনপ্রিয়তায় বিস্ফোরণ ঘটছে, অপেরা এবং ভ্যাসিলেভ প্রজেক্টের রেমিট প্রসারিত করার জন্য রোবাস্ট ইন্টেলিজেন্সের জেনারেটিভ এআই বিশেষজ্ঞ অ্যালি ফোরডিস এবং হাইরাম অ্যান্ডারসনকে স্বাগত জানিয়েছেন।

"এখন আমাদের শিক্ষাবিদ, সরকার এবং শিল্প একসাথে কাজ করছে," ওপ্রিয়া উল্লেখ করেছেন, "যা প্রতিবেদনের জন্য অভিপ্রেত শ্রোতা।"

প্রতিবেদন অনুসারে, জেনারেটিভ এআই মডেলগুলি বিভিন্ন কারণের জন্য তাদের দুর্বলতার জন্য দায়ী। একের জন্য, Oprea নোট, অধিকাংশ আক্রমণ "মাউন্ট করা মোটামুটি সহজ এবং এআই সিস্টেমের ন্যূনতম জ্ঞান প্রয়োজন।" অন্যটির জন্য, মডেলের বিশাল প্রশিক্ষণ ডেটা সেট মানুষের পক্ষে নিরীক্ষণ এবং যাচাই করার পক্ষে খুব বড়। এবং মডেলের আন্ডারপিনিং কোড স্বয়ংক্রিয় নয়; এটি মানুষের সংযমের উপর নির্ভর করে এবং দূষিত মানব হস্তক্ষেপের সংস্পর্শে আসে।

গবেষকদের কোয়ার্টেটের মতে, ফলাফল হল চারটি প্রধান ধরনের আক্রমণ যা এআই সিস্টেমকে বিভ্রান্ত করে এবং তাদের ত্রুটির কারণ করে: ফাঁকি আক্রমণ যা মডেলের ইনপুটকে এর প্রতিক্রিয়া পরিবর্তন করতে পরিবর্তন করে, বিষাক্ত আক্রমণ যা মডেলের অন্তর্নিহিত অ্যালগরিদম বা প্রশিক্ষণ ডেটা, গোপনীয়তাকে দূষিত করে এমন আক্রমণ যা মডেলকে সংবেদনশীল প্রশিক্ষণের তথ্য যেমন চিকিৎসা সংক্রান্ত তথ্য প্রকাশ করতে বাধ্য করে, এবং অপব্যবহারের আক্রমণ যা ভুল তথ্যকে বৈধ উৎসে ফিড করে যা মডেল থেকে শেখে। মডেলের ইনপুট ম্যানিপুলেট করে, আক্রমণকারীরা আগে থেকেই এর আউটপুট বেছে নিতে পারে।

"এটি বাণিজ্যিক উদ্দেশ্যে, বিজ্ঞাপনের জন্য, ম্যালওয়্যার স্প্যাম বা ঘৃণাত্মক বক্তব্য তৈরির জন্য ব্যবহার করা যেতে পারে - যা মডেলটি সাধারণত তৈরি করে না," Oprea ব্যাখ্যা করে৷

নিজেদের ওভারট্যাক্স না করে, দূষিত অভিনেতারা একটি AI মডেলের ট্রেনিং করা ওয়েব ডেটা নিয়ন্ত্রণ করতে পারে, একটি ব্যাকডোর প্রবর্তন করতে পারে এবং তারপরে সেখান থেকে মডেলের আচরণকে কৌশলে চালাতে পারে। এই মডেলগুলির বিস্ফোরিত জনপ্রিয়তার পরিপ্রেক্ষিতে, এই ধরনের পিছনের দরজাগুলি নিজেরাই যথেষ্ট হবে। কিন্তু ক্ষতি সেখানে থামে না।

“আমাদের কাছে এখন এই সমন্বিত অ্যাপ্লিকেশন রয়েছে যা এলএলএম ব্যবহার করে। উদাহরণস্বরূপ, একটি কোম্পানি একটি ইমেল এজেন্ট তৈরি করে যা ব্যাকগ্রাউন্ডে একটি এলএলএম-এর সাথে একীভূত হয় এবং এটি এখন আপনার ইমেলগুলি পড়তে এবং আপনার পক্ষে ইমেল পাঠাতে পারে, "অপ্রিয়া বলে৷ “কিন্তু আক্রমণকারীরা হাজার হাজার মানুষকে ম্যালওয়্যার এবং স্প্যাম পাঠাতে একই টুল ব্যবহার করতে পারে। আক্রমণের পৃষ্ঠ বৃদ্ধি পেয়েছে কারণ আমরা এই অ্যাপ্লিকেশনগুলিতে এলএলএমগুলিকে একীভূত করছি।"

ঘৃণামূলক বক্তব্য এবং গণ স্প্যাম যতটা ধ্বংসাত্মক এবং বিপজ্জনক, দিগন্তে আরও বড় নিরাপত্তা উদ্বেগ রয়েছে।

"কিছু অ্যাপ্লিকেশন নিরাপত্তা-সমালোচনামূলক, যেমন স্ব-চালিত গাড়ি," Oprea বলেছেন৷ "যদি সেই মডেলগুলি ভুল ভবিষ্যদ্বাণী করে, সেগুলি ব্যবহার করা যাবে না।"

তাহলে কি করা উচিত? দলটি প্রতিবেদনটি প্রস্তুত করেছে, যা তারা বার্ষিক আপডেট করার পরিকল্পনা করেছে, কিছু শ্রোতাদের জন্য - নীতিনির্ধারক, এআই বিকাশকারী এবং শিক্ষাবিদ যারা তাদের নিজস্ব কাজের ভিত্তি বা প্রসঙ্গ হিসাবে প্রতিবেদনের শ্রেণীবিন্যাস ব্যবহার করতে পারেন। Oprea বলে, এই সমস্ত গোষ্ঠীগুলিকে নিশ্চিত করতে কাজ করতে হবে যে AI মডেলগুলি মানবিক মূল্যবোধের সাথে সামঞ্জস্যপূর্ণ, গোপনীয়তা রক্ষা করে এবং ব্যবহারকারীদের সর্বোত্তম স্বার্থে কাজ করে। কিন্তু তিনি স্বীকার করেন যে রিপোর্টে উত্থাপিত প্রতিটি সমস্যা সমাধান করা চ্যালেঞ্জিং, এবং যে কেউ প্রশমিত হওয়ার পরিবর্তে সমাধানের হকিং করা খুবই ভুল।

"প্রশমনের চেয়ে অনেক বেশি আক্রমণ আছে, এবং আমরা উল্লেখ করেছি প্রতিটি প্রশমনের জন্য, একটি ট্রেডঅফ বা একটি পারফরম্যান্স ওভারহেড রয়েছে, যার মধ্যে মডেলের যথার্থতার অবনতি রয়েছে," ওপ্রিয়া সতর্ক করে। "প্রশমনগুলি বিনামূল্যের জন্য আসে না এবং AI সুরক্ষিত করা সত্যিই একটি চ্যালেঞ্জিং প্রয়াস, তবে আমরা আশা করি যে রিপোর্টটি আক্রমণগুলি বোঝার জন্য একটি কার্যকর সূচনা বিন্দু প্রদান করবে।"

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://www.mtlc.co/in-the-age-of-chatgpt-ai-models-are-massively-popular-and-easily-compromised/