চ্যাটজিপিটি জেলব্রেকিং ফোরামগুলি ডার্ক ওয়েব সম্প্রদায়গুলিতে প্রসারিত হয়৷

ChatGPT এর মত জেনারেটিভ এআই টুলের অস্ত্রায়ন সবাই অপেক্ষা করছে ধীরে ধীরে হয়, ধীরে ধীরে রূপ নিতে শুরু করে। অনলাইন সম্প্রদায়গুলিতে, কৌতূহলী বিড়ালরা ChatGPT-এর নীতিশাস্ত্রের নিয়মগুলি ভেঙে ফেলার নতুন উপায়ে সহযোগিতা করছে, যা সাধারণত "জেলব্রেকিং" নামে পরিচিত এবং হ্যাকাররা ক্ষতিকারক শেষের জন্য বৃহৎ ভাষা মডেল (LLM) তৈরি করতে বা তৈরি করতে নতুন সরঞ্জামগুলির একটি নেটওয়ার্ক তৈরি করছে৷

এটি যেমন মাটির উপরে রয়েছে, তেমনি ChatGPT ভূগর্ভস্থ ফোরামগুলিতে একটি উন্মাদনাকে অনুপ্রাণিত করেছে বলে মনে হচ্ছে। ডিসেম্বর থেকে, হ্যাকাররা নতুন এবং উদ্ভাবনীর সন্ধানে রয়েছে ChatGPT ম্যানিপুলেট করার জন্য অনুরোধ করে, এবং ওপেন-সোর্স এলএলএম তারা দূষিত শেষের জন্য পুনরায় ব্যবহার করতে পারে. 

ফলাফল, SlashNext-এর একটি নতুন ব্লগ অনুসারে, এটি এখনও একটি নবজাতক কিন্তু সমৃদ্ধ LLM হ্যাকিং সম্প্রদায়, যার কাছে প্রচুর চতুর প্রম্পট রয়েছে কিন্তু কিছু AI-সক্ষম ম্যালওয়্যার একটি দ্বিতীয় চিন্তা মূল্য.

AI LLM এর সাথে হ্যাকাররা কি করছে

প্রম্পট ইঞ্জিনিয়ারিং ChatGPT প্রশ্নগুলির মতো চ্যাটবটগুলিকে চতুরতার সাথে জিজ্ঞাসা করা জড়িত যার উদ্দেশ্য তাদের ম্যানিপুলেট করা, তাদের বিরুদ্ধে তাদের প্রোগ্রাম করা নিয়ম ভঙ্গ করা, বলুন, ম্যালওয়্যার তৈরি করা, মডেলগুলি না জেনে। স্ল্যাশ নেক্সট-এর সিইও প্যাট্রিক হার ব্যাখ্যা করেন: “হ্যাকাররা শুধু পাহারার চারপাশে তাকানোর চেষ্টা করছে। প্রান্ত কি? আমি ক্রমাগত প্রম্পট পরিবর্তন করি, আমি যা চাই তা করতে বিভিন্ন উপায়ে জিজ্ঞাসা করি।"

কারণ এটি এমন একটি ক্লান্তিকর কাজ, এবং যেহেতু সবাই একই লক্ষ্যে আক্রমণ করছে, এটি স্বাভাবিক যে স্বাস্থ্যকর আকারের অনলাইন সম্প্রদায়গুলি টিপস এবং কৌশলগুলি ভাগ করার জন্য অনুশীলনের চারপাশে তৈরি হয়েছে৷ এই জেলব্রেক সম্প্রদায়ের সদস্যরা একে অপরের পিঠে খোঁচা দেয়, একে অপরকে সাহায্য করে ChatGPT কে ক্র্যাক করতে এবং এমন কিছু করতে যা ডেভেলপাররা এটি করা থেকে বিরত রাখতে চেয়েছিল।

প্রম্পট ইঞ্জিনিয়াররা শুধুমাত্র অভিনব ওয়ার্ডপ্লে দিয়ে এত কিছু অর্জন করতে পারে, যদিও, যদি প্রশ্নে থাকা চ্যাটবটটি ChatGPT এর মতো স্থিতিস্থাপকভাবে তৈরি করা হয়। সুতরাং, আরও উদ্বেগজনক প্রবণতা হল যে ম্যালওয়্যার বিকাশকারীরা তাদের নিজস্ব, ঘৃণ্য উদ্দেশ্যে LLM প্রোগ্রাম করতে শুরু করেছে।

ওয়ার্মজিপিটি এবং দূষিত এলএলএম-এর লুমিং থ্রেট

একটি নৈবেদ্য বলা হয় ওয়ার্মজিপিটি দূষিত LLM ঘটনাটি শুরু করতে জুলাই মাসে উপস্থিত হয়েছিল। এটি জিপিটি মডেলের একটি কালো-হ্যাট বিকল্প যা বিশেষভাবে বিইসি, ম্যালওয়্যার এবং ফিশিং আক্রমণের মতো দূষিত কার্যকলাপের জন্য ডিজাইন করা হয়েছে, যা আন্ডারগ্রাউন্ড ফোরামে বাজারজাত করা হয়েছে "যেমন ChatGPT কিন্তু [সাথে] কোন নৈতিক সীমানা বা সীমাবদ্ধতা নেই।" ওয়ার্মজিপিটি-এর স্রষ্টা এটিকে একটি কাস্টম ভাষার মডেলে তৈরি করেছেন বলে দাবি করেছেন, সাইবার আক্রমণ সম্পর্কিত ডেটার উপর জোর দিয়ে বিভিন্ন ডেটা উত্সের উপর প্রশিক্ষিত।

"হ্যাকারদের জন্য এর অর্থ কী," হার ব্যাখ্যা করে, "আমি এখন একটি ব্যবসায়িক ইমেল সমঝোতা (BEC), বা ফিশিং আক্রমণ বা ম্যালওয়্যার আক্রমণ নিতে পারি এবং খুব কম খরচে এটি করতে পারি। এবং আমি আগের চেয়ে অনেক বেশি লক্ষ্যবস্তু হতে পারি।"

ওয়ার্মজিপিটি থেকে, ছায়াময় অনলাইন সম্প্রদায়গুলিতে অনুরূপ বেশ কয়েকটি পণ্য নিষিদ্ধ করা হয়েছে, প্রতারণা জিপিটি সহ, যা একটি হুমকি অভিনেতা দ্বারা "সীমাবদ্ধতা, নিয়ম, [এবং] সীমানা ছাড়াই বট" হিসাবে বিজ্ঞাপিত হয়, যিনি নিজেকে সাম্রাজ্য, WHM, Torrez, World, AlphaBay এবং ভার্সেস সহ বিভিন্ন আন্ডারগ্রাউন্ড ডার্ক ওয়েব মার্কেটপ্লেসগুলিতে একজন যাচাইকৃত বিক্রেতা বলে দাবি করেন৷ আর অগাস্টের চেহারা নিয়ে এসেছে ডার্কবার্ট এবং ডার্কবার্ট সাইবার ক্রিমিনাল চ্যাটবট, Google Bard-এর উপর ভিত্তি করে, যা সেই সময়ে গবেষকরা বলেছিলেন যে প্রতিপক্ষ এআই-এর জন্য একটি বড় লাফের প্রতিনিধিত্ব করে, ছবির জন্য Google লেন্স ইন্টিগ্রেশন এবং সমগ্র সাইবার-আন্ডারগ্রাউন্ড জ্ঞান বেসে তাত্ক্ষণিক অ্যাক্সেস সহ।

স্ল্যাশ নেক্সট-এর মতে, এগুলো এখন প্রসারিত হচ্ছে, যার বেশিরভাগই OpenAI-এর OpenGPT-এর মতো ওপেন সোর্স মডেলের উপর তৈরি। একদল নিম্ন-দক্ষ হ্যাকাররা এটিকে কেবল কাস্টমাইজ করে, এটিকে একটি মোড়কে ছদ্মবেশ ধারণ করে, তারপর এটিতে একটি অস্পষ্টভাবে অশুভ "___GPT" নাম চাপ দেয় (যেমন "BadGPT," "DarkGPT")। এমনকি এই ersatz অফারগুলির সম্প্রদায়ে তাদের স্থান রয়েছে, যদিও ব্যবহারকারীদের জন্য কিছু সীমাবদ্ধতা এবং সম্পূর্ণ বেনামী অফার করে।

নেক্সট-জেন এআই সাইবার অস্ত্রের বিরুদ্ধে রক্ষা করা

স্ল্যাশ নেক্সট অনুসারে, ওয়ার্মজিপিটি, না এর বংশধর বা প্রম্পট ইঞ্জিনিয়াররা এখনও ব্যবসার জন্য এত গুরুত্বপূর্ণ বিপদ উপস্থাপন করে না। তা সত্ত্বেও, ভূগর্ভস্থ জেলব্রেকিং বাজারের উত্থানের অর্থ হল সাইবার অপরাধীদের জন্য আরও সরঞ্জাম উপলব্ধ হচ্ছে, যা ফলস্বরূপ সামাজিক প্রকৌশলে একটি বিস্তৃত পরিবর্তনের ইঙ্গিত দেয় এবং আমরা কীভাবে এর বিরুদ্ধে রক্ষা করি। 

হারের পরামর্শ: "প্রশিক্ষণের উপর নির্ভর করবেন না, কারণ এই আক্রমণগুলি খুব, খুব নির্দিষ্ট এবং খুব লক্ষ্যবস্তু, অতীতের তুলনায় অনেক বেশি।"

পরিবর্তে, তিনি সাধারণভাবে সম্মত দৃষ্টিভঙ্গিতে সাবস্ক্রাইব করেন যে এআই হুমকির জন্য এআই সুরক্ষা প্রয়োজন। "যদি আপনার কাছে এআই সরঞ্জাম না থাকে যা এই হুমকিগুলি সনাক্ত করে এবং ভবিষ্যদ্বাণী করে এবং ব্লক করে, আপনি বাইরের দিকে তাকাতে যাচ্ছেন," তিনি বলেছেন।

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। মোটরগাড়ি / ইভি, কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• চার্টপ্রাইম। ChartPrime এর সাথে আপনার ট্রেডিং গেমটি উন্নত করুন। এখানে প্রবেশ করুন.
• ব্লকঅফসেট। পরিবেশগত অফসেট মালিকানার আধুনিকীকরণ। এখানে প্রবেশ করুন.
• উত্স: https://www.darkreading.com/application-security/chatgpt-jailbreaking-forums-dark-web-communities