چیٹ جی پی ٹی جیل بریکنگ فورمز ڈارک ویب کمیونٹیز میں پھیلتے ہیں۔

ChatGPT جیسے جنریٹیو AI ٹولز کی ہتھیار سازی ہر کوئی انتظار کر رہا ہے آہستہ ہے، آہستہ آہستہ شکل اختیار کرنا شروع کر دیتا ہے۔ آن لائن کمیونٹیز میں، متجسس بلیاں ChatGPT کے اخلاقی اصولوں کو توڑنے کے نئے طریقوں پر تعاون کر رہی ہیں، جنہیں عام طور پر "جیل بریکنگ" کہا جاتا ہے، اور ہیکرز نقصان دہ مقاصد کے لیے لینگوئج ماڈلز (LLMs) کا فائدہ اٹھانے یا تخلیق کرنے کے لیے نئے ٹولز کا نیٹ ورک تیار کر رہے ہیں۔

جس طرح یہ زمین سے اوپر ہے، ایسا لگتا ہے کہ ChatGPT نے زیر زمین فورمز میں ایک جنون کو متاثر کیا ہے۔ دسمبر کے بعد سے ہیکرز نئے اور اختراعی کی تلاش میں ہیں۔ ChatGPT میں ہیرا پھیری کرنے کا اشارہ کرتا ہے۔، اور اوپن سورس LLMs جو وہ بدنیتی پر مبنی مقاصد کے لیے دوبارہ استعمال کر سکتے ہیں۔. 

نتیجہ، سلیش نیکسٹ کے ایک نئے بلاگ کے مطابق، اب بھی ایک نوزائیدہ لیکن پھلتی پھولتی ایل ایل ایم ہیکنگ کمیونٹی ہے، جس کے پاس بہت سارے ہوشیار اشارے ہیں لیکن چند AI سے چلنے والے مالویئرز جو ایک سیکنڈ سوچنے کے قابل ہیں۔.

ہیکرز AI LLMs کے ساتھ کیا کر رہے ہیں۔

فوری انجینئرنگ اس میں چالاکی کے ساتھ چیٹ بوٹس جیسے چیٹ جی پی ٹی سوالات پوچھنا شامل ہے جس کا مقصد ان سے ہیرا پھیری کرنا، انہیں ماڈلز کو جانے بغیر، میلویئر بنانے کے خلاف اپنے پروگرام شدہ قوانین کو توڑنا ہے۔ سلیش نیکسٹ کے سی ای او پیٹرک ہار کی وضاحت کرتے ہوئے، یہ وحشیانہ طاقت کی ایک مشق ہے: "ہیکرز صرف چوکیوں کے ارد گرد دیکھنے کی کوشش کر رہے ہیں۔ کناروں کیا ہیں؟ میں صرف اشارے بدلتا رہتا ہوں، مختلف طریقوں سے اس سے پوچھتا ہوں کہ میں کیا چاہتا ہوں۔"

کیونکہ یہ اتنا مشکل کام ہے، اور چونکہ ہر کوئی ایک ہی ہدف پر حملہ کر رہا ہے، یہ فطری بات ہے کہ صحت مند سائز کی آن لائن کمیونٹیز تجاویز اور چالوں کو بانٹنے کے لیے اس مشق کے ارد گرد بن گئی ہیں۔ ان جیل بریک کمیونٹیز کے ممبران ایک دوسرے کی پیٹھ کھرچتے ہیں، ایک دوسرے کی مدد کرتے ہیں کہ وہ ChatGPT کو کریک کرے اور وہ کام کرے جو ڈویلپرز اسے کرنے سے روکنا چاہتے ہیں۔

پرامپٹ انجینئرز صرف فینسی ورڈ پلے کے ساتھ اتنا کچھ حاصل کر سکتے ہیں، اگرچہ، اگر زیر بحث چیٹ بوٹ کو ChatGPT کی طرح لچکدار بنایا گیا ہو۔ لہذا، زیادہ تشویشناک رجحان یہ ہے کہ میلویئر ڈویلپرز اپنے، مذموم مقاصد کے لیے LLMs کو پروگرام کرنا شروع کر رہے ہیں۔

ورم جی پی ٹی اور نقصان دہ ایل ایل ایم کا بڑھتا ہوا خطرہ

ایک پیشکش کہا جاتا ہے ورم جی پی ٹی بدنیتی پر مبنی LLM رجحان کو شروع کرنے کے لیے جولائی میں نمودار ہوا۔ یہ GPT ماڈلز کا ایک بلیک ہیٹ متبادل ہے جو خاص طور پر BEC، میلویئر، اور فشنگ حملوں جیسی بدنیتی پر مبنی سرگرمیوں کے لیے ڈیزائن کیا گیا ہے، جس کی مارکیٹنگ زیر زمین فورمز پر کی جاتی ہے "جیسے ChatGPT لیکن [بغیر] اخلاقی حدود یا حدود نہیں۔" WormGPT کے تخلیق کار نے دعویٰ کیا کہ اس نے اسے اپنی مرضی کے مطابق زبان کے ماڈل پر بنایا ہے، جس میں سائبر حملوں سے متعلق ڈیٹا پر زور دینے کے ساتھ مختلف ڈیٹا ذرائع پر تربیت دی گئی ہے۔

"ہیکرز کے لیے اس کا کیا مطلب ہے،" ہیر بتاتے ہیں، "کیا میں اب بزنس ای میل کمپرومائز (BEC)، یا فشنگ اٹیک، یا میلویئر اٹیک لے سکتا ہوں، اور یہ بہت کم قیمت پر پیمانے پر کر سکتا ہوں۔ اور مجھے پہلے سے کہیں زیادہ نشانہ بنایا جا سکتا ہے۔

WormGPT کے بعد سے، مشکوک آن لائن کمیونٹیز میں اسی طرح کی متعدد مصنوعات پر پابندی لگا دی گئی ہے، فراڈ جی پی ٹی سمیت، جس کی تشہیر ایک دھمکی آمیز اداکار کے ذریعہ "بغیر حدود، قواعد، [اور] حدود کے بغیر بوٹ" کے طور پر کی جاتی ہے جو ایمپائر، WHM، Torrez، World، AlphaBay، اور Versus سمیت مختلف انڈر گراؤنڈ ڈارک ویب مارکیٹوں پر تصدیق شدہ وینڈر ہونے کا دعویٰ کرتا ہے۔ اور اگست کے ظہور لایا ڈارک بارٹ اور ڈارک برٹ سائبر کرائمینل چیٹ بوٹسگوگل بارڈ کی بنیاد پر، جس کے بارے میں اس وقت محققین نے کہا تھا کہ یہ مخالف AI کے لیے ایک بڑی چھلانگ کی نمائندگی کرتا ہے، بشمول تصاویر کے لیے گوگل لینس کا انضمام اور سائبر زیرزمین علم کی پوری معلومات تک فوری رسائی۔

سلیش نیکسٹ کے مطابق، یہ اب پھیل رہے ہیں، ان میں سے اکثریت اوپن سورس ماڈلز جیسے اوپن اے آئی کے اوپن جی پی ٹی پر بنتی ہے۔ بہت سے کم ہنر والے ہیکرز اسے آسانی سے اپنی مرضی کے مطابق بناتے ہیں، اسے ایک ریپر میں چھپاتے ہیں، پھر اس پر ایک مبہم "___GPT" نام تھپتھپاتے ہیں (جیسے "BadGPT،" "DarkGPT")۔ یہاں تک کہ یہ ersatz پیشکشیں بھی کمیونٹی میں اپنی جگہ رکھتی ہیں، اگرچہ، صارفین کے لیے کچھ حدود اور مکمل گمنامی کی پیشکش کرتے ہیں۔

نیکسٹ-جنرل AI سائبر ہتھیاروں کے خلاف دفاع

سلیش نیکسٹ کے مطابق، نہ تو WormGPT، نہ ہی اس کی اولاد، اور نہ ہی فوری انجینئرز، کاروباروں کے لیے ابھی تک اتنا اہم خطرہ پیش نہیں کرتے ہیں۔ اس کے باوجود، زیر زمین جیل بریکنگ مارکیٹوں کے عروج کا مطلب یہ ہے کہ سائبر جرائم پیشہ افراد کے لیے مزید ٹولز دستیاب ہو رہے ہیں، جو کہ سوشل انجینئرنگ میں ایک وسیع تبدیلی کی نشاندہی کرتے ہیں، اور ہم اس کے خلاف کس طرح دفاع کرتے ہیں۔ 

ہار نے مشورہ دیا: "تربیت پر بھروسہ نہ کریں، کیونکہ یہ حملے ماضی کے مقابلے بہت زیادہ، بہت مخصوص، اور بہت زیادہ ہدف والے ہوتے ہیں۔"

اس کے بجائے، وہ عام طور پر متفقہ نظریہ کو سبسکرائب کرتا ہے کہ AI خطرات کو AI تحفظات کی ضرورت ہوتی ہے۔ "اگر آپ کے پاس AI ٹولز نہیں ہیں جو ان خطرات کا پتہ لگانے اور پیشین گوئی کرنے اور ان کو روکنے کے لیے ہیں، تو آپ باہر کی طرف دیکھ رہے ہوں گے،" وہ کہتے ہیں۔

• SEO سے چلنے والا مواد اور PR کی تقسیم۔ آج ہی بڑھا دیں۔
• پلیٹو ڈیٹا ڈاٹ نیٹ ورک ورٹیکل جنریٹو اے آئی۔ اپنے آپ کو بااختیار بنائیں۔ یہاں تک رسائی حاصل کریں۔
• پلیٹوآئ اسٹریم۔ ویب 3 انٹیلی جنس۔ علم میں اضافہ۔ یہاں تک رسائی حاصل کریں۔
• پلیٹو ای ایس جی۔ آٹوموٹو / ای وی، کاربن، کلین ٹیک، توانائی ، ماحولیات، شمسی، ویسٹ مینجمنٹ یہاں تک رسائی حاصل کریں۔
• پلیٹو ہیلتھ۔ بائیوٹیک اینڈ کلینیکل ٹرائلز انٹیلی جنس۔ یہاں تک رسائی حاصل کریں۔
• چارٹ پرائم۔ ChartPrime کے ساتھ اپنے ٹریڈنگ گیم کو بلند کریں۔ یہاں تک رسائی حاصل کریں۔
• بلاک آفسیٹس۔ ماحولیاتی آفسیٹ ملکیت کو جدید بنانا۔ یہاں تک رسائی حاصل کریں۔
• ماخذ: https://www.darkreading.com/application-security/chatgpt-jailbreaking-forums-dark-web-communities