चैटजीपीटी जेलब्रेकिंग फ़ोरम डार्क वेब समुदायों में फैल रहे हैं

चैटजीपीटी जैसे जेनेरिक एआई टूल का हथियारीकरण हर कोई इंतज़ार कर रहा है धीरे-धीरे है, धीरे से रूप लेना शुरू कर दिया है. ऑनलाइन समुदायों में, जिज्ञासु बिल्लियाँ चैटजीपीटी के नैतिक नियमों को तोड़ने के लिए नए तरीकों पर सहयोग कर रही हैं, जिन्हें आमतौर पर "जेलब्रेकिंग" के रूप में जाना जाता है, और हैकर्स दुर्भावनापूर्ण उद्देश्यों के लिए बड़े भाषा मॉडल (एलएलएम) का लाभ उठाने या बनाने के लिए नए टूल का एक नेटवर्क विकसित कर रहे हैं।

जिस तरह यह जमीन के ऊपर है, उसी तरह चैटजीपीटी ने भूमिगत मंचों पर उन्माद को प्रेरित किया है। दिसंबर से ही हैकर्स नए और आविष्कारी की तलाश में हैं चैटजीपीटी में हेरफेर करने का संकेत देता है, तथा ओपन-सोर्स एलएलएम का वे दुर्भावनापूर्ण उद्देश्यों के लिए पुन: उपयोग कर सकते हैं. 

स्लैशनेक्स्ट के एक नए ब्लॉग के अनुसार, परिणाम, अभी भी एक नवजात लेकिन समृद्ध एलएलएम हैकिंग समुदाय है, जिसके पास बहुत सारे चतुर संकेत हैं लेकिन कुछ एआई-सक्षम मैलवेयर एक बार फिर विचार करने लायक हैं.

हैकर्स एआई एलएलएम के साथ क्या कर रहे हैं?

शीघ्र इंजीनियरिंग इसमें ChatGPT जैसे चैटबॉट्स से चतुराई से प्रश्न पूछना शामिल है, जिसका उद्देश्य उन्हें हेरफेर करना, उनके प्रोग्राम किए गए नियमों को तोड़ना, उदाहरण के लिए, मैलवेयर बनाना, बिना मॉडल को पता चले। स्लैशनेक्स्ट के सीईओ पैट्रिक हैर बताते हैं कि यह क्रूर बल का अभ्यास है: “हैकर्स बस रेलिंग के चारों ओर देखने की कोशिश कर रहे हैं। किनारे क्या हैं? मैं बस संकेतों को लगातार बदलता रहता हूं, जो मैं चाहता हूं उसे करने के लिए अलग-अलग तरीकों से पूछता हूं।

क्योंकि यह इतना कठिन काम है, और क्योंकि हर कोई एक ही लक्ष्य पर हमला कर रहा है, यह स्वाभाविक है कि टिप्स और ट्रिक्स साझा करने के अभ्यास के आसपास स्वस्थ आकार के ऑनलाइन समुदाय बन गए हैं। इन जेलब्रेक समुदायों के सदस्य एक-दूसरे की पीठ खुजाते हैं, चैटजीपीटी को क्रैक करने और उन चीजों को करने में एक-दूसरे की मदद करते हैं जो डेवलपर्स इसे करने से रोकना चाहते थे।

प्रॉम्प्ट इंजीनियर केवल फैंसी वर्डप्ले के साथ ही इतना कुछ हासिल कर सकते हैं, हालाँकि, यदि प्रश्न में चैटबॉट चैटजीपीटी के समान लचीले ढंग से बनाया गया है। इसलिए, अधिक चिंताजनक प्रवृत्ति यह है कि मैलवेयर डेवलपर्स अपने स्वयं के नापाक उद्देश्यों के लिए एलएलएम प्रोग्राम करना शुरू कर रहे हैं।

वर्मजीपीटी और दुर्भावनापूर्ण एलएलएम का मंडराता खतरा

एक भेंट बुलाई गई वर्मजीपीटी दुर्भावनापूर्ण एलएलएम घटना को शुरू करने के लिए जुलाई में दिखाई दिया। यह जीपीटी मॉडल का एक ब्लैक-हैट विकल्प है जो विशेष रूप से बीईसी, मैलवेयर और फ़िशिंग हमलों जैसी दुर्भावनापूर्ण गतिविधियों के लिए डिज़ाइन किया गया है, जिसका विपणन "चैटजीपीटी जैसे भूमिगत मंचों पर किया जाता है लेकिन [बिना] कोई नैतिक सीमा या सीमा के।" WormGPT के निर्माता ने दावा किया है कि इसे एक कस्टम भाषा मॉडल पर बनाया गया है, जिसे साइबर हमलों से संबंधित डेटा पर जोर देने के साथ विभिन्न डेटा स्रोतों पर प्रशिक्षित किया गया है।

"हैकर्स के लिए इसका क्या मतलब है," हैर बताते हैं, "क्या मैं अब, कह सकता हूं, एक बिजनेस ईमेल समझौता (बीईसी), या एक फ़िशिंग हमला, या मैलवेयर हमला कर सकता हूं, और इसे बहुत कम लागत पर बड़े पैमाने पर कर सकता हूं। और मुझे पहले से कहीं अधिक लक्षित किया जा सकता है।”

WormGPT के बाद से, कई समान उत्पाद संदिग्ध ऑनलाइन समुदायों में प्रसारित किए गए हैं, फ्रॉडजीपीटी सहित, जिसे एक खतरनाक अभिनेता द्वारा "सीमाओं, नियमों, [और] सीमाओं के बिना बॉट" के रूप में विज्ञापित किया गया है, जो एम्पायर, डब्ल्यूएचएम, टोरेज़, वर्ल्ड, अल्फाबे और वर्सस सहित विभिन्न भूमिगत डार्क वेब मार्केटप्लेस पर एक सत्यापित विक्रेता होने का दावा करता है। और अगस्त की उपस्थिति लाया डार्कबार्ट और डार्कबर्ट साइबरक्रिमिनल चैटबॉट, Google बार्ड पर आधारित है, जिसके बारे में उस समय के शोधकर्ताओं ने कहा था कि यह प्रतिकूल AI के लिए एक बड़ी छलांग का प्रतिनिधित्व करता है, जिसमें छवियों के लिए Google लेंस एकीकरण और संपूर्ण साइबर-भूमिगत ज्ञान आधार तक त्वरित पहुंच शामिल है।

स्लैशनेक्स्ट के अनुसार, ये अब तेजी से बढ़ रहे हैं, इनमें से अधिकांश ओपनएआई के ओपनजीपीटी जैसे ओपन सोर्स मॉडल पर आधारित हैं। कम-कुशल हैकरों का एक समूह बस इसे अनुकूलित करता है, इसे एक आवरण में छिपा देता है, फिर उस पर एक अस्पष्ट अशुभ "___GPT" नाम चिपका देता है (उदाहरण के लिए "BadGPT," "DarkGPT")। यहां तक ​​कि इन ersatz पेशकशों का समुदाय में अपना स्थान है, हालांकि, उपयोगकर्ताओं के लिए कुछ सीमाएं और पूर्ण गुमनामी की पेशकश की जाती है।

अगली पीढ़ी के एआई साइबरहथियारों से बचाव

स्लैशनेक्स्ट के अनुसार, न तो वर्मजीपीटी, न ही इसकी संतानें, न ही शीघ्र इंजीनियर, व्यवसायों के लिए अभी तक इतना महत्वपूर्ण खतरा पेश करते हैं। फिर भी, भूमिगत जेलब्रेकिंग बाजारों के बढ़ने का मतलब है कि साइबर अपराधियों के लिए अधिक उपकरण उपलब्ध हो रहे हैं, जो बदले में सोशल इंजीनियरिंग में एक व्यापक बदलाव को दर्शाता है, और हम इसके खिलाफ कैसे बचाव करते हैं। 

हैर सलाह देते हैं: "प्रशिक्षण पर भरोसा न करें, क्योंकि ये हमले बहुत, बहुत विशिष्ट और बहुत लक्षित हैं, अतीत की तुलना में कहीं अधिक।"

इसके बजाय, वह आम तौर पर सहमत दृष्टिकोण की सदस्यता लेते हैं कि एआई खतरों के लिए एआई सुरक्षा की आवश्यकता होती है। "यदि आपके पास एआई उपकरण नहीं हैं जो इन खतरों का पता लगाते हैं, भविष्यवाणी करते हैं और उन्हें रोकते हैं, तो आप बाहर ही देखते रहेंगे," वे कहते हैं।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. ऑटोमोटिव/ईवीएस, कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• चार्टप्राइम. चार्टप्राइम के साथ अपने ट्रेडिंग गेम को उन्नत करें। यहां पहुंचें।
• BlockOffsets. पर्यावरणीय ऑफसेट स्वामित्व का आधुनिकीकरण। यहां पहुंचें।
• स्रोत: https://www.darkreading.com/application-security/chatgpt-jailbreaking-forums-dark-web-communities