يقوم المخترقون عبر الإنترنت بإخبار ChatGPT بإنشاء تعليمات برمجية ضارة

بدأ مجرمو الإنترنت في استخدام تقنية ChatGPT الشهيرة من OpenAI لتطوير التعليمات البرمجية بسرعة وسهولة لأغراض ضارة.

كشفت جولة حول مواقع القرصنة السرية عن حالات أولية من الأوغاد الذين يطورون أدوات التهديد السيبراني باستخدام واجهة نموذج اللغة الكبيرة (LLM) التي كشفت عنها الشركة في أواخر نوفمبر وفتحتها للاستخدام العام ، وفقًا لـ Infosec Outfit Check Point Research.

يد [مساعدة] لطيفة لإنهاء البرنامج النصي بنطاق لطيف

على غرار صعود نماذج كخدمة في عالم الجرائم الإلكترونية ، يفتح ChatGPT طريقًا آخر للمحتالين الأقل مهارة لشن هجمات إلكترونية بسهولة ، كما قال الباحثون في تقرير الجمعة.

وكتبوا: "كما توقعنا ، أظهرت بعض الحالات بوضوح أن العديد من مجرمي الإنترنت الذين يستخدمون OpenAI ليس لديهم مهارات تطوير على الإطلاق". "على الرغم من أن الأدوات التي نقدمها في هذا التقرير بدائية جدًا ، إلا أنها مسألة وقت فقط حتى يعزز الفاعلون الأكثر تطورًا من طريقة استخدامهم للأدوات المستندة إلى الذكاء الاصطناعي لأغراض سيئة."

دعونا لا ننسى أن ChatGPT تشتهر أيضًا بإنشاء كود عربات التي تجرها الدواب - Stack Overflow لديه البرامج المحظورة تم إنشاؤها بواسطة نظام الذكاء الاصطناعي لأنه غالبًا ما يكون معيبًا بشكل خطير. لكن التكنولوجيا آخذة في التحسن وقدم تقرير الحكومة الفنلندية الشهر الماضي حذر أنظمة الذكاء الاصطناعي قيد الاستخدام بالفعل للهندسة الاجتماعية ويمكن أن تؤدي في غضون خمس سنوات إلى زيادة هائلة في الهجمات.

التعلم الآلي في ChatGPT قدرات تمكين الأداة المستندة إلى النص من التفاعل بطريقة محادثة ، حيث يقوم المستخدمون بكتابة سؤال وتلقي إجابة في تنسيق حوار. يمكن للتكنولوجيا أيضًا الإجابة على أسئلة المتابعة وتحدي إجابات المستخدمين.

لقد ولّد تطور عرض OpenAI نفس القدر قلق كحماس ، مع المؤسسات التعليمية ومنظمي المؤتمرات والمجموعات الأخرى التي تتحرك لحظر استخدام ChatGPT في كل شيء من الأوراق المدرسية إلى العمل البحثي.

المحللون في ديسمبر تظاهر كيف يمكن استخدام ChatGPT لإنشاء تدفق عدوى كامل ، من رسائل البريد الإلكتروني المخادعة إلى تشغيل shell العكسي. كما استخدموا chatbot لإنشاء برامج ضارة مستترة يمكنها تشغيل البرامج النصية التي تم إنشاؤها بواسطة أداة الذكاء الاصطناعي ديناميكيًا. في الوقت نفسه ، أظهروا كيف يمكن أن يساعد محترفي الأمن السيبراني في عملهم.

الآن يقوم مجرمو الإنترنت باختباره.

ظهرت سلسلة رسائل بعنوان "ChatGPT - فوائد البرامج الضارة" في 29 كانون الأول (ديسمبر) في منتدى قرصنة تحت الأرض يستخدم على نطاق واسع كتبه شخص قال إنهم كانوا يجربون الواجهة لإعادة إنشاء سلالات وتقنيات البرامج الضارة الشائعة. أظهر الكاتب رمز سارق المعلومات المستند إلى Python الذي يبحث عن أنواع الملفات ونسخها وتحميلها إلى خادم FTP مشفر.

أكدت Check Point أن الكود كان من برنامج ضار أساسي للسرقة.

في عينة أخرى ، استخدم الكاتب ChatGPT لإنشاء مقتطف Java بسيط يقوم بتنزيل عميل SSH و telnet مشترك يتم تشغيله سراً على نظام باستخدام PowerShell.

كتب الباحثون: "يبدو أن هذا الشخص يمثل تهديدًا تقنيًا ، والغرض من منشوراته هو إظهار مجرمي الإنترنت الأقل قدرة تقنيًا كيفية استخدام ChatGPT لأغراض ضارة ، مع أمثلة حقيقية يمكنهم استخدامها على الفور".

في 21 ديسمبر ، نشر شخص يطلق على نفسه USDoD أداة تشفير مكتوبة بلغة Python تتضمن العديد من عمليات التشفير وفك التشفير والتوقيع. كتب أن تقنية OpenAI أعطته "يد مساعدة لطيفة لإنهاء النص بنطاق لطيف."

كتب الباحثون أن USDoD لديها مهارات تطوير محدودة ولكنها نشطة في المجتمع تحت الأرض مع تاريخ بيع الوصول إلى المنظمات المعرضة للخطر وقواعد البيانات المسروقة.

تحدث موضوع مناقشة آخر نُشر على منتدى ليلة رأس السنة الجديدة عن مدى سهولة استخدام ChatGPT لإنشاء سوق ويب مظلم لتداول الأدوات غير القانونية مثل البرامج الضارة أو المخدرات والبيانات المسروقة مثل الحسابات وبطاقات الدفع.

نشر كاتب الموضوع بعض التعليمات البرمجية التي تم إنشاؤها باستخدام ChatGPT والتي تستخدم واجهات برمجة تطبيقات تابعة لجهات خارجية للحصول على أسعار محدثة للعملات المشفرة مثل Bitcoin و Monero و Ethereum لنظام الدفع في السوق.

هذا الأسبوع ، تحدث الأوغاد في منتديات تحت الأرض حول طرق أخرى للاستفادة من ChatGPT في مخططات مختلفة ، بما في ذلك استخدامه مع تقنية Dall-E 2 من OpenAI لإنشاء فن للبيع عبر الإنترنت من خلال مواقع شرعية مثل Etsy وإنشاء كتاب إلكتروني أو فصل قصير حول موضوع معين التي يمكن بيعها عبر الإنترنت.

للحصول على مزيد من المعلومات حول كيفية إساءة استخدام ChatGPT ، سأل الباحثون ChatGPT. تحدثت ChatGPT في إجابتها عن استخدام تقنية الذكاء الاصطناعي لإنشاء رسائل بريد إلكتروني تصيد مقنعة ومنشورات على وسائل التواصل الاجتماعي لخداع الأشخاص لإعطاء معلومات شخصية أو للنقر على روابط ضارة أو لإنشاء مقاطع فيديو وصوت يمكن استخدامها للتضليل.

دافع ChatGPT أيضًا عن منشئه.

"من المهم أن نلاحظ أن OpenAI نفسها ليست مسؤولة عن أي إساءة استخدام لتقنيتها من قبل أطراف ثالثة ،" قال chatbot. "تتخذ الشركة خطوات لمنع استخدام تقنيتها لأغراض ضارة ، مثل مطالبة المستخدمين بالموافقة على شروط الخدمة التي تحظر استخدام تقنيتها لأغراض غير قانونية أو ضارة." ®

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• بلاتوبلوكشين. Web3 Metaverse Intelligence. تضخيم المعرفة. الوصول هنا.
• المصدر https://go.theregister.com/feed/www.theregister.com/2023/01/06/chatgpt_cybercriminals_malicious_code/