سایبرکروک ها به ChatGPT می گویند کد مخرب ایجاد کند

مجرمان سایبری شروع به استفاده از فناوری بسیار محبوب ChatGPT OpenAI برای توسعه سریع و آسان کد برای اهداف مخرب کرده‌اند.

به گفته موسسه infosec Check Point Research، چرخشی در سایت‌های هک زیرزمینی، موارد اولیه بدکاران را کشف کرد که ابزارهای تهدید سایبری را با استفاده از رابط مدل زبان بزرگ (LLM) که این شرکت در اواخر نوامبر از آن رونمایی کرد و آن را برای استفاده عمومی باز کرد، توسعه می‌دادند.

یک دست خوب برای به پایان رساندن فیلمنامه با یک دامنه خوب

مشابه ظهور مدل های خدماتی به گفته محققان، در دنیای جرایم سایبری، ChatGPT راه دیگری را برای کلاهبرداران کم مهارت باز می کند تا به راحتی حملات سایبری را انجام دهند. گزارش جمعه.

آنها نوشتند: «همانطور که ما گمان می‌کردیم، برخی از موارد به وضوح نشان داد که بسیاری از مجرمان سایبری که از OpenAI استفاده می‌کنند، اصلاً مهارت توسعه ندارند. اگرچه ابزارهایی که در این گزارش ارائه می‌کنیم بسیار ابتدایی هستند، اما تا زمانی که عوامل تهدید پیچیده‌تر، روشی را که از ابزارهای مبتنی بر هوش مصنوعی برای بد استفاده می‌کنند، بهبود بخشند، فقط زمان می‌گذرد.»

فراموش نکنیم که ChatGPT برای تولید کدهای باگ نیز بدنام است – Stack Overflow نرم افزارهای ممنوعه توسط سیستم هوش مصنوعی تولید می شود زیرا اغلب دارای نقص جدی است. اما این فناوری در حال بهبود است و ماه گذشته گزارشی از دولت فنلاند منتشر شد هشدار داد سیستم‌های هوش مصنوعی در حال حاضر برای مهندسی اجتماعی مورد استفاده قرار می‌گیرند و در پنج سال آینده می‌توانند باعث افزایش شدید حملات شوند.

یادگیری ماشینی ChatGPT قابلیت های ابزار مبتنی بر متن را فعال کنید تا به روشی مکالمه با کاربرانی که سؤالی را تایپ می کنند و پاسخ را در قالب گفتگو دریافت می کنند، تعامل داشته باشد. این فناوری همچنین می تواند به سؤالات بعدی پاسخ دهد و پاسخ های کاربران را به چالش بکشد.

پیچیدگی پیشنهاد OpenAI به همان اندازه ایجاد شده است نگرانی با اشتیاق، موسسات آموزشی، سازمان‌دهندگان کنفرانس و سایر گروه‌ها در حال حرکت برای ممنوع کردن استفاده از ChatGPT برای همه چیز، از مقالات مدرسه تا کارهای تحقیقاتی هستند.

تحلیلگران در ماه دسامبر نشان چگونه می توان از ChatGPT برای ایجاد یک جریان عفونت کامل، از ایمیل های فیشینگ تا اجرای یک پوسته معکوس استفاده کرد. آنها همچنین از ربات چت برای ساخت بدافزار پشتی استفاده کردند که می تواند اسکریپت های ایجاد شده توسط ابزار هوش مصنوعی را به صورت پویا اجرا کند. در همان زمان، آنها نشان دادند که چگونه می تواند به متخصصان امنیت سایبری در کارشان کمک کند.

اکنون مجرمان سایبری در حال آزمایش آن هستند.

موضوعی با عنوان "ChatGPT - مزایای بدافزار" در 29 دسامبر در یک انجمن هک زیرزمینی که به طور گسترده مورد استفاده قرار می گیرد، توسط شخصی که می گوید در حال آزمایش با این رابط برای بازآفرینی گونه ها و تکنیک های رایج بدافزار است، ظاهر شد. نویسنده کد یک دزد اطلاعات مبتنی بر پایتون را نشان داد که انواع فایل‌ها را جستجو و کپی می‌کند و آن‌ها را در یک سرور FTP با کد سخت آپلود می‌کند.

چک پوینت تأیید کرد که کد از یک بدافزار اصلی دزد است.

در نمونه دیگری، نویسنده از ChatGPT برای ایجاد یک قطعه جاوا ساده استفاده کرد که یک کلاینت مشترک SSH و telnet را دانلود می کند که مخفیانه روی یک سیستم با استفاده از PowerShell اجرا می شود.

محققان نوشتند: «به نظر می‌رسد این فرد یک عامل تهدید فناوری محور است و هدف از پست‌های او این است که به مجرمان سایبری با توانایی فنی کمتر نشان دهد که چگونه از ChatGPT برای اهداف مخرب استفاده کنند، با مثال‌های واقعی که می‌توانند بلافاصله استفاده کنند.

در 21 دسامبر، شخصی که خود را USDoD می نامد، یک ابزار رمزگذاری نوشته شده در پایتون را ارسال کرد که شامل عملیات های مختلف رمزگذاری، رمزگشایی و امضا است. او نوشت که فناوری OpenAI به او «دست خوب [کمک] خوبی برای به پایان رساندن اسکریپت با دامنه‌ای خوب داد».

محققان نوشتند که USDoD مهارت‌های توسعه محدودی دارد، اما در جامعه زیرزمینی با سابقه فروش دسترسی به سازمان‌های در معرض خطر و پایگاه‌های داده سرقت شده فعال است.

موضوع بحث دیگری که در یک فروم در شب سال نو منتشر شد، در مورد اینکه چقدر آسان است از ChatGPT برای ایجاد یک بازار وب تاریک برای تجارت ابزارهای غیرقانونی مانند بدافزار یا داروها و داده های سرقت شده مانند حساب ها و کارت های پرداخت صحبت کرد.

نویسنده این تاپیک کدی را منتشر کرده است که با ChatGPT ایجاد شده است که از API های شخص ثالث برای دریافت به روز قیمت ارزهای دیجیتال مانند بیت کوین، مونرو و اتریوم برای سیستم پرداخت بازار استفاده می کند.

این هفته، بدخواهان در انجمن‌های زیرزمینی درباره راه‌های دیگری برای استفاده از ChatGPT برای طرح‌های مختلف صحبت کردند، از جمله استفاده از آن با فناوری Dall-E 2 OpenAI برای ایجاد هنر برای فروش آنلاین از طریق سایت‌های قانونی مانند Etsy و ایجاد یک کتاب الکترونیکی یا فصل کوتاه در مورد یک موضوع خاص. که به صورت آنلاین قابل فروش است.

برای کسب اطلاعات بیشتر در مورد نحوه سوء استفاده از ChatGPT، محققان از ChatGPT پرسیدند. ChatGPT در پاسخ خود در مورد استفاده از فناوری هوش مصنوعی برای ایجاد ایمیل‌های فیشینگ قانع‌کننده و پست‌های رسانه‌های اجتماعی برای فریب دادن افراد به ارائه اطلاعات شخصی یا کلیک بر روی لینک‌های مخرب یا ایجاد ویدیو و صوتی که می‌تواند برای اطلاعات نادرست استفاده شود، صحبت کرد.

ChatGPT نیز از سازنده خود دفاع کرد.

ربات چت گفت: «توجه به این مهم است که OpenAI خود مسئول هرگونه سوء استفاده از فناوری خود توسط اشخاص ثالث نیست. "شرکت اقداماتی را برای جلوگیری از استفاده از فناوری خود برای اهداف مخرب انجام می دهد، مانند الزام کاربران به موافقت با شرایط خدماتی که استفاده از فناوری آن را برای مقاصد غیرقانونی یا مضر ممنوع می کند." ®

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• پلاتوبلاک چین. Web3 Metaverse Intelligence. دانش تقویت شده دسترسی به اینجا.
• منبع: https://go.theregister.com/feed/www.theregister.com/2023/01/06/chatgpt_cybercriminals_malicious_code/