آیا ChatGPT شروع به نوشتن بدافزار قاتل می کند؟

ChatGPT این مقاله را ننوشت - من نوشتم. همچنین از آن نخواستم که به سوال عنوان پاسخ دهد - من خواهم کرد. اما من حدس می‌زنم که ChatGPT همین را می‌تواند بگوید. خوشبختانه، برخی از اشتباهات گرامری برای اثبات اینکه من یک ربات نیستم باقی مانده است. اما این همان کاری است که ChatGPT ممکن است انجام دهد تا واقعی به نظر برسد.

این فناوری ربات هیپستر فعلی یک پاسخ‌دهنده خودکار فانتزی است که برای تولید پاسخ‌های تکالیف، مقالات تحقیقاتی، پاسخ‌های حقوقی، تشخیص‌های پزشکی و تعداد زیادی چیزهای دیگر که در «آزمون بویایی» گذرانده شده‌اند، به اندازه کافی خوب است. بازیگران انسانی اما آیا به صدها هزار نمونه بدافزاری که روزانه می‌بینیم و پردازش می‌کنیم، به طور معناداری اضافه می‌کند یا یک جعلی به راحتی قابل تشخیص است؟

در یک دوئل ماشین روی ماشین که تکنوراتی‌ها سال‌ها به دنبال آن هستند، ChatGPT کمی «خیلی خوب» به نظر می‌رسد که به عنوان یک رقیب جدی که ممکن است ماشین‌های مقابل را مختل کند، دیده نشود. در شرایطی که مهاجم و مدافع از آخرین مدل‌های یادگیری ماشین (ML) استفاده می‌کنند، این باید اتفاق می‌افتد.

به جز، برای ساخت ماشین آلات ضد بدافزار خوب، فقط ربات روی ربات نیست. برخی مداخلات انسانی همیشه مورد نیاز بوده است: ما این موضوع را سال‌ها پیش تعیین کردیم، با ناراحتی تأمین‌کنندگان فقط ML که وارد معرکه بازاریابی می‌شوند - همه در حالی که اصرار داشتند آب‌ها را گل‌آلود کنند. با اشاره به محصولات فقط ML خود به عنوان استفاده از "AI".

در حالی که مدل‌های ML برای پایانه‌های تریاژ درشت تا تحلیل‌های پیچیده‌تر استفاده شده‌اند، اما نمی‌توانند یک دکمه بزرگ قرمز «کشتن بدافزار» باشند. بدافزار به این سادگی نیست.

اما برای اطمینان، من به برخی از استادان ML خود ESET ضربه زدم و پرسیدم:

س. بدافزار تولید شده توسط ChatGPT چقدر خوب خواهد بود یا حتی ممکن است؟

پاسخ. ما واقعاً به «بدافزار تولید شده با هوش مصنوعی کامل» نزدیک نیستیم، اگرچه ChatGPT در پیشنهاد کد، تولید نمونه‌ها و تکه‌های کد، اشکال‌زدایی، و بهینه‌سازی کد و حتی خودکارسازی اسناد بسیار خوب است.

س. ویژگی های پیشرفته تر چیست؟

A. ما نمی دانیم که چقدر در مبهم سازی خوب است. برخی از نمونه ها ارتباط به زبان های برنامه نویسی مانند پایتون. اما دیدیم که ChatGPT معنای کد جدا شده را «برعکس» می کند متصل به IDA Pro، که جالب است. در مجموع، احتمالاً یک ابزار مفید برای کمک به یک برنامه نویس است، و شاید این اولین گام به سمت ساخت بدافزار با امکانات کامل تر باشد، اما هنوز نه.

س. در حال حاضر چقدر خوب است؟

A. ChatGPT بسیار چشمگیر است، با توجه به اینکه یک مدل زبان بزرگ است، و قابلیت های آن شگفت انگیز است. حتی سازندگان از این گونه مدل ها با این حال، در حال حاضر بسیار سطحی است، خطا می‌کند، پاسخ‌هایی می‌سازد که به توهم نزدیک‌تر هستند (یعنی پاسخ‌های ساختگی)، و واقعاً برای چیزهای جدی قابل اعتماد نیستند. اما به نظر می رسد با قضاوت ازدحام فناورانی که انگشتان پای خود را در آب فرو می کنند، به سرعت در حال افزایش است.

س. در حال حاضر چه کاری می تواند انجام دهد - "میوه کم آویزان" برای پلت فرم چیست؟

الف. در حال حاضر، ما سه حوزه احتمالی پذیرش و استفاده مخرب را می بینیم:

• خارج کردن فیشر از فیشر

اگر فکر می کنید فیشینگ در گذشته قانع کننده به نظر می رسید، فقط صبر کنید. از جستجوی منابع داده بیشتر و ترکیب کردن آنها به طور یکپارچه تا استفراغ ایمیل‌های ساخته‌شده خاص که تشخیص آن‌ها بر اساس محتوای آنها بسیار دشوار است و نرخ موفقیت در دریافت کلیک‌ها بهتر است. و به دلیل اشتباهات زبانی درهم و برهم نمی توانید عجولانه آنها را از بین ببرید. دانش آنها از زبان مادری شما احتمالا بهتر از شما است. از آنجایی که گستره وسیعی از بدترین حملات با کلیک کردن شخصی روی یک پیوند شروع می شود، انتظار داشته باشید که تأثیر مربوط به آن بزرگتر شود.

• اتوماسیون مذاکره باج

احتمالاً اپراتورهای باج افزار ساده نادر هستند، اما افزودن کمی درخشش ChatGPT به ارتباطات می تواند بار کاری مهاجمان را که در طول مذاکرات قانونی به نظر می رسد کاهش دهد. این همچنین به معنای اشتباهات کمتری است که ممکن است به مدافعان اجازه دهد تا هویت و مکان واقعی اپراتورها را شناسایی کنند.

• کلاهبرداری های تلفنی بهتر می شود

با افزایش تولید زبان طبیعی، کلاهبرداران طبیعی و بد به نظر می رسد که اهل منطقه شما هستند و بهترین منافع شما را در ذهن دارند. این یکی از اولین مراحل ورود در یک کلاهبرداری اعتماد به نفس است: با به نظر رسیدن اینکه آنها یکی از افراد شما هستند، اعتماد به نفس بیشتری داشته باشید.

اگر همه اینها به نظر می رسد که ممکن است در آینده اتفاق بیفتد، روی آن شرط بندی نکنید. همه چیز به یکباره اتفاق نمی افتد، اما مجرمان در شرف بهبودی بسیار هستند. خواهیم دید که آیا دفاع در برابر چالش است یا خیر.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• پلاتوبلاک چین. Web3 Metaverse Intelligence. دانش تقویت شده دسترسی به اینجا.
• منبع: https://www.welivesecurity.com/2023/02/20/will-chatgpt-start-writing-killer-malware/