OpenAI تأیید می کند که نرم افزار هوش مصنوعی توسط هکرها استفاده می شود

OpenAI تأیید می کند که نرم افزار هوش مصنوعی توسط هکرها استفاده می شود

تمبر زمان: 15 فوریه 2024، 10:37 صبح

تایلر کراس تایلر کراس
منتشر شده در: فوریه 15، 2024

غول‌های فناوری مایکروسافت و OpenAI، شرکت سازنده ChatGPT، فاش کردند که هکرها از فناوری هوش مصنوعی برای توسعه سریع ابزارهای جدید، بهبود اسکریپت‌ها و ایجاد طرح‌های مهندسی اجتماعی بهتر استفاده می‌کنند.

مایکروسافت گفت: "در طول سال گذشته، سرعت، مقیاس و پیچیدگی حملات در کنار توسعه سریع و پذیرش هوش مصنوعی افزایش یافته است." در یک پست وبلاگی که روز چهارشنبه منتشر شد. "مدافعان تازه شروع به شناسایی و استفاده از قدرت هوش مصنوعی مولد برای تغییر تعادل امنیت سایبری به نفع خود کرده اند."

محققان شواهدی از گروه‌های مختلف تحت حمایت دولتی مرتبط با کره شمالی، روسیه، چین و ایران یافتند که نرم‌افزار خود را با هوش مصنوعی بهبود می‌بخشند. روش‌ها شامل استفاده از نرم‌افزاری مشابه ChatGPT برای کمک به کارهای خسته‌کننده اسکریپت‌نویسی می‌شود که به آن‌ها اجازه می‌دهد زمینه را برای نرم‌افزار قدرتمندتر فراهم کنند. برخی از هکرها حتی از هوش مصنوعی برای ایجاد عملیات کاملاً خودکار استفاده کردند.

بازیگران تهدید همچنین مدل‌های مختلف زبان یادگیری (LLM) خود را منتشر کرده‌اند، مانند WormGPT و FraudGPT که به ایجاد نرم‌افزارهای مخرب کمک می‌کنند.

اخیراً OpenAI به دلیل نقض قوانین حفظ حریم خصوصی داده ها، مخالفت با وعده خود مبنی بر جلوگیری از استفاده از نرم افزارش توسط ارتش و استفاده از نرم افزار آن توسط گروه های مختلف هکر، با فشار فزاینده ای علیه این شرکت مواجه شده است.

مایکروسافت می نویسد: «هدف مشارکت مایکروسافت با OpenAI، از جمله انتشار این تحقیق، اطمینان از استفاده ایمن و مسئولانه از فناوری های هوش مصنوعی مانند ChatGPT است. به عنوان بخشی از این تعهد، ما اقداماتی را برای مختل کردن دارایی‌ها و حساب‌های مرتبط با عوامل تهدید و بهبود حفاظت از فناوری OpenAI LLM و کاربران در برابر حمله یا سوء استفاده انجام داده‌ایم.»

در این مرحله، نه مایکروسافت و نه OpenAI هیچ "حمله قابل توجهی" با استفاده از نرم افزار هوش مصنوعی را شناسایی نکرده اند، اما به احتمال زیاد با گذشت زمان این وضعیت تغییر می کند.

ما احساس می‌کنیم این تحقیقات مهمی است که باید منتشر کنیم تا اقدامات اولیه و افزایشی را که ما شاهد تلاش بازیگران معروف تهدیدکننده در مراحل اولیه هستیم، منتشر کنیم.»

تمبر زمان:

بیشتر از کارآگاهان ایمنی