عصر طلایی هوش مصنوعی … یا تهدیدات امنیتی؟

آیا در عصر طلایی هوش مصنوعی هستیم؟ پیش‌بینی کردن سخت است - و احتمالاً نادرست است. چه کسی می خواهد آینده چنین فناوری جدیدی را پیش بینی کند؟

با این حال می‌توانیم به طور قطع برخی چیزها را بگوییم. کارهای زیادی از هوش مصنوعی برای کارهای خلاقانه، از صداپیشگی گرفته تا اولین پیش نویس فیلمنامه ها، انجام شده است. اما هوش مصنوعی احتمالاً در هنگام مواجهه با مشقت‌ها بسیار مفید است. این خبر خوبی برای توسعه دهندگان است، اگر این وعده با آزمایش های اولیه مطابقت داشته باشد - اولین پیش نویس های کد را می توان به راحتی ایجاد کرد و برای توسعه دهندگان آماده شد تا آن ها را بهینه سازی کرده و تکرار کنند.

با این حال، مهم است که به یاد داشته باشید هر کدنویسی برای یک تجارت قانونی کار نمی کند. همانطور که بازیگران تهدید امنیت سایبری اهداف خود را برای کسب و کار بیشتر تقلید کرده اند، آنها نیز فناوری ها و تکنیک های جدیدی را به کار می گیرند. می‌توانیم انتظار داشته باشیم که هوش مصنوعی به توسعه بدافزارها و سایر تهدیدها در سال‌های آینده کمک کند، چه وارد عصر طلایی هوش مصنوعی شویم یا نه.

کدنویسی و کلاهبرداری

یکی از روندهایی که در سال‌های اخیر شاهد آن بوده‌ایم، افزایش عرضه‌های «به‌عنوان خدمات» است. هکرهای اولیه قلع و قمع و شیطنت می کردند و سیستم های تلفن را فریب می دادند یا بیشتر به عنوان سرگرمی ایجاد می کردند. این اساساً تغییر کرده است. بازیگران تهدید حرفه ای هستند و اغلب محصولات خود را برای استفاده دیگران می فروشند.

هوش مصنوعی به خوبی در این روش کار قرار می گیرد. با توانایی ایجاد کد برای مقابله با مشکلات خاص، هوش مصنوعی می‌تواند کد را برای هدف قرار دادن آسیب‌پذیری‌ها اصلاح کند یا کد موجود را بگیرد و آن را تغییر دهد، بنابراین با اقدامات امنیتی که به دنبال الگوهای خاص هستند به راحتی قابل شناسایی نیست.

اما احتمال سوء استفاده از هوش مصنوعی به همین جا ختم نمی شود. بسیاری از ایمیل های فیشینگ توسط ابزارهای فیلترینگ موثر شناسایی می شوند و به پوشه های ناخواسته ختم می شوند. کسانی که به صندوق ورودی می رسند اغلب به وضوح کلاهبرداری هستند، به قدری بد نوشته شده اند که غیرقابل درک هستند. اما هوش مصنوعی می‌تواند این الگو را بشکند و هزاران ایمیل قابل قبول ایجاد کند که می‌توانند از شناسایی فرار کنند و به اندازه کافی خوب نوشته شوند تا هم فیلترها و هم کاربران نهایی را فریب دهند.

Spear-phishing، شکل هدفمندتر این حمله نیز می تواند توسط این فناوری متحول شود. مطمئناً، نادیده گرفتن ایمیلی از رئیستان که از شما می خواهد پول نقد بگیرید یا فوراً کارت هدیه بخرید، آسان است - آموزش امنیت سایبری به کارمندان کمک می کند تا از این نوع کلاهبرداری اجتناب کنند. اما در مورد یک تماس تلفنی یا چت تصویری عمیق چه می‌توان گفت؟ هوش مصنوعی این پتانسیل را دارد که از پخش‌ها و پادکست‌ها استفاده کند و آنها را به شبیه‌سازی متقاعدکننده تبدیل کند، چیزی که نادیده گرفتن آن بسیار سخت‌تر است.

مبارزه با حملات سایبری هوش مصنوعی

دو راه اصلی برای مقابله با مزایایی که هوش مصنوعی به دشمن اعطا می کند وجود دارد: هوش مصنوعی بهتر و آموزش بهتر - و هر دو لازم خواهد بود.

ظهور این نسل جدید هوش مصنوعی مسابقه تسلیحاتی جدیدی را آغاز کرده است. همانطور که مجرمان سایبری از آن برای تکامل حملات خود استفاده می کنند، تیم های امنیتی نیز باید از آن برای توسعه دفاع خود استفاده کنند.

بدون هوش مصنوعی، دفاع متکی به افراد پرکار و نظارت بر الگوهای از پیش برنامه ریزی شده خاص برای جلوگیری از حملات است. ابزارهای دفاعی هوش مصنوعی قادر خواهند بود بردارهای حمله را پیش بینی کنند و مناطق حساس شبکه و سیستم ها را مشخص کنند. آنها همچنین قادر خواهند بود کدهای مخرب را تجزیه و تحلیل کنند و به درک بهتری از نحوه عملکرد حملات جدید و نحوه جلوگیری از آنها کمک کنند.

هوش مصنوعی همچنین می‌تواند به‌عنوان یک توقف اضطراری کار کند - پس از شناسایی یک رخنه، شبکه را غیرفعال می‌کند و کل سیستم را قفل می‌کند. اگرچه از منظر تداوم کسب‌وکار ایده‌آل نیست، این می‌تواند بسیار کمتر از نقض داده آسیب‌رسان باشد.

اما مبارزه با هوش مصنوعی با هوش مصنوعی تنها راه حل نیست. ما به هوش انسانی هم نیاز داریم. مهم نیست که چقدر هوشمند و هدفمند است، بهترین دفاع در برابر حمله فیشینگ کارمند یا مشتری است که می داند به دنبال چه چیزی باشد و به اندازه کافی مشکوک است که طعمه را نگیرد. اجرای سیاست های امنیتی قوی و بهترین شیوه بهداشت سایبری برای دفاع در برابر حملات کلیدی باقی خواهد ماند.

این بدان معناست که آموزش باید به‌روزرسانی شود تا نشانه‌های حمله هوش مصنوعی را شامل شود ... هر چه که باشد. آموزش باید با هوش مصنوعی تکامل یابد - یک دوره آموزشی هر چند سال یکبار دیگر آن را کاهش نمی دهد، زمانی که آن آموزش به سرعت قدیمی شود.

در حالی که علائم احتمالی یک حمله سایبری مبتنی بر هوش مصنوعی به سرعت در حال تغییر است، به طور کلی، حملات عبارتند از:

• سریع و مقیاس پذیر، از چندین آسیب پذیری در یک بازه زمانی کوتاه سوء استفاده می کند.
• تطبیقی ​​و گریزان، تغییر تاکتیک ها و تکنیک ها برای جلوگیری از شناسایی و پاسخ.
• هدفمند و شخصی سازی شدهبا استفاده از هوش مصنوعی برای ایجاد ایمیل های فیشینگ متقاعد کننده یا کمپین های مهندسی اجتماعی.
• فریبنده و فریبنده، استفاده از هوش مصنوعی برای ایجاد محتوای جعلی یا تغییر یافته مانند دیپ فیک، شبیه سازی صدا، یا تولید متن.
• یواشکی و ماندگار، برای مدت طولانی بدون اینکه متوجه شوند در زیرساخت شبکه پنهان می شوند.

این علائم جامع نیستند و برخی از حملات مبتنی بر هوش مصنوعی ممکن است همه آنها را نشان ندهند. با این حال، آنها نشان می دهند سطح تهدیدی که هوش مصنوعی برای امنیت سایبری ایجاد می کند.

برای مبارزه موثر با حملات سایبری مبتنی بر هوش مصنوعی، کسب‌وکارها باید فراتر از عوامل بد فردی فکر کنند و برای حملات هماهنگ توسط بازیگران تحت حمایت دولت یا سازمان‌های جنایی که ممکن است از هوش مصنوعی برای راه‌اندازی کمپین‌های پیچیده با استفاده از رویکرد مبتنی بر ریسک استفاده کنند، آماده شوند. آنها همچنین باید یک استراتژی پیشگیرانه که شامل ممیزی های امنیتی منظم، پشتیبان گیری، رمزگذاری و طرح های واکنش به حادثه است. این امر با اخذ گواهینامه امنیتی معروف مانند PCI-DSS به راحتی قابل انجام است.

در نهایت، ضروری است که سازمان‌ها امنیت سایبری سیستم‌های هوش مصنوعی خود را با اطمینان از یکپارچگی، محرمانه بودن، و در دسترس بودن آن‌ها و با کاهش خطرات حملات خصمانه، مسمومیت داده‌ها و سرقت مدل بهبود بخشند.

این استراتژی‌ها به محافظت از کسب‌وکارها کمک می‌کنند، اما نباید مستقل باشند - امنیت باید مشارکتی باشد. با همکاری سایر سازمان‌ها، محققان و مقامات برای به اشتراک گذاشتن اطلاعات، بهترین شیوه‌ها و شکست‌هایی که می‌توان از آنها درس گرفت، کسب‌وکارها برای موج جدید تهدیدات امنیتی هوش مصنوعی آمادگی بیشتری خواهند داشت.

هوش مصنوعی هم یک تهدید جدید و هم ادامه تهدیدات قدیمی است. کسب‌وکارها باید نحوه مقابله با تهدیدات سایبری را تغییر دهند، زیرا این تهدیدات پیچیده‌تر و زیادتر می‌شوند، اما بسیاری از اصول اولیه ثابت می‌مانند. به دست آوردن درست این موارد حیاتی است. تیم‌های امنیتی نیازی ندارند که از ایده‌های قدیمی دور شوند، بلکه برای ایمن نگه داشتن کسب‌وکارشان بر روی آن‌ها تمرکز کنند.

• محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
• PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
• PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
• PlatoESG. خودرو / خودروهای الکتریکی، کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
• BlockOffsets. نوسازی مالکیت افست زیست محیطی. دسترسی به اینجا.
• منبع: https://www.darkreading.com/vulnerabilities-threats/a-golden-age-of-ai-or-security-threats-