آیا تهدیدات مهندسی شده با هوش مصنوعی FUD هستند یا واقعیت؟

آیا تهدیدات مهندسی شده با هوش مصنوعی FUD هستند یا واقعیت؟

تمبر زمان: 24 ژوئیه 2023 ساعت 4:05 بعد از ظهر
آیا تهدیدات مهندسی شده با هوش مصنوعی FUD هستند یا واقعیت؟ هوش داده PlatoBlockchain. جستجوی عمودی Ai.

لحظه ای که اپلیکیشن های هوش مصنوعی مولد وارد بازار شدند، سرعت تجارت را تغییر داد – نه تنها برای تیم های امنیتی، بلکه برای مجرمان سایبری نیز. امروزه، عدم پذیرش نوآوری های هوش مصنوعی می تواند به معنای عقب ماندن از رقبای شما و قرار دادن دفاع سایبری شما در برابر حملات سایبری که توسط هوش مصنوعی انجام می شود، باشد. اما هنگام بحث در مورد اینکه هوش مصنوعی چگونه بر جرایم سایبری تأثیر می‌گذارد یا نمی‌خواهد، بحث می‌کنیم، مهم است که به مسائل از دریچه‌ای عمل‌گرایانه و هوشیار نگاه کنیم – نه اینکه به تبلیغاتی که بیشتر شبیه داستان‌های علمی تخیلی می‌خواند بخوریم.

پیشرفت‌ها و بلوغ هوش مصنوعی امروزی نشان‌دهنده یک جهش به جلو برای امنیت سازمانی است. مجرمان سایبری نمی‌توانند به راحتی با اندازه و مقیاس منابع، مهارت‌ها و انگیزه شرکت‌ها مطابقت داشته باشند، و این امر باعث می‌شود تا با سرعت کنونی نوآوری هوش مصنوعی همگام شوند. سرمایه گذاری سرمایه گذاری خصوصی در هوش مصنوعی منفجر شد به 93.5 میلیارد دلار در سال 2021 - افراد بد آن سطح سرمایه را ندارند. آن‌ها همچنین نیروی انسانی، قدرت محاسباتی و نوآوری‌هایی ندارند که به شرکت‌های تجاری یا دولت فرصت و زمان بیشتری برای شکست سریع، یادگیری سریع و در ابتدا درست کردن آن بدهد.

با این حال اشتباه نکنید: جرایم سایبری فراگیر خواهد شد. این اولین باری نیست که صنعت امنیت برتری مختصری دارد - زمانی که باج‌افزار مدافعان بیشتری را به سمت استفاده از فناوری‌های تشخیص نقطه پایانی و پاسخ سوق داد، مهاجمان به مدتی زمان نیاز داشتند تا بفهمند چگونه این شناسایی‌ها را دور بزنند و از آنها دوری کنند. آن «دوره مهلت» موقت به کسب‌وکارها فرصت داد بهتر از خود محافظت کنند. همین امر در حال حاضر نیز صدق می‌کند: کسب‌وکارها باید پیشتازی خود را در مسابقه هوش مصنوعی به حداکثر برسانند، توانایی‌های تشخیص تهدید و پاسخ‌دهی خود را ارتقا دهند و از سرعت و دقتی که نوآوری‌های هوش مصنوعی فعلی برایشان فراهم می‌کند، استفاده کنند.

پس چگونه هوش مصنوعی جرایم سایبری را تغییر می دهد؟ خوب، به این زودی ها آن را به طور قابل توجهی تغییر نمی دهد، اما در موارد خاصی آن را مقیاس می کند. بیایید نگاهی بیندازیم که استفاده مخرب از هوش مصنوعی در چه مواردی بیشترین تأثیر را خواهد گذاشت و نمی گذارد.

کمپین های کاملاً خودکار بدافزار: FUD

در ماه‌های اخیر، شاهد ادعاهایی در مورد موارد مختلف استفاده مخرب از هوش مصنوعی بوده‌ایم، اما صرفاً به دلیل امکان سناریو آن را محتمل نمی‌سازد. برای مثال، کمپین‌های بدافزار کاملاً خودکار را در نظر بگیرید - منطق می‌گوید که می‌توان از هوش مصنوعی برای دستیابی به این نتیجه استفاده کرد، اما با توجه به اینکه شرکت‌های فناوری پیشرو هنوز در چرخه‌های توسعه نرم‌افزار کاملاً خودکار پیشگام نشده‌اند، بعید است که گروه‌های جرایم سایبری با محدودیت مالی زودتر به این هدف دست یابند. . حتی اتوماسیون جزئی می تواند مقیاس جرایم سایبری را فعال کند، با این حال، تاکتیکی که قبلا دیده ایم در کمپین های بازار. این یک نوآوری نیست، بلکه یک تکنیک امتحان شده و واقعی که مدافعان در حال حاضر آن را به عهده گرفته اند.

فیشینگ مهندسی شده با هوش مصنوعی: واقعیت (اما زمینه کلیدی است)

مورد دیگری که باید در نظر گرفت، حملات فیشینگ مهندسی شده با هوش مصنوعی است. نه تنها این امکان وجود دارد، بلکه ما در حال حاضر شروع به دیدن این حملات در طبیعت کرده ایم. این نسل بعدی فیشینگ ممکن است به سطوح بالاتری از متقاعدسازی و نرخ کلیک دست یابد، اما فیش مهندسی شده توسط انسان و فیش مهندسی شده با هوش مصنوعی همچنان به سمت همان هدف پیش می روند. به عبارت دیگر، یک فیش مهندسی شده با هوش مصنوعی همچنان یک فیش است که در جستجوی یک کلیک است و به همان تشخیص و آمادگی پاسخگویی نیاز دارد.

با این حال، در حالی که مشکل یکسان است، مقیاس بسیار متفاوت است. هوش مصنوعی به عنوان یک نیروی چند برابر برای مقیاس کمپین‌های فیشینگ عمل می‌کند، بنابراین، اگر شرکتی شاهد افزایش در ایمیل‌های فیشینگ ورودی باشد – و آن ایمیل‌های مخرب به طور قابل‌توجهی متقاعدکننده‌تر هستند – احتمالاً به احتمال زیاد نرخ کلیک و پتانسیل مصالحه نگاه می‌کند. مدل‌های هوش مصنوعی همچنین می‌توانند کارایی هدف‌گیری را افزایش دهند، به مهاجمان کمک می‌کنند تا مشخص کنند چه کسی مستعدترین هدف برای یک فیش خاص در یک سازمان است و در نهایت به بازگشت سرمایه بالاتری از کمپین‌های خود دست پیدا می‌کند. حملات فیشینگ در طول تاریخ یکی از موفق‌ترین تاکتیک‌هایی بوده است که مهاجمان برای نفوذ به شرکت‌ها استفاده کرده‌اند. مقیاس‌بندی این نوع حمله بر نقش حیاتی فناوری‌های EDR، MDR، XDR و IAM در تشخیص رفتار غیرعادی قبل از رسیدن به ضربه تأکید می‌کند.

حملات مسمومیت با هوش مصنوعی: FUD-ish

حملات مسمومیت با هوش مصنوعیبه عبارت دیگر، دستکاری برنامه‌ریزی شده در کد و داده‌هایی که مدل‌های هوش مصنوعی بر اساس آن‌ها ساخته شده‌اند، ممکن است «جام مقدس» حملات برای مجرمان سایبری باشد. تأثیر یک حمله مسمومیت موفقیت آمیز می تواند در هر جایی از تلاش های اطلاعات نادرست تا مرگ 4.0 سخت. چرا؟ زیرا با مسموم کردن مدل، مهاجم می تواند رفتار یا عملکرد آن را به هر شکلی که می خواهد انجام دهد و به راحتی قابل تشخیص نیست. با این حال، انجام این حملات آسان نیست - آنها نیاز به دسترسی به داده‌هایی دارند که مدل هوش مصنوعی در زمان آموزش روی آن‌ها آموزش می‌دهد، که این کار کوچکی نیست. با تبدیل شدن مدل های بیشتر به منبع باز، خطر این حملات افزایش می یابد، اما فعلاً پایین خواهد ماند.

ناشناخته

در حالی که مهم است که تبلیغات تبلیغاتی را از واقعیت جدا کنیم، اما اطمینان از پرسیدن سؤالات درست در مورد تأثیر هوش مصنوعی بر چشم انداز تهدید نیز مهم است. ناشناخته های زیادی در مورد پتانسیل هوش مصنوعی وجود دارد – اینکه چگونه ممکن است اهداف و مقاصد دشمنان را تغییر دهد، چیزی است که نباید نادیده بگیریم. ناشناخته باقی مانده است که چگونه توانایی های جدید ممکن است به اهداف جدید برای دشمنان کمک کند و انگیزه های آنها را دوباره تنظیم کند.

ممکن است شاهد افزایش فوری حملات جدید مبتنی بر هوش مصنوعی نباشیم، اما گسترش جرایم سایبری به لطف هوش مصنوعی تأثیر قابل‌توجهی بر سازمان‌هایی خواهد داشت که آمادگی ندارند. سرعت و مقیاس از ویژگی های ذاتی هوش مصنوعی هستند و همانطور که مدافعان به دنبال سود بردن از آنها هستند، مهاجمان نیز چنین هستند. تیم‌های امنیتی در حال حاضر کمبود کارکنان و غرق شده‌اند - مشاهده افزایش ترافیک مخرب یا تعاملات پاسخ به حادثه، وزن قابل‌توجهی بر حجم کاری آنها اضافه می‌شود.

این امر بیش از هر زمان دیگری بر نیاز بنگاه ها به سرمایه گذاری در دفاع از خود تأکید می کند. استفاده از هوش مصنوعی برای رانندگی با سرعت و دقت در توانایی های تشخیص تهدید و پاسخ آنها. شرکت‌هایی که از این «دوره مهلت» استفاده می‌کنند، برای روزی که مهاجمان واقعاً در مسابقه سایبری هوش مصنوعی قرار بگیرند، بسیار آماده‌تر و انعطاف‌پذیرتر خواهند بود.

تمبر زمان:

بیشتر از تاریک خواندن