هل التهديدات المصممة بواسطة الذكاء الإصطناعي هي فوضى أم حقيقة؟

في اللحظة التي ظهرت فيها تطبيقات الذكاء الاصطناعي التوليدية في السوق، غيرت وتيرة الأعمال - ليس فقط بالنسبة لفرق الأمن، ولكن أيضًا لمجرمي الإنترنت. اليوم، قد يعني عدم تبني ابتكارات الذكاء الاصطناعي التخلف عن منافسيك ووضع دفاعك السيبراني في وضع غير مؤاتٍ ضد الهجمات الإلكترونية التي يدعمها الذكاء الاصطناعي. ولكن عند مناقشة كيفية تأثير الذكاء الاصطناعي أو عدم تأثيره على الجرائم الإلكترونية، من المهم أن ننظر إلى الأمور من خلال عدسة عملية ورصينة - وليس التغذي على الضجيج الذي يبدو أشبه بالخيال العلمي.

تشير التطورات والنضج في مجال الذكاء الاصطناعي اليوم إلى قفزة كبيرة للأمام فيما يتعلق بأمن المؤسسات. لا يستطيع مجرمو الإنترنت بسهولة مطابقة حجم وحجم موارد المؤسسات ومهاراتها ودوافعها، مما يجعل من الصعب عليهم مواكبة السرعة الحالية لابتكار الذكاء الاصطناعي. الاستثمار في المشاريع الخاصة في الذكاء الاصطناعي انفجرت إلى 93.5 مليار دولار في عام 2021 – لا يمتلك الأشرار هذا المستوى من رأس المال. كما أنهم لا يملكون القوى العاملة، والقدرة الحاسوبية، والابتكارات التي توفر للشركات التجارية أو الحكومة المزيد من الوقت والفرصة للفشل السريع، والتعلم بسرعة، وإنجاز الأمور على النحو الصحيح أولاً.

ومع ذلك، لا تخطئ: سوف تلحق الجرائم الإلكترونية بالركب. ليست هذه هي المرة الأولى التي تتمتع فيها صناعة الأمن بميزة قصيرة - عندما بدأت برامج الفدية في دفع المزيد من المدافعين إلى اعتماد تقنيات الكشف عن نقاط النهاية والاستجابة لها، احتاج المهاجمون إلى بعض الوقت لمعرفة كيفية التحايل على تلك الاكتشافات والتهرب منها. أعطت "فترة السماح" المؤقتة تلك الشركات الوقت الكافي للقيام بذلك حماية أفضل لأنفسهم. وينطبق الشيء نفسه الآن: تحتاج الشركات إلى تعظيم ريادتها في سباق الذكاء الاصطناعي، وتعزيز قدراتها في الكشف عن التهديدات والاستجابة لها، والاستفادة من السرعة والدقة التي توفرها لها ابتكارات الذكاء الاصطناعي الحالية.

إذًا كيف يغير الذكاء الاصطناعي الجرائم الإلكترونية؟ حسنًا، لن يغيرها بشكل كبير في أي وقت قريب، لكنه سيعمل على توسيع نطاقها في حالات معينة. دعونا نلقي نظرة على أين سيحدث الاستخدام الضار للذكاء الاصطناعي أو لن يحدث التأثير الأكثر فورية.

حملات البرامج الضارة المؤتمتة بالكامل: FUD

في الأشهر الأخيرة، رأينا ادعاءات تتعلق بحالات استخدام ضارة مختلفة للذكاء الاصطناعي، ولكن مجرد وجود سيناريو محتمل لا يجعله محتملاً. لنأخذ على سبيل المثال حملات البرامج الضارة المؤتمتة بالكامل - يقول المنطق أنه من الممكن الاستفادة من الذكاء الاصطناعي لتحقيق هذه النتيجة، ولكن نظرًا لأن شركات التكنولوجيا الرائدة لم تعد رائدة بعد في دورات تطوير البرمجيات المؤتمتة بالكامل، فمن غير المرجح أن تحقق مجموعات الجرائم الإلكترونية المقيدة ماليًا ذلك في وقت أقرب. . حتى الأتمتة الجزئية يمكن أن تمكن من توسيع نطاق الجرائم الإلكترونية، وهو تكتيك رأيناه بالفعل مستخدمًا فيه حملات بازار. وهذا ليس ابتكارا، بل أ تقنية مجربة وحقيقية التي يأخذها المدافعون بالفعل.

التصيد الاحتيالي المصمم بواسطة الذكاء الاصطناعي: الواقع (لكن السياق هو المفتاح)

حالة الاستخدام الأخرى التي يجب مراعاتها هي هجمات التصيد الاحتيالي المصممة بواسطة الذكاء الاصطناعي. ليس هذا ممكنًا فحسب، بل بدأنا بالفعل في رؤية هذه الهجمات على نطاق واسع. قد يحقق هذا الجيل القادم من التصيد الاحتيالي مستويات أعلى من الإقناع ومعدل النقر، لكن التصيد المصمم بواسطة الإنسان والتصيد المصمم بواسطة الذكاء الاصطناعي ما زالا يقودان نحو نفس الهدف. بمعنى آخر، لا يزال التصيد الاحتيالي المصمم بواسطة الذكاء الاصطناعي عبارة عن تصيد يبحث عن نقرة، ويتطلب نفس الاستعداد للكشف والاستجابة.

ومع ذلك، في حين أن المشكلة لا تزال هي نفسها، فإن النطاق مختلف إلى حد كبير. يعمل الذكاء الاصطناعي كمضاعف للقوة لتوسيع نطاق حملات التصيد الاحتيالي، لذلك، إذا لاحظت إحدى المؤسسات ارتفاعًا كبيرًا في رسائل البريد الإلكتروني التصيدية الواردة - وكانت رسائل البريد الإلكتروني الضارة هذه أكثر إقناعًا بشكل ملحوظ - فمن المرجح أنها تبحث في احتمالية عالية لمعدل النقر وإمكانية التسوية. يمكن لنماذج الذكاء الاصطناعي أيضًا أن تزيد من فعالية الاستهداف، مما يساعد المهاجمين على تحديد الهدف الأكثر عرضة للتصيد الاحتيالي المحدد داخل المؤسسة والوصول في النهاية إلى عائد استثمار أعلى من حملاتهم. لقد كانت هجمات التصيد الاحتيالي تاريخيًا من بين أكثر الأساليب نجاحًا التي استخدمها المهاجمون للتسلل إلى المؤسسات. يؤكد توسيع نطاق هذا النوع من الهجمات على الدور الحاسم الذي تلعبه تقنيات EDR وMDR وXDR وIAM في اكتشاف السلوك الشاذ قبل أن يحقق التأثير.

هجمات التسمم بالذكاء الاصطناعي: FUD-ish

هجمات التسمم بالذكاء الاصطناعيبعبارة أخرى، قد يكون التلاعب برمجيًا بالشفرات والبيانات التي تُبنى عليها نماذج الذكاء الاصطناعي، بمثابة "الكأس المقدسة" لهجمات مجرمي الإنترنت. يمكن أن يتراوح تأثير هجوم التسمم الناجح في أي مكان من محاولات التضليل إلى يموت 4.0 الصلب. لماذا؟ لأنه من خلال تسميم النموذج، يمكن للمهاجم أن يجعله يتصرف أو يعمل بالطريقة التي يريدها، ولا يمكن اكتشافه بسهولة. ومع ذلك، ليس من السهل تنفيذ هذه الهجمات، فهي تتطلب الوصول إلى البيانات التي يتدرب عليها نموذج الذكاء الاصطناعي في وقت التدريب، وهو ليس بالأمر الهين. ومع تحول المزيد من النماذج إلى مصادر مفتوحة، سيزداد خطر هذه الهجمات، لكنه سيظل منخفضًا في الوقت الحالي.

المجهول

في حين أنه من المهم فصل الضجيج عن الواقع، فمن المهم أيضًا التأكد من أننا نطرح الأسئلة الصحيحة حول تأثير الذكاء الاصطناعي على مشهد التهديدات. هناك الكثير من الأشياء المجهولة فيما يتعلق بإمكانيات الذكاء الاصطناعي، وكيف يمكن أن يغير أهداف وغايات الخصوم هو أمر يجب ألا نتجاهله. ولا يزال من غير المعروف كيف يمكن للقدرات الجديدة أن تساعد في خدمة أغراض جديدة للخصوم وإعادة ضبط دوافعهم.

قد لا نشهد ارتفاعًا فوريًا في الهجمات الجديدة التي تعتمد على الذكاء الاصطناعي، ولكن توسيع نطاق الجرائم الإلكترونية بفضل الذكاء الاصطناعي سيكون له تأثير كبير على المؤسسات غير المستعدة. تعد السرعة والنطاق من الخصائص الجوهرية للذكاء الاصطناعي، وكما يسعى المدافعون إلى الاستفادة منها، كذلك يسعى المهاجمون. تعاني فرق الأمان بالفعل من نقص الموظفين والإرهاق، حيث إن رؤية ارتفاع كبير في حركة المرور الضارة أو عمليات الاستجابة للحوادث يمثل عبئًا كبيرًا يضاف إلى عبء عملهم.

وهذا يؤكد من جديد أكثر من أي وقت مضى حاجة الشركات إلى الاستثمار في دفاعاتها، باستخدام الذكاء الاصطناعي لدفع السرعة والدقة في كشف التهديدات وقدرات الاستجابة لها. وستجد الشركات التي تستفيد من "فترة السماح" هذه نفسها أكثر استعدادًا ومرونة لليوم الذي يلحق فيه المهاجمون بسباق الذكاء الاصطناعي السيبراني.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون السيارات / المركبات الكهربائية ، كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• BlockOffsets. تحديث ملكية الأوفست البيئية. الوصول هنا.
• المصدر https://www.darkreading.com/dr-tech/are-ai-engineered-threats-fud-or-reality-