كيف تحل استخبارات التهديدات المعززة بالذكاء الاصطناعي الثغرات الأمنية

تعاني فرق العمليات الأمنية وفرق استخبارات التهديدات من نقص مزمن في الموظفين ، وغارقة في البيانات ، والتعامل مع المطالب المتنافسة - جميع المشكلات التي يمكن أن تساعد أنظمة النماذج اللغوية الكبيرة (LLM) في علاجها. لكن نقص الخبرة في الأنظمة يمنع العديد من الشركات من تبني التكنولوجيا.

ستتمكن المنظمات التي تطبق LLM من تجميع المعلومات بشكل أفضل من البيانات الأولية و تعميق قدراتهم في مجال استخبارات التهديدات، ولكن مثل هذه البرامج تحتاج إلى دعم من القيادة الأمنية لتركز بشكل صحيح. يجب على الفرق تطبيق LLMs للمشكلات القابلة للحل ، وقبل أن يتمكنوا من القيام بذلك ، يحتاجون إلى تقييم فائدة LLM في بيئة المؤسسة ، كما يقول جون ميلر ، رئيس مجموعة التحليل الاستخباراتي في Mandiant.

يقول ميلر: "ما نهدف إليه هو مساعدة المؤسسات على تجاوز حالة عدم اليقين ، لأنه لا يوجد الكثير من قصص النجاح أو قصص الفشل حتى الآن". "لا توجد بالفعل إجابات حتى الآن تستند إلى الخبرة المتاحة بشكل روتيني ، ونريد توفير إطار عمل للتفكير في أفضل السبل للتطلع إلى تلك الأنواع من الأسئلة حول التأثير."

في عرض تقديمي في بلاك هات الولايات المتحدة الأمريكية في أوائل أغسطس بعنوان "كيف يبدو برنامج استخبارات التهديد المدعوم من LLM؟، "ميلر ورون جراف ، عالم البيانات في فريق تحليلات الذكاء في Google Cloud في Mandiant ، سيوضحان المجالات التي يمكن أن تزيد فيها LLM العاملين في مجال الأمن لتسريع تحليل الأمن السيبراني وتعميقه.

ثلاثة مكونات لذكاء التهديد

يحتاج محترفو الأمن الذين يرغبون في إنشاء قدرة استخبارات قوية للتهديدات لمؤسستهم إلى ثلاثة مكونات لإنشاء وظيفة استخبارات تهديدات داخلية بنجاح ، كما يقول ميلر لـ Dark Reading. يحتاجون إلى بيانات حول التهديدات ذات الصلة ؛ القدرة على معالجة هذه البيانات وتوحيدها بحيث تكون مفيدة ؛ والقدرة على تفسير علاقة هذه البيانات بالمخاوف الأمنية.

قول هذا أسهل من فعله ، لأن فرق استخبارات التهديدات - أو الأفراد المسؤولين عن استخبارات التهديدات - غالبًا ما يكونون غارقين في البيانات أو الطلبات من أصحاب المصلحة. ومع ذلك ، يمكن أن تساعد LLM في سد الفجوة ، مما يسمح للمجموعات الأخرى في المنظمة بطلب البيانات باستخدام استعلامات اللغة الطبيعية والحصول على المعلومات بلغة غير تقنية ، كما يقول. تتضمن الأسئلة الشائعة الاتجاهات في مجالات محددة من التهديدات ، مثل برامج الفدية ، أو عندما تريد الشركات معرفة التهديدات في أسواق معينة.

يقول ميللر: "يمكن للقادة الذين ينجحون في زيادة استخباراتهم عن التهديدات باستخدام القدرات التي تعتمد على LLM أن يخططوا أساسًا لتحقيق عائد أعلى على الاستثمار من وظيفة استخبارات التهديدات الخاصة بهم". "ما يمكن أن يتوقعه القائد أثناء تفكيره إلى الأمام ، وما يمكن أن تقوم به وظيفة الاستخبارات الحالية ، هو إنشاء قدرة أعلى بنفس الموارد لتكون قادرًا على الإجابة على هذه الأسئلة."

لا يمكن للذكاء الاصطناعي استبدال المحللين البشريين

ستتمتع المنظمات التي تتبنى LLM وذكاء التهديدات المعزز بالذكاء الاصطناعي بقدرة محسّنة على تحويل مجموعات بيانات أمان المؤسسات التي لن يتم استغلالها لولا ذلك والاستفادة منها. ومع ذلك ، هناك مطبات. الاعتماد على LLM لإنتاج تحليل متماسك للتهديدات يمكن أن يوفر الوقت ، ولكن يمكن أن يؤدي أيضًا ، على سبيل المثال ، إلى "الهلوسة" المحتملة - أحد أوجه القصور في LLMs حيث سيُنشئ النظام اتصالات في حالة عدم وجود اتصالات أو يختلق إجابات تمامًا ، وذلك بفضل التدريب على البيانات غير الصحيحة أو المفقودة.

"إذا كنت تعتمد على مخرجات نموذج لاتخاذ قرار بشأن أمان عملك ، فأنت تريد أن تكون قادرًا على تأكيد أن شخصًا ما قد نظر إليه ، مع القدرة على التعرف على ما إذا كانت هناك أية أخطاء أساسية ، "جوجل كلاود ميلر يقول. "يجب أن تكون قادرًا على التأكد من أن لديك خبراء مؤهلين ، يمكنهم التحدث عن فائدة البصيرة في الإجابة على هذه الأسئلة أو اتخاذ تلك القرارات."

مثل هذه القضايا ليست مستعصية على الحل ، كما يقول غراف جوجل كلاود. يمكن أن يكون لدى المنظمات نماذج متنافسة مرتبطة ببعضها البعض لإجراء فحوصات النزاهة وتقليل معدل الهلوسة. بالإضافة إلى ذلك ، فإن طرح الأسئلة بطريقة محسّنة - ما يسمى "بالهندسة السريعة" - يمكن أن يؤدي إلى إجابات أفضل ، أو على الأقل الإجابات الأكثر انسجامًا مع الواقع.

يقول غراف إن الاحتفاظ بذكاء اصطناعي مقترنًا بإنسان هو أفضل طريقة.

يقول: "نعتقد أن أفضل نهج هو مجرد تضمين البشر في الحلقة". "وسيؤدي ذلك إلى تحسينات في أداء المصب على أي حال ، لذلك لا تزال المؤسسات تجني الفوائد."

لقد اكتسب نهج الزيادة هذا قوة جذب ، مثل انضمت شركات الأمن السيبراني شركات أخرى في استكشاف طرق لتحويل قدراتها الأساسية مع LLMs كبيرة. في مارس ، على سبيل المثال ، مايكروسوفت أطلق برنامج Security Copilot لمساعدة فرق الأمن السيبراني على التحقيق في الانتهاكات والبحث عن التهديدات. وفي أبريل ، أطلقت شركة استخبارات التهديدات Recorded Future قدرة LLM المحسنة ، ووجدت أن قدرة النظام على تحويل البيانات الضخمة أو البحث العميق إلى تقرير موجز بسيط مكون من جملتين أو ثلاث جمل للمحلل قد وفر قدرًا كبيرًا من الوقت لـ محترفي الأمن.

يقول جيمي زاجاك: "بشكل أساسي ، أعتقد أن استخبارات التهديد هي مشكلة" بيانات كبيرة "، ويجب أن يكون لديك رؤية واسعة في جميع مستويات الهجوم على المهاجم ، وفي البنية التحتية ، وفي الأشخاص الذين يستهدفونهم ، نائب رئيس المنتج في Recorded Future ، الذي قال إن الذكاء الاصطناعي يسمح للبشر بأن يكونوا أكثر فعالية في تلك البيئة. "بمجرد حصولك على كل هذه البيانات ، ستواجه مشكلة" كيف يمكنك بالفعل تجميع هذا في شيء مفيد؟ "، ووجدنا أن استخدام ذكائنا واستخدام نماذج لغوية كبيرة ... بدأ في توفير [محللينا] ساعات وساعات من وقت."

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون السيارات / المركبات الكهربائية ، كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• BlockOffsets. تحديث ملكية الأوفست البيئية. الوصول هنا.
• المصدر https://www.darkreading.com/black-hat/ai-augmented-threat-intelligence-solves-security-shortfalls