تقييم الضرر باستخدام قدرات Amazon SageMaker الجغرافية المكانية ونماذج SageMaker المخصصة

في هذا المنشور ، نوضح كيفية التدريب والنشر والتنبؤ بأضرار الكوارث الطبيعية باستخدام Amazon SageMaker بقدرات جغرافية مكانية. نحن نستخدم قدرات SageMaker الجغرافية المكانية الجديدة لإنشاء بيانات استدلال جديدة لاختبار النموذج. تحتاج العديد من المنظمات الحكومية والإنسانية إلى وعي سريع ودقيق بالحالة عند وقوع كارثة. يمكن أن تساعد معرفة شدة الضرر وسببه وموقعه في استراتيجية استجابة المستجيب الأول واتخاذ القرار. يمكن أن يساهم عدم وجود معلومات دقيقة وفي الوقت المناسب في جهود الإغاثة غير المكتملة أو الموجهة بشكل خاطئ.

مع زيادة وتيرة الكوارث الطبيعية وشدتها ، من المهم أن نزود صانعي القرار وأول المستجيبين بتقييم سريع ودقيق للأضرار. في هذا المثال ، نستخدم الصور الجغرافية المكانية للتنبؤ بأضرار الكوارث الطبيعية. يمكن استخدام البيانات الجغرافية المكانية في أعقاب الكارثة الطبيعية مباشرة لتحديد الأضرار التي لحقت بالمباني أو الطرق أو غيرها من البنى التحتية الحيوية. في هذا المنشور ، نوضح لك كيفية تدريب ونشر نموذج تجزئة جغرافي مكاني لاستخدامه في تصنيف أضرار الكوارث. نقسم التطبيق إلى ثلاثة موضوعات: تدريب النموذج ونشر النموذج والاستدلال.

تدريب نموذجي

في حالة الاستخدام هذه ، قمنا ببناء نموذج PyTorch مخصص باستخدام الأمازون SageMaker لتجزئة الصورة من تلف المبنى. تتضمن الإمكانات الجغرافية المكانية في SageMaker نماذج مدربة لتستخدمها. تتضمن هذه النماذج المدمجة تجزئة السحب وإزالتها وتجزئة الغطاء الأرضي. بالنسبة لهذا المنشور ، نقوم بتدريب نموذج مخصص لتجزئة الضرر. قمنا أولاً بتدريب نموذج SegFormer على البيانات من مسابقة xView2. SegFormer هي بنية قائمة على المحولات تم تقديمها في ورقة 2021 SegFormer: تصميم بسيط وفعال للتجزئة الدلالية باستخدام المحولات. يعتمد على بنيات المحولات التي تحظى بشعبية كبيرة مع أعباء عمل معالجة اللغة الطبيعية ؛ ومع ذلك ، تم تصميم بنية SegFormer للتجزئة الدلالية. فهو يجمع بين كل من المشفر المعتمد على المحولات ووحدة فك التشفير خفيفة الوزن. يسمح هذا بأداء أفضل من الطرق السابقة ، مع توفير أحجام أصغر بكثير للنماذج من الطرق السابقة. تتوفر نماذج SegFormer المدربة مسبقًا وغير المدربة من مكتبة Hugging Face transformer الشعبية. بالنسبة لحالة الاستخدام هذه ، نقوم بتنزيل بنية SegFormer مُدربة مسبقًا وتدريبها على مجموعة بيانات جديدة.

تأتي مجموعة البيانات المستخدمة في هذا المثال من ملف مسابقة علوم البيانات xView2. أصدرت هذه المسابقة مجموعة بيانات xBD، واحدة من أكبر مجموعات البيانات المتاحة للجمهور وأعلاها جودة لصور القمر الصناعي عالية الدقة والمزودة بتعليقات توضيحية مع موقع المبنى ودرجات الضرر (الفئات) قبل وبعد الكوارث الطبيعية. تحتوي مجموعة البيانات على بيانات من 15 دولة بما في ذلك 6 أنواع من الكوارث (زلزال / تسونامي ، فيضان ، ثوران بركاني ، حرائق غابات ، رياح) مع بيانات جغرافية مكانية تحتوي على 850,736،45,362 تعليقًا توضيحيًا للبناء عبر 2 كم XNUMX من الصور. تُظهر الصورة التالية مثالاً على مجموعة البيانات. تُظهر هذه الصورة صورة ما بعد الكارثة مع تراكب قناع تجزئة أضرار المبنى. تتضمن كل صورة ما يلي: صورة القمر الصناعي قبل وقوع الكارثة ، وقناع تجزئة المبنى قبل وقوع الكارثة ، وصورة القمر الصناعي بعد وقوع الكارثة ، وقناع تجزئة المبنى بعد وقوع الكارثة مع فئات الضرر.

في هذا المثال ، نستخدم فقط صور ما قبل الكارثة وما بعدها للتنبؤ بتصنيف أضرار ما بعد الكارثة (قناع التجزئة). لا نستخدم أقنعة تجزئة المباني قبل وقوع الكارثة. تم اختيار هذا النهج للبساطة. هناك خيارات أخرى للتعامل مع مجموعة البيانات هذه. استخدم عدد من الأساليب الفائزة في مسابقة xView2 حلاً من خطوتين: أولاً ، توقع قناع تجزئة مخطط المبنى قبل وقوع الكارثة. ثم يتم استخدام مخططات المبنى والصور اللاحقة للضرر كمدخلات للتنبؤ بتصنيف الضرر. نترك هذا للقارئ لاستكشاف أساليب النمذجة الأخرى لتحسين أداء التصنيف والكشف.

تم تصميم بنية SegFormer المدربة مسبقًا لقبول صورة قناة واحدة ثلاثية الألوان كمدخلات وإخراج قناع تجزئة. هناك عدد من الطرق التي كان يمكننا من خلالها تعديل النموذج لقبول كل من صور ما قبل القمر الصناعي وما بعده كمدخلات ، ومع ذلك ، استخدمنا تقنية تكديس بسيطة لتكديس الصورتين معًا في صورة قناة ذات ستة ألوان. قمنا بتدريب النموذج باستخدام تقنيات التعزيز القياسية على مجموعة بيانات التدريب xView2 للتنبؤ بقناع التجزئة بعد وقوع الكارثة. لاحظ أننا قمنا بتغيير حجم جميع الصور المدخلة من 1024 إلى 512 بكسل. كان هذا لتقليل الدقة المكانية لبيانات التدريب. تم تدريب النموذج باستخدام SageMaker باستخدام مثيل واحد يعتمد على وحدة معالجة الرسومات p3.2xlarge. يظهر مثال لإخراج النموذج المدرّب في الأشكال التالية. المجموعة الأولى من الصور هي صور ما قبل الضرر وبعده من مجموعة التحقق من الصحة.

توضح الأشكال التالية قناع الضرر المتوقع وقناع تلف الحقيقة الأرضية.

للوهلة الأولى ، يبدو أن النموذج لا يعمل بشكل جيد مقارنة ببيانات الحقيقة الأساسية. تم تصنيف العديد من المباني بشكل غير صحيح ، مما يؤدي إلى إرباك الضرر الطفيف لعدم وجود أضرار وإظهار تصنيفات متعددة لمخطط مبنى واحد. ومع ذلك ، فإن إحدى النتائج المثيرة للاهتمام عند مراجعة أداء النموذج هي أنه يبدو أنه تعلم كيفية توطين تصنيف أضرار المبنى. يمكن تصنيف كل مبنى إلى No Damage, Minor Damage, Major Damageالطرق أو Destroyed. يُظهر قناع الضرر المتوقع أن النموذج صنف المبنى الكبير في الوسط إلى معظمه No Damage، ولكن تم تصنيف الزاوية اليمنى العلوية على أنها Destroyed. يمكن أن يساعد توطين أضرار المباني الفرعية هذا المستجيبين من خلال إظهار الضرر المحلي لكل مبنى.

نشر النموذج

تم بعد ذلك نشر النموذج المدرب إلى نقطة نهاية استدلال SageMaker غير متزامنة. لاحظ أننا اخترنا نقطة نهاية غير متزامنة للسماح بأوقات استدلال أطول ، وأحجام إدخال حمولة أكبر ، والقدرة على تصغير نقطة النهاية إلى حالات صفر (بدون رسوم) عندما لا تكون قيد الاستخدام. يوضح الشكل التالي الشفرة عالية المستوى للنشر غير المتزامن لنقطة النهاية. نقوم أولاً بضغط قاموس حالة PyTorch المحفوظ وتحميل عناصر النموذج المضغوطة إليه خدمة تخزين أمازون البسيطة (أمازون S3). نقوم بإنشاء نموذج SageMaker PyTorch للإشارة إلى كود الاستدلال ونماذج التحف الخاصة بنا. كود الاستدلال مطلوب لتحميل نموذجنا وخدمته. لمزيد من التفاصيل حول كود الاستدلال المخصص المطلوب لنموذج SageMaker PyTorch ، راجع استخدم PyTorch مع SageMaker Python SDK.

يوضح الشكل التالي رمز سياسة القياس التلقائي لنقطة نهاية الاستدلال غير المتزامن.

لاحظ أن هناك خيارات أخرى لنقطة النهاية ، مثل الوقت الفعلي ، والدُفعات ، وبدون خادم ، والتي يمكن استخدامها لتطبيقك. سترغب في تحديد الخيار الأنسب لحالة الاستخدام وتذكر ذلك التوصية بالاستدلال من Amazon SageMaker متاح للمساعدة في التوصية بتكوينات نقطة نهاية التعلم الآلي (ML).

نموذج الاستدلال

مع نشر النموذج المدرب ، يمكننا الآن استخدامه قدرات SageMaker الجغرافية المكانية لجمع البيانات للاستدلال. مع قدرات SageMaker الجغرافية المكانية ، تتوفر العديد من النماذج المضمنة خارج الصندوق. في هذا المثال ، نستخدم عملية تكديس النطاق لتكديس قنوات اللون الأحمر والأخضر والأزرق لوظيفة مراقبة الأرض لدينا. تقوم الوظيفة بجمع البيانات من مجموعة بيانات Sentinel-2. لتكوين وظيفة مراقبة الأرض ، نحتاج أولاً إلى إحداثيات موقع الاهتمام. ثانيًا ، نحتاج إلى النطاق الزمني للرصد. باستخدام هذا يمكننا الآن إرسال مهمة مراقبة الأرض باستخدام ميزة التراص. نقوم هنا بتكديس الأشرطة الحمراء والخضراء والزرقاء لإنتاج صورة ملونة. يوضح الشكل التالي تكوين الوظيفة المستخدم لتوليد البيانات من الفيضانات في روتشستر ، أستراليا ، في منتصف أكتوبر 2022. نحن نستخدم الصور من قبل وبعد الكارثة كمدخلات لنموذج ML المدربين لدينا.

بعد تحديد تكوين الوظيفة ، يمكننا تقديم الوظيفة. عند اكتمال المهمة ، نقوم بتصدير النتائج إلى Amazon S3. لاحظ أنه لا يمكننا تصدير النتائج إلا بعد اكتمال المهمة. يمكن تصدير نتائج المهمة إلى موقع Amazon S3 المحدد من قبل المستخدم في تكوين مهمة التصدير. الآن مع بياناتنا الجديدة في Amazon S3 ، يمكننا الحصول على تنبؤات بالأضرار باستخدام النموذج المنشور. نقرأ البيانات أولاً في الذاكرة ونقوم بتكديس الصور قبل وبعد وقوع الكارثة معًا.

تظهر نتائج قناع التجزئة لفيضانات روتشستر في الصور التالية. هنا يمكننا أن نرى أن النموذج قد حدد مواقع داخل المنطقة التي غمرتها الفيضانات على أنها قد تضررت. لاحظ أيضًا أن الدقة المكانية لصورة الاستدلال تختلف عن بيانات التدريب. زيادة الدقة المكانية يمكن أن تساعد في نموذج الأداء ؛ ومع ذلك ، فهذه مشكلة أقل بالنسبة لنموذج SegFormer كما هو الحال بالنسبة للنماذج الأخرى بسبب بنية النموذج متعدد النطاقات.

تقييم الأضرار

وفي الختام

في هذا المنشور ، أوضحنا كيفية التدريب والنشر والتنبؤ بأضرار الكوارث الطبيعية باستخدام SageMaker مع قدرات جغرافية مكانية. استخدمنا قدرات SageMaker الجغرافية المكانية الجديدة لإنشاء بيانات استدلال جديدة لاختبار النموذج. رمز هذا المنشور قيد الإصدار ، وسيتم تحديث هذا المنشور بروابط إلى رمز التدريب والنشر والاستدلال الكامل. يتيح هذا التطبيق للمستجيبين الأوائل والحكومات والمنظمات الإنسانية تحسين استجابتهم ، وتوفير الوعي الظرفي الحرج فور وقوع كارثة طبيعية. هذا التطبيق هو مثال واحد فقط لما هو ممكن مع أدوات ML الحديثة مثل SageMaker.

جرب قدرات SageMaker الجغرافية المكانية اليوم باستخدام النماذج الخاصة بك ؛ نتطلع إلى رؤية ما ستبنيه بعد ذلك.

عن المؤلف

آرون سينجستاكن هو مهندس حلول متخصص في التعلم الآلي في Amazon Web Services. يعمل Aaron عن كثب مع عملاء القطاع العام من جميع الأحجام لتطوير ونشر تطبيقات التعلم الآلي للإنتاج. إنه مهتم بكل ما يتعلق بالتعلم الآلي والتكنولوجيا واستكشاف الفضاء.