הערכת נזקים באמצעות יכולות גיאו-מרחביות של Amazon SageMaker ומודלים מותאמים אישית של SageMaker

בפוסט זה, אנו מראים כיצד לאמן, לפרוס ולחזות נזקים באסון טבע באמצעות Amazon SageMaker עם יכולות גיאו-מרחביות. אנו משתמשים ביכולות הגיאו-מרחביות החדשות של SageMaker כדי ליצור נתוני מסקנות חדשים כדי לבדוק את המודל. ארגונים ממשלתיים וארגונים הומניטריים רבים זקוקים למודעות מצב מהירה ומדויקת כאשר מתרחש אסון. ידיעת החומרה, הסיבה והמיקום של הנזק יכולה לסייע באסטרטגיית התגובה של המשיב הראשון ובקבלת ההחלטות. היעדר מידע מדויק ובזמן יכול לתרום למאמץ סיוע לא שלם או מכוון שגוי.

ככל שתדירותם וחומרתם של אסונות הטבע עולה, חשוב שנצייד את מקבלי ההחלטות והמגיבים הראשונים בהערכת נזקים מהירה ומדויקת. בדוגמה זו, אנו משתמשים בדימויים גיאו-מרחביים כדי לחזות נזקים באסון טבע. ניתן להשתמש בנתונים גיאו-מרחביים לאחר אסון טבע לזיהוי מהיר של נזק למבנים, כבישים או תשתית קריטית אחרת. בפוסט זה, אנו מראים לך כיצד לאמן ולפרוס מודל פילוח גיאו-מרחבי שישמש לסיווג נזקי אסון. אנו מפרקים את האפליקציה לשלושה נושאים: אימון מודל, פריסת מודל והסקת מסקנות.

אימון מודל

במקרה השימוש הזה, בנינו מודל PyTorch מותאם אישית באמצעות אמזון SageMaker לפילוח תמונה של נזקי מבנה. היכולות הגיאו-מרחביות ב- SageMaker כוללות מודלים מאומנים שתוכלו להשתמש בהם. מודלים מובנים אלה כוללים פילוח והסרה של ענן, ופילוח כיסוי קרקע. עבור פוסט זה, אנו מאמנים מודל מותאם אישית לפילוח נזקים. אימנו לראשונה את מודל SegFormer על נתונים מתחרות xView2. ה-SegFormer היא ארכיטקטורה מבוססת שנאים שהוצגה בעיתון 2021 SegFormer: עיצוב פשוט ויעיל לפילוח סמנטי עם רובוטריקים. זה מבוסס על ארכיטקטורות השנאים שדי פופולריות בעומסי עבודה של עיבוד שפה טבעית; עם זאת, ארכיטקטורת SegFormer בנויה לפילוח סמנטי. הוא משלב גם מקודד מבוסס שנאי וגם מפענח קל משקל. זה מאפשר ביצועים טובים יותר משיטות קודמות, תוך מתן מידות דגמים קטנות משמעותית משיטות קודמות. שני דגמי SegFormer שהוכשרו מראש וגם לא מאומנים זמינים מספריית השנאים הפופולרית של Hugging Face. למקרה שימוש זה, אנו מורידים ארכיטקטורת SegFormer מאומנת מראש ומאמנים אותה על מערך נתונים חדש.

מערך הנתונים המשמש בדוגמה זו מגיע מה- תחרות מדעי הנתונים xView2. תחרות זו שחררה את מערך נתונים של xBD, אחד ממערכי הנתונים הגדולים והאיכותיים ביותר הזמינים לציבור של תמונות לוויין ברזולוציה גבוהה עם הערות עם מיקום מבנה וציוני נזק (מחלקות) לפני ואחרי אסונות טבע. מערך הנתונים מכיל נתונים מ-15 מדינות כולל 6 סוגים של אסונות (רעידת אדמה/צונאמי, שיטפון, התפרצות געשית, שריפות בשדה קוצים, רוח) עם נתונים גיאו-מרחביים המכילים 850,736 הערות בניינים על פני 45,362 קמ"ר של תמונות. התמונה הבאה מציגה דוגמה של מערך הנתונים. תמונה זו מציגה את התמונה שלאחר האסון כשמסיכת פילוח נזקי הבניין מונחת. כל תמונה כוללת את הפרטים הבאים: תמונת לוויין לפני אסון, מסכת פילוח לפני אסון, תמונת לוויין שלאחר אסון, ומסכת פילוח של בניין שלאחר אסון עם דרגות נזק.

בדוגמה זו, אנו משתמשים רק בתמונות לפני ואחרי אסון כדי לחזות את סיווג הנזק שלאחר האסון (מסכת פילוח). אנחנו לא משתמשים במסכות פילוח לפני אסון. גישה זו נבחרה למען הפשטות. ישנן אפשרויות אחרות לגשת למערך נתונים זה. מספר הגישות המנצחות בתחרות xView2 השתמשו בפתרון דו-שלבי: ראשית, חזה את מסכת הפילוח של קווי המתאר לפני אסון. קווי המתאר של הבניין והתמונות שלאחר הנזק משמשים לאחר מכן כקלט לחיזוי סיווג הנזק. אנו משאירים זאת לקורא כדי לחקור גישות דוגמנות אחרות לשיפור ביצועי הסיווג והזיהוי.

ארכיטקטורת SegFormer שהוכשרה מראש בנויה לקבל תמונה אחת של ערוץ שלושה צבעים כקלט ומוציאה מסיכת פילוח. ישנן מספר דרכים שבהן יכולנו לשנות את המודל כדי לקבל הן את התמונות שלפני והן לאחר הלוויין כקלט, עם זאת, השתמשנו בטכניקת ערימה פשוטה כדי לערום את שתי התמונות יחד לתמונת ערוץ של שישה צבעים. אימנו את המודל באמצעות טכניקות הגדלה סטנדרטיות על מערך האימון xView2 כדי לחזות את מסכת הפילוח לאחר אסון. שימו לב שאכן שינינו את גודל כל תמונות הקלט מ-1024 ל-512 פיקסלים. זה היה כדי להפחית עוד יותר את הרזולוציה המרחבית של נתוני האימון. הדגם הוכשר עם SageMaker באמצעות מופע יחיד מבוסס P3.2xlarge GPU. דוגמה לתפוקת הדגם המאומן מוצגת באיורים הבאים. קבוצת התמונות הראשונה היא התמונות לפני ואחרי הנזק מתוך ערכת האימות.

האיורים הבאים מציגים את מסכת הנזק החזוי ואת מסכת הנזק הקרקעית.

במבט ראשון, נראה שהמודל אינו מתפקד טוב בהשוואה לנתוני האמת. רבים מהמבנים מסווגים בצורה שגויה, מבלבלים נזקים קלים ללא נזק ומציגים סיווגים מרובים עבור מתאר בניין אחד. עם זאת, ממצא מעניין אחד בעת סקירת ביצועי המודל הוא שנראה כי הוא למד למקם את סיווג נזקי הבניין. ניתן לסווג כל בניין No Damage, Minor Damage, Major Damage, או Destroyed. מסכת הנזק החזויה מראה שהדגם סיווג את הבניין הגדול באמצע לרוב No Damage, אבל הפינה הימנית העליונה מסווגת כ Destroyed. לוקליזציה זו של נזקי תת-בניין יכולה לסייע למשיבים על ידי הצגת הנזק המקומי לכל בניין.

פריסת מודלים

המודל המאומן נפרס לאחר מכן לנקודת קצה אסינכרונית של SageMaker. שים לב שבחרנו בנקודת קצה אסינכרונית כדי לאפשר זמני הסקה ארוכים יותר, גדלי קלט של עומס נעילה גדולים יותר ויכולת להקטין את נקודת הקצה לאפס מופעים (ללא חיובים) כאשר לא בשימוש. האיור הבא מציג את הקוד ברמה גבוהה לפריסת נקודת קצה אסינכרונית. תחילה אנו דוחסים את מילון המצב השמור של PyTorch ומעלים את חפצי המודל הדחוס אל שירות אחסון פשוט של אמזון (אמזון S3). אנו יוצרים מודל של SageMaker PyTorch המצביע על קוד ההסקה ועל חפצי המודל שלנו. קוד ההסקה נדרש כדי לטעון ולשרת את הדגם שלנו. לפרטים נוספים על קוד ההסקה המותאם אישית הנדרש עבור דגם SageMaker PyTorch, עיין השתמש ב- PyTorch עם SDK SageMaker Python.

האיור הבא מציג את הקוד עבור מדיניות קנה המידה האוטומטי עבור נקודת הסיום האסינכרונית.

שים לב שיש אפשרויות אחרות של נקודות קצה, כגון זמן אמת, אצווה וללא שרת, שיכולות לשמש עבור היישום שלך. תרצה לבחור את האפשרות המתאימה ביותר למקרה השימוש ולזכור זאת אמזון SageMaker Inference Recommend זמין כדי לעזור להמליץ ​​על תצורות נקודת קצה של למידת מכונה (ML).

מסקנות מודל

עם המודל המיומן שנפרס, אנחנו יכולים כעת להשתמש יכולות גיאו-מרחביות של SageMaker לאסוף נתונים להסקת מסקנות. עם יכולות גיאו-מרחביות של SageMaker, מספר דגמים מובנים זמינים מהקופסה. בדוגמה זו, אנו משתמשים בפעולת ערימת הלהקה לערום את ערוצי הצבע האדום, הירוק והכחול עבור עבודת התצפית על כדור הארץ שלנו. העבודה אוספת את הנתונים ממערך הנתונים של Sentinel-2. כדי להגדיר עבודת תצפית על כדור הארץ, אנו זקוקים תחילה לקואורדינטות של מיקום העניין. שנית, אנחנו צריכים את טווח הזמן של התצפית. בעזרת זה נוכל כעת להגיש עבודת תצפית על כדור הארץ באמצעות תכונת הערימה. כאן אנו עורמים את הרצועות האדומות, הירוקות והכחולות כדי לייצר תמונה צבעונית. האיור הבא מציג את תצורת העבודה ששימשה להפקת נתונים מהשטפונות ברוצ'סטר, אוסטרליה, באמצע אוקטובר 2022. אנו משתמשים בתמונות מלפני ואחרי האסון כקלט למודל ה-ML המיומן שלנו.

לאחר הגדרת תצורת העבודה, נוכל להגיש את המשרה. בסיום העבודה, אנו מייצאים את התוצאות לאמזון S3. שימו לב שאנחנו יכולים לייצא את התוצאות רק לאחר השלמת העבודה. את תוצאות העבודה ניתן לייצא למיקום אמזון S3 שצוין על ידי המשתמש בתצורת עבודת הייצוא. כעת עם הנתונים החדשים שלנו באמזון S3, אנו יכולים לקבל תחזיות נזק באמצעות המודל הפרוס. ראשית, אנו קוראים את הנתונים לתוך הזיכרון ועורמים את התמונות לפני ואחרי האסון.

התוצאות של מסכת הפילוח לשיטפונות ברוצ'סטר מוצגות בתמונות הבאות. כאן אנו יכולים לראות שהמודל זיהה מיקומים בתוך האזור המוצף כנפגעים. שימו לב גם שהרזולוציה המרחבית של תמונת ההסקה שונה מנתוני האימון. הגדלת הרזולוציה המרחבית יכולה לעזור לביצועי המודל; עם זאת, זה פחות בעייתי עבור מודל SegFormer כמו עבור דגמים אחרים בשל ארכיטקטורת המודלים הרב-סקתיים.

הערכת נזק

סיכום

בפוסט זה הראינו כיצד לאמן, לפרוס ולחזות נזקים באסון טבע באמצעות SageMaker עם יכולות גיאו-מרחביות. השתמשנו ביכולות הגיאו-מרחביות החדשות של SageMaker כדי ליצור נתוני מסקנות חדשים כדי לבדוק את המודל. הקוד של פוסט זה נמצא בתהליך פרסום, והפוסט הזה יעודכן בקישורים לקוד ההדרכה, הפריסה וההסקה המלאים. יישום זה מאפשר למגיבים ראשונים, ממשלות וארגונים הומניטריים לייעל את תגובתם, תוך מתן מודעות למצב קריטי מיד לאחר אסון טבע. יישום זה הוא רק דוגמה אחת למה שאפשר עם כלי ML מודרניים כגון SageMaker.

נסה היום את היכולות הגאו-מרחביות של SageMaker באמצעות המודלים שלך; אנו מצפים לראות מה אתה בונה הלאה.

על הסופר

אהרון סנסטקן הוא ארכיטקט פתרונות מומחה למידת מכונה ב- Amazon Web Services. אהרון עובד בשיתוף פעולה הדוק עם לקוחות במגזר הציבורי מכל הגדלים כדי לפתח ולפרוס יישומי למידת מכונה לייצור. הוא מתעניין בכל הקשור ללימוד מכונה, טכנולוגיה וחקר החלל.