בשנים האחרונות, התקדמות בראייה ממוחשבת אפשרה לחוקרים, למגיבים ראשונים ולממשלות להתמודד עם הבעיה המאתגרת של עיבוד תמונות לוויין גלובליות כדי להבין את כוכב הלכת שלנו ואת ההשפעה שלנו עליו. AWS שוחרר לאחרונה יכולות גיאו-מרחביות של Amazon SageMaker לספק לך תמונות לוויין ומודלים של למידת מכונה (ML) מתקדמים בתחום הגיאו-מרחבי, תוך הפחתת מחסומים עבור מקרי שימוש מסוג זה. למידע נוסף, עיין ב תצוגה מקדימה: השתמש ב- Amazon SageMaker כדי לבנות, לאמן ולפרוס מודלים של ML באמצעות נתונים גיאו-מרחביים.
סוכנויות רבות, כולל מגיבים ראשונים, משתמשות בהצעות אלו כדי להשיג מודעות למצב בקנה מידה גדול ולתעדף מאמצי סיוע באזורים גיאוגרפיים שנפגעו מאסונות טבע. לעתים קרובות סוכנויות אלה מתמודדות עם תמונות אסונות מגובה נמוך וממקורות לוויינים, ולעתים קרובות נתונים אלה אינם מסומנים וקשים לשימוש. דגמי ראייה ממוחשבת מתקדמים לעתים קרובות אינם מתפקדים כשמסתכלים על תמונות לוויין של עיר שפגע בה הוריקן או שריפה. בהתחשב בהיעדר מערכי נתונים אלה, אפילו מודלים מתקדמים של ML אינם מסוגלים לעתים קרובות לספק את הדיוק והדיוק הנדרשים כדי לחזות סיווגים סטנדרטיים של אסונות FEMA.
מערכי נתונים גיאו-מרחביים מכילים מטא נתונים שימושיים כגון קואורדינטות קווי רוחב וקו אורך, וחותמות זמן, שיכולות לספק הקשר לתמונות אלו. זה מועיל במיוחד בשיפור הדיוק של ML גיאו-מרחבי עבור סצנות אסונות, מכיוון שתמונות אלו הן מבולגנות וכאוטיות מטבען. הבניינים פחות מלבניים, הצמחייה ספגה נזק, וכבישים קוויים נקטעו על ידי שיטפונות או מפולות בוץ. מכיוון שתווית מערכי הנתונים העצומים הללו היא יקרה, ידנית וגוזלת זמן, פיתוח מודלים של ML שיכולים להפוך את תיוג התמונות והביאורים לאוטומטיים הוא קריטי.
כדי לאמן את המודל הזה, אנחנו צריכים תת-קבוצה של אמת קרקע מסומנת של מערך נתונים של אסונות בגובה נמוך (LADI).. מערך נתונים זה מורכב מתמונות מוטסות עם הערות אנושיות ומכונה שנאספו על ידי הסיירת האווירית האזרחית לתמיכה בתגובות שונות לאסון בין השנים 2015-2019. מערכי נתונים אלה של LADI מתמקדים בעונות ההוריקנים האטלנטיים ובמדינות החוף לאורך האוקיינוס האטלנטי ומפרץ מקסיקו. שני הבדלים מרכזיים הם הגובה הנמוך, הפרספקטיבה האלכסונית של התמונות ומאפיינים הקשורים לאסון, שלעיתים רחוקות מופיעים במדדי ראייה ממוחשבת ובמערכי נתונים. הצוותים השתמשו בקטגוריות ה-FEMA הקיימות עבור נזקים כגון הצפה, פסולת, אש ועשן, או מפולות, אשר תקנו את קטגוריות התווית. לאחר מכן, הפתרון מסוגל לבצע תחזיות על שאר נתוני האימון, ולנתב תוצאות בעלות אמון נמוכה יותר לסקירה אנושית.
בפוסט זה, אנו מתארים את התכנון והיישום שלנו של הפתרון, שיטות עבודה מומלצות ומרכיבי המפתח של ארכיטקטורת המערכת.
סקירת פתרונות
בקצרה, הפתרון כלל בניית שלושה צינורות:
- צינור נתונים - מחלץ את המטא נתונים של התמונות
- צינור למידת מכונה - מיון ומתייג תמונות
- צינור ביקורת אנושי בלולאה - משתמש בצוות אנושי לבדיקת תוצאות
התרשים הבא ממחיש את ארכיטקטורת הפתרונות.
בהתחשב באופי של מערכת תיוג כמו זו, תכננו ארכיטקטורה ניתנת להרחבה אופקית שתטפל בקוצים בליעה ללא הקצאת יתר על ידי שימוש בארכיטקטורה ללא שרת. אנו משתמשים בתבנית של אחד לרבים מ שירות תורים פשוט של אמזון (Amazon SQS) ל AWS למבדה במספר נקודות כדי לתמוך בקוצי הבליעה הללו, מציע חוסן.
שימוש בתור SQS לעיבוד שירות אחסון פשוט של אמזון אירועי (Amazon S3) עוזרים לנו לשלוט במקביליות של עיבוד במורד הזרם (פונקציות למבדה, במקרה זה) ולטפל בשיאו של הנתונים הנכנסים. תור הודעות נכנסות פועל גם כאחסון חיץ במקרה של תקלות כלשהן במורד הזרם.
לאור הצרכים המקבילים ביותר, בחרנו בלמבדה לעבד את התמונות שלנו. Lambda הוא שירות מחשוב ללא שרתים המאפשר לנו להריץ קוד מבלי להקצות או לנהל שרתים, ליצור לוגיקת קנה מידה של אשכולות מודעים לעומס עבודה, לשמור על שילובי אירועים וניהול זמני ריצה.
אנו משתמשים שירות חיפוש פתוח של אמזון כמאגר הנתונים המרכזי שלנו כדי לנצל את היתרונות של החיפושים המהירים והמהירים שלו וכלי ההדמיה המשולב שלו, OpenSearch Dashboards. זה מאפשר לנו להוסיף באופן איטרטיבי הקשר לתמונה, בלי צורך להדר מחדש או לשנות קנה מידה, ולטפל בהתפתחות סכימה.
אמזון מקל להוסיף ניתוח תמונות ווידאו ליישומים שלנו, תוך שימוש בטכנולוגיית למידה עמוקה מוכחת, ניתנת להרחבה. עם Amazon Rekognition, אנו מקבלים קו בסיס טוב של אובייקטים שזוהו.
בסעיפים הבאים, אנו צוללים לתוך כל צינור ביתר פירוט.
צינור נתונים
התרשים הבא מציג את זרימת העבודה של צינור הנתונים.
צינור הנתונים של LADI מתחיל בהטמעה של תמונות נתונים גולמיים מה- FEMA Common Alerting Protocol (CAP) לתוך דלי S3. כאשר אנו בולעים את התמונות לתוך דלי הנתונים הגולמיים, הן מעובדות בזמן כמעט אמת בשני שלבים:
- דלי S3 מפעיל התראות על אירועים עבור כל יצירת האובייקטים, ויוצר הודעות בתור SQS עבור כל תמונה שנבלעת.
- תור SQS מפעיל במקביל את פונקציות ה-Lambda המעבדות מראש בתמונה.
פונקציות למבדה מבצעות את שלבי העיבוד המקדים הבאים:
- חשב את ה-UUID עבור כל תמונה, מתן מזהה ייחודי עבור כל תמונה. מזהה זה יזהה את התמונה במשך כל מחזור החיים שלה.
- חלץ מטא נתונים כגון קואורדינטות GPS, גודל תמונה, מידע GIS ומיקום S3 מהתמונה והעבר אותם ל-OpenSearch.
- בהתבסס על חיפוש מול קודי FIPS, הפונקציה מעבירה את התמונה לתוך דלי הנתונים שנאספו S3. אנו מחלקים את הנתונים לפי FIPS-State-code/FIPS-County-code/שנה/חודש של התמונה.
צינור למידת מכונה
צינור ML מתחיל מהתמונות שנחתות בדלי הנתונים שנאספו S3 בשלב צינור הנתונים, מה שמפעיל את השלבים הבאים:
- Amazon S3 מייצרת הודעה לתור SQS אחר עבור כל אובייקט שנוצר בדלי הנתונים האצורים S3.
- תור ה-SQS מפעיל במקביל את פונקציות Lambda כדי להפעיל את עבודת ההסקת ML על התמונה.
פונקציות למבדה מבצעות את הפעולות הבאות:
- שלח כל תמונה ל-Amazon Rekognition לזיהוי אובייקטים, אחסון התוויות שהוחזרו וציוני האמון בהתאמה.
- חבר את הפלט של Amazon Rekognition לפרמטרי קלט עבורנו אמזון SageMaker נקודת קצה מרובת דגמים. נקודת קצה זו מארחת את אנסמבל המסווגים שלנו, שהוכשרו לקבוצות ספציפיות של תוויות נזק.
- העבר את התוצאות של נקודת הקצה של SageMaker אל אמזון AI מוגדל (אמזון A2I).
התרשים הבא ממחיש את זרימת העבודה של הצינור.
צינור ביקורת אנושי בלולאה
התרשים הבא ממחיש את צינור האדם בלולאה (HIL).
עם Amazon A2I, אנו יכולים להגדיר ערכי סף שיפעילו סקירה אנושית על ידי צוות פרטי כאשר מודל מניב תחזית אמון נמוכה. אנחנו יכולים גם להשתמש באמזון A2I כדי לספק ביקורת מתמשכת של התחזיות של המודל שלנו. שלבי זרימת העבודה הם כדלקמן:
- Amazon A2I מנתבת תחזיות ביטחון גבוה לשירות OpenSearch, ומעדכנת את נתוני התווית של התמונה.
- Amazon A2I מנתב תחזיות ביטחון נמוך לצוות הפרטי כדי להוסיף הערות לתמונות באופן ידני.
- הסוקר האנושי משלים את ההערה, ויוצר קובץ פלט של הערות אנושיות המאוחסן בדלי HIL Output S3.
- דלי HIL Output S3 מפעיל פונקציית Lambda המנתחת את פלט ההערות האנושיות ומעדכנת את נתוני התמונה ב-OpenSearch Service.
על ידי ניתוב תוצאות ההערות האנושיות בחזרה למאגר הנתונים, נוכל לאמן מחדש את דגמי האנסמבל ולשפר באופן איטרטיבי את דיוק המודל.
עם התוצאות האיכותיות שלנו המאוחסנות כעת ב-OpenSearch Service, אנו מסוגלים לבצע חיפוש גיאו-מרחבי וזמני באמצעות REST API, באמצעות שער API של אמזון ו-Geoserver. OpenSearch Dashboard גם מאפשר למשתמשים לחפש ולהפעיל ניתוח נתונים עם מערך הנתונים הזה.
תוצאות
הקוד הבא מציג דוגמה לתוצאות שלנו.
עם צינור חדש זה, אנו יוצרים מעצור אנושי לדגמים שעדיין אינם בעלי ביצועים מלאים. צינור ML חדש זה הוכנס לייצור לשימוש עם א Microservice מסנן תמונה של סיור אוויר אזרחי המאפשר סינון של תמונות סיור אוויר אזרחי בפורטו ריקו. זה מאפשר למגיבים הראשונים לראות את היקף הנזק ולצפות בתמונות הקשורות לנזק זה בעקבות הוריקנים. מעבדת הנתונים של AWS, תוכנית הנתונים הפתוחים של AWS, צוות התגובה לאסון של אמזון וצוות האדם-בלולאה של AWS עבדו עם לקוחות כדי לפתח צינור קוד פתוח שניתן להשתמש בו לניתוח נתוני סיור אוויר אזרחי המאוחסנים ב-Open Data רישום תוכניות לפי דרישה בעקבות כל אסון טבע. למידע נוסף על ארכיטקטורת הצינור וסקירה כללית של שיתוף הפעולה וההשפעה, בדוק את הסרטון התמקדות בתגובת אסון עם Amazon Augmented AI, תוכנית ה-AWS Open Data ו-AWS Snowball.
סיכום
ככל ששינויי האקלים ממשיכים להגביר את התדירות והעוצמה של סופות ושריפות, אנו ממשיכים לראות את החשיבות של השימוש ב-ML כדי להבין את ההשפעה של אירועים אלו על קהילות מקומיות. הכלים החדשים הללו יכולים להאיץ את מאמצי התגובה לאסון ולאפשר לנו להשתמש בנתונים מניתוחים אלה לאחר אירוע כדי לשפר את דיוק הניבוי של מודלים אלה עם למידה פעילה. מודלים חדשים של ML יכולים להפוך את הערת הנתונים לאוטומטית, מה שמאפשר לנו להסיק את מידת הנזק מכל אחד מהאירועים הללו כאשר אנו מצפים תוויות נזק עם נתוני מפה. נתונים מצטברים אלה יכולים גם לעזור לשפר את היכולת שלנו לחזות נזקים לאירועי אסון עתידיים, מה שיכול להכריע באסטרטגיות הפחתה. זה בתורו יכול לשפר את החוסן של קהילות, כלכלות ומערכות אקולוגיות על ידי מתן מידע למקבלי החלטות שהם צריכים כדי לפתח מדיניות מונעת נתונים כדי להתמודד עם האיומים הסביבתיים המתעוררים הללו.
בפוסט זה בבלוג דנו בשימוש בראייה ממוחשבת בצילומי לוויין. פתרון זה נועד להיות ארכיטקטורת ייחוס או מדריך להתחלה מהירה שתוכל להתאים אישית לצרכים שלך.
תן לזה סיבוב וספר לנו איך זה פתר את מקרה השימוש שלך על ידי השארת משוב בקטע ההערות. למידע נוסף, ראה יכולות גיאו-מרחביות של Amazon SageMaker.
על הכותבים
ואמשי קרישנה אנבוטאלה הוא Sr. Applied AI Specialist Architect ב-AWS. הוא עובד עם לקוחות ממגזרים שונים כדי להאיץ יוזמות נתונים, ניתוחים ולמידת מכונה בעלי השפעה גבוהה. הוא נלהב ממערכות המלצות, NLP ותחומי ראייה ממוחשבת ב-AI ו-ML. מחוץ לעבודה, ואמשי הוא חובב RC, בונה ציוד RC (מטוסים, מכוניות ומזל"טים), וגם נהנה מגינון.
מורגן דאטון הוא מנהל בכיר בתוכנית טכנית בצוות Amazon Augmented AI ו- Amazon SageMaker Ground Truth. היא עובדת עם לקוחות ארגוניים, אקדמיים ומגזר הציבורי כדי להאיץ את האימוץ של למידת מכונה ושירותי ML במעגל האדם.
סנדיפ ורמה הוא אדריכל אב טיפוס האב עם AWS. הוא נהנה לצלול לעומק אתגרי הלקוחות ולבנות אבות טיפוס ללקוחות כדי להאיץ את החדשנות. יש לו רקע ב-AI/ML, מייסד New Knowledge, ובאופן כללי נלהב מטכנולוגיה. בזמנו הפנוי הוא אוהב לטייל ולעשות סקי עם משפחתו.
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- Platoblockchain. Web3 Metaverse Intelligence. ידע מוגבר. גישה כאן.
- מקור: https://aws.amazon.com/blogs/machine-learning/accelerate-disaster-response-with-computer-vision-for-satellite-imagery-using-amazon-sagemaker-and-amazon-augmented-ai/
- 100
- 7
- 98
- a
- יכולת
- יכול
- אודות
- אקדמי
- להאיץ
- דיוק
- פעולות
- פעיל
- מעשים
- כתובת
- אימוץ
- התקדמות
- יתרון
- נגד
- סוכנויות
- AI
- AI / ML
- AIR
- תעשיות
- מאפשר
- אמזון בעברית
- אמזון AI מוגדל
- אמזון
- אמזון SageMaker
- האמת של אמזון SageMaker
- מנתח
- אנליזה
- ניתוח
- לנתח
- ו
- אחר
- API
- יישומים
- יישומית
- יישום AI
- ארכיטקטורה
- אזורים
- המשויך
- בדיקה
- מוגבר
- אוטומטי
- מודעות
- AWS
- בחזרה
- רקע
- גבעה
- מחסומים
- Baseline
- כי
- מבחני ביצועים
- הטוב ביותר
- שיטות עבודה מומלצות
- בלוג
- חיץ
- לִבנוֹת
- בִּניָן
- כּוֹבַע
- מכוניות
- מקרה
- מקרים
- קטגוריות
- מֶרכָּזִי
- האתגרים
- אתגר
- שינוי
- לבדוק
- בחר
- עִיר
- אַקלִים
- שינוי אקלים
- אשכול
- קוד
- שיתוף פעולה
- הערות
- Common
- הקהילות
- הושלם
- רכיבים
- לחשב
- המחשב
- ראייה ממוחשבת
- אמון
- להכיל
- הקשר
- להמשיך
- ממשיך
- לִשְׁלוֹט
- לִיצוֹר
- נוצר
- יוצרים
- יצירות
- קריטי
- אוצר
- לקוח
- לקוחות
- אישית
- לוח מחוונים
- נתונים
- נתונים מונחים
- מערכי נתונים
- התמודדות
- מקבלי החלטות
- עמוק
- למידה עמוקה
- למסור
- דרישה
- לפרוס
- לתאר
- עיצוב
- מעוצב
- פרט
- זוהה
- איתור
- לפתח
- צעצועי התפתחות
- אחר
- קשה
- אסון
- אסונות
- נָדוֹן
- מזל"ט
- כל אחד
- כלכלות
- מערכות אקולוגיות
- מַאֲמָצִים
- מתעורר
- מופעל
- מאפשר
- נקודת קצה
- מִפְעָל
- נלהב
- שלם
- סביבתי
- ציוד
- במיוחד
- אֲפִילוּ
- אירוע
- אירועים
- אבולוציה
- דוגמה
- קיימים
- יקר
- תמציות
- משפחה
- מהר
- מומלצים
- תכונות
- מָשׁוֹב
- שלח
- לסנן
- סינון
- אש
- ראשון
- להתמקד
- הבא
- כדלקמן
- מייסד
- חופשי
- תדר
- החל מ-
- לגמרי
- פונקציה
- פונקציות
- עתיד
- לְהַשִׂיג
- בדרך כלל
- מייצר
- יצירת
- גיאוגרפי
- ML גיאו-מרחבי
- לקבל
- נתן
- נתינה
- גלוֹבָּלִי
- טוב
- ממשלות
- GPS
- קרקע
- מדריך
- לטפל
- יש
- לעזור
- מועיל
- עוזר
- גָבוֹהַ
- באיכות גבוהה
- מאוד
- מכה
- מארחים
- איך
- HTML
- HTTPS
- בן אנוש
- הוריקן
- ID
- מזהה
- לזהות
- תמונה
- תמונות
- פְּגִיעָה
- הפעלה
- חשיבות
- לשפר
- שיפור
- in
- כולל
- נכנס
- להגדיל
- מידע
- יוזמות
- חדשנות
- קלט
- משולב
- ואינטגרציות
- נקטע
- מעורר
- מעורב
- IT
- עבודה
- מפתח
- לדעת
- ידע
- מעבדה
- תווית
- תיוג
- תוויות
- חוסר
- נחיתה
- בקנה מידה גדול
- למידה
- עזיבה
- מאפשר לי
- מעגל החיים
- מקומי
- מיקום
- הסתכלות
- בדיקה
- נמוך
- מכונה
- למידת מכונה
- שמירה
- לעשות
- עושה
- מנהל
- ניהול
- מדריך ל
- באופן ידני
- מַפָּה
- מפות
- מסיבי
- הודעה
- הודעות
- מידע נוסף
- MEXICO
- הֲקָלָה
- ML
- מודל
- מודלים
- יותר
- מהלכים
- נקודת קצה מרובת דגמים
- מספר
- טבעי
- טבע
- צורך
- צרכי
- חדש
- NLP
- הודעות
- אובייקט
- זיהוי אובייקט
- אובייקטים
- ים
- הצעות
- מתמשך
- לפתוח
- נתונים פתוחים
- קוד פתוח
- בחוץ
- סקירה
- שֶׁלוֹ
- מקביל
- פרמטרים
- לוהט
- תבנית
- לְבַצֵעַ
- פרספקטיבה
- צינור
- כוכב לכת
- אפלטון
- מודיעין אפלטון
- אפלטון נתונים
- הודעה
- פרקטיקות
- דיוק
- לחזות
- נבואה
- התחזיות
- תיעדוף
- פְּרָטִי
- בעיה
- תהליך
- מעובד
- תהליך
- הפקה
- תָכְנִית
- פרוטוקול
- טיפוס
- prototyping
- מוכח
- לספק
- מתן
- ציבורי
- פורטו
- פוארטו ריקו
- גם
- מָהִיר
- חי
- לאחרונה
- לאחרונה
- המלצה
- הפחתה
- רישום
- שוחרר
- הקלה
- נדרש
- חוקרים
- כושר התאוששות
- אלה
- תגובה
- REST
- תוצאות
- סקירה
- RICO
- מסלול
- נתיבים
- הפעלה
- בעל חכמים
- הלוויין
- להרחבה
- דרוג
- סצנות
- חיפוש
- עונות
- סעיף
- סעיפים
- מגזר
- מגזרים
- לחצני מצוקה לפנסיונרים
- ללא שרת
- שרתים
- שרות
- שירותים
- סטים
- הופעות
- פָּשׁוּט
- מידה
- עשן
- תמונת בזק
- פִּתָרוֹן
- מקורות
- מומחה
- ספציפי
- קוצים
- תֶקֶן
- התחלה
- התחלות
- מדינה-of-the-art
- הברית
- שלב
- צעדים
- אחסון
- חנות
- מאוחסן
- סופות
- אסטרטגיות
- כזה
- תמיכה
- מערכת
- מערכות
- לקחת
- נבחרת
- צוותי
- טק
- טכני
- טכנולוגיה
- השמיים
- המידע
- איומים
- שְׁלוֹשָׁה
- זמן
- דורש זמן רב
- ל
- כלי
- כלים
- רכבת
- מְאוּמָן
- הדרכה
- נסיעה
- להפעיל
- תור
- סוגים
- להבין
- ייחודי
- עדכונים
- עדכון
- us
- להשתמש
- במקרה להשתמש
- משתמשים
- שונים
- באמצעות
- וִידֵאוֹ
- לצפיה
- חזון
- ראיה
- אשר
- יצטרך
- לְלֹא
- תיק עבודות
- עבד
- עובד
- היה
- שנים
- תשואות
- אתה
- YouTube
- זפירנט