การประเมินความเสียหายโดยใช้ความสามารถเชิงพื้นที่ของ Amazon SageMaker และโมเดล SageMaker แบบกำหนดเอง

ในโพสต์นี้ เราจะแสดงวิธีการฝึก ปรับใช้ และคาดการณ์ความเสียหายจากภัยธรรมชาติด้วย Amazon SageMaker พร้อมความสามารถเชิงพื้นที่. เราใช้ความสามารถเชิงพื้นที่ใหม่ของ SageMaker เพื่อสร้างข้อมูลอนุมานใหม่เพื่อทดสอบแบบจำลอง รัฐบาลและองค์กรด้านมนุษยธรรมหลายแห่งต้องการการรับรู้สถานการณ์ที่รวดเร็วและแม่นยำเมื่อเกิดภัยพิบัติ การทราบความรุนแรง สาเหตุ และตำแหน่งของความเสียหายสามารถช่วยในกลยุทธ์การตอบสนองและการตัดสินใจของผู้เผชิญเหตุคนแรก การขาดข้อมูลที่ถูกต้องและทันท่วงทีสามารถนำไปสู่การบรรเทาทุกข์ที่ไม่สมบูรณ์หรือผิดพลาดได้

เนื่องจากความถี่และความรุนแรงของภัยพิบัติทางธรรมชาติเพิ่มขึ้น สิ่งสำคัญคือเราต้องจัดเตรียมการประเมินความเสียหายที่รวดเร็วและแม่นยำให้กับผู้มีอำนาจตัดสินใจและผู้เผชิญเหตุเบื้องต้น ในตัวอย่างนี้ เราใช้ภาพถ่ายเชิงพื้นที่เพื่อคาดการณ์ความเสียหายจากภัยธรรมชาติ ข้อมูลเชิงพื้นที่สามารถนำมาใช้ในทันทีหลังจากเกิดภัยพิบัติทางธรรมชาติเพื่อระบุความเสียหายอย่างรวดเร็วต่ออาคาร ถนน หรือโครงสร้างพื้นฐานที่สำคัญอื่นๆ ในโพสต์นี้ เราจะแสดงวิธีฝึกและปรับใช้แบบจำลองการแบ่งส่วนเชิงพื้นที่เพื่อใช้สำหรับการจำแนกความเสียหายจากภัยพิบัติ เราแบ่งแอปพลิเคชันออกเป็น XNUMX หัวข้อ ได้แก่ การฝึกอบรมแบบจำลอง การปรับใช้แบบจำลอง และการอนุมาน

การฝึกโมเดล

ในกรณีการใช้งานนี้ เราสร้างโมเดล PyTorch แบบกำหนดเองโดยใช้ อเมซอน SageMaker สำหรับการแบ่งภาพความเสียหายของอาคาร ความสามารถเชิงพื้นที่ใน SageMaker รวมถึงโมเดลที่ผ่านการฝึกอบรมเพื่อให้คุณนำไปใช้ได้ โมเดลในตัวเหล่านี้รวมถึงการแบ่งส่วนและการลบเมฆ และการแบ่งส่วนสิ่งปกคลุมดิน สำหรับโพสต์นี้ เราฝึกโมเดลแบบกำหนดเองสำหรับการแบ่งส่วนความเสียหาย ก่อนอื่น เราฝึกโมเดล SegFormer จากข้อมูลจากการแข่งขัน xView2 SegFormer เป็นสถาปัตยกรรมที่ใช้ Transformer ซึ่งเปิดตัวในรายงานประจำปี 2021 SegFormer: การออกแบบที่เรียบง่ายและมีประสิทธิภาพสำหรับการแบ่งส่วนความหมายด้วย Transformers. มันขึ้นอยู่กับสถาปัตยกรรมของหม้อแปลงที่เป็นที่นิยมมากกับปริมาณงานการประมวลผลภาษาธรรมชาติ อย่างไรก็ตาม สถาปัตยกรรม SegFormer ถูกสร้างขึ้นสำหรับการแบ่งกลุ่มความหมาย มันรวมทั้งตัวเข้ารหัสที่ใช้หม้อแปลงและตัวถอดรหัสที่มีน้ำหนักเบา ซึ่งช่วยให้ได้ประสิทธิภาพที่ดีกว่าวิธีก่อนหน้า ในขณะที่ให้ขนาดโมเดลที่เล็กกว่าวิธีก่อนหน้าอย่างมาก ทั้งโมเดล SegFormer ที่ผ่านการฝึกอบรมมาแล้วและไม่ได้รับการฝึกฝนมีให้บริการจากห้องสมุด Hugging Face Transformer ยอดนิยม สำหรับกรณีการใช้งานนี้ เราดาวน์โหลดสถาปัตยกรรม SegFormer ที่ฝึกไว้ล่วงหน้าและฝึกบนชุดข้อมูลใหม่

ชุดข้อมูลที่ใช้ในตัวอย่างนี้มาจาก การแข่งขันวิทยาศาสตร์ข้อมูล xView2. การแข่งขันครั้งนี้เปิดตัว ชุดข้อมูล xBDซึ่งเป็นหนึ่งในชุดข้อมูลภาพถ่ายดาวเทียมความละเอียดสูงที่เผยแพร่ต่อสาธารณะและมีคุณภาพสูงสุดชุดหนึ่ง โดยมีคำอธิบายประกอบพร้อมตำแหน่งอาคารและคะแนนความเสียหาย (ระดับ) ก่อนและหลังเกิดภัยพิบัติทางธรรมชาติ ชุดข้อมูลประกอบด้วยข้อมูลจาก 15 ประเทศ รวมถึงภัยพิบัติ 6 ประเภท (แผ่นดินไหว/สึนามิ น้ำท่วม ภูเขาไฟระเบิด ไฟป่า ลม) พร้อมข้อมูลเชิงพื้นที่ที่มีคำอธิบายประกอบอาคาร 850,736 รายการทั่วพื้นที่ 45,362 กม.^2 ของภาพ รูปภาพต่อไปนี้แสดงตัวอย่างชุดข้อมูล ภาพนี้แสดงภาพหลังภัยพิบัติโดยมีหน้ากากแบ่งส่วนความเสียหายของอาคารซ้อนทับ แต่ละภาพประกอบด้วยสิ่งต่อไปนี้: ภาพถ่ายดาวเทียมก่อนเกิดภัยพิบัติ, มาสก์แบ่งส่วนอาคารก่อนเกิดภัยพิบัติ, ภาพถ่ายดาวเทียมหลังเกิดภัยพิบัติ และมาสก์แบ่งส่วนอาคารหลังเกิดภัยพิบัติพร้อมระดับความเสียหาย

ในตัวอย่างนี้ เราใช้เฉพาะภาพก่อนและหลังเกิดภัยพิบัติเพื่อทำนายการจัดประเภทความเสียหายหลังเกิดภัยพิบัติ (มาสก์การแบ่งส่วน) เราไม่ใช้มาสก์การแบ่งส่วนอาคารก่อนเกิดภัยพิบัติ วิธีนี้ถูกเลือกเพื่อความเรียบง่าย มีตัวเลือกอื่นสำหรับการเข้าถึงชุดข้อมูลนี้ แนวทางที่ชนะจำนวนหนึ่งสำหรับการแข่งขัน xView2 ใช้วิธีแก้ปัญหาสองขั้นตอน: ขั้นแรก ทำนายมาสก์การแบ่งส่วนโครงร่างอาคารก่อนเกิดภัยพิบัติ จากนั้นโครงร่างอาคารและภาพหลังความเสียหายจะถูกใช้เป็นข้อมูลสำหรับการทำนายการจำแนกประเภทความเสียหาย เราฝากสิ่งนี้ไว้กับผู้อ่านเพื่อสำรวจวิธีการสร้างแบบจำลองอื่นๆ เพื่อปรับปรุงประสิทธิภาพการจำแนกประเภทและการตรวจจับ

สถาปัตยกรรม SegFormer ที่ฝึกไว้ล่วงหน้าถูกสร้างขึ้นเพื่อยอมรับภาพช่องสัญญาณสามสีเดียวเป็นอินพุตและเอาต์พุตของมาสก์การแบ่งส่วน มีหลายวิธีที่เราสามารถปรับเปลี่ยนโมเดลให้ยอมรับทั้งภาพก่อนและหลังดาวเทียมเป็นข้อมูลเข้า อย่างไรก็ตาม เราใช้เทคนิคการซ้อนง่ายๆ เพื่อซ้อนภาพทั้งสองเข้าด้วยกันเป็นภาพช่องหกสี เราฝึกฝนแบบจำลองโดยใช้เทคนิคการเสริมมาตรฐานในชุดข้อมูลการฝึกอบรม xView2 เพื่อทำนายมาสก์การแบ่งส่วนหลังเกิดภัยพิบัติ โปรดทราบว่าเราได้ปรับขนาดรูปภาพที่ป้อนทั้งหมดจาก 1024 เป็น 512 พิกเซล นี่คือการลดความละเอียดเชิงพื้นที่ของข้อมูลการฝึกอบรม โมเดลได้รับการฝึกฝนด้วย SageMaker โดยใช้อินสแตนซ์เดียวที่ใช้ GPU p3.2xlarge ตัวอย่างของเอาต์พุตโมเดลที่ผ่านการฝึกอบรมจะแสดงในรูปต่อไปนี้ ภาพชุดแรกเป็นภาพก่อนและหลังความเสียหายจากชุดตรวจสอบความถูกต้อง

ตัวเลขต่อไปนี้แสดงมาสก์ความเสียหายที่คาดการณ์และมาสก์ความเสียหายตามความจริง

เมื่อมองแวบแรก ดูเหมือนว่าโมเดลจะทำงานได้ไม่ดีนักเมื่อเทียบกับข้อมูลความจริงพื้นฐาน อาคารหลายแห่งจัดประเภทไม่ถูกต้อง ทำให้สับสนระหว่างความเสียหายเล็กน้อยกับไม่มีความเสียหาย และแสดงการจำแนกหลายประเภทสำหรับโครงร่างอาคารเดียว อย่างไรก็ตาม การค้นพบที่น่าสนใจอย่างหนึ่งเมื่อตรวจสอบประสิทธิภาพของโมเดลก็คือ ดูเหมือนว่าจะได้เรียนรู้การจำแนกประเภทความเสียหายของอาคาร แต่ละอาคารสามารถแบ่งออกเป็น No Damage, Minor Damage, Major Damage,หรือ Destroyed. หน้ากากความเสียหายที่คาดการณ์ไว้แสดงให้เห็นว่าแบบจำลองได้จำแนกอาคารขนาดใหญ่ที่อยู่ตรงกลางออกเป็นส่วนใหญ่ No Damageแต่มุมขวาบนจัดเป็น Destroyed. การแปลความเสียหายของอาคารย่อยนี้สามารถช่วยเหลือผู้เผชิญเหตุเพิ่มเติมโดยแสดงความเสียหายที่แปลเป็นภาษาท้องถิ่นต่ออาคาร

การปรับใช้โมเดล

แบบจำลองที่ผ่านการฝึกอบรมถูกนำไปใช้กับจุดสิ้นสุดการอนุมาน SageMaker แบบอะซิงโครนัส โปรดทราบว่าเราเลือกจุดสิ้นสุดแบบอะซิงโครนัสเพื่อให้มีเวลาอนุมานนานขึ้น ขนาดอินพุตเพย์โหลดที่ใหญ่ขึ้น และความสามารถในการปรับขนาดจุดสิ้นสุดให้เหลือศูนย์อินสแตนซ์ (ไม่มีค่าใช้จ่าย) เมื่อไม่ได้ใช้งาน รูปต่อไปนี้แสดงรหัสระดับสูงสำหรับการปรับใช้ปลายทางแบบอะซิงโครนัส ก่อนอื่น เราบีบอัดพจนานุกรมสถานะ PyTorch ที่บันทึกไว้ และอัปโหลดอาร์ติแฟกต์แบบจำลองที่บีบอัดไปที่ บริการจัดเก็บข้อมูลอย่างง่ายของ Amazon (อเมซอน S3). เราสร้างโมเดล SageMaker PyTorch ที่ชี้ไปที่โค้ดอนุมานและสิ่งประดิษฐ์โมเดลของเรา ต้องใช้รหัสอนุมานเพื่อโหลดและให้บริการโมเดลของเรา สำหรับรายละเอียดเพิ่มเติมเกี่ยวกับโค้ดการอนุมานแบบกำหนดเองที่จำเป็นสำหรับโมเดล SageMaker PyTorch โปรดดูที่ ใช้ PyTorch กับ SageMaker Python SDK.

รูปภาพต่อไปนี้แสดงโค้ดสำหรับนโยบายการปรับขยายอัตโนมัติสำหรับจุดสิ้นสุดการอนุมานแบบอะซิงโครนัส

โปรดทราบว่ามีตัวเลือกปลายทางอื่นๆ เช่น เรียลไทม์ ชุด และไร้เซิร์ฟเวอร์ ที่สามารถใช้กับแอปพลิเคชันของคุณได้ คุณจะต้องเลือกตัวเลือกที่เหมาะสมที่สุดสำหรับกรณีการใช้งานและจำไว้ ผู้แนะนำการอนุมานของ Amazon SageMaker พร้อมที่จะช่วยแนะนำการกำหนดค่าปลายทางการเรียนรู้ของเครื่อง (ML)

การอนุมานแบบจำลอง

เมื่อใช้โมเดลที่ผ่านการฝึกอบรมแล้ว เราสามารถใช้ ความสามารถเชิงพื้นที่ของ SageMaker เพื่อรวบรวมข้อมูลสำหรับการอนุมาน ด้วยความสามารถเชิงพื้นที่ของ SageMaker ทำให้มีโมเดลในตัวหลายรุ่นพร้อมใช้งานทันที ในตัวอย่างนี้ เราใช้การซ้อนแถบสำหรับการซ้อนช่องสีแดง สีเขียว และสีน้ำเงินสำหรับงานสังเกตการณ์โลกของเรา งานรวบรวมข้อมูลจากชุดข้อมูล Sentinel-2 ในการกำหนดค่างานสังเกตการณ์บนพื้นโลก ก่อนอื่นเราต้องมีพิกัดของตำแหน่งที่สนใจ ประการที่สอง เราต้องการช่วงเวลาของการสังเกต ด้วยเหตุนี้ เราจึงสามารถส่งงานสังเกตการณ์พื้นโลกโดยใช้คุณลักษณะการซ้อนได้ ที่นี่เราวางแถบสีแดง สีเขียว และสีน้ำเงินซ้อนกันเพื่อสร้างภาพสี รูปต่อไปนี้แสดงการกำหนดค่างานที่ใช้เพื่อสร้างข้อมูลจากน้ำท่วมในเมืองโรเชสเตอร์ ประเทศออสเตรเลีย ในช่วงกลางเดือนตุลาคม 2022 เราใช้รูปภาพก่อนและหลังเกิดภัยพิบัติเป็นอินพุตสำหรับโมเดล ML ที่ผ่านการฝึกอบรมของเรา

หลังจากกำหนดค่างานแล้ว เราสามารถส่งงานได้ เมื่องานเสร็จสิ้น เราจะส่งออกผลลัพธ์ไปยัง Amazon S3 โปรดทราบว่าเราสามารถส่งออกผลลัพธ์ได้หลังจากงานเสร็จสิ้นเท่านั้น ผลลัพธ์ของงานสามารถส่งออกไปยังตำแหน่ง Amazon S3 ที่ระบุโดยผู้ใช้ในการกำหนดค่างานส่งออก ด้วยข้อมูลใหม่ของเราใน Amazon S3 เราสามารถรับการคาดการณ์ความเสียหายโดยใช้โมเดลที่ปรับใช้ ก่อนอื่นเราจะอ่านข้อมูลลงในหน่วยความจำและรวมภาพก่อนและหลังภัยพิบัติเข้าด้วยกัน

ผลลัพธ์ของการแบ่งส่วนมาสก์สำหรับน้ำท่วมโรเชสเตอร์แสดงในรูปภาพต่อไปนี้ ที่นี่เราจะเห็นว่าแบบจำลองได้ระบุตำแหน่งภายในพื้นที่น้ำท่วมว่าน่าจะได้รับความเสียหาย โปรดทราบว่าความละเอียดเชิงพื้นที่ของภาพอนุมานนั้นแตกต่างจากข้อมูลการฝึกอบรม การเพิ่มความละเอียดเชิงพื้นที่สามารถช่วยให้ประสิทธิภาพของแบบจำลอง อย่างไรก็ตาม นี่เป็นปัญหาน้อยกว่าสำหรับโมเดล SegFormer เช่นเดียวกับโมเดลอื่นๆ เนื่องจากสถาปัตยกรรมโมเดลหลายสเกล

การประเมินความเสียหาย

สรุป

ในโพสต์นี้ เราได้แสดงวิธีการฝึกอบรม ปรับใช้ และคาดการณ์ความเสียหายจากภัยธรรมชาติด้วย SageMaker ที่มีความสามารถเชิงพื้นที่. เราใช้ความสามารถเชิงพื้นที่ใหม่ของ SageMaker เพื่อสร้างข้อมูลอนุมานใหม่เพื่อทดสอบแบบจำลอง รหัสสำหรับโพสต์นี้อยู่ในขั้นตอนการเผยแพร่ และโพสต์นี้จะได้รับการอัปเดตพร้อมลิงก์ไปยังการฝึกอบรม การปรับใช้ และรหัสการอนุมานฉบับเต็ม แอปพลิเคชันนี้ช่วยให้เจ้าหน้าที่เผชิญเหตุเบื้องต้น รัฐบาล และองค์กรด้านมนุษยธรรมสามารถเพิ่มประสิทธิภาพการตอบสนองของพวกเขา โดยให้ความตระหนักในสถานการณ์ที่สำคัญในทันทีหลังจากเกิดภัยพิบัติทางธรรมชาติ แอปพลิเคชันนี้เป็นเพียงตัวอย่างหนึ่งของสิ่งที่เป็นไปได้ด้วยเครื่องมือ ML สมัยใหม่ เช่น SageMaker

ลองใช้ความสามารถเชิงพื้นที่ของ SageMaker วันนี้โดยใช้แบบจำลองของคุณเอง เราหวังว่าจะได้เห็นสิ่งที่คุณสร้างต่อไป

เกี่ยวกับผู้เขียน

แอรอน เซ็งสแต็คเค่น เป็นสถาปนิกโซลูชันผู้เชี่ยวชาญด้านการเรียนรู้ของเครื่องที่ Amazon Web Services แอรอนทำงานอย่างใกล้ชิดกับลูกค้าภาครัฐทุกขนาดเพื่อพัฒนาและปรับใช้แอปพลิเคชันแมชชีนเลิร์นนิงสำหรับการผลิต เขาสนใจในทุกเรื่องของแมชชีนเลิร์นนิง เทคโนโลยี และการสำรวจอวกาศ