Amazon SageMaker jeo-uzamsal yeteneklerini ve özel SageMaker modellerini kullanarak hasar değerlendirmesi

Bu yazıda, doğal afet hasarının nasıl eğitileceğini, devreye alınacağını ve tahmin edileceğini gösteriyoruz. Jeo-uzamsal yeteneklere sahip Amazon SageMaker. Modeli test etmek için yeni çıkarım verileri oluşturmak için yeni SageMaker jeo-uzamsal yeteneklerini kullanıyoruz. Birçok hükümet ve insani yardım kuruluşu, bir felaket meydana geldiğinde hızlı ve doğru durumsal farkındalığa ihtiyaç duyar. Hasarın ciddiyetini, nedenini ve yerini bilmek, ilk müdahaleyi yapanın müdahale stratejisine ve karar vermesine yardımcı olabilir. Doğru ve zamanında bilgi eksikliği, eksik veya yanlış yönlendirilmiş bir yardım çabasına katkıda bulunabilir.

Doğal afetlerin sıklığı ve şiddeti arttıkça, karar vericileri ve ilk müdahale ekiplerini hızlı ve doğru hasar tespiti ile donatmamız önemlidir. Bu örnekte, doğal afet hasarını tahmin etmek için jeo-uzamsal görüntüleri kullanıyoruz. Jeo-uzamsal veriler, bir doğal afetin hemen ardından binalara, yollara veya diğer kritik altyapıya verilen hasarı hızlı bir şekilde belirlemek için kullanılabilir. Bu gönderide, size afet hasarı sınıflandırması için kullanılacak bir jeo-uzamsal segmentasyon modelini nasıl eğiteceğinizi ve uygulayacağınızı gösteriyoruz. Uygulamayı üç başlığa ayırdık: model eğitimi, model dağıtımı ve çıkarım.

Model eğitimi

Bu kullanım durumunda, kullanarak özel bir PyTorch modeli oluşturduk. Amazon Adaçayı Yapıcı bina hasarının görüntü segmentasyonu için. SageMaker'daki jeo-uzamsal yetenekler, kullanmanız için eğitilmiş modeller içerir. Bu yerleşik modeller, bulut bölümleme ve kaldırma ile arazi örtüsü bölümlemeyi içerir. Bu yazı için, hasar segmentasyonu için özel bir model eğitiyoruz. SegFormer modelini ilk olarak xView2 yarışmasındaki veriler üzerinde eğittik. SegFormer, 2021 raporunda tanıtılan trafo tabanlı bir mimaridir. SegFormer: Transformers ile Semantik Segmentasyon için Basit ve Verimli Tasarım. Doğal dil işleme iş yükleri arasında oldukça popüler olan dönüştürücü mimarilerine dayalıdır; ancak, SegFormer mimarisi anlamsal bölümleme için oluşturulmuştur. Hem trafo tabanlı kodlayıcıyı hem de hafif bir kod çözücüyü birleştirir. Bu, önceki yöntemlerden önemli ölçüde daha küçük model boyutları sağlarken, önceki yöntemlerden daha iyi performans sağlar. Hem önceden eğitilmiş hem de eğitilmemiş SegFormer modelleri, popüler Hugging Face dönüştürücü kitaplığından edinilebilir. Bu kullanım durumu için, önceden eğitilmiş bir SegFormer mimarisi indirir ve onu yeni bir veri kümesi üzerinde eğitiriz.

Bu örnekte kullanılan veri kümesi, xView2 veri bilimi yarışması. Bu yarışma piyasaya xBD veri kümesi, doğal afetlerden önce ve sonra bina konumu ve hasar puanları (sınıfları) ile açıklamalı yüksek çözünürlüklü uydu görüntülerinin halka açık en büyük ve en kaliteli veri kümelerinden biri. Veri seti, 15 tür felaket (deprem/tsunami, sel, volkanik patlama, orman yangını, rüzgar) dahil olmak üzere 6 ülkeden verileri ve 850,736 km^45,362 görüntüde 2 bina ek açıklamasını içeren jeo-uzamsal verileri içerir. Aşağıdaki resimde veri kümesinin bir örneği gösterilmektedir. Bu görüntü, üzerine bindirilmiş bina hasarı segmentasyon maskesi ile afet sonrası görüntüyü gösterir. Her görüntü aşağıdakileri içerir: afet öncesi uydu görüntüsü, afet öncesi bina segmentasyon maskesi, afet sonrası uydu görüntüsü ve hasar sınıfları ile afet sonrası bina segmentasyon maskesi.

Bu örnekte, afet sonrası hasar sınıflandırmasını (segmentasyon maskesi) tahmin etmek için yalnızca afet öncesi ve sonrası görüntüleri kullanıyoruz. Afet öncesi bina segmentasyon maskelerini kullanmıyoruz. Bu yaklaşım basitlik için seçilmiştir. Bu veri kümesine yaklaşmak için başka seçenekler de var. xView2 yarışması için kazanan yaklaşımlardan bazıları iki adımlı bir çözüm kullandı: ilk olarak, afet öncesi yapı taslağı segmentasyon maskesini tahmin edin. Bina ana hatları ve hasar sonrası görüntüler daha sonra hasar sınıflandırmasını tahmin etmek için girdi olarak kullanılır. Sınıflandırma ve algılama performansını iyileştirmek için diğer modelleme yaklaşımlarını keşfetmeyi okuyucuya bırakıyoruz.

Önceden eğitilmiş SegFormer mimarisi, tek bir üç renkli kanal görüntüsünü giriş olarak kabul edecek şekilde oluşturulmuştur ve bir segmentasyon maskesi çıkarır. Modeli hem uydu öncesi hem de uydu sonrası görüntüleri girdi olarak kabul edecek şekilde değiştirmemizin birkaç yolu vardır, ancak her iki görüntüyü de altı renkli bir kanal görüntüsünde bir araya getirmek için basit bir istifleme tekniği kullandık. Afet sonrası segmentasyon maskesini tahmin etmek için xView2 eğitim veri setinde standart büyütme teknikleri kullanarak modeli eğittik. Tüm giriş görüntülerini 1024'ten 512 piksele yeniden boyutlandırdığımızı unutmayın. Bu, eğitim verilerinin uzamsal çözünürlüğünü daha da azaltmak içindi. Model, tek bir p3.2xlarge GPU tabanlı örnek kullanılarak SageMaker ile eğitildi. Eğitilmiş model çıktısının bir örneği aşağıdaki şekillerde gösterilmektedir. İlk görüntü grubu, doğrulama kümesinden hasar öncesi ve sonrası görüntülerdir.

Aşağıdaki şekiller tahmini hasar maskesini ve gerçek hasar maskesini göstermektedir.

İlk bakışta, modelin yer gerçeği verileriyle karşılaştırıldığında iyi performans göstermediği görülüyor. Binaların birçoğu yanlış bir şekilde sınıflandırılmıştır, bu da küçük hasarları hasarsızlıkla karıştırır ve tek bir bina taslağı için birden fazla sınıflandırma gösterir. Bununla birlikte, model performansını incelerken ilginç bir bulgu, bina hasar sınıflandırmasını yerelleştirmeyi öğrenmiş gibi görünmesidir. Her bina sınıflandırılabilir No Damage, Minor Damage, Major Damageya da Destroyed. Öngörülen hasar maskesi, modelin ortadaki büyük binayı çoğunlukla No Damage, ancak sağ üst köşe şu şekilde sınıflandırılır: Destroyed. Bu alt bina hasarı yerelleştirmesi, bina başına yerelleştirilmiş hasarı göstererek müdahale ekiplerine daha fazla yardımcı olabilir.

Model dağıtımı

Eğitilen model daha sonra eşzamansız bir SageMaker çıkarım uç noktasına konuşlandırıldı. Daha uzun çıkarım sürelerine, daha büyük veri yükü giriş boyutlarına ve uç noktayı kullanılmadığında sıfır örneğe (ücretsiz) ölçeklendirme olanağı sağlamak için eşzamansız bir uç nokta seçtiğimizi unutmayın. Aşağıdaki şekilde, eşzamansız uç nokta dağıtımı için üst düzey kod gösterilmektedir. Önce kaydedilen PyTorch durum sözlüğünü sıkıştırıyoruz ve sıkıştırılmış model yapıtlarını şuraya yüklüyoruz: Amazon Basit Depolama Hizmeti (Amazon S3). Çıkarım kodumuza ve model yapılarımıza işaret eden bir SageMaker PyTorch modeli oluşturuyoruz. Çıkarım kodu, modelimizi yüklemek ve sunmak için gereklidir. Bir SageMaker PyTorch modeli için gereken özel çıkarım kodu hakkında daha fazla ayrıntı için bkz. PyTorch'u SageMaker Python SDK ile kullanın.

Aşağıdaki şekil, eşzamansız çıkarım uç noktası için otomatik ölçeklendirme ilkesinin kodunu gösterir.

Uygulamanız için kullanılabilecek gerçek zamanlı, toplu ve sunucusuz gibi başka uç nokta seçenekleri olduğunu unutmayın. Kullanım durumu için en uygun seçeneği seçmek ve bunu hatırlamak isteyeceksiniz. Amazon SageMaker Çıkarım Öneri Aracı makine öğrenimi (ML) uç nokta yapılandırmaları önermeye yardımcı olmak için kullanılabilir.

model çıkarımı

Dağıtılan eğitimli model ile artık kullanabiliriz SageMaker jeo-uzamsal yetenekleri çıkarım için veri toplamak. SageMaker jeo-uzamsal yetenekleriyle, birkaç yerleşik model kutudan çıkar çıkmaz kullanılabilir. Bu örnekte, dünya gözlemi işimiz için kırmızı, yeşil ve mavi renk kanallarını istiflemek için bant istifleme işlemini kullanıyoruz. İş, verileri Sentinel-2 veri kümesinden toplar. Bir yer gözlem işini yapılandırmak için öncelikle ilgilenilen yerin koordinatlarına ihtiyacımız var. İkinci olarak, gözlemin zaman aralığına ihtiyacımız var. Bununla artık istifleme özelliğini kullanarak bir yer gözlem işi sunabiliriz. Burada renkli bir görüntü elde etmek için kırmızı, yeşil ve mavi bantları istifliyoruz. Aşağıdaki şekil, Ekim 2022'nin ortalarında Avustralya'nın Rochester kentinde meydana gelen sellerden veri oluşturmak için kullanılan iş yapılandırmasını göstermektedir. Eğitilmiş makine öğrenimi modelimize girdi olarak felaket öncesi ve sonrasına ait görüntüleri kullanıyoruz.

İş konfigürasyonu tanımlandıktan sonra işi gönderebiliriz. İş tamamlandığında sonuçları Amazon S3'e aktarıyoruz. Sonuçları yalnızca iş tamamlandıktan sonra dışa aktarabileceğimizi unutmayın. İşin sonuçları, kullanıcı tarafından dışa aktarma işi yapılandırmasında belirtilen bir Amazon S3 konumuna aktarılabilir. Artık Amazon S3'teki yeni verilerimizle dağıtılan modeli kullanarak hasar tahminleri alabiliyoruz. Önce verileri belleğe okuyoruz ve afet öncesi ve sonrası görüntüleri bir araya topluyoruz.

Rochester taşkınları için segmentasyon maskesinin sonuçları aşağıdaki resimlerde gösterilmektedir. Burada, modelin su basmış bölge içindeki yerleri muhtemelen hasarlı olarak belirlediğini görebiliriz. Çıkarım görüntüsünün uzamsal çözünürlüğünün eğitim verilerinden farklı olduğuna da dikkat edin. Uzamsal çözünürlüğü artırmak, model performansına yardımcı olabilir; ancak bu, çok ölçekli model mimarisi nedeniyle diğer modellerde olduğu gibi SegFormer modeli için daha az sorun teşkil ediyor.

Hasar tespiti

Sonuç

Bu yazıda, doğal afet hasarının nasıl eğitileceğini, konuşlandırılacağını ve tahmin edileceğini gösterdik. Jeo-uzamsal özelliklere sahip SageMaker. Modeli test etmek için yeni çıkarım verileri oluşturmak üzere yeni SageMaker jeo-uzamsal yeteneklerini kullandık. Bu gönderinin kodu yayınlanma sürecindedir ve bu gönderi tam eğitim, dağıtım ve çıkarım koduna bağlantılarla güncellenecektir. Bu uygulama, ilk müdahale ekiplerinin, hükümetlerin ve insani yardım kuruluşlarının, bir doğal afetin hemen ardından kritik durumsal farkındalık sağlayarak yanıtlarını optimize etmelerine olanak tanır. Bu uygulama, SageMaker gibi modern makine öğrenimi araçlarıyla yapılabileceklerin yalnızca bir örneğidir.

Kendi modellerinizi kullanarak SageMaker jeo-uzamsal yeteneklerini bugün deneyin; Bundan sonra ne inşa edeceğinizi görmek için sabırsızlanıyoruz.

Yazar hakkında

Aaron Sengstacken Amazon Web Services'ta bir makine öğrenimi uzmanı çözüm mimarıdır. Aaron, üretim makine öğrenimi uygulamalarını geliştirmek ve dağıtmak için her büyüklükteki kamu sektörü müşterisiyle yakın bir şekilde çalışır. Makine öğrenimi, teknoloji ve uzay araştırmalarıyla ilgili her şeyle ilgileniyor.