Viime vuosina tietokonenäön edistyminen on auttanut tutkijoita, ensiapuhenkilöitä ja hallituksia käsittelemään maailmanlaajuisten satelliittikuvien käsittelyyn liittyvää haastavaa ongelmaa ymmärtääkseen planeettamme ja vaikutustamme siihen. AWS julkaistiin äskettäin Amazon SageMakerin geospatiaaliset ominaisuudet tarjotaksemme sinulle satelliittikuvia ja geospatiaalisia huippuluokan koneoppimismalleja (ML), mikä vähentää esteitä tämäntyyppisissä käyttötapauksissa. Lisätietoja on kohdassa Esikatselu: Käytä Amazon SageMakeria ML-mallien rakentamiseen, kouluttamiseen ja käyttöönottoon paikkatiedon avulla.
Monet virastot, mukaan lukien ensiaputyöntekijät, käyttävät näitä tarjouksia saadakseen laajamittaista tietoisuutta tilanteesta ja priorisoidakseen avustustoimia maantieteellisillä alueilla, jotka ovat kärsineet luonnonkatastrofeista. Usein nämä virastot käsittelevät katastrofikuvia matalasta korkeudesta ja satelliittilähteistä, ja nämä tiedot ovat usein nimeämättömiä ja vaikeasti käytettäviä. Huippumodernit tietokonenäkömallit toimivat usein huonommin, kun tarkastellaan satelliittikuvia hurrikaanin tai metsäpalon iskemistä kaupungista. Koska näitä tietokokonaisuuksia ei ole, edes uusimmat ML-mallit eivät usein pysty tarjoamaan FEMA-katastrofiluokitusten ennustamiseen vaadittavaa tarkkuutta ja tarkkuutta.
Geospatiaaliset tietojoukot sisältävät hyödyllisiä metatietoja, kuten leveys- ja pituuskoordinaatteja sekä aikaleimoja, jotka voivat tarjota kontekstin näille kuville. Tämä on erityisen hyödyllistä parannettaessa geospatiaalisen ML:n tarkkuutta katastrofikohtauksissa, koska nämä kuvat ovat luonnostaan sotkuisia ja kaoottisia. Rakennukset ovat vähemmän suorakaiteen muotoisia, kasvillisuus on kärsinyt vaurioita ja tulvat tai mutavyöryt ovat katkaisseet suoraviivaiset tiet. Koska näiden massiivisten tietojoukkojen merkitseminen on kallista, manuaalista ja aikaa vievää, kuvien merkitsemistä ja huomautuksia automatisoivien ML-mallien kehittäminen on kriittistä.
Tämän mallin kouluttamiseksi tarvitsemme nimetyn perustotuus-alajoukon LADI (Low Altitude Disaster Imagery) -tietojoukko. Tämä tietojoukko koostuu ihmisistä ja koneista merkityistä ilmakuvista, jotka Civil Air Patrol on kerännyt tukeakseen erilaisia katastrofitoimia vuosina 2015–2019. Nämä LADI-tietojoukot keskittyvät Atlantin hurrikaanikausiin ja Atlantin valtameren ja Meksikonlahden rannikkovaltioihin. Kaksi keskeistä eroa ovat alhainen korkeus, kuvien vino perspektiivi ja katastrofeihin liittyvät ominaisuudet, jotka ovat harvoin esillä tietokonenäön vertailuarvoissa ja tietosarjoissa. Tiimit käyttivät olemassa olevia FEMA-luokkia vahinkojen, kuten tulvien, roskien, tulipalon ja savun tai maanvyörymien, varalta, mikä standardisoi etikettiluokat. Ratkaisu pystyy sitten tekemään ennusteita muusta harjoitusdatasta ja ohjaamaan heikomman luotettavuuden tuloksia ihmisen tarkasteluun.
Tässä viestissä kuvailemme ratkaisumme suunnittelua ja toteutusta, parhaita käytäntöjä ja järjestelmäarkkitehtuurin avainkomponentteja.
Ratkaisun yleiskatsaus
Lyhyesti sanottuna ratkaisu sisälsi kolmen putkilinjan rakentamisen:
- Dataputki – Poimii kuvien metatiedot
- Koneoppimisputki – Luokittelee ja merkitsee kuvat
- Human-in-the-loop -tarkistusputki – Käyttää ihmisryhmää tulosten arvioimiseen
Seuraava kaavio kuvaa ratkaisuarkkitehtuuria.
Tällaisen merkintäjärjestelmän luonteen vuoksi suunnittelimme vaakasuunnassa skaalautuvan arkkitehtuurin, joka käsittelee tulopiikit ilman ylimääräistä hallintaa käyttämällä palvelimetonta arkkitehtuuria. Käytämme yksi-moneen -mallia Amazonin yksinkertainen jonopalvelu (Amazon SQS) osoitteeseen AWS Lambda useissa kohdissa tukemaan näitä nielemispiikkejä, tarjoaa joustavuutta.
SQS-jonon käyttö käsittelyyn Amazonin yksinkertainen tallennuspalvelu (Amazon S3) -tapahtumat auttavat meitä hallitsemaan jatkokäsittelyn (tässä tapauksessa Lambda-funktiot) samanaikaisuutta ja käsittelemään saapuvia datapiikkejä. Saapuvien viestien jonottaminen toimii myös puskurivarastona mahdollisten epäonnistumisten varalta.
Koska tarpeet olivat hyvin samansuuntaisia, valitsimme Lambdan kuviemme käsittelyyn. Lambda on palvelimeton laskentapalvelu, jonka avulla voimme suorittaa koodia ilman palvelimien provisiointia tai hallintaa, luoda työkuormitustietoista klusterin skaalauslogiikkaa, ylläpitää tapahtumaintegraatioita ja hallita ajonaikoja.
Käytämme Amazon OpenSearch-palvelu keskitetyksi tietovarastomme hyödyntämään sen erittäin skaalautuvaa, nopeaa hakua ja integroitua visualisointityökalua, OpenSearch Dashboards -palvelua. Sen avulla voimme iteratiivisesti lisätä kontekstia kuvaan ilman, että meidän tarvitsee kääntää tai skaalata uudelleen ja käsitellä skeeman kehitystä.
Amazonin tunnistus helpottaa kuvien ja videoiden analyysin lisäämistä sovelluksiimme käyttämällä todistettua, erittäin skaalautuvaa syväoppimisteknologiaa. Amazon Rekognitionin avulla saamme hyvän lähtötason havaituista kohteista.
Seuraavissa osissa sukeltamme jokaiseen putkilinjaan yksityiskohtaisemmin.
Dataputki
Seuraava kaavio näyttää dataputken työnkulkua.
LADI-dataputki alkaa käsittelemällä raakadatakuvia FEMA Common Alerting Protocol (CAP) S3-ämpäriin. Kun syötämme kuvat raakatietosäilöyn, ne käsitellään lähes reaaliajassa kahdessa vaiheessa:
- S3-säilö laukaisee tapahtumailmoitukset kaikista objektien luomisesta ja luo viestejä SQS-jonoon jokaiselle syötetylle kuvalle.
- SQS-jono kutsuu samanaikaisesti kuvan Lambda-esikäsittelytoiminnot.
Lambda-toiminnot suorittavat seuraavat esikäsittelyvaiheet:
- Laske UUID jokaiselle kuvalle ja anna jokaiselle kuvalle yksilöllinen tunniste. Tämä tunnus tunnistaa kuvan koko sen elinkaaren ajan.
- Poimi kuvasta metatiedot, kuten GPS-koordinaatit, kuvan koko, GIS-tiedot ja S3-sijainti, ja säilytä ne OpenSearchissa.
- FIPS-koodeja vastaan tehdyn haun perusteella toiminto siirtää kuvan kuratoituun S3-tietosäihöön. Osioimme tiedot kuvan FIPS-valtiokoodin/FIPS-maakunnan koodin/vuoden/kuukauden mukaan.
Koneoppimisputki
ML-liukuhihna alkaa kuvista, jotka laskeutuvat kuratoidun datan S3-säilöyn dataliukuhihnavaiheessa, mikä käynnistää seuraavat vaiheet:
- Amazon S3 luo viestin toiseen SQS-jonoon jokaiselle kuratoituun data-S3-säihöön luodulle objektille.
- SQS-jono käynnistää samanaikaisesti Lambda-funktiot suorittamaan ML-johtopäätöstyön kuvassa.
Lambda-toiminnot suorittavat seuraavat toiminnot:
- Lähetä jokainen kuva Amazon Rekognitioniin objektien havaitsemista varten ja tallentaa palautetut tarrat ja vastaavat luottamuspisteet.
- Laadi Amazon Rekognition -tulostus syöttöparametreiksi Amazon Sage Maker usean mallin päätepiste. Tämä päätepiste isännöi luokittelijoidemme ryhmää, joka on koulutettu tiettyjä vauriomerkintöjä varten.
- Välitä SageMaker-päätepisteen tulokset kohteeseen Amazonin laajennettu AI (Amazon A2I).
Seuraava kaavio havainnollistaa putkilinjan työnkulkua.
Human-in-the-loop -tarkistusputki
Seuraava kaavio havainnollistaa human-in-the-loop (HIL) -putkilinjaa.
Amazon A2I:n avulla voimme määrittää kynnysarvot, jotka käynnistävät yksityisen tiimin ihmisen suorittaman arvioinnin, kun malli antaa alhaisen luotettavuuden ennusteen. Voimme myös käyttää Amazon A2I:tä mallin ennusteiden jatkuvaan tarkastukseen. Työnkulun vaiheet ovat seuraavat:
- Amazon A2I ohjaa korkean luotettavuuden ennusteet OpenSearch-palveluun päivittäen kuvan tarratiedot.
- Amazon A2I reitittää alhaisen luotettavuuden ennusteet yksityiselle tiimille, joka merkitsee kuvia manuaalisesti.
- Ihmisen tarkastaja viimeistelee huomautuksen ja luo ihmisen merkinnän tulostiedoston, joka tallennetaan HIL Output S3 -säilöön.
- HIL Output S3 -ämpäri laukaisee Lambda-toiminnon, joka jäsentää ihmisen merkinnät ja päivittää kuvan tiedot OpenSearch-palvelussa.
Reitittämällä ihmisen annotaatiotulokset takaisin tietovarastoon, voimme kouluttaa ensemble-malleja uudelleen ja parantaa iteratiivisesti mallin tarkkuutta.
Koska korkealaatuiset tulokset on nyt tallennettu OpenSearch-palveluun, pystymme suorittamaan geospatiaalista ja ajallista hakua REST API:n kautta käyttämällä Amazon API -yhdyskäytävä ja Geoserver. OpenSearch Dashboardin avulla käyttäjät voivat myös etsiä ja suorittaa analytiikkaa tämän tietojoukon avulla.
tulokset
Seuraava koodi näyttää esimerkin tuloksistamme.
Tällä uudella putkilinjalla luomme ihmisen tukisuojan malleille, jotka eivät vielä ole täysin toimivia. Tämä uusi ML-putki on otettu tuotantoon käytettäväksi a Civil Air Patrol Image Filter -mikropalvelu joka mahdollistaa Civil Air Patrol -kuvien suodattamisen Puerto Ricossa. Tämän ansiosta ensiapuhenkilöt voivat tarkastella vaurioiden laajuutta ja kuvia, jotka liittyvät kyseiseen tuhoon hurrikaanien jälkeen. AWS Data Lab, AWS Open Data Program, Amazon Disaster Response -tiimi ja AWS:n human-in-the-loop -tiimi kehittivät asiakkaiden kanssa avoimen lähdekoodin putkilinjan, jota voidaan käyttää avoimeen dataan tallennettujen siviililentovartiotietojen analysointiin. Ohjelmarekisteri pyynnöstä luonnonkatastrofien jälkeen. Katso videolta lisätietoja putkiarkkitehtuurista ja yleiskatsauksen yhteistyöstä ja vaikutuksista Keskity katastrofitoimiin Amazon Augmented AI:n, AWS Open Data Programin ja AWS Snowballin avulla.
Yhteenveto
Koska ilmastonmuutos lisää edelleen myrskyjen ja metsäpalojen esiintymistiheyttä ja voimakkuutta, näemme edelleen ML:n käytön tärkeyden ymmärtääksemme näiden tapahtumien vaikutukset paikallisiin yhteisöihin. Nämä uudet työkalut voivat nopeuttaa katastrofitoimia ja antaa meille mahdollisuuden käyttää näiden tapahtumien jälkeisten analyysien tietoja parantaaksemme näiden mallien ennustetarkkuutta aktiivisen oppimisen avulla. Nämä uudet ML-mallit voivat automatisoida tietojen merkinnän, jonka avulla voimme päätellä kunkin tapahtuman aiheuttaman vahingon laajuuden, kun peitämme vahinkomerkinnät karttatiedoilla. Nämä kumulatiiviset tiedot voivat myös auttaa parantamaan kykyämme ennustaa tulevien katastrofitapahtumien vahinkoja, mikä voi auttaa lieventämisstrategioissa. Tämä puolestaan voi parantaa yhteisöjen, talouksien ja ekosysteemien sietokykyä antamalla päätöksentekijöille tiedot, joita he tarvitsevat kehittääkseen tietopohjaisia politiikkoja näiden uusien ympäristöuhkien torjumiseksi.
Tässä blogiviestissä keskustelimme tietokonenäön käyttämisestä satelliittikuvissa. Tämä ratkaisu on tarkoitettu referenssiarkkitehtuuriksi tai pika-aloitusoppaaksi, jota voit mukauttaa omiin tarpeisiisi.
Anna meille palautetta ja kerro meille, kuinka tämä ratkaisi käyttötapauksesi, jättämällä palautetta kommenttiosioon. Katso lisätietoja Amazon SageMakerin geospatiaaliset ominaisuudet.
Tietoja Tekijät
Vamshi Krishna Enabothala on Sr. Applied AI Specialist Architect AWS:ssä. Hän työskentelee eri alojen asiakkaiden kanssa nopeuttaakseen vaikuttavia data-, analytiikka- ja koneoppimisaloitteita. Hän on intohimoinen suositusjärjestelmistä, NLP:stä ja tietokonenäköalueista tekoälyssä ja ML:ssä. Työn ulkopuolella Vamshi on RC-ihminen, rakentaa RC-laitteita (lentokoneita, autoja ja droneja) ja nauttii myös puutarhanhoidosta.
Morgan Dutton on vanhempi tekninen ohjelmapäällikkö Amazon Augmented AI- ja Amazon SageMaker Ground Truth -tiimissä. Hän työskentelee yritysten, akateemisten ja julkisen sektorin asiakkaiden kanssa nopeuttaakseen koneoppimisen ja ihmissilmukan ML-palvelujen käyttöönottoa.
Sandeep Verma on vanhempi prototyyppiarkkitehti AWS:llä. Hän nauttii sukeltamisesta syvälle asiakkaiden haasteisiin ja prototyyppien rakentamiseen asiakkaille innovaation nopeuttamiseksi. Hänellä on AI/ML-tausta, New Knowledge -yrityksen perustaja ja yleensä intohimoinen tekniikka. Vapaa-ajallaan hän rakastaa matkustamista ja hiihtoa perheen kanssa.
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
- Lähde: https://aws.amazon.com/blogs/machine-learning/accelerate-disaster-response-with-computer-vision-for-satellite-imagery-using-amazon-sagemaker-and-amazon-augmented-ai/
- 100
- 7
- 98
- a
- kyky
- pystyy
- Meistä
- akateeminen
- kiihdyttää
- tarkkuus
- toimet
- aktiivinen
- säädökset
- osoite
- Hyväksyminen
- ennakot
- Etu
- vastaan
- virastojen
- AI
- AI / ML
- AIR
- Kaikki
- mahdollistaa
- Amazon
- Amazonin laajennettu AI
- Amazonin tunnistus
- Amazon Sage Maker
- Amazon SageMaker Ground Totuus
- analyysit
- analyysi
- Analytics
- analysoida
- ja
- Toinen
- api
- sovellukset
- sovellettu
- Sovellettu tekoäly
- arkkitehtuuri
- alueet
- liittyvä
- tilintarkastus
- täydennetty
- automatisoida
- tietoisuus
- AWS
- takaisin
- tausta
- paluusulku
- esteet
- Lähtötilanne
- koska
- Viitearvot
- PARAS
- parhaat käytännöt
- Blogi
- puskuri
- rakentaa
- Rakentaminen
- korkki
- autot
- tapaus
- tapauksissa
- luokat
- keskeinen
- haasteet
- haastava
- muuttaa
- tarkastaa
- valitsi
- Kaupunki
- Ilmasto
- Ilmastonmuutos
- Cluster
- koodi
- yhteistyö
- kommentit
- Yhteinen
- yhteisöjen
- Täydentää
- osat
- Laskea
- tietokone
- Tietokoneen visio
- luottamus
- sisältää
- tausta
- jatkaa
- jatkuu
- ohjaus
- luoda
- luotu
- Luominen
- luomuksia
- kriittinen
- kuratoitu
- asiakas
- Asiakkaat
- räätälöidä
- kojelauta
- tiedot
- data-driven
- aineistot
- tekemisissä
- päätöksentekijät
- syvä
- syvä oppiminen
- toimittaa
- Kysyntä
- sijoittaa
- kuvata
- Malli
- suunniteltu
- yksityiskohta
- havaittu
- Detection
- kehittää
- Kehitys
- eri
- vaikea
- katastrofi
- katastrofien
- keskusteltiin
- Drones
- kukin
- talouksien
- ekosysteemit
- ponnisteluja
- syntymässä
- käytössä
- mahdollistaa
- päätepiste
- yritys
- intoilija
- Koko
- ympäristön
- laitteet
- erityisesti
- Jopa
- tapahtuma
- Tapahtumat
- evoluutio
- esimerkki
- olemassa
- kallis
- otteet
- perhe
- FAST
- varustellun
- Ominaisuudet
- palaute
- filee
- suodattaa
- suodatus
- Tulipalo
- Etunimi
- Keskittää
- jälkeen
- seuraa
- perustaja
- Ilmainen
- Taajuus
- alkaen
- täysin
- toiminto
- tehtävät
- tulevaisuutta
- Saada
- yleensä
- synnyttää
- tuottaa
- maantieteellinen
- Geospatiaalinen ML
- saada
- tietty
- Antaminen
- Global
- hyvä
- hallitukset
- GPS
- Maa
- ohjaavat
- kahva
- ottaa
- auttaa
- hyödyllinen
- auttaa
- Korkea
- korkealaatuisia
- erittäin
- Osuma
- isännät
- Miten
- HTML
- HTTPS
- ihmisen
- hurrikaani
- ID
- tunniste
- tunnistaa
- kuva
- kuvien
- Vaikutus
- täytäntöönpano
- merkitys
- parantaa
- parantaminen
- in
- Mukaan lukien
- Saapuva
- Kasvaa
- tiedot
- aloitteita
- Innovaatio
- panos
- integroitu
- integraatiot
- keskeytynyt
- vedotaan
- osallistuva
- IT
- Job
- avain
- Tietää
- tuntemus
- laboratorio
- Merkki
- merkinnät
- tarrat
- Lack
- lasku
- laaja
- oppiminen
- jättäen
- Lets
- elinkaari
- paikallinen
- sijainti
- näköinen
- Katso ylös
- Matala
- kone
- koneoppiminen
- ylläpitäminen
- tehdä
- TEE
- johtaja
- toimitusjohtaja
- manuaalinen
- käsin
- kartta
- Kartat
- massiivinen
- viesti
- viestien
- Metadata
- Meksiko
- lieventäminen
- ML
- malli
- mallit
- lisää
- liikkuu
- Monen mallin päätepiste
- moninkertainen
- Luonnollinen
- luonto
- Tarve
- tarpeet
- Uusi
- NLP
- ilmoitukset
- objekti
- Objektin tunnistus
- esineet
- valtameri
- tarjoukset
- jatkuva
- avata
- avoin data
- avoimen lähdekoodin
- ulkopuolella
- yleiskatsaus
- oma
- Parallel
- parametrit
- intohimoinen
- Kuvio
- Suorittaa
- näkökulma
- putki
- kone
- Platon
- Platonin tietotieto
- PlatonData
- Kirje
- käytännöt
- Tarkkuus
- ennustaa
- ennustus
- Ennusteet
- Asettaa etusijalle
- yksityinen
- Ongelma
- prosessi
- Käsitelty
- käsittely
- tuotanto
- Ohjelma
- protokolla
- prototyyppejä
- prototyyppien
- todistettu
- toimittaa
- tarjoamalla
- julkinen
- Portti
- Puerto Rico
- laittaa
- nopea
- raaka
- äskettäinen
- äskettäin
- Suositus
- vähentämällä
- rekisterin
- julkaistu
- helpotus
- tarvitaan
- Tutkijat
- kimmoisuus
- ne
- vastaus
- REST
- tulokset
- arviot
- RICO
- Reitti
- reitit
- ajaa
- sagemaker
- satelliitti
- skaalautuva
- skaalaus
- kohtaukset
- Haku
- vuodenajat
- Osa
- osiot
- sektori
- sektorit
- vanhempi
- serverless
- servers
- palvelu
- Palvelut
- Setit
- Näytä
- Yksinkertainen
- Koko
- Savu
- Kuva
- ratkaisu
- Lähteet
- asiantuntija
- erityinen
- piikkarit
- standardi
- Alkaa
- alkaa
- huippu-
- Valtiot
- Vaihe
- Askeleet
- Levytila
- verkkokaupasta
- tallennettu
- myrskyt
- strategiat
- niin
- tuki
- järjestelmä
- järjestelmät
- ottaa
- joukkue-
- tiimit
- teknologia
- Tekninen
- Elektroniikka
- -
- tiedot
- uhat
- kolmella
- aika
- aikaavievä
- että
- työkalu
- työkalut
- Juna
- koulutettu
- koulutus
- Matkustaminen
- laukaista
- VUORO
- tyypit
- ymmärtää
- unique
- Päivitykset
- päivittäminen
- us
- käyttää
- käyttölaukku
- Käyttäjät
- eri
- kautta
- Video
- Näytä
- visio
- visualisointi
- joka
- tulee
- ilman
- Referenssit
- työskenteli
- toimii
- olisi
- vuotta
- saannot
- Voit
- Sinun
- youtube
- zephyrnet