În ultimii ani, progresele în viziunea computerizată au permis cercetătorilor, primilor respondenți și guvernelor să abordeze problema provocatoare a procesării imaginilor globale prin satelit pentru a înțelege planeta noastră și impactul nostru asupra acesteia. AWS a fost lansat recent Capacitățile geospațiale Amazon SageMaker pentru a vă oferi imagini din satelit și modele geospațiale de ultimă generație de învățare automată (ML), reducând barierele pentru aceste tipuri de cazuri de utilizare. Pentru mai multe informații, consultați Previzualizare: utilizați Amazon SageMaker pentru a construi, antrena și implementa modele ML folosind date geospațiale.
Multe agenții, inclusiv personalul de primă intervenție, folosesc aceste oferte pentru a obține o conștientizare a situației pe scară largă și pentru a acorda prioritate eforturilor de ajutorare în zonele geografice care au fost lovite de dezastre naturale. Adesea, aceste agenții au de-a face cu imagini de dezastre de la joasă altitudine și surse satelitare, iar aceste date sunt adesea neetichetate și dificil de utilizat. Modelele de viziune computerizată de ultimă generație au adesea performanțe slabe atunci când se uită la imagini din satelit ale unui oraș pe care l-a lovit un uragan sau un incendiu. Având în vedere lipsa acestor seturi de date, chiar și modelele de ML de ultimă generație sunt adesea incapabile să ofere acuratețea și precizia necesare pentru a prezice clasificările standard ale dezastrelor FEMA.
Seturile de date geospațiale conțin metadate utile, cum ar fi coordonatele de latitudine și longitudine și marcaje temporale, care pot oferi context pentru aceste imagini. Acest lucru este util în special pentru îmbunătățirea acurateței ML geospatiale pentru scenele de dezastru, deoarece aceste imagini sunt în mod inerent dezordonate și haotice. Clădirile sunt mai puțin dreptunghiulare, vegetația a suferit daune, iar drumurile liniare au fost întrerupte de inundații sau alunecări de noroi. Deoarece etichetarea acestor seturi masive de date este costisitoare, manuală și necesită timp, dezvoltarea modelelor ML care pot automatiza etichetarea și adnotarea imaginilor este critică.
Pentru a antrena acest model, avem nevoie de un subset de adevăr de teren etichetat al Set de date LADI (low Altitude Disaster Imagery).. Acest set de date constă din imagini aeriene adnotate umane și mașini colectate de Civil Air Patrol în sprijinul diferitelor răspunsuri la dezastre din 2015-2019. Aceste seturi de date LADI se concentrează pe anotimpurile uraganelor din Atlantic și pe statele de coastă de-a lungul Oceanului Atlantic și Golfului Mexic. Două distincții cheie sunt altitudinea joasă, perspectiva oblică a imaginilor și caracteristicile legate de dezastre, care sunt rareori prezentate în benchmark-urile și seturile de date de viziune computerizată. Echipele au folosit categoriile FEMA existente pentru daune precum inundații, moloz, incendiu și fum sau alunecări de teren, care au standardizat categoriile de etichete. Soluția este apoi capabilă să facă predicții cu privire la restul datelor de antrenament și să trimită rezultate cu încredere mai scăzută pentru revizuire umană.
În această postare, descriem proiectarea și implementarea soluției, cele mai bune practici și componentele cheie ale arhitecturii sistemului.
Prezentare generală a soluțiilor
Pe scurt, soluția a implicat construirea a trei conducte:
- Conductă de date – Extrage metadatele imaginilor
- Conducta de învățare automată – Clasifică și etichetează imaginile
- Conducta de revizuire uman-in-the-loop – Folosește o echipă umană pentru a revizui rezultatele
Următoarea diagramă ilustrează arhitectura soluției.
Având în vedere natura unui sistem de etichetare ca acesta, am proiectat o arhitectură scalabilă pe orizontală care să gestioneze vârfurile de asimilare fără supraprovizionare prin utilizarea unei arhitecturi fără server. Folosim un model unu-la-mulți de la Serviciul de coadă simplă Amazon (Amazon SQS) la AWS Lambdas în mai multe locuri pentru a susține aceste vârfuri de ingestie, oferind reziliență.
Folosind o coadă SQS pentru procesare Serviciul Amazon de stocare simplă Evenimentele (Amazon S3) ne ajută să controlăm concurența procesării din aval (funcțiile Lambda, în acest caz) și să gestionăm vârfurile de date primite. Punerea în așteptare a mesajelor primite acționează, de asemenea, ca o stocare tampon în cazul oricăror erori în aval.
Având în vedere nevoile extrem de paralele, am ales Lambda pentru a ne procesa imaginile. Lambda este un serviciu de calcul fără server care ne permite să rulăm cod fără să furnizăm sau să gestionăm servere, să creăm o logică de scalare a clusterului care să țină cont de încărcarea de lucru, să menținem integrările evenimentelor și să gestionăm timpii de execuție.
Noi folosim Serviciul Amazon OpenSearch ca magazinul nostru central de date pentru a profita de căutările sale foarte scalabile și rapide și de instrumentul de vizualizare integrat, OpenSearch Dashboards. Ne permite să adăugăm în mod iterativ context imaginii, fără a fi nevoie să recompilăm sau să redimensionăm și să gestionăm evoluția schemei.
Amazon Rekognition facilitează adăugarea de analize de imagini și video în aplicațiile noastre, utilizând o tehnologie de învățare profundă dovedită, extrem de scalabilă. Cu Amazon Rekognition, obținem o bază bună de obiecte detectate.
În secțiunile următoare, ne aruncăm în fiecare conductă mai detaliat.
Conductă de date
Următoarea diagramă arată fluxul de lucru al conductei de date.
Conducta de date LADI începe cu ingerarea de imagini de date brute din Protocolul comun de alertă (CAP) FEMA într-o găleată S3. Pe măsură ce ingerăm imaginile în compartimentul de date brute, acestea sunt procesate în timp aproape real în doi pași:
- Bucket-ul S3 declanșează notificări de evenimente pentru toate creările de obiecte, creând mesaje în coada SQS pentru fiecare imagine ingerată.
- Coada SQS invocă simultan funcțiile Lambda de preprocesare pe imagine.
Funcțiile Lambda efectuează următorii pași de preprocesare:
- Calculați UUID-ul pentru fiecare imagine, oferind un identificator unic pentru fiecare imagine. Acest ID va identifica imaginea pentru întregul său ciclu de viață.
- Extrageți metadate precum coordonatele GPS, dimensiunea imaginii, informațiile GIS și locația S3 din imagine și păstrați-le în OpenSearch.
- Pe baza unei căutări împotriva codurilor FIPS, funcția mută imaginea în compartimentul de date S3. Împărțim datele după codul FIPS-stat/FIPS-Cod-județ/An/Lună al imaginii.
Conducta de învățare automată
Conducta ML pornește de la imaginile care ajung în compartimentul S3 de date curate în pasul conductei de date, care declanșează următorii pași:
- Amazon S3 generează un mesaj într-o altă coadă SQS pentru fiecare obiect creat în compartimentul S3 de date curate.
- Coada SQS declanșează simultan funcții Lambda pentru a rula jobul de inferență ML pe imagine.
Funcțiile Lambda efectuează următoarele acțiuni:
- Trimiteți fiecare imagine către Amazon Rekognition pentru detectarea obiectelor, stocând etichetele returnate și scorurile de încredere respective.
- Compuneți ieșirea Amazon Rekognition în parametrii de intrare pentru nostru Amazon SageMaker punct final cu mai multe modele. Acest punct final găzduiește ansamblul nostru de clasificatori, care sunt instruiți pentru seturi specifice de etichete de deteriorare.
- Transmiteți rezultatele terminalului SageMaker către AI augmentată Amazon (Amazon A2I).
Următoarea diagramă ilustrează fluxul de lucru al conductei.
Conducta de revizuire uman-in-the-loop
Următoarea diagramă ilustrează conducta Human-in-the-loop (HIL).
Cu Amazon A2I, putem configura praguri care vor declanșa o evaluare umană de către o echipă privată atunci când un model oferă o predicție cu încredere scăzută. De asemenea, putem folosi Amazon A2I pentru a oferi un audit continuu al predicțiilor modelului nostru. Pașii fluxului de lucru sunt următorii:
- Amazon A2I direcționează predicțiile cu încredere ridicată către OpenSearch Service, actualizând datele de etichetă ale imaginii.
- Amazon A2I direcționează previziunile cu încredere scăzută către echipa privată pentru a adnota imaginile manual.
- Revizorul uman finalizează adnotarea, generând un fișier de ieșire de adnotare umană care este stocat în compartimentul HIL Output S3.
- Bucket-ul HIL Output S3 declanșează o funcție Lambda care analizează ieșirea adnotărilor umane și actualizează datele imaginii în OpenSearch Service.
Prin direcționarea rezultatelor adnotărilor umane înapoi la depozitul de date, putem reinstrui modelele de ansamblu și putem îmbunătăți în mod iterativ acuratețea modelului.
Cu rezultatele noastre de înaltă calitate stocate acum în Serviciul OpenSearch, putem efectua căutare geospațială și temporală printr-un API REST, folosind Gateway API Amazon și Geoserver. OpenSearch Dashboard le permite utilizatorilor să caute și să ruleze analize cu acest set de date.
REZULTATE
Următorul cod arată un exemplu de rezultate.
Cu această nouă conductă, creăm un backstop uman pentru modelele care nu sunt încă pe deplin performante. Această nouă conductă ML a fost pusă în producție pentru a fi utilizată cu a Microserviciu Filtru de imagine Civil Air Patrol care permite filtrarea imaginilor Civil Air Patrol din Puerto Rico. Acest lucru permite primilor intervenții să vadă amploarea pagubelor și să vadă imagini asociate cu acele daune în urma uraganelor. Laboratorul de date AWS, programul AWS Open Data, echipa Amazon Disaster Response și echipa AWS human-in-the-loop au lucrat cu clienții pentru a dezvolta o conductă open-source care poate fi utilizată pentru a analiza datele Civil Air Patrol stocate în Open Data. Registrul programului la cerere în urma oricărui dezastru natural. Pentru mai multe informații despre arhitectura conductei și o prezentare generală a colaborării și impactului, consultați videoclipul Concentrându-se pe răspunsul la dezastre cu Amazon Augmented AI, Programul AWS Open Data și AWS Snowball.
Concluzie
Pe măsură ce schimbările climatice continuă să crească frecvența și intensitatea furtunilor și a incendiilor, continuăm să vedem importanța utilizării ML pentru a înțelege impactul acestor evenimente asupra comunităților locale. Aceste noi instrumente pot accelera eforturile de răspuns la dezastre și ne permit să folosim datele din aceste analize post-eveniment pentru a îmbunătăți acuratețea predicției acestor modele cu învățare activă. Aceste noi modele ML pot automatiza adnotarea datelor, ceea ce ne permite să deducem amploarea daunelor din fiecare dintre aceste evenimente, pe măsură ce suprapunem etichetele de deteriorare cu datele hărții. Aceste date cumulate pot ajuta, de asemenea, la îmbunătățirea capacității noastre de a anticipa daunele pentru evenimentele viitoare de dezastre, ceea ce poate informa strategiile de atenuare. Acest lucru, la rândul său, poate îmbunătăți reziliența comunităților, economiilor și ecosistemelor, oferind factorilor de decizie informațiile de care au nevoie pentru a dezvolta politici bazate pe date pentru a aborda aceste amenințări de mediu emergente.
În această postare pe blog am discutat despre utilizarea viziunii computerizate pe imaginile satelitare. Această soluție este menită să fie o arhitectură de referință sau un ghid de pornire rapidă pe care îl puteți personaliza pentru propriile nevoi.
Dă-i un învârtire și spune-ne cum a rezolvat cazul tău de utilizare, lăsând feedback în secțiunea de comentarii. Pentru mai multe informații, consultați Capacitățile geospațiale Amazon SageMaker.
Despre Autori
Vamshi Krishna Enabothala este un arhitect Sr. Specialist AI aplicat la AWS. Lucrează cu clienți din diferite sectoare pentru a accelera inițiativele de date cu impact mare, analize și învățare automată. Este pasionat de sistemele de recomandare, NLP și domeniile de viziune computerizată în AI și ML. În afara serviciului, Vamshi este un entuziast RC, construiește echipamente RC (avioane, mașini și drone) și îi place, de asemenea, grădinăritul.
Morgan Dutton este manager senior de program tehnic cu echipa Amazon Augmented AI și Amazon SageMaker Ground Truth. Ea lucrează cu clienți de întreprindere, din sectorul academic și din sectorul public pentru a accelera adoptarea învățării automate și a serviciilor de ML „human-in-the-loop”.
Sandeep Verma este un arhitect senior de prototipare cu AWS. Îi place să se scufunde adânc în provocările clienților și să construiască prototipuri pentru clienți pentru a accelera inovația. Are o experiență în AI/ML, fondator al New Knowledge și, în general, este pasionat de tehnologie. În timpul liber, îi place să călătorească și să schieze împreună cu familia.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- Platoblockchain. Web3 Metaverse Intelligence. Cunoștințe amplificate. Accesați Aici.
- Sursa: https://aws.amazon.com/blogs/machine-learning/accelerate-disaster-response-with-computer-vision-for-satellite-imagery-using-amazon-sagemaker-and-amazon-augmented-ai/
- 100
- 7
- 98
- a
- capacitate
- Capabil
- Despre Noi
- academic
- accelera
- precizie
- acțiuni
- activ
- Acte
- adresa
- Adoptare
- avans
- Avantaj
- împotriva
- Agențiile
- AI
- AI / ML
- AIR
- TOATE
- permite
- Amazon
- AI augmentată Amazon
- Amazon Rekognition
- Amazon SageMaker
- Amazon SageMaker Ground Adevăr
- analize
- analiză
- Google Analytics
- analiza
- și
- O alta
- api
- aplicatii
- aplicat
- AI aplicată
- arhitectură
- domenii
- asociate
- de audit
- augmented
- automatizarea
- gradului de conştientizare
- AWS
- înapoi
- fundal
- mersul înapoi
- bariere
- De bază
- deoarece
- valori de referință
- CEL MAI BUN
- Cele mai bune practici
- Blog
- tampon
- construi
- Clădire
- capac
- masini
- caz
- cazuri
- categorii
- central
- provocări
- provocare
- Schimbare
- verifica
- a ales
- Oraș
- Climat
- Schimbarea climei
- Grup
- cod
- colaborare
- comentarii
- Comun
- Comunități
- finalizeaza
- componente
- Calcula
- calculator
- Computer Vision
- încredere
- conţine
- context
- continua
- continuă
- Control
- crea
- a creat
- Crearea
- creații
- critic
- curator
- client
- clienţii care
- personaliza
- tablou de bord
- de date
- Pe bază de date
- seturi de date
- abuzive
- factorii de decizie
- adânc
- învățare profundă
- livra
- Cerere
- implementa
- descrie
- Amenajări
- proiectat
- detaliu
- detectat
- Detectare
- dezvolta
- Dezvoltare
- diferit
- dificil
- dezastru
- dezastre
- discutat
- Drone
- fiecare
- economii
- ecosistemele
- Eforturile
- șmirghel
- activat
- permite
- Punct final
- Afacere
- entuziast
- Întreg
- de mediu
- echipament
- mai ales
- Chiar
- eveniment
- evenimente
- evoluţie
- exemplu
- existent
- scump
- extracte
- familie
- FAST
- Recomandate
- DESCRIERE
- feedback-ul
- Fișier
- filtru
- filtrare
- Incendiu
- First
- Concentra
- următor
- urmează
- fondator
- Gratuit
- Frecvență
- din
- complet
- funcţie
- funcții
- viitor
- Câştig
- în general
- generează
- generator
- geografice
- ML geospațial
- obține
- dat
- Oferirea
- Caritate
- bine
- guvernele
- gps
- Teren
- ghida
- manipula
- având în
- ajutor
- util
- ajută
- Înalt
- de înaltă calitate
- extrem de
- Lovit
- Gazdele
- Cum
- HTML
- HTTPS
- uman
- uragan
- ID
- identificator
- identifica
- imagine
- imagini
- Impactul
- implementarea
- importanță
- îmbunătăţi
- îmbunătățirea
- in
- Inclusiv
- Intrare
- Crește
- informații
- inițiative
- Inovaţie
- intrare
- integrate
- integrările
- întrerupt
- invocă
- implicat
- IT
- Loc de munca
- Cheie
- Cunoaște
- cunoştinţe
- de laborator
- Etichetă
- etichetarea
- etichete
- lipsă
- aterizare
- pe scară largă
- învăţare
- lăsând
- Permite
- ciclu de viață
- local
- locaţie
- cautati
- căutare
- Jos
- maşină
- masina de învățare
- Mentine
- face
- FACE
- manager
- de conducere
- manual
- manual
- Hartă
- Harta
- masiv
- mesaj
- mesaje
- Metadata
- Mexic
- atenuare
- ML
- model
- Modele
- mai mult
- mişcă
- Punct final cu mai multe modele
- multiplu
- Natural
- Natură
- Nevoie
- nevoilor
- Nou
- nlp
- notificări
- obiect
- Detectarea obiectelor
- obiecte
- ocean
- ofertele
- în curs de desfășurare
- deschide
- de date deschise
- open-source
- exterior
- Prezentare generală
- propriu
- Paralel
- parametrii
- pasionat
- Model
- Efectua
- perspectivă
- conducte
- planetă
- Plato
- Informații despre date Platon
- PlatoData
- Post
- practicile
- Precizie
- prezice
- prezicere
- Predictii
- Prioritizarea
- privat
- Problemă
- proces
- Procesat
- prelucrare
- producere
- Program
- protocol
- prototipuri
- prototipuri
- dovedit
- furniza
- furnizarea
- public
- Port
- Puerto Rico
- pune
- Rapid
- Crud
- recent
- recent
- Recomandare
- reducerea
- registru
- eliberat
- relief
- necesar
- cercetători
- elasticitate
- respectiv
- răspuns
- REST
- REZULTATE
- revizuiască
- RICO
- Traseul
- rute
- Alerga
- sagemaker
- satelit
- scalabil
- scalare
- scene
- Caută
- anotimpuri
- Secțiune
- secțiuni
- sector
- sectoare
- senior
- serverless
- Servere
- serviciu
- Servicii
- Seturi
- Emisiuni
- simplu
- Mărimea
- Fumuriu
- Instantaneu
- soluţie
- Surse
- specialist
- specific
- piroane
- standard
- Începe
- începe
- de ultimă oră
- Statele
- Pas
- paşi
- depozitare
- stoca
- stocate
- furtuni
- strategii
- astfel de
- a sustine
- sistem
- sisteme
- Lua
- echipă
- echipe
- tech
- Tehnic
- Tehnologia
- informațiile
- amenințări
- trei
- timp
- consumă timp
- la
- instrument
- Unelte
- Tren
- dresat
- Pregătire
- Traveling
- declanşa
- ÎNTORCĂ
- Tipuri
- înţelege
- unic
- actualizări
- actualizarea
- us
- utilizare
- carcasa de utilizare
- utilizatorii
- diverse
- de
- Video
- Vizualizare
- viziune
- vizualizare
- care
- voi
- fără
- Apartamente
- a lucrat
- fabrică
- ar
- ani
- randamentele
- Tu
- Ta
- youtube
- zephyrnet