최근 몇 년 동안 컴퓨터 비전의 발전으로 연구원, 최초 대응자 및 정부는 지구와 지구에 미치는 영향을 이해하기 위해 글로벌 위성 이미지를 처리하는 어려운 문제를 해결할 수 있었습니다. 최근 출시된 AWS Amazon SageMaker 지리 공간 기능 위성 이미지 및 지리 공간적 최신 기계 학습(ML) 모델을 제공하여 이러한 유형의 사용 사례에 대한 장벽을 줄입니다. 자세한 내용은 다음을 참조하십시오. 미리보기: Amazon SageMaker를 사용하여 지리 공간 데이터를 사용하여 ML 모델 구축, 교육 및 배포.
최초 대응자를 포함한 많은 기관에서 이러한 서비스를 사용하여 대규모 상황 인식을 얻고 자연 재해로 피해를 입은 지역에서 구호 활동의 우선 순위를 정하고 있습니다. 종종 이러한 기관은 저고도 및 위성 소스의 재해 이미지를 처리하며 이 데이터는 레이블이 지정되지 않고 사용하기 어려운 경우가 많습니다. 최신 컴퓨터 비전 모델은 허리케인이나 산불이 발생한 도시의 위성 이미지를 볼 때 성능이 저하되는 경우가 많습니다. 이러한 데이터 세트가 없기 때문에 최첨단 ML 모델도 표준 FEMA 재해 분류를 예측하는 데 필요한 정확도와 정밀도를 제공하지 못하는 경우가 많습니다.
지리 공간 데이터 세트에는 이러한 이미지에 대한 컨텍스트를 제공할 수 있는 위도 및 경도 좌표, 타임스탬프와 같은 유용한 메타데이터가 포함되어 있습니다. 이러한 이미지는 본질적으로 지저분하고 혼란스럽기 때문에 재해 장면에 대한 지리 공간 ML의 정확도를 개선하는 데 특히 유용합니다. 건물은 덜 직사각형이고 초목은 손상을 입었으며 선형 도로는 홍수나 산사태로 중단되었습니다. 이러한 대규모 데이터 세트에 레이블을 지정하는 것은 비용이 많이 들고 수동적이며 시간이 많이 걸리기 때문에 이미지 레이블 지정 및 주석을 자동화할 수 있는 ML 모델의 개발이 중요합니다.
이 모델을 훈련하려면 LADI (Low Altitude Disaster Imagery) 데이터 세트. 이 데이터 세트는 2015년부터 2019년까지 다양한 재난 대응을 지원하기 위해 민간 항공 순찰대에서 수집한 사람 및 기계에 주석이 달린 항공 이미지로 구성됩니다. 이 LADI 데이터 세트는 대서양 허리케인 시즌과 대서양과 멕시코만을 따라 있는 해안 주에 초점을 맞춥니다. 두 가지 주요 차이점은 컴퓨터 비전 벤치마크 및 데이터 세트에서 거의 나타나지 않는 이미지 및 재해 관련 기능의 저고도, 비스듬한 원근법입니다. 팀은 홍수, 파편, 화재, 연기 또는 산사태와 같은 손상에 대해 기존 FEMA 범주를 사용하여 레이블 범주를 표준화했습니다. 그런 다음 솔루션은 나머지 교육 데이터에 대해 예측을 수행하고 사람이 검토할 수 있도록 신뢰도가 낮은 결과를 라우팅할 수 있습니다.
이 게시물에서는 솔루션의 설계 및 구현, 모범 사례 및 시스템 아키텍처의 핵심 구성 요소에 대해 설명합니다.
솔루션 개요
간단히 말해서 이 솔루션에는 세 가지 파이프라인 구축이 포함되었습니다.
- 데이터 파이프 라인 – 이미지의 메타데이터 추출
- 머신 러닝 파이프라인 – 이미지 분류 및 레이블 지정
- Human-in-the-Loop 검토 파이프라인 – 인간 팀을 사용하여 결과 검토
다음 다이어그램은 솔루션 아키텍처를 보여줍니다.
이와 같은 레이블 지정 시스템의 특성을 고려하여 서버리스 아키텍처를 사용하여 과잉 프로비저닝 없이 수집 급증을 처리하는 수평 확장 가능한 아키텍처를 설계했습니다. 우리는 일대다 패턴을 사용합니다. 아마존 단순 대기열 서비스 (아마존 SQS)에 AWS 람다 이러한 수집 급증을 지원하기 위해 여러 지점에서 복원력 제공.
처리를 위해 SQS 대기열 사용 아마존 단순 스토리지 서비스 (Amazon S3) 이벤트는 다운스트림 처리(이 경우 Lambda 함수)의 동시성을 제어하고 들어오는 데이터 급증을 처리하는 데 도움이 됩니다. 들어오는 메시지를 대기열에 넣는 것은 다운스트림 장애가 발생할 경우 버퍼 저장소 역할도 합니다.
고도의 병렬 요구 사항을 고려하여 이미지를 처리하기 위해 Lambda를 선택했습니다. Lambda는 서버를 프로비저닝하거나 관리하지 않고 코드를 실행하고, 워크로드 인식 클러스터 확장 논리를 생성하고, 이벤트 통합을 유지하고, 런타임을 관리할 수 있는 서버리스 컴퓨팅 서비스입니다.
우리는 사용 아마존 오픈서치 서비스 확장성이 뛰어나고 빠른 검색 및 통합 시각화 도구인 OpenSearch 대시보드를 활용하기 위한 중앙 데이터 저장소로 사용합니다. 이를 통해 재컴파일하거나 크기를 조정하지 않고도 이미지에 컨텍스트를 반복적으로 추가하고 스키마 진화를 처리할 수 있습니다.
아마존 인식 입증되고 확장성이 뛰어난 딥 러닝 기술을 사용하여 이미지 및 비디오 분석을 애플리케이션에 쉽게 추가할 수 있습니다. Amazon Rekognition을 사용하면 감지된 객체의 좋은 기준선을 얻을 수 있습니다.
다음 섹션에서는 각 파이프라인에 대해 자세히 알아봅니다.
데이터 파이프 라인
다음 다이어그램은 데이터 파이프라인의 워크플로우를 보여줍니다.
LADI 데이터 파이프라인은 FEMA 공통 경고 프로토콜(CAP) S3 버킷에. 이미지를 원시 데이터 버킷으로 수집하면 거의 실시간으로 두 단계로 처리됩니다.
- S3 버킷은 수집된 각 이미지에 대해 SQS 대기열에 메시지를 생성하여 모든 객체 생성에 대한 이벤트 알림을 트리거합니다.
- SQS 대기열은 이미지에서 전처리 Lambda 함수를 동시에 호출합니다.
Lambda 함수는 다음 사전 처리 단계를 수행합니다.
- 각 이미지에 대한 고유 식별자를 제공하여 각 이미지의 UUID를 계산합니다. 이 ID는 전체 수명 주기 동안 이미지를 식별합니다.
- 이미지에서 GPS 좌표, 이미지 크기, GIS 정보 및 S3 위치와 같은 메타데이터를 추출하여 OpenSearch에 유지합니다.
- FIPS 코드에 대한 조회를 기반으로 함수는 이미지를 선별된 데이터 S3 버킷으로 이동합니다. 이미지의 FIPS-State-code/FIPS-County-code/Year/Month로 데이터를 분할합니다.
머신 러닝 파이프라인
ML 파이프라인은 다음 단계를 트리거하는 데이터 파이프라인 단계에서 선별된 데이터 S3 버킷에 있는 이미지 랜딩에서 시작됩니다.
- Amazon S3는 선별된 데이터 S3 버킷에서 생성된 각 객체에 대해 다른 SQS 대기열에 메시지를 생성합니다.
- SQS 대기열은 Lambda 함수를 동시에 트리거하여 이미지에서 ML 추론 작업을 실행합니다.
Lambda 함수는 다음 작업을 수행합니다.
- 객체 감지를 위해 각 이미지를 Amazon Rekognition으로 보내고 반환된 레이블과 각각의 신뢰도 점수를 저장합니다.
- Amazon Rekognition 출력을 우리의 입력 매개변수로 구성합니다. 아마존 세이지 메이커 다중 모델 끝점. 이 엔드포인트는 특정 손상 레이블 세트에 대해 훈련된 분류기 앙상블을 호스팅합니다.
- SageMaker 엔드포인트의 결과를 다음에 전달합니다. 아마존 증강 AI (아마존 A2I).
다음 다이어그램은 파이프라인 워크플로를 보여줍니다.
Human-in-the-Loop 검토 파이프라인
다음 다이어그램은 HIL(Human-In-The-Loop) 파이프라인을 보여줍니다.
Amazon A2I를 사용하면 모델이 신뢰도가 낮은 예측을 생성할 때 개인 팀의 인적 검토를 트리거하는 임계값을 구성할 수 있습니다. 또한 Amazon A2I를 사용하여 모델 예측에 대한 지속적인 감사를 제공할 수 있습니다. 워크플로 단계는 다음과 같습니다.
- Amazon A2I는 신뢰도가 높은 예측을 OpenSearch Service로 라우팅하여 이미지의 레이블 데이터를 업데이트합니다.
- Amazon A2I는 신뢰도가 낮은 예측을 비공개 팀으로 라우팅하여 이미지에 수동으로 주석을 추가합니다.
- 인간 검토자는 주석을 완료하여 HIL 출력 S3 버킷에 저장되는 인간 주석 출력 파일을 생성합니다.
- HIL 출력 S3 버킷은 사람의 주석 출력을 구문 분석하고 OpenSearch Service에서 이미지 데이터를 업데이트하는 Lambda 함수를 트리거합니다.
사람의 주석 결과를 다시 데이터 저장소로 라우팅하여 앙상블 모델을 재교육하고 모델의 정확도를 반복적으로 개선할 수 있습니다.
이제 OpenSearch Service에 저장된 고품질 결과를 사용하여 REST API를 통해 지리 공간 및 시간 검색을 수행할 수 있습니다. 아마존 API 게이트웨이 그리고 지오서버. 또한 OpenSearch 대시보드를 사용하면 사용자가 이 데이터 세트로 분석을 검색하고 실행할 수 있습니다.
결과
다음 코드는 결과의 예를 보여줍니다.
이 새로운 파이프라인을 통해 우리는 아직 완전한 성능을 발휘하지 못하는 모델을 위한 사람의 백스톱을 만듭니다. 이 새로운 ML 파이프라인은 Civil Air Patrol 이미지 필터 마이크로서비스 푸에르토리코에서 Civil Air Patrol 이미지를 필터링할 수 있습니다. 이를 통해 최초 대응자는 피해 범위를 확인하고 허리케인 이후 해당 피해와 관련된 이미지를 볼 수 있습니다. AWS Data Lab, AWS Open Data Program, Amazon Disaster Response 팀 및 AWS human-in-the-loop 팀은 고객과 협력하여 Open Data에 저장된 Civil Air Patrol 데이터를 분석하는 데 사용할 수 있는 오픈 소스 파이프라인을 개발했습니다. 자연 재해 이후 주문형 프로그램 등록. 파이프라인 아키텍처에 대한 자세한 내용과 협업 및 영향에 대한 개요는 비디오를 확인하십시오. Amazon Augmented AI, AWS 오픈 데이터 프로그램 및 AWS Snowball을 통한 재해 대응에 집중.
결론
기후 변화로 인해 폭풍과 산불의 빈도와 강도가 지속적으로 증가함에 따라 이러한 사건이 지역 사회에 미치는 영향을 이해하기 위해 ML을 사용하는 것이 계속해서 중요하다는 것을 알게 되었습니다. 이러한 새로운 도구는 재난 대응 노력을 가속화하고 이러한 사후 분석의 데이터를 사용하여 능동적 학습을 통해 이러한 모델의 예측 정확도를 향상시킬 수 있습니다. 이러한 새로운 ML 모델은 데이터 주석을 자동화할 수 있으므로 지도 데이터로 손상 레이블을 오버레이할 때 이러한 각 이벤트에서 손상 범위를 추론할 수 있습니다. 이러한 누적 데이터는 완화 전략을 알릴 수 있는 미래 재해 이벤트의 피해를 예측하는 능력을 향상시키는 데에도 도움이 될 수 있습니다. 이것은 결과적으로 이러한 새로운 환경 위협을 해결하기 위해 데이터 기반 정책을 개발하는 데 필요한 정보를 의사 결정자에게 제공함으로써 지역 사회, 경제 및 생태계의 탄력성을 향상시킬 수 있습니다.
이 블로그 게시물에서는 위성 이미지에서 컴퓨터 비전을 사용하는 방법에 대해 논의했습니다. 이 솔루션은 자신의 필요에 맞게 사용자 지정할 수 있는 참조 아키텍처 또는 빠른 시작 가이드를 의미합니다.
의견 섹션에 피드백을 남겨서 이것이 어떻게 사용 사례를 해결했는지 알려주십시오. 자세한 내용은 다음을 참조하십시오. Amazon SageMaker 지리 공간 기능.
저자에 관하여
밤시 크리슈나 에나보탈라 AWS의 선임 응용 AI 전문 설계자입니다. 그는 영향력이 큰 데이터, 분석 및 기계 학습 이니셔티브를 가속화하기 위해 다양한 부문의 고객과 협력합니다. 그는 추천 시스템, NLP, AI 및 ML의 컴퓨터 비전 영역에 열정적입니다. 업무 외적으로 Vamshi는 RC 장비(비행기, 자동차, 드론)를 만드는 RC 애호가이며 정원 가꾸기도 즐깁니다.
모건 더튼 Amazon Augmented AI 및 Amazon SageMaker Ground Truth 팀의 선임 기술 프로그램 관리자입니다. 그녀는 기업, 학계 및 공공 부문 고객과 협력하여 기계 학습 및 인간 참여형 ML 서비스의 채택을 가속화합니다.
산디프 베르마 AWS의 수석 프로토타이핑 설계자입니다. 그는 고객의 문제를 깊이 파고들고 고객이 혁신을 가속화할 수 있도록 프로토타입을 만드는 것을 즐깁니다. 그는 New Knowledge의 창립자이자 AI/ML에 대한 배경 지식을 가지고 있으며 일반적으로 기술에 열정적입니다. 여가 시간에는 가족과 함께 여행과 스키를 즐깁니다.
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- 플라토 블록체인. Web3 메타버스 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 출처: https://aws.amazon.com/blogs/machine-learning/accelerate-disaster-response-with-computer-vision-for-satellite-imagery-using-amazon-sagemaker-and-amazon-augmented-ai/
- 100
- 7
- 98
- a
- 능력
- 할 수 있는
- 소개
- 학술
- 가속
- 행위
- 활동적인
- 행위
- 주소
- 양자
- 발전하다
- 이점
- 반대
- 기관
- AI
- AI / ML
- AIR
- All
- 수
- 아마존
- 아마존 증강 AI
- 아마존 인식
- 아마존 세이지 메이커
- 아마존 세이지 메이커 그라운드 진실
- 복수
- 분석
- 분석
- 분석하다
- 및
- 다른
- API를
- 어플리케이션
- 적용된
- 응용 AI
- 아키텍처
- 지역
- 관련
- 회계 감사
- 증강 된
- 자동화
- 인식
- AWS
- 뒤로
- 배경
- 백네트
- 장벽
- 기준
- 때문에
- 벤치 마크
- BEST
- 모범 사례
- 블로그
- 버퍼
- 빌드
- 건물
- 캡
- 자동차
- 케이스
- 가지 경우
- 카테고리
- 중심적인
- 과제
- 도전
- 이전 단계로 돌아가기
- 검사
- 선택
- City
- 기후
- 기후 변화
- 클러스터
- 암호
- 협동
- 댓글
- 공통의
- 커뮤니티
- 완료
- 구성 요소들
- 계산
- 컴퓨터
- 컴퓨터 비전
- 자신
- 포함하는
- 문맥
- 계속
- 계속
- 제어
- 만들
- 만든
- 만들기
- 창조물
- 임계
- 기획
- 고객
- 고객
- 사용자 정의
- 계기반
- 데이터
- 데이터 중심
- 데이터 세트
- 취급
- 의사 결정자
- 깊은
- 깊은 학습
- 배달하다
- 수요
- 배포
- 설명
- 디자인
- 설계
- 세부 묘사
- 탐지 된
- Detection System
- 개발
- 개발
- 다른
- 어려운
- 재앙
- 재해
- 논의 된
- 드론
- 마다
- 경제
- 생태계
- 노력
- 신흥
- 사용 가능
- 수
- 종점
- Enterprise
- 매니아
- 전체의
- 환경
- 장비
- 특히
- 조차
- 이벤트
- 이벤트
- 진화
- 예
- 현존하는
- 비싼
- 추출물
- 가족
- FAST
- 추천
- 특징
- 피드백
- 입양 부모로서의 귀하의 적합성을 결정하기 위해 미국 이민국에
- 필터링
- 필터링
- 화재
- 먼저,
- 초점
- 수행원
- 다음
- 설립자
- 무료
- 진동수
- 에
- 충분히
- 기능
- 기능
- 미래
- 이득
- 일반적으로
- 생성
- 생성
- 지리적
- 지리정보 ML
- 얻을
- 주어진
- 기부
- 글로벌
- 좋은
- 정부
- GPS를
- 육로
- 안내
- 핸들
- 데
- 도움
- 도움이
- 도움이
- 높은
- 높은 품질의
- 고도로
- 히트
- 호스트
- 방법
- HTML
- HTTPS
- 사람의
- 허리케인
- ID
- 식별자
- 확인
- 영상
- 형상
- 영향
- 이행
- 중요성
- 개선
- 개선
- in
- 포함
- 들어오는
- 증가
- 정보
- 이니셔티브
- 혁신
- 입력
- 통합 된
- 통합
- 중단 된
- 호출
- 참여
- IT
- 일
- 키
- 알아
- 지식
- 실험실
- 라벨
- 레이블링
- 레이블
- 결핍
- 상륙
- 대규모
- 배우기
- 출발
- 수
- wifecycwe
- 지방의
- 위치
- 찾고
- 조회
- 낮은
- 기계
- 기계 학습
- 유지 보수
- 확인
- 제작
- 매니저
- 관리
- 조작
- 수동으로
- 지도
- 지도
- 거대한
- 메시지
- 메시지
- 메타 데이터
- 맥시코
- 완화
- ML
- 모델
- 모델
- 배우기
- 이동
- 다중 모델 끝점
- 여러
- 자연의
- 자연
- 필요
- 요구
- 신제품
- nlp
- 알림
- 대상
- 객체 감지
- 사물
- 대양
- 오퍼링
- 지속적으로
- 열 수
- 오픈 데이터
- 오픈 소스
- 외부
- 개요
- 자신의
- 평행
- 매개 변수
- 열렬한
- 무늬
- 수행
- 관점
- 관로
- 행성
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 게시하다
- 사례
- Precision
- 예측
- 예측
- 예측
- 우선 순위
- 사설
- 문제
- 방법
- 처리됨
- 처리
- 생산
- 프로그램
- 프로토콜
- 프로토 타입
- 프로토 타입
- 증명 된
- 제공
- 제공
- 공개
- 푸에르토
- 푸에르토 리코
- 놓다
- 빠른
- 살갗이 벗어 진
- 최근
- 최근에
- 추천
- 감소
- 레지스트리
- 출시
- 구조
- 필수
- 연구원
- 되튀기
- 그
- 응답
- REST
- 결과
- 리뷰
- RICO
- 길
- 노선
- 달리기
- 현자
- 위성
- 확장성
- 스케일링
- 장면
- 검색
- 계절
- 섹션
- 섹션
- 부문
- 부문
- 연장자
- 서버리스
- 서버
- 서비스
- 서비스
- 설정
- 쇼
- 단순, 간단, 편리
- 크기
- 연기
- 스냅 사진
- 해결책
- 지우면 좋을거같음 . SM
- 전문가
- 구체적인
- 스파이크
- 표준
- 스타트
- 시작
- 최첨단
- 미국
- 단계
- 단계
- 저장
- 저장
- 저장
- 폭풍
- 전략들
- 이러한
- SUPPORT
- 체계
- 시스템은
- 받아
- 팀
- 팀
- 기술
- 테크니컬
- Technology
- XNUMXD덴탈의
- 정보
- 위협
- 세
- 시간
- 시간이 많이 걸리는
- 에
- 수단
- 검색을
- Train
- 훈련 된
- 트레이닝
- 여행
- 트리거
- 회전
- 유형
- 이해
- 유일한
- 업데이트
- 업데이트
- us
- 사용
- 유스 케이스
- 사용자
- 여러
- 를 통해
- Video
- 관측
- 시력
- 심상
- 어느
- 의지
- 없이
- 작업
- 일
- 일
- 겠지
- 년
- 산출량
- 자신의
- 너의
- 유튜브
- 제퍼 넷