近年来,计算机视觉的进步使研究人员、急救人员和政府能够解决处理全球卫星图像的挑战性问题,以了解我们的星球以及我们对它的影响。 AWS 最近发布 Amazon SageMaker 地理空间功能 为您提供卫星图像和地理空间最先进的机器学习 (ML) 模型,减少此类用例的障碍。 有关详细信息,请参阅 预览:使用 Amazon SageMaker 使用地理空间数据构建、训练和部署 ML 模型.
包括急救人员在内的许多机构正在使用这些产品来获得大规模的态势感知,并优先考虑受自然灾害袭击的地理区域的救援工作。 这些机构通常处理来自低空和卫星来源的灾难图像,而这些数据通常没有标签且难以使用。 在查看遭受飓风或野火袭击的城市的卫星图像时,最先进的计算机视觉模型通常表现不佳。 由于缺乏这些数据集,即使是最先进的 ML 模型通常也无法提供预测标准 FEMA 灾难分类所需的准确度和精确度。
地理空间数据集包含有用的元数据,例如纬度和经度坐标以及时间戳,可以为这些图像提供上下文。 这对于提高灾难场景的地理空间 ML 的准确性特别有帮助,因为这些图像本质上是杂乱无章的。 建筑物不再是矩形,植被遭到破坏,线性道路因洪水或泥石流而中断。 由于标记这些海量数据集的成本高昂、需要手动操作且耗时,因此开发能够自动进行图像标记和注释的 ML 模型至关重要。
为了训练这个模型,我们需要一个标记的地面实况子集 低空灾害图像(LADI)数据集. 该数据集由民航巡逻队为支持 2015-2019 年的各种灾难响应而收集的人工和机器注释的机载图像组成。 这些 LADI 数据集侧重于大西洋飓风季节以及大西洋和墨西哥湾沿岸各州。 两个关键区别是图像的低空、倾斜视角和与灾难相关的特征,这些特征很少出现在计算机视觉基准和数据集中。 这些团队将现有的 FEMA 类别用于洪水、碎片、火灾和烟雾或山体滑坡等损坏,从而标准化了标签类别。 然后,该解决方案能够对其余训练数据进行预测,并将置信度较低的结果发送给人工审查。
在本文中,我们描述了解决方案的设计和实施、最佳实践以及系统架构的关键组件。
解决方案概述
简而言之,该解决方案涉及构建三个管道:
- 数据管道 – 提取图像的元数据
- 机器学习管道 – 分类和标记图像
- 人在循环审查管道 – 使用人工团队审查结果
下图说明了解决方案体系结构。
考虑到像这样的标签系统的性质,我们设计了一个水平可扩展的架构,可以通过使用无服务器架构来处理摄取峰值,而不会过度配置。 我们使用一对多模式 Amazon Simple Queue服务 (Amazon SQS) 至 AWS Lambda 在多个地点支持这些摄取峰值, 提供弹性.
使用 SQS 队列进行处理 亚马逊简单存储服务 (Amazon S3) 事件帮助我们控制下游处理(在本例中为 Lambda 函数)的并发性并处理传入的数据峰值。 如果下游出现任何故障,排队传入消息还可以作为缓冲存储。
鉴于高度并行的需求,我们选择了 Lambda 来处理我们的图像。 Lambda 是一种无服务器计算服务,让我们无需配置或管理服务器即可运行代码、创建工作负载感知集群扩展逻辑、维护事件集成和管理运行时。
我们使用 亚马逊开放搜索服务 作为我们的中央数据存储,以利用其高度可扩展、快速搜索和集成可视化工具 OpenSearch Dashboards。 它使我们能够迭代地向图像添加上下文,而无需重新编译或重新缩放,并处理模式演变。
亚马逊重新认识 使用经过验证的、高度可扩展的深度学习技术,可以轻松地将图像和视频分析添加到我们的应用程序中。 借助 Amazon Rekognition,我们获得了检测对象的良好基线。
在以下部分中,我们将更详细地探讨每个管道。
数据管道
下图显示了数据管道的工作流程。
LADI 数据管道从摄取原始数据图像开始 FEMA 通用警报协议 (CAP) 放入 S3 存储桶中。 当我们将图像摄取到原始数据桶中时,它们会分两步进行近乎实时的处理:
- S3 存储桶触发所有对象创建的事件通知,为每个摄取的图像在 SQS 队列中创建消息。
- SQS 队列同时调用图像上的预处理 Lambda 函数。
Lambda 函数执行以下预处理步骤:
- 计算每个图像的 UUID,为每个图像提供唯一标识符。 此 ID 将在其整个生命周期内标识图像。
- 从图像中提取 GPS 坐标、图像大小、GIS 信息和 S3 位置等元数据,并将其保存到 OpenSearch 中。
- 基于对 FIPS 代码的查找,该函数将图像移动到管理数据 S3 存储桶中。 我们按图像的 FIPS 州代码/FIPS 县代码/年/月对数据进行分区。
机器学习管道
ML 管道从数据管道步骤中登陆管理数据 S3 存储桶的图像开始,这会触发以下步骤:
- Amazon S3 为在精选数据 S3 存储桶中创建的每个对象生成一条消息到另一个 SQS 队列。
- SQS 队列同时触发 Lambda 函数以在图像上运行 ML 推理作业。
Lambda 函数执行以下操作:
- 将每张图像发送到 Amazon Rekognition 进行对象检测,存储返回的标签和各自的置信度分数。
- 将 Amazon Rekognition 输出组合成我们的输入参数 亚马逊SageMaker 多模型端点。 该端点托管我们的分类器集合,这些分类器针对特定的损坏标签集进行了训练。
- 将 SageMaker 端点的结果传递给 亚马逊增强AI (Amazon A2I)。
下图说明了管道工作流程。
人在循环审查管道
下图说明了人在回路 (HIL) 管道。
借助 Amazon A2I,我们可以配置阈值,当模型产生低置信度预测时,该阈值将触发私人团队进行人工审查。 我们还可以使用 Amazon A2I 对我们的模型预测进行持续审计。 工作流程步骤如下:
- Amazon A2I 将高置信度预测路由到 OpenSearch 服务,更新图像的标签数据。
- Amazon A2I 将低置信度预测路由到私人团队以手动注释图像。
- 人工审阅者完成注释,生成存储在 HIL 输出 S3 存储桶中的人工注释输出文件。
- HIL 输出 S3 存储桶触发 Lambda 函数,该函数解析人工注释输出并更新 OpenSearch 服务中的图像数据。
通过将人工注释结果路由回数据存储,我们可以重新训练集成模型并迭代地提高模型的准确性。
凭借我们现在存储在 OpenSearch 服务中的高质量结果,我们能够通过 REST API 执行地理空间和时间搜索,使用 Amazon API网关 和地理服务器。 OpenSearch Dashboard 还使用户能够使用此数据集搜索和运行分析。
成果
以下代码显示了我们的结果示例。
通过这个新的管道,我们为尚未完全发挥作用的模型创建了一个人工支持。 这个新的 ML 流水线已经投入生产,可以与 民航巡逻图像过滤微服务 允许过滤波多黎各的民航巡逻图像。 这使急救人员能够查看损坏程度并查看与飓风过后的损坏相关的图像。 AWS 数据实验室、AWS Open Data Program、Amazon Disaster Response 团队和 AWS human-in-the-loop 团队与客户合作开发了一个开源管道,可用于分析存储在 Open Data 中的民航巡逻数据任何自然灾害后按需进行程序注册。 有关管道架构的更多信息以及协作和影响的概述,请观看视频 通过 Amazon Augmented AI、AWS Open Data Program 和 AWS Snowball 专注于灾难响应.
结论
随着气候变化继续增加风暴和野火的频率和强度,我们继续看到使用 ML 来了解这些事件对当地社区的影响的重要性。 这些新工具可以加速灾难响应工作,并允许我们使用来自这些事后分析的数据,通过主动学习提高这些模型的预测准确性。 这些新的 ML 模型可以自动进行数据注释,这使我们能够在将损坏标签与地图数据叠加时推断出每个事件的损坏程度。 这些累积数据还可以帮助提高我们预测未来灾难事件损害的能力,这可以为缓解策略提供信息。 这反过来可以通过为决策者提供他们制定数据驱动政策以应对这些新出现的环境威胁所需的信息来提高社区、经济和生态系统的弹性。
在这篇博文中,我们讨论了在卫星图像上使用计算机视觉。 该解决方案旨在作为参考架构或快速入门指南,您可以根据自己的需要进行自定义。
试一试,通过在评论部分留下反馈让我们知道这是如何解决您的用例的。 有关详细信息,请参阅 Amazon SageMaker 地理空间功能.
作者简介
瓦姆什·克里希纳·埃纳博塔拉 是 AWS 的高级应用人工智能专家架构师。 他与来自不同行业的客户合作,以加速具有高影响力的数据、分析和机器学习计划。 他对 AI 和 ML 中的推荐系统、NLP 和计算机视觉领域充满热情。 工作之余,Vamshi 是一名遥控爱好者,建造遥控设备(飞机、汽车和无人机),还喜欢园艺。
摩根·达顿 是 Amazon Augmented AI 和 Amazon SageMaker Ground Truth 团队的高级技术项目经理。 她与企业、学术和公共部门客户合作,以加速机器学习和人在回路 ML 服务的采用。
桑迪普维尔玛 是 AWS 的高级原型架构师。 他喜欢深入研究客户面临的挑战并为客户构建原型以加速创新。 他拥有 AI/ML 背景,是 New Knowledge 的创始人,并且对技术充满热情。 在空闲时间,他喜欢和家人一起旅行和滑雪。
- SEO 支持的内容和 PR 分发。 今天得到放大。
- 柏拉图区块链。 Web3 元宇宙智能。 知识放大。 访问这里。
- Sumber: https://aws.amazon.com/blogs/machine-learning/accelerate-disaster-response-with-computer-vision-for-satellite-imagery-using-amazon-sagemaker-and-amazon-augmented-ai/
- 100
- 7
- 98
- a
- 对,能力--
- Able
- 关于
- 学者
- 加快
- 行动
- 要积极。
- 行为
- 地址
- 采用
- 进步
- 优点
- 驳
- 机构
- AI
- AI / ML
- 加拿大航空
- 所有类型
- 允许
- Amazon
- 亚马逊增强AI
- 亚马逊重新认识
- 亚马逊SageMaker
- 亚马逊SageMaker地面真相
- 检测值
- 分析
- 分析
- 分析
- 和
- 另一个
- API
- 应用领域
- 应用的
- 应用人工智能
- 架构
- 地区
- 相关
- 审计
- 增强
- 自动化
- 意识
- AWS
- 背部
- 背景
- 逆止
- 障碍
- 底线
- 因为
- 基准
- 最佳
- 最佳实践
- 博客
- 缓冲
- 建立
- 建筑物
- 帽
- 汽车
- 案件
- 例
- 类别
- 中央
- 挑战
- 挑战
- 更改
- 查
- 选择
- 城市
- 气候
- 气候变化
- 簇
- 码
- 合作
- 注释
- 相当常见
- 地区
- 完成对
- 组件
- 计算
- 一台
- 计算机视觉
- 信心
- 包含
- 上下文
- 继续
- 继续
- 控制
- 创建信息图
- 创建
- 创造
- 创作
- 危急
- 策划
- 顾客
- 合作伙伴
- 定制
- XNUMX月XNUMX日
- data
- 数据驱动
- 数据集
- 处理
- 决策者
- 深
- 深入学习
- 交付
- 需求
- 部署
- 描述
- 设计
- 设计
- 细节
- 检测
- 检测
- 开发
- 研发支持
- 不同
- 难
- 灾害
- 灾害
- 讨论
- 无人机电调
- 每
- 经济
- 生态系统
- 工作的影响。
- 新兴经济体的新市场。
- 启用
- 使
- 端点
- 企业
- 爱好者
- 整个
- 环境的
- 设备
- 特别
- 甚至
- 活动
- 事件
- 进化
- 例子
- 现有
- 昂贵
- 提取物
- 家庭
- 高效率
- 精选
- 特征
- 反馈
- 文件
- 过滤
- 过滤
- 大火
- (名字)
- 专注焦点
- 以下
- 如下
- 创办人
- 自由的
- 频率
- 止
- 充分
- 功能
- 功能
- 未来
- Gain增益
- 通常
- 产生
- 发电
- 地域
- 地理空间机器学习
- 得到
- 特定
- 给予
- 全球
- 非常好
- 各国政府
- GPS
- 陆运
- 指南
- 处理
- 有
- 帮助
- 有帮助
- 帮助
- 高
- 高品质
- 高度
- 击中
- 为了
- 创新中心
- HTML
- HTTPS
- 人
- 飓风
- ID
- 识别码
- 鉴定
- 图片
- 图片
- 影响力故事
- 履行
- 重要性
- 改善
- 改善
- in
- 包含
- 来电
- 增加
- 信息
- 项目
- 創新
- 输入
- 集成
- 集成
- 间断
- 所调用
- 参与
- IT
- 工作
- 键
- 知道
- 知识
- 实验室
- 标签
- 标签
- 标签
- 缺乏
- 着陆
- 大规模
- 学习
- 离开
- 让
- 生命周期
- 本地
- 圖書分館的位置
- 寻找
- 查找
- 低
- 机
- 机器学习
- 维护
- 使
- 制作
- 经理
- 管理的
- 手册
- 手动
- 地图
- 地图
- 大规模
- 的话
- 条未读消息
- 元数据
- 墨西哥
- 减轻
- ML
- 模型
- 模型
- 更多
- 移动
- 多模型端点
- 多
- 自然
- 自然
- 需求
- 需要
- 全新
- NLP
- 通知
- 对象
- 物体检测
- 对象
- 海洋
- 供品
- 正在进行
- 打开
- 开放的数据
- 开放源码
- 学校以外
- 简介
- 己
- 并行
- 参数
- 多情
- 模式
- 演出
- 透视
- 管道
- 行星
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 帖子
- 做法
- 平台精度
- 预测
- 预测
- 预测
- 优先
- 私立
- 市场问题
- 过程
- 处理
- 处理
- 生产
- 曲目
- 协议
- 原型
- 原型
- 成熟
- 提供
- 优
- 国家
- 波多黎各
- 波多黎各
- 放
- 快速
- 原
- 最近
- 最近
- 推荐
- 减少
- 注册处
- 发布
- 缓解
- 必须
- 研究人员
- 弹性
- 那些
- 响应
- REST的
- 成果
- 检讨
- RICO
- 路线
- 路线
- 运行
- sagemaker
- 卫星
- 可扩展性
- 缩放
- 场景
- 搜索
- 季节
- 部分
- 部分
- 扇形
- 行业
- 前辈
- 无服务器
- 服务器
- 服务
- 特色服务
- 套数
- 作品
- 简易
- 尺寸
- 烟雾
- 快照
- 方案,
- 来源
- 专家
- 具体的
- 钉鞋
- 标准
- 开始
- 启动
- 国家的最先进的
- 州
- 步
- 步骤
- 存储
- 商店
- 存储
- 风暴
- 策略
- 这样
- SUPPORT
- 系统
- 产品
- 采取
- 团队
- 队
- 科技
- 文案
- 专业技术
- 信息
- 威胁
- 三
- 次
- 耗时的
- 至
- 工具
- 工具
- 培训
- 熟练
- 产品培训
- 旅游
- 触发
- 转
- 类型
- 理解
- 独特
- 最新动态
- 更新
- us
- 使用
- 用例
- 用户
- 各个
- 通过
- 视频
- 查看
- 愿景
- 可视化
- 这
- 将
- 也完全不需要
- 工作
- 工作
- 合作
- 将
- 年
- 产量
- 完全
- 您一站式解决方案
- YouTube的
- 和风网