如何保障自动驾驶汽车的安全？广达杂志

无人驾驶汽车和飞机不再是未来的事物。仅在旧金山市，截至 8 年 2023 月，两家出租车公司的自动驾驶里程总计就达到了 850,000 万英里。美国注册的自动驾驶飞行器或无人机超过 XNUMX 万架，这还不包括军方拥有的飞行器。

但人们对安全存在合理的担忧。例如，在截至 10 年 2022 月的 XNUMX 个月期间，国家公路交通安全管理局 报道 近 400 起事故涉及使用某种形式的自动控制的汽车。这些事故造成六人死亡、五人重伤。

解决此问题的常用方法（有时称为“穷举测试”）包括测试这些系统，直到您确信它们是安全的。但你永远不能确定这个过程会发现所有潜在的缺陷。 “人们进行测试，直到耗尽他们的资源和耐心，”说 萨扬·米特拉（Sayan Mitra）是伊利诺伊大学厄巴纳-香槟分校的计算机科学家。然而，仅靠测试并不能提供保证。

米特拉和他的同事可以。他的团队已经成功 证明 此 安全性 汽车的车道跟踪功能和 着陆系统 用于自主飞机。他们的策略现在被用来帮助无人机在航空母舰上着陆，波音公司计划今年在一架实验飞机上进行测试。 “他们提供端到端安全保证的方法非常重要，”说 科里娜·帕萨雷亚努，卡内基梅隆大学和美国宇航局艾姆斯研究中心的研究科学家。

他们的工作涉及保证用于通知自动驾驶车辆的机器学习算法的结果。从高层次来看，许多自动驾驶汽车都有两个组成部分：感知系统和控制系统。例如，感知系统可以告诉您您的汽车距离车道中心有多远，或者飞机的飞行方向以及它相对于地平线的角度是多少。该系统的运行方式是将来自摄像头和其他传感工具的原始数据输入基于神经网络的机器学习算法，从而重新创建车辆外部的环境。

然后，这些评估被发送到一个单独的系统，即控制模块，由它决定要做什么。例如，如果即将出现障碍物，它会决定是刹车还是绕过障碍物。根据 卢卡·卡隆麻省理工学院副教授表示，虽然控制模块依赖于成熟的技术，但“它是根据感知结果做出决策，并不能保证这些结果是正确的。”

为了提供安全保障，Mitra团队致力于确保车辆感知系统的可靠性。他们首先假设，当可以完美呈现外部世界时，就有可能保证安全。然后，他们确定了感知系统在重新创建车辆周围环境时引入了多少误差。

这一策略的关键是量化所涉及的不确定性，即误差带，或者用 Mitra 的话说，就是“已知的未知数”。这种计算来自他和他的团队所谓的感知契约。在软件工程中，合同是一种承诺，即对于计算机程序的给定输入，输出将落在指定范围内。弄清楚这个范围并不容易。汽车传感器的准确度如何？无人机可以承受多少雾、雨或太阳眩光？但如果你能够将车辆保持在指定的不确定范围内，并且该范围的确定足够准确，Mitra 的团队证明你可以确保其安全。

对于速度表不精确的人来说，这是一种熟悉的情况。如果您知道设备的关闭速度永远不会超过每小时 5 英里，您仍然可以通过始终保持低于速度限制 5 英里/小时（由不值得信赖的车速表指示）来避免超速。感知合约为依赖机器学习的不完美系统的安全性提供了类似的保证。

“你不需要完美的感知，”卡龙说。 “你只是希望它足够好，以免危及安全。”他说，该团队最大的贡献是“引入了感知契约的整个想法”并提供了构建它们的方法。他们通过利用计算机科学分支中称为形式验证的技术来做到这一点，形式验证提供了一种数学方法来确认系统的行为满足一组要求。

米特拉说：“尽管我们并不确切地知道神经网络是如何做到这一点的，但他们仍然可以用数字证明神经网络输出的不确定性在一定范围内。”而且，如果是这样的话，那么系统就会安全。 “然后我们可以提供统计保证，确定给定的神经网络是否（以及在多大程度上）真正满足这些界限。”

内华达山脉航空航天公司目前正在将无人机降落在航空母舰上时测试这些安全保证。这个问题在某些方面比驾驶汽车更复杂，因为飞行涉及额外的维度。 “着陆时有两个主要任务，”他说 德拉格斯·马吉尼安图波音公司人工智能首席技术专家，“将飞机与跑道对齐，并确保跑道没有障碍物。我们与 Sayan 的合作涉及为这两项功能提供保证。”

“使用萨彦算法进行的模拟表明，[飞机在着陆前]的对准确实有所改善，”他说。计划于今年晚些时候进行的下一步是在波音实验飞机实际着陆时使用这些系统。 Margineantu 指出，最大的挑战之一是弄清楚我们不知道什么——“确定我们估计中的不确定性”——并看看这对安全有何影响。 “大多数错误发生在我们做自以为知道的事情时，而事实证明我们并不知道。”