非营利组织建立网站来追踪激增的人工智能事故

非营利组织建立网站来追踪激增的人工智能事故

时间戳记：8年2024月2日上午25:XNUMX
非营利组织建立网站来跟踪激增的人工智能事故 PlatoBlockchain 数据智能。垂直搜索。人工智能。

专属采访 假 图片 唐纳德·特朗普得到了虚构的黑人选民、为女同学制作色情深度假货的中学生以及谷歌的双子座聊天机器人的支持 失败 准确地生成白人的照片。

这些是列出的一些最新灾难 人工智能事件数据库 – 一个密切关注技术出现问题的所有不同方式的网站。

人工智能事件数据库最初是在人工智能合作组织 (Partnership On AI) 的支持下启动的一个项目，该组织致力于确保人工智能造福社会，现在是一个由保险商实验室 (Underwriters Laboratories) 资助的非营利组织，该实验室是最大、历史最悠久（成立于 1894 年）的独立机构美国的测试实验室。它测试了从家具到电脑鼠标的各种产品，其网站迄今为止已列出了 600 多个独特的自动化和人工智能相关事件。

乔治华盛顿大学商学院助理教授、目前在人工智能事件数据库董事会任职的帕特里克·霍尔 (Patrick Hall) 认为，“人工智能系统的制造商和公共消费者之间存在巨大的信息不对称，这不公平” 。他说 注册：“我们需要更高的透明度，我们认为分享这些信息就是我们的工作。”

AI 事件数据库以非营利组织设立的 CVE 计划为蓝本 迈特，或 美国国家公路运输安全管理局 网站报告公开披露的网络安全漏洞和车辆事故。 “每当发生飞机失事、火车失事或重大网络安全事件时，几十年来记录所发生的事情已成为常见做法，这样我们就可以尝试了解出了什么问题，然后不再重蹈覆辙。”

该网站目前由大约十人管理，另外还有一些志愿者和承包商，负责在线审查和发布人工智能相关事件。希瑟·弗雷泽 (Heather Frase)，乔治城大学高级研究员 安全与新兴技术中心 专注于人工智能评估和人工智能事件数据库总监声称，该网站的独特之处在于它关注人工智能风险和危害对现实世界的影响，而不仅仅是软件中的漏洞和错误。

该组织目前从媒体报道中收集事件，并审查人们在 Twitter 上报告的问题。 AI 事件数据库在 250 年 2022 月 ChatGPT 发布之前记录了 600 个独特事件，现在列出了 XNUMX 多个独特事件。

随着时间的推移监控人工智能的问题揭示了有趣的趋势，并且可以让人们了解该技术当前的真实危害。

乔治华盛顿大学大厅透露，数据库中大约一半的报告与生成式人工智能有关。其中一些是“有趣、愚蠢的事情”，比如 狡猾的产品 在亚马逊上出售的标题为：“我无法满足该请求”的明显迹象表明卖家使用了大型语言模型来编写描述，或者是人工智能生成的垃圾邮件的其他实例。但有些事件“确实令人沮丧和严重”——比如在旧金山发生的一起事故中，一辆克鲁斯机器人出租车碾过并将一名妇女拖到车轮下。

“人工智能现在基本上是狂野的西部，人们的态度是快速前进并打破常规，”他感叹道。目前尚不清楚这项技术如何塑造社会，该团队希望人工智能事件数据库能够提供有关其被滥用方式的见解，并强调意想不到的后果——希望开发人员和政策制定者能够更好地了解情况，以便他们能够改进模型或监管最紧迫的风险。

“周围有很多炒作。人们谈论存在风险。我确信人工智能会给人类文明带来非常严重的风险，但我很清楚，其中一些更现实的风险——比如与自动驾驶汽车相关的大量伤害，或者，你知道，通过使用的算法使偏见永久化消费金融或就业。这就是我们所看到的。”

“我知道我们错过了很多，对吧？并非所有事情都会被媒体报道或捕获。很多时候，人们甚至可能没有意识到他们所经历的伤害来自人工智能，”弗雷泽观察到。 “我预计身体伤害会大幅增加。我们看到大型语言模型造成的（主要是）心理伤害和其他无形伤害——但一旦我们拥有生成机器人技术，我认为身体伤害将会大幅增加。”

弗雷泽最担心人工智能可能侵蚀人权和公民自由的方式。她认为，收集人工智能事件将显示政策是否随着时间的推移使该技术变得更加安全。

“你必须衡量事情才能解决问题，”霍尔补充道。

该组织一直在寻找志愿者，目前专注于捕捉更多事件并提高认识。弗雷泽强调，该组织的成员并不是人工智能勒德分子：“我们可能表现得相当反人工智能，但事实并非如此。我们实际上想使用它。我们只想要好东西。”

霍尔同意了。他说：“为了让技术不断向前发展，必须有人做出努力，让技术变得更安全。” ®

时间戳记：

更多来自 注册