在发布要求安全构建和使用人工智能的行政命令四个月后，拜登政府今天 公布 美国人工智能安全研究所联盟（AISIC）的成立。新联盟拥有超过 200 名代表，其中包括顶级 AI 竞争对手亚马逊、谷歌、苹果、Anthropic、微软、OpenAI 和 NVIDIA。
该联盟汇集了人工智能开发人员、学者、政府和行业研究人员、民间社会组织和用户，团结一致“开发和部署安全可信的人工智能”。
“拜登总统指示我们竭尽全力实现两个关键目标：制定安全标准和保护我们的创新生态系统，”商务部长吉娜·雷蒙多在一份声明中表示。 “这正是美国人工智能安全研究所联盟的成立来帮助我们做的事情。”
她解释说，该财团来自 行政命令 美国总统拜登于10月签署。那 秩序 包括制定评估人工智能模型、风险管理、安全性和安保的指南，以及将水印应用于人工智能生成的内容。
“我们将确保美国处于领先地位，”雷曼多断言。 “通过与来自工业界、民间社会和学术界的领导人合作，我们可以共同应对这些挑战，制定维持美国竞争优势和负责任地开发人工智能所需的衡量标准和标准。”
加入该联盟的有来自医疗保健、学术界、工会和银行业的代表，包括摩根大通、花旗集团、卡内基梅隆大学、美国银行、俄亥俄州立大学和佐治亚理工学院，以及州和地方政府代表。
国际合作伙伴也有望进行合作。
美国商务部表示：“该联盟代表了迄今为止建立的最大的测试和评估团队集合，将专注于为人工智能安全的新测量科学奠定基础。” “该联盟……将与来自志同道合国家的组织合作，这些组织在开发全球可互操作的有效安全工具方面发挥着关键作用。”
参与企业名单 由于范围如此广泛，记录哪些公司没有加入可能更有用。没有代表的十大科技公司包括特斯拉、甲骨文和博通。台积电也没有上市，但也不是一家美国公司。
生成式人工智能工具迅速普及到主流，导致了无数的滥用事件和人工智能生成的深度赝品在线激增。世界领导人——包括总统 拜登 和前总统 唐纳德·特朗普——成为许多假图像的目标。周四，美国联邦通信委员会宣布，人工智能生成的 robocalls 在美国使用深度伪造声音是非法的。
FCC 表示：“过去几年，这类电话的数量不断增加，因为这项技术现在有可能通过模仿名人、政治候选人和亲密家庭成员的声音，使消费者对错误信息感到困惑。”
自去年初推出 GPT-4 以来，世界领导人一直在努力解决如何控制人工智能发展的问题。去年XNUMX月，拜登政府 一半 与多家人工智能和科技公司合作，其中许多公司现已成为该联盟的一部分。 OpenAI、谷歌、微软、Nvidia、Anthropic、Hugging Face、IBM、Stability AI、亚马逊、Meta 和 Inflection 都签署了负责任地开发人工智能的承诺。
谷歌全球事务总裁肯特·沃克 (Kent Walker) 此前曾表示：“我们没有人能够仅凭一己之力获得人工智能。” 说过。 “我们很高兴能与其他领先的人工智能公司一起支持这些承诺，我们承诺通过共享信息和最佳实践继续合作。”
编辑 小泽赖恩.
