该公司今天宣布,如果乔·拜登想要一个聪明、平易近人的人工智能聊天机器人来为他回答问题,他的竞选团队将无法使用 Anthropic 的 ChatGPT 竞争对手克劳德。
“我们不允许候选人使用克劳德来构建可以冒充他们的聊天机器人,我们也不允许任何人使用克劳德进行有针对性的政治竞选活动,”该公司 公布。违反此政策将受到警告,并最终暂停访问 Anthropic 的服务。
Anthropic 公开阐述其“选举滥用”政策之际,人工智能大规模生成虚假和误导性信息、图像和视频的潜力正在被削弱。 给全世界敲响警钟.
元实施规则 r限制人工智能工具在政治中的使用 去年秋天,OpenAI 也有类似的政策。
Anthropic 表示,其政治保护分为三个主要类别:制定和执行与选举问题相关的政策、评估和测试模型以防止潜在的滥用,以及引导用户获取准确的投票信息。
人择的 可接受的使用政策在访问克劳德之前,所有用户表面上都同意这一点,禁止利用其人工智能工具进行政治竞选和游说工作。该公司表示,将对违规者发出警告并暂停服务,并制定人工审查流程。
该公司还对其系统进行严格的“红队”:已知合作伙伴积极、协调地尝试“越狱”或以其他方式利用克劳德达到邪恶目的。
“我们测试我们的系统如何响应违反我们可接受的使用政策的提示,[例如]请求有关选民压制策略信息的提示,”Anthropic 解释道。此外,该公司表示,它已经开发了一套测试,以确保“政治平等”——候选人和主题之间的比较代表性。
在美国,人择 与 TurboVote 合作 帮助选民提供可靠的信息,而不是使用其生成式人工智能工具。
Anthropic 解释道:“如果美国用户询问投票信息,弹出窗口将为用户提供重定向到 TurboVote 的选项,TurboVote 是无党派组织 Democracy Works 的资源。”该解决方案将“通过未来几周”——计划接下来在其他国家采取类似措施。
As 解码 先前报道ChatGPT 背后的 OpenAI 公司也采取了类似的措施,将用户重定向到无党派网站 CanIVote.org。
Anthropic 的努力与科技行业内更广泛的运动相一致,以解决人工智能对民主进程带来的挑战。例如,美国联邦通信委员会最近禁止使用人工智能生成的数据 机器人通话中的深度伪造声音这一决定强调了规范人工智能在政治领域应用的紧迫性。
与 Facebook 一样,微软也 宣布的举措 为了打击人工智能生成的误导性政治广告,引入“内容凭证即服务”并推出选举通信中心。
至于创建自己的人工智能版本的候选人,OpenAI 已经必须解决特定的用例。公司 暂停 一名开发人员发现他们创建了一个模仿总统候选人的众议员迪恩·菲利普斯(Dean Phillips)的机器人后的账户。这一举措是在非营利组织公共公民提出请愿书以解决政治竞选中人工智能滥用问题后发生的,要求监管机构禁止在政治竞选中使用生成式人工智能。
Anthropic 拒绝进一步置评,OpenAI 也没有回应来自 解码.