巴西地方议会通过 ChatGPT 编写的提案

由柏拉图重新发布

关注： 0

巴西地方议会通过了由 ChatGPT 编写的提案 PlatoBlockchain 数据智能。垂直搜索。人工智能。

巴西南部城市阿雷格里港议会已批准 ChatGPT 起草的立法。

该法令旨在防止该市向纳税人收取更换被盗贼偷走的水表的费用。经36名理事会成员投票一致通过该提案，并于XNUMX月底生效。

但他们中的大多数人不知道的是，该提案的文本是由人工智能聊天机器人生成的，直到议员拉米罗·罗萨里奥 (Ramiro Rosario) 承认他是使用 ChatGPT 编写的。

“如果我之前透露这一点，该提案肯定不会被付诸表决，”他告诉美联社。

这是我们秃鹰知道的第一部由人工智能编写并由立法者通过的立法；如果您知道任何其他由机器人编写的法律、合同或类似的有趣内容，请这样做让我们知道。需要明确的是，ChatGPT 并没有被要求提出这个想法，而是被用作编写细则的工具。罗萨里奥表示，他使用了 49 个字的提示来指示 OpenAI 不稳定的聊天机器人生成完整的提案草案。

起初，市议会主席汉密尔顿·索斯迈尔不赞成他同事的方法，并认为罗萨里奥开创了“危险的先例”。然而，他后来改变了主意，并表示：“我开始更深入地阅读，并发现，无论不幸还是幸运，这将成为一种趋势。”

索斯梅尔也许是对的。在美国，马萨诸塞州参议员巴里·芬戈尔德和众议员乔什·卡特勒今年早些时候因其法案标题为：“在 ChatGPT 的帮助下起草的一项法案，旨在规范 ChatGPT 等生成人工智能模型。”

两人认为机器学习工程师应该在大型语言模型生成的任何文本中包含数字水印，以检测抄袭（并且可能让人们知道东西何时是计算机制作的）；在收集或使用人们的数据来训练神经网络之前获得人们的明确同意；并定期对其技术进行风险评估。

使用像 ChatGPT 这样的大型语言模型来编写法律文档目前存在争议且存在风险，特别是因为系统倾向于伪造信息和产生幻觉。今年 XNUMX 月，纽约 Levidow, Levidow & Oberman 律师事务所的代表律师 Steven Schwartz 和 Peter LoDuca 因在诉讼中引用 ChatGPT 编造的虚假法律案例而受到批评。

他们代表一名在 2019 年航班上受伤的乘客起诉哥伦比亚航空公司 Avianca，并促使 ChatGPT 召回类似案件并引用，它确实这么做了，但也只是直接想象了一些。当时，施瓦茨和洛杜卡将他们的错误归咎于不了解聊天机器人的局限性，并声称他们不知道它可以产生幻觉信息。

纽约南区法院法官凯文·卡斯特尔 (Kevin Castel) 实现当对方律师未能找到所引用的法庭文件并要求施瓦茨和洛杜卡引用他们的消息来源时，这些案件是伪造的。 Castel 对他们两人罚款 5,000 美元，并完全驳回诉讼。

“这里的教训是，你不能将律师负责的事情委托给机器，”硅谷法律集团股东、美国律师协会人工智能和机器人国家研究所主席斯蒂芬·吴说，以前告诉过注册.

然而，罗萨里奥相信该技术可以得到有效利用。 “我坚信……人类将经历一场新的技术革命。我们作为一个文明所开发的所有工具都可以用于邪恶和善良。这就是为什么我们必须展示如何将其用于公益事业，”他说。 ®

PS： Amazon 公布本周在 re:Invent 上推出了 Q 聊天机器人，这是一个用于编辑代码、使用 AWS 资源等的数字助理。它以预览版形式提供，并且由于它是一个法学硕士系统，我们认为它会编造一些东西并出错。我们是对的：内部文件泄露 Platformer 描述该神经网络“经历了严重的幻觉并泄露了机密数据”。