一名温哥华律师因在法庭上使用 ChatGPT 而面临调查,导致在儿童监护权纠纷中提交“虚构”判例法。
一位加拿大律师在最近的一期中强调了未经证实的法律技术的危险,她的用于法律研究的人工智能聊天机器人产生了“虚构”的案件,因此她面临着批评。
也可以参考: 为什么马斯克对 OpenAI 和 Sam Altman 提起诉讼
崇克一名温哥华律师目前正在因其行为接受调查,据说她曾使用 ChatGPT 为不列颠哥伦比亚省最高法院审理的儿童监护权案件起草法律论据。
律师因提交人工智能聊天机器人创建的虚假案件而受到批评 https://t.co/SH9JWn2A93
- 波德拉(@podra) 2024 年 2 月 29 日
Ke 介绍 Chatbot 生成的判例法
根据法庭文件,柯代表一位父亲想要带孩子出国旅行,但与孩子的母亲陷入分居纠纷。
据说 Ke 要求 ChatGPT 提供可能适用于她客户情况的先前判例法的示例。她提交了三个结果中的两个 OpenAI- 开发的聊天机器人提交给法庭。
然而,对方律师发现了不一致的地方,并且找不到柯所提到的案件的证据。随后,柯记下了她提交的内容,并将错误归咎于她对人工智能生成内容的准确性的无知。
柯在给法院的电子邮件中表示,她不知道这两起案件可能是错误的。她补充说,在她的同事指出无法找到这些问题后,她自己进行了研究,也无法发现问题。她表示无意误导对方律师或法庭,并为自己所犯的错误真诚道歉。
使用聊天机器人
聊天机器人 经过大量数据的训练,尽管它们很受欢迎,但它们很容易出错,即所谓的“幻觉”。
据这位母亲的代表律师称,柯的行为“应受谴责,值得谴责”,因为这些行为导致“花费大量时间和费用”来确定她所引用的案例是否真实。
然而,主审法官拒绝了他们要求支付特别费用的请求,他表示,这种“非常步骤”需要律师“发现应受谴责的行为或滥用程序”。
此外,一些 X(以前称为 Twitter)用户表达了他们对使用聊天机器人处理法律案件的不满。
又一位律师愚蠢到使用 ChatGPT 及其幻觉案件。 (据我统计,是第四或第五个被抓到的人。)https://t.co/WjaitrEATc
-加里·马库斯(@GaryMarcus) 2024 年 2 月 29 日
大卫法官回应
法官 David Masuhara 表示,在提交给法院的法庭文件和其他材料中引用虚假案件是滥用程序,相当于向法庭做出虚假陈述。他补充说,如果不加以控制,可能会导致误判。
他发现对方律师“资源充足”,并且已经制作了“大量”案件材料。他说这两起假案不可能被漏掉。
Masuhara 声称 Ke “对于使用 ChatGPT 的风险很天真”,并且她的行为产生了“重大的负面宣传”,但他也观察到 Ke 努力纠正自己的错误。
他表示,他没有发现她有欺骗或误导的意图。他接受了柯女士向律师和法庭道歉的诚意。他补充说,从她出庭和口头陈词中可以看出她的遗憾。
该事件凸显了有关使用 AI 在法律领域。它提请人们注意在法庭上保证人工智能生成内容的可靠性和正确性的困难。
- :是
- :不是
- $UP
- 29
- 4日
- 5日
- 7
- 800
- a
- 关于
- 国外
- 滥用
- 公认
- 根据
- 行动
- 添加
- 后
- 驳
- AI
- AI聊天机器人
- 已经
- 还
- 量
- an
- 和
- 另一个
- 使用
- 保健
- 参数
- 人造的
- 人工智能
- AS
- 关注我们
- 律师
- 世界原声音乐
- BE
- 因为
- 行为
- 指责
- 英国的
- 不列颠哥伦比亚省
- 但是
- by
- CAN
- 加拿大
- 案件
- 例
- 抓
- 机会
- 聊天机器人
- 聊天机器人
- ChatGPT
- 孩子
- 儿童
- 情况
- 引
- 同事
- COLUMBIA
- 进行
- 内容
- 成本
- 可以
- 法律顾问
- 数
- 法庭
- 法庭文件
- 创建
- 批评
- 目前
- 保管
- 危险
- data
- David
- 否认
- 值得
- 期望
- 尽管
- 检测
- 确定
- DID
- 困难
- 发现
- 讨论
- 争议
- 文件
- 向下
- 草案
- 借鉴
- 哑
- ,我们将参加
- 努力
- 或
- 邮箱地址
- 更多
- 故障
- 证据
- 明显
- 例子
- 表示
- 面孔
- 面对
- 事实
- 假
- false
- 部分
- 档
- 申请
- 找到最适合您的地方
- 寻找
- 大火
- 固定
- 针对
- 以前
- 家辉
- 其他咨询
- 产生
- 民政事务总署
- 有
- he
- 听说
- 这里
- 此处
- 高
- 突出
- 亮点
- 他的
- HTTPS
- 主意
- 确定
- if
- 无知
- in
- 事件
- 不一致
- 分期付款
- 房源搜索
- 意图
- 调查
- 问题
- IT
- 它的
- JPG
- 法官
- 司法
- 已知
- 法律
- 诉讼
- 律师
- 律师
- 铅
- 领导
- 导致
- 左
- 法律咨询
- 位于
- 锁定
- 制成
- 制作
- 马库斯
- 大规模
- 物料
- 最大宽度
- 提到
- 可能
- 错误
- 错误
- 更多
- 最先进的
- 母亲
- MS
- 麝香
- my
- 负
- 没有
- of
- on
- OpenAI
- or
- 其他名称
- 输出
- 己
- 柏拉图
- 柏拉图数据智能
- 柏拉图数据
- 声望
- 礼物
- 先
- 探测器
- 过程
- 生成
- 提供
- 公开
- 阅读
- 真实
- 最近
- 遗憾
- 代表
- 代表
- 请求
- 要求
- 研究
- 成果
- 风险
- 说
- Sam
- 她
- 诚挚
- 一些
- 特别
- 说
- 个人陈述
- 服从
- 意见书
- 提交
- 提交
- 这样
- 最高
- 最高法院
- 专业技术
- 这
- 其
- 然后
- 那里。
- 博曼
- 他们
- 三
- 通过
- 次
- 至
- 了
- 熟练
- 旅行
- true
- 二
- 下
- 使用
- 用过的
- 用户
- 运用
- 温哥华
- 是
- 为
- WHO
- 将
- X
- 和风网