重罚3.6万元！美国一家律所在辩护词中随意引用ChatGPT“瞎掰判例”被罚

2025-06-01 09:00:17 | 来源: AICG工具箱

6月25日报道丨众所周知，类似ChatGPT这种基于LLM大模型开发的AIGC生成式人工智能聊天机器人，普遍存在于内容编造胡诌等情况。6月23日，美国纽约联邦法官对一家律所随意使用AIGC生成的辩护书而没有做内容真实性甄别，做出5000美元的重罚判决。

尽管OpenAI等人工智能研究机构致力于不断优化改进内容真实性，但是依然无法彻底根治AI“瞎掰”“胡说八道”等情况。若在关键领域或时刻出错，那结果可能就是灾难性的。近期，美国一家律所Levidow, Levidow&Oberman的律师，在撰写起诉文书时，过于依赖AIGC生成内容，而忽视了求真务实的态度，引述了许多由ChatGPT完全伪造的历史判例。幸好当值法官慧眼识别，才没有引发更大的法律纠纷，这件事一经媒体曝出就引发哗然与热议。

6月23日当地时间本周四，美国纽约联邦法官做出判决，Levidow, Levidow&Oberman律师事务所引用了ChatGPT撰写的一份由虚假案例引证的法庭简报，行为恶劣，对其处以罚款5000美元（约合3.6万元人民币）。

法官指出，该律所的两名律师“有意识地”的直接这些虚假判例，并“向法庭作出误导性陈述”。从法官的角度看，律师们明知道自己使用了ChatGPT进行文书撰写，但是当庭并没有声明其撰写的判例是由AIGC生成，存在严重的辩护误导倾向。

对此，Levidow, Levidow&Oberman律师事务所随后回应称：“我们犯了一个善意的错误，没想到ChatGPT居然可以凭空捏造。”

无独有偶，在今年3月份，美国两名律师在起诉阿维安卡航空公司，其辩护词提交了一份人工智能ChatGPT撰写的法律文书。里边引用了三则“历史判例”完全是AI胡诌生成的，甚至有一则判例是关于中国的南航被起诉。这两名律师在被揭发后，只是表示说他没有意识到ChatGPT的内容有可能是虚假的，当初只是为了利用ChatGPT来帮助改进起诉书的细节。

综上所述，AIGC生成式人工智能生成的内容存在诸多不符合现实的部分，需要用户更用心地去甄别，而不是完全盲目的交由AI去处理。毕竟，以目前的法律现行规定，AI无法替当事人背锅，更不能替人类去坐牢。