详细内容或原文请订阅后点击阅览
不懈的斗争：阻止律师引用人工智能生成的虚假内容
一些律师继续引用人工智能工具生成的虚假内容。现在的问题不仅涉及不存在的案件，还涉及捏造的引文和虚假的事实断言，这些言论和虚假的事实断言都渗透到诉状和动议中。尽管最近出现了一些进展和司法意见，但情况似乎并没有改善。 文章《不懈的斗争：阻止律师引用虚假的人工智能生成内容》首先出现在美国企业研究所 - AEI 上。
来源:美国进取研究所信息肯·克拉奇菲尔德 (Ken Crutchfield) 在 5 月份为《法律之上》撰文时指出，“在过去的一年里，我们不断看到有关人工智能幻觉的头条新闻，其中虚假案例、捏造的引述和错误陈述的事实通过了审查程序并进入了法庭文件。”困境不仅在于 GenAI 工具发明了一些不存在的案例，一些走捷径的律师未经核实就引用了这些案例；问题在于，这些工具还会产生难以发现的虚假主张和引述，这些主张和引述在诉状和动议中伪装成事实。事实上，美国第五巡回上诉法院在二月份解释说，“现在的问题常常表现为对真实案件的虚假引用或法律陈述，而不是更容易识别的虚假案件。”
我在三年多前第一次研究了这些问题，并提出了
底线的人类责任，有助于记住负责案件的优秀高级合伙人（首席律师）应该始终审查他们分配给该案件的初级律师的工作。每当任何律师将工作外包给生成式人工智能系统时，同样的个人责任感就必须适用。
我还在 2024 年 1 月和 2025 年 5 月再次解决了这个问题，因为一些律师没有从同事早期的错误中吸取教训。不幸的是，这篇文章现在证实了 AEI 技术政策学者今年 1 月做出的预测：到 2026 年，“美国某个地方的律师将引用生成人工智能工具的错误输出，我们需要再次提醒律师注意这种危险。”
这里为律师提供的解决方案涉及一项基本但重要的任务——独立验证人工智能工具生成的所有案件、事实和引文。正如克拉奇菲尔德解释的那样，这需要在起草和编辑过程结束时“对一切进行全面审查，包括基本事实”。