详细内容或原文请订阅后点击阅览
为什么律师不断引用人工智能发明的假案件
律师因引用人工智能幻觉案件而被捕的趋势表明了一个更广泛的问题：人们不再检查人工智能的工作，而是继续信任它
来源:科学美国人今年 4 月，阿拉巴马州最高法院对一名律师进行了制裁，该律师提交的法律摘要中充满了人工智能生成的不准确引文，其中包括大量引用不存在的案件。在被告知他在一份文件中引用了一个虚构的先例后，该律师承诺不会再发生这种情况，但随后引用了“下一句话末尾不存在的案件”，正如一位法官在一致意见中指出的那样。那周至少还有另一名律师因在被警告不要这样做后继续提交人工智能幻觉材料而受到制裁。
巴黎高等商学院 (HEC Paris) 高级研究员 Damien Charlotin 维护的数据库列出了过去三年法院处理人工智能错误的 1,400 多起案件，其中包括律师和自辩当事人提交的申请。夏洛廷说，就在去年秋天，这个名单似乎呈指数级增长。此后，情况趋于平稳，不断出现令人愤怒的司法裁决。 Charlotin 说：“在过去的两三个月里，我们每个季度做出的决定约为 350 到 400 个。”他还创建了一个名为 Pelaikan 的人工智能参考检查器。
法庭诉讼是公开的，律师因虚假陈述而面临制裁，这使得此类错误相对容易追踪。但人工智能生成的材料中未被发现的错误也让记者、软件开发人员、学术研究人员和政府顾问陷入困境，其中一些人很清楚人工智能的错误性。 5 月 19 日，《纽约时报》报道称，一本关于人工智能如何塑造话语的书《真理的未来》的作者承认，他的文本中包含超过六条由该技术产生的捏造或错误引用的引文。
关于支持科学新闻
“结果表明，人工智能指导具有产生偏见的特定能力，”该研究的合著者、英国兰卡斯特大学心理学高级讲师索菲·南丁格尔 (Sophie Nightingale) 说道。