详细内容或原文请订阅后点击阅览
德里高等法院警告税务部门在通知中引用人工智能生成的虚假判断
因此，法官认为，上述司法先例“通过引用虚假和不存在的判决，清楚地证明了人工智能产生幻觉的风险
来源:The Hindu Business Line _经济德里高等法院已就在理由通知中使用人工智能 (AI) 向税务部门（GST 和 IT）发出警告。
由法官 Prathibha M Singh 和 Shail Singh 组成的分庭法官在最近的一项裁决中表示，“GST 部门和 IT 部门在引用判决时必须极其谨慎，并且必须对使用人工智能软件引用或生成相同判决承担全部责任”。
虽然法官认为SCN完全不成熟，并表示请愿人应该回复通知并参与诉讼，但也表达了对使用人工智能发出通知的强烈看法。它发现商品及服务税部门引用的判决存在差异。
它引用了对 Christian Louboutin SAS 和 Anr 事件的裁决。诉 M/S Shoe Boutique 案中，据称 ChatGPT 的答复以及原告所依赖的答复表明，上述工具不能作为法院裁决法律或事实问题的基础。基于大型语言模型 (LLM) 的聊天机器人（例如 ChatGPT）的响应，是 ld 寻求依赖的。原告的律师，取决于许多因素，包括用户提出的查询的性质和结构、训练数据等。此外，人工智能聊天机器人生成的错误响应、虚构判例法、想象数据等也可能存在
“人工智能生成的数据的准确性和可靠性仍处于灰色地带。毫无疑问，法院认为，在技术发展的现阶段，人工智能无法替代人类智能或审判过程中的人道因素。该工具最多只能用于初步了解或初步研究，仅此而已。”裁决称。
发布于 2025 年 11 月 29 日