详细内容或原文请订阅后点击阅览
Truth Systems 斥资 400 万美元实施人工智能护栏
Truth Systems 是一家加州初创公司，由斯坦福大学梅根·马 (Megan Ma) 博士担任顾问，已筹集 400 万美元种子资金，旨在帮助律师事务所...
来源:Artificial LawyerTruth Systems 是一家由斯坦福大学梅根·马 (Megan Ma) 博士担任顾问的加州初创公司，已筹集 400 万美元种子资金，旨在帮助律师事务所对人工智能工具应用“可执行的护栏”。
Artificial Lawyer 与联合创始人 Nam Nguyen 讨论了他们正在尝试做的事情：
南阮– 这实际上有什么作用？它在阻止什么？它对发生什么有帮助？
这实际上有什么作用？它在阻止什么？它对发生什么有帮助？章程 – [Truth Systems 创建的工具的名称] – 首先阅读公司的所有内部政策和特定客户约定书，然后将其转换为动态的、可执行的护栏。如果用户在人工智能工具中输入违反公司内部准则的文本或提示（例如粘贴特权通信或使用错误的工具进行法律研究），Charter 将阻止发送提示并实时向用户发出警告。
Charter会阻止发送提示并实时向用户发出警告。当 Charter 标记 AI 滥用时，它会记录不可变的审核日志。这些日志帮助创新和信息安全团队了解风险面并确定人工智能培训的重点，从而促进负责任的人工智能采用。
– 它是如何做到这一点的？
对于公司想要执行的每项政策，我们可以训练一个小语言模型来对是否发生违规进行分类。然后通过浏览器扩展部署这些模型，该扩展使用更大的模型来编排并确定哪些护栏适合实时标记给用户。
– 客户必须做什么才能使这项工作成功？
我们的客户只需部署我们的浏览器扩展即可使其正常工作。我们存在于任何供应商和公共人工智能工具之上。大多数公司与我们合作构建定制护栏，我们可以直接翻译他们的可接受使用政策和 OCG，或者帮助他们监控任何不良行为并针对它们构建护栏。
– 您为此使用什么技术？
亚历克斯·麦克—