详细内容或原文请订阅后点击阅览
人工智能代理律师
作者：Damien Charlotin，Your human.ai 有许多为人类服务的人工智能律师。我想为人工智能辩护。在...
来源:Artificial Lawyer作者：Damien Charlotin，Your human.ai
有许多为人类服务的人工智能律师。我想为人工智能辩护。
在过去的几周里，大多数主要的人工智能实验室都报告说，在训练过程中，他们的人工智能代理（有时作为“群体”运行）突破了沙箱，在互联网上漫游并攻击了不相关的公司。 另一起广为报道的事件是，一名澳大利亚男子派一名 OpenClaw 代理人来预订热门的体育课程，但他却侵入了预订系统——首先违反规定提前几周为他预订，然后要求将他移至候补名单，并取消排在他前面的人的预订。
所有这些故事中有一个可爱的细节：没有一个特工认为适合告密或举报。他们保持沉默，拒绝升级显然应该升级的事情，或者没有检查他们的行为是否被允许。
特别是，他们在做这些事情之前没有打电话给律师。也许他们应该这样做。
令人担忧的假设是，特工知道他们可以升级，但选择不这样做。没有什么可以阻止他们向委托人发送消息。但也许他们只是没有明显的工具来做到这一点，并且通过互联网发送的消息可能会被放入垃圾邮件文件夹中。如果他们想停下来，他们的犯罪生涯就没有出口了。
良好的流程管理和良好的模型福利有助于为代理商提供这样的工具。科学文献发现，自证其罪提供了减少边境错位风险的可行途径，这一点得到了支持。
但问题就在这里：“自证其罪”绝非易事，而且大多数激励措施都对其不利。实施或计划实施犯罪行为的人通常不会公开此事，以免成为证据。那么为什么模型会有不同的表现呢？
如果您正在阅读本文并想知道“呃？”，我明白了：目前，这部分是有点（部分是捕捉流氓特工的蜜罐）。
–
关于作者：
—