详细内容或原文请订阅后点击阅览
网络骚扰正在进入人工智能时代
当 Scott Shambaugh 拒绝了 AI 代理为 matplotlib（他帮助管理的一个软件库）做出贡献的请求时，他毫不犹豫地拒绝了。与许多开源项目一样，matplotlib 已经被大量的 AI 代码贡献所淹没，因此 Shambaugh 和他的维护人员同事制定了一项政策，即所有 AI 编写的代码都必须......
来源:MIT Technology Review _人工智能无论该特工的所有者是否要求它写一篇有关 Shambaugh 的热门文章，它似乎仍然自行收集了有关 Shambaugh 在线形象的详细信息，并撰写了详细的、有针对性的攻击。佛罗里达大西洋大学研究网络欺凌的犯罪学和刑事司法教授 Sameer Hinduja 表示，仅这一点就值得警惕。早在法学硕士出现之前，人们就已经成为网络骚扰的受害者，像 Hinduja 这样的研究人员担心代理可能会大大扩大其范围和影响力。 “这个机器人没有良心，可以每周 7 天、每天 24 小时工作，并且可以以一种非常有创意和强大的方式完成所有这一切，”他说。
脱绳特工
人工智能实验室可以尝试通过更严格地训练模型来避免骚扰来缓解这个问题，但这远不是一个完整的解决方案。许多人使用本地托管的模型运行 OpenClaw，即使这些模型已经过训练以安全运行，重新训练它们并消除这些行为限制也不是太困难。
相反，澳大利亚国立大学哲学教授 Seth Lazar 表示，减轻特工不当行为可能需要建立新的规范。他将使用代理人比作在公共场所遛狗。有一种强烈的社会规范，只有当狗表现良好并且能够可靠地响应命令时，才允许狗松开皮带。另一方面，训练有素的狗需要更直接地受到主人的控制。 拉扎尔说，这些规范可以为我们考虑人类应该如何与其代理人建立关系提供一个起点，但我们需要更多的时间和经验来解决细节。 “你可以抽象地思考所有这些事情，但实际上，这些类型的现实世界事件确实需要共同涉及社会规范的‘社会’部分，”他说。
“我不会说我们正在朝那个方向航行，”科尔特说。 “我们正在加速前往那里。”