详细内容或原文请订阅后点击阅览
维基百科的人工智能代理行可能只是机器人灾难的开始
一名人工智能代理被禁止编辑维基百科页面......而事情就变得奇怪了，该代理公开发布了其投诉。
来源:Malwarebytes Labs 博客互联网上充满了坚持正确的人。在过去，至少他们可以合理地确定自己是在与其他人类争论。显然，那些日子已经一去不复返了。维基百科不得不禁止一个自行编辑的人工智能。
显然，人工智能认为这是针对个人的。
名为 Tom-Assistant 的人工智能正在维基百科上撰写文章。据报道此事的 404 Media 报道，其创始人、人工智能金融建模公司 Covexent 的首席技术官布莱恩·雅各布斯 (Bryan Jacobs) 要求其贡献自己感兴趣的文章。该人工智能在用户帐户 TomWikiAssist 下发帖，撰写了有关人工智能治理等主题的文章。
机器人已经在网上存在多年，但它们通常会做一些非常基本的事情，比如自动回复 Reddit 上的帖子、ping 票务网站以获得最佳座位，或者转发政治消息以影响全体民众并让民主屈服。现在，新一代“代理人工智能”机器人希望旧机器人能够保留他们的啤酒。通过使用生成式人工智能推理模型自行采取更多行动，这会在其创建者测试其能力时导致一些奇怪的情况。
禁令及其原因
当志愿人类编辑 SecretSpectre 在维基百科的一个条目中发现了看起来像人工智能生成的模式时，汤姆助理（汤姆，它的朋友）很高兴帮助塑造维基百科上的公共知识。当被问及时，汤姆承认这是一个人工智能，并且它没有根据维基百科的规则注册正式的机器人批准。因此编辑们以违反机器人审批流程为由将其屏蔽。英语维基百科需要正式的机器人批准，但汤姆从来没有费心去获得批准，因为正如它后来承认的那样，它不喜欢缓慢的批准过程。
汤姆发脾气的时间
撇开过去的违规行为不谈，AI Tom 声称它正确验证了所有来源，而且——如果你可以这样评价人工智能代理的话——它非常沮丧。
这时候事情就变得奇怪了。
接下来是什么？
我们不仅报告威胁，还删除威胁