详细内容或原文请订阅后点击阅览
“人工智能可能使银行损失数十亿美元”：欧洲警告下一代网络威胁
警报并未通过警报响起；然而它应该是这样的。似乎在一些较为封闭的政策室以及欧洲银行和金融监管机构匆忙发布的内部公告中，当局开始怀疑一些可怕的事情。即将到来的金融灾难可能不是我们任何一个智人同胞所创造的。首先，它是一个人工智能模型，可以测试系统，找出其漏洞，并在某些条件下利用它们。根据多个匿名行业消息来源，欧洲央行已开始联系银行，询问他们的感受 [...]
来源:AI 2 People警报并未通过警报响起；然而它应该是这样的。似乎在一些较为封闭的政策室以及欧洲银行和金融监管机构匆忙发布的内部公告中，当局开始怀疑一些可怕的事情。即将到来的金融灾难可能不是我们任何一个智人同胞所创造的。
首先，它是一个人工智能模型，可以测试系统，找出其漏洞，并在某些条件下利用它们。据多个匿名行业消息人士透露，欧洲央行已开始联系银行，询问他们对此类新风险的看法。这种情况已经发生，您可以在本文中详细了解：欧洲央行官员正在研究金融机构被代理人工智能模型利用的可能性的风险。
当然，我们总是谈论网络攻击带来的网络风险威胁，当然我们一直都有这种情况。但这不是通常穿着地下室连帽衫的人。这是具有可以思考的步骤、可以链接的操作以及在某些测试中复杂的攻击的代码。这就是他们担心的事情。
现在，我们来到这个故事中更奇怪的部分。其中一些高管公开表示，他们对风险“高度了解”；据报道，类似于 Anthropic 的 Mythos 的人工智能系统已经能够在无需人工干预的情况下运行自主的多步骤网络攻击模拟练习。如果这听起来不是很可怕的话。
但这还不是全部。还有报道称Mythos是AI代理的早期版本。总的来说，人工智能的发展正在从可以生成文本的聊天机器人，发展到可以执行规划和推理步骤的机器人，再发展到可以实际执行其生成的计划的人工智能代理。监管机构越来越担心人工智能代理，并正在讨论可能需要什么样的监管。