详细内容或原文请订阅后点击阅览
“太聪明而不舒服？”监管机构努力控制新型人工智能威胁
对于监管机构来说，现在并不是一个好时机。普遍的情绪是：等等，事情变得比我们预期的更快吗？目前，英国监管机构正在疯狂地寻求控制人工智能使用的惊人飞跃。 Anthropic 创建的模型显然能够发现大量软件漏洞，这令人担忧。这不是科幻小说。这是真的。经过内部评估后，由于该模型仍处于早期试验阶段，监管机构开始怀疑这种新的人工智能系统是否会对 [...]
来源:AI 2 People对于监管机构来说，现在并不是一个好时机。普遍的情绪是：等等，事情变得比我们预期的更快吗？
目前，英国监管机构正在疯狂地寻求控制人工智能使用的惊人飞跃。 Anthropic 创建的模型显然能够发现大量软件漏洞，这令人担忧。
这不是科幻小说。这是真的。
经过内部评估后，由于该模型仍处于早期试验阶段，监管机构开始怀疑这种新的人工智能系统是否会对英国产生负面影响。据称该模型能够在给定环境中发现数千个弱点，这一事实引起了人们的警惕。
英国监管机构，包括英格兰银行，做出了回应。所发生事件的详细信息以及监管机构的反应可以在以下报告中找到：
不过，让我们退后一步。这是棘手的部分。这不是一个“坏消息”故事。毕竟，对于人工智能来说，识别漏洞是一个非常有价值的工具。
应用补丁的速度越快，漏洞就越少。这对网络安全专业人员很有帮助。困难在于，它对于那些也想利用这些漏洞的人来说是有帮助的。
这就是人工智能快速发展过程中普遍存在的双重用途问题。
审视人工智能在网络安全方面的潜力，也可以看出该技术的潜在缺点：一些内部人士已经在窃窃私语，称我们正在进入一个人工智能不仅可以帮助黑客，而且可能完全超过人类防御者的阶段。
这是一个非常可怕的想法，但这是真的吗？我们已经知道，一些人工智能技术能够识别甚至利用系统漏洞。我们能够自动做到这一点只是时间问题。
我相信，当政策制定者努力应对全球人工智能技术的快速发展时，我们会听到更多来自他们的声音：