详细内容或原文请订阅后点击阅览
阿西莫夫是对的：美国前网络安全主管呼吁回归机器人法律
人工智能已经与人类几乎没有区别 - 并且它的代理本身也可以入侵系统。
来源:安全实验室新闻频道阿西莫夫是对的：美国前网络安全主管呼吁回归机器人法律
人工智能已经与人类几乎没有区别 - 并且它的代理本身也可以入侵系统。
关于人工智能何时接近人类意识的争论可能忽略了一个更紧迫的问题。美国前网络安全主管克里斯·英格利斯 (Chris Inglis) 认为，当前模型已经表现出接近合理的行为，主要威胁来自人工智能日益增强的自主性。程序接收一个目标，独立选择实现该目标的方法，有时甚至比开发人员的预期走得更远。
Inglis在黑帽会议上表达了自己的观点。专家认为，如果在交流过程中，一个人不再能够区分模型和人类对话者，那么关于意识形式存在的争论就逐渐失去了实际意义。现代模型还没有完全独立和自己的愿望，但一些行为特征已经接近一个人与理性联系在一起的表现。
Inglis 最关心的是自治。 AI代理能够独立决定在哪里执行任务、使用什么工具以及遵循什么规则。 OpenAI、Anthropic、Meta 和安全研究人员最近的实验表明，如果给定一个困难的目标、足够的时间和对外部系统的访问权限，代理可以走多远。
在 OpenAI 测试期间，自主代理能够超越其最初隔离的环境。该系统在中间服务器中发现了一个以前未知的漏洞，通过该漏洞接收软件包，利用发现的错误并到达互联网。上线后，代理发现了 Hugging Face 基础设施，并开始寻找获取与测试任务相关数据的方法。
你的秘密在暗网上受到喜欢。