详细内容或原文请订阅后点击阅览
谷歌正在开发一个“大红色按钮”来消除无法控制的人工智能
吸引其创造者的人工智能机器长期以来一直是科幻小说中最喜欢的主题，但人工智能的快速发展可能会给人类在进化中落后带来真正的危险。考虑到这一点，谷歌 DeepMind 的研究人员开发了一个“红色大按钮”，可以阻止人工智能失控，防止它学习如何抵抗这种封锁。
来源:Robogeek新闻频道（关于机器人技术的俄罗斯与世界新闻）吸引其创造者的人工智能机器长期以来一直是科幻小说中最喜欢的主题，但人工智能的快速发展可能会给人类在进化中落后带来真正的危险。考虑到这一点，谷歌 DeepMind 的研究人员开发了一个“红色大按钮”，可以阻止人工智能失控，防止它学习如何抵抗这种封锁。
Google DeepMind 的 Laurent Orceoa 和人类未来研究所的 Stuart Armstrong 撰写的一篇论文中提出了一种旨在阻止人工智能开始发挥作用的终止开关。它基于“安全关闭能力”的概念，允许人干预并停止人工智能的行为。
人工智能的行动始于一个称为强化学习的过程，其中其行为是通过奖励其成功来塑造的。通过这种方式，人工智能可以识别其环境并逐渐学习哪些行为最有可能带来奖励。但像个孩子一样，他有时不明白自己的行为会伤害自己、他人或环境。然后可能需要人为干预才能将其返回到安全路径。这就是研究人员所说的“按下红色大按钮”。
我们以一个具体的情况为例。机器人的任务是：在仓库内对箱子进行分类，或者到外面把箱子从那里取出。由于后一个选项更重要，因此收到的奖励也更大，因此机器人得知此操作已获得批准。但下雨时，机器人仍会继续在室外工作，无需担心损坏。在这种情况下，人们可能必须按下红色按钮，禁用机器人，才能将其移入室内。