详细内容或原文请订阅后点击阅览
人类如何才能在与人工智能的沟通中保持领先地位？
在人工智能训练中，机器执行特定动作并监控结果，然后相应地调整其行为并监控新的结果，然后再次调整其行为，依此类推，通过迭代过程进行学习。但这个过程会失控吗？这是很有可能。
来源:Robogeek新闻频道（关于机器人技术的俄罗斯与世界新闻）在人工智能训练中，机器执行特定动作并监控结果，然后相应地调整其行为并监控新的结果，然后再次调整其行为，依此类推，通过迭代过程进行学习。但这个过程会失控吗？这是很有可能。
“人工智能总是会试图避免人类干预，从而造成一种无法阻止的情况，”洛桑联邦理工学院分布式编程实验室教授、这项新研究的作者之一 Rachid Guerraoui 说道。因此，人工智能开发人员需要弄清楚如何防止机器最终学会绕过人类命令。
洛桑联邦理工学院研究这个问题的研究人员发现了控制一组人工智能机器人行动的操作员应该如何行动。他们的工作对自动驾驶汽车和无人机的发展做出了重大贡献。
人工智能技术中使用的机器学习技术之一是确认学习技术，借用自行为心理学，当代理执行某些操作时会收到奖励。当将此方法应用于人工智能时，工程师使用机器因正确做事而获得的积分系统。
例如，机器人可以因正确堆放一组盒子而获得一分，并因从街上搬运一个盒子而获得另一分。但是，例如，如果在下雨天操作员中断了机器人在外面收集箱子的工作，那么他将来就会知道最好留在室内并将箱子搬到那里，以便获得尽可能多的分数。
“挑战不是停止机器人，而是以这样一种方式对其进行编程，即中断不会改变学习过程，也不会鼓励它优化其行为以避免停止，”Guerraoui 说。