详细内容或原文请订阅后点击阅览
确保人类对人工智能注入系统的控制
几千年前，当早期人类寻求确保安全用火时，人类对技术的控制就成为一个问题。后来，对马车和最终蒸汽机的控制引发了关于如何在限制危险的同时充分利用它们的好处的争论。现在，控制问题是人工智能技术设计的核心，一些倡导者设想完全的机器自主，而另一些倡导者则提倡人类自主。
来源:美国国家学院信息与 NASA 的火星探测器相关的大型系统使用时间框架控制。它们可以自主执行即时任务，例如在指向天线和太阳能电池板的同时绕过障碍物以获得最佳性能，但 NASA 地面控制员管理长期探索目的地，处理设备故障，并利用意外机会。
在飞机运行中，至少有四个时间框架控制：（i）自动系统每毫秒控制发动机功能；（ii）飞机驾驶员以分钟为单位控制飞机；（iii）地面控制员和航空公司经理每小时决定速度、高度或飞行计划变更；（iv）航空公司经理根据飞行数据记录器上有关每架飞机发动机性能的信息以及所有相同设计的飞机的汇总性能信息，每周决定维护。
4. 控制的演变认识到，随着设备改进得更可靠、更安全和更值得信赖，它们的采用和使用也会发生变化。例如，汽车从手动换挡进化到自动变速器用了几十年的时间。早期的自动变速器性能不佳，但经过改进，在平稳运行、节能和发动机性能方面通常比人更有效，并最终获得广泛认可。但即使使用自动变速器，驾驶员也有办法在陡峭的山坡或结冰的道路上控制车辆。成熟过程的一部分是训练人们使用更高程度的自动化，并进行改进以应对需要人工控制的情况。
控制的演变这四种类型是一个起点。工程师和设计师可能知道或开发出其他方法，让人们控制他们关心的问题，同时使用自动化来完成机器非常适合的任务。
参考文献