详细内容或原文请订阅后点击阅览
缩小了解人工智能的窗口 |科学
随着人工智能 (AI) 能力的快速发展，人类对这些系统的理解却日益落后。多种趋势正在融合，使得人工智能系统变得更加难以理解，同时它们也变得更加重要。没有...
来源:Science Magazine随着人工智能 (AI) 能力的快速发展，人类对这些系统的理解却日益落后。多种趋势正在融合，使得人工智能系统变得更加难以理解，同时它们也变得更加重要。如果不采取刻意的反补贴措施，构建我们能够有意义地理解和指导的人工智能系统的窗口可能会无法恢复。
人工智能的理解或可解释性并不意味着掌握每一行代码或每个神经网络参数。正如我们在从神经科学到心理学再到社会学的多个层面研究人类行为一样，人工智能的原理和操作也可以在不同的层面上进行探索和理解。完整
可能保留
，但科学很少是全有或全无的；部分了解还是有用的。使这种理解变得紧迫的不是对完整性的要求，而是实际的需要：随着能力的加速，即使对人工智能系统的不完美因果洞察也可能让我们及早发现风险并在危害复合之前进行干预。
一个挑战理解的趋势是人工智能主导的人工智能设计的兴起。人工智能系统现在是由人工智能系统通过
可以超越人类的理解并在抵抗直觉的高维空间中展开。结果是运营不透明性不断增加：绩效提高了，但对如何实现绩效的了解却减少了。为了促进人类的洞察力和控制力，有助于自身设计的人工智能系统应该产生解释和工具，使其架构和操作为人类所理解。否则，不透明可能会作为设计过程本身的意外结果而出现。
第三个趋势是持久性、自适应人工智能代理的扩展
，产生新形式的行为不透明性。
更微妙的是，我们可能会逐渐失去理解和指导人工智能的兴趣。随着人工智能系统深深嵌入人类环境中，它们可能会对偏好做出反应，但也可能会做出反应
从制度上讲，