Advisa

符号作为弥合人机鸿沟的通用语言，用于可解释和可建议的人工智能系统

尽管许多现代人工智能系统通常能够学习自己的表征，拥有令人惊讶的强大功能，但人们对它们的不可捉摸性以及与人类互动能力随之而来的问题感到非常不满。虽然已经提出了神经符号方法等替代方案，但对于这些方法的具体内容缺乏共识。通常有两个独立的动机：(i) 符号作为人机交互的通用语言；(ii) 符号作为人工智能系统在其内部推理中使用的系统生成的抽象。关于人工智能系统是否需要在其内部推理中使用符号来实现一般智能能力，目前尚无定论。无论答案是什么，人机交互中对（人类可理解的）符号的需求似乎非常引人注目。符号，就像情绪一样，可能不是智能本身的必要条件，但它们对于人工智能系统与人类互动至关重要——因为我们既不能关闭我们的情绪，也不能没有我们的符号。特别是在许多人为设计的领域，人类会对提供明确的（符号）知识和建议感兴趣——并期望机器以同样的方式进行解释。仅此一点就要求人工智能系统维护一个符号界面以便与人类互动。在这篇蓝天论文中，我们论证了这一观点，并讨论了需要追求的研究方向，以实现这种类型的人机互动。