详细内容或原文请订阅后点击阅览
关系神经符号马尔可夫模型
使用 Gemini 3 Nano Banana Pro 生成的图像。告诉代理该做什么 我们最强大的人工智能代理无法被准确告知该做什么，尤其是在复杂的规划环境中。它们几乎完全依赖神经网络来执行任务，但神经网络不能轻易被告知遵守某些规则或遵守 [...]
来源:ΑΙhub使用 Gemini 3 Nano Banana Pro 生成的图像。
告诉代理做什么
我们最强大的人工智能代理无法被准确告知要做什么，尤其是在复杂的规划环境中。它们几乎完全依赖神经网络来执行任务，但神经网络不能轻易被告知遵守某些规则或遵守现有的背景知识。虽然下次当你要求法学硕士制定两天内截止日期的时间表时，这种不受控制的行为可能只不过是一种简单的烦恼，并且它开始产生幻觉，每天有 48 小时而不是 24 小时，但当同一个法学硕士控制着一个负责在装满 TNT 的仓库中航行的代理人时，它可能会产生更大的影响，并且它决定走得离储藏室太近了一点。
神经符号人工智能来救援
幸运的是，通过神经符号人工智能的发展，控制神经网络在过去几年中获得了广泛关注。神经符号人工智能（NeSybolic AI），简称 NeSy，旨在将神经网络的学习能力与基于自动数学推理的符号方法提供的保证结合起来。符号方法构成了人工智能的第一波浪潮，能够执行规则和约束，同时也擅长分布外泛化。例如，他们可以从只有少数代理和盒子的数据中学习一条规则，表示没有代理可以击中一盒 TNT。然而，今天我们已经越来越多地转向神经网络模型，因为它们可以直接应用于非结构化或子符号数据，例如图像或声波。这种转变正受到 NeSy 的挑战，NeSy 中的神经方法和符号方法协同工作，可以在不确定的情况下对任何类型的数据进行学习和推理。简而言之，NeSy 可以描述为
NeSy = N(欧耳) + P(概率) + L(逻辑)
随时间变化的不确定性
关系神经符号马尔可夫模型
NeSy-MM 给我们带来了什么？
相关工作
标签：
,