机构名称：
¥ 21.0
超级智能系统的研究通常认为人工智能的功能在理性的效用导向代理中扮演着心智的角色，因此采用了最初作为人类决策者的理想化模型而开发的抽象概念。如今，人工智能技术的发展凸显了与心智截然不同的智能系统，并为理解它们的不同方法提供了基础：今天，我们可以考虑人工智能系统是如何产生的（通过研究和开发工作）、它们做什么（广义上讲，通过执行任务提供服务）以及它们将实现什么（包括逐步但可能彻底地自动化人类任务）。由于自动化的任务包括人工智能研究和开发的任务，因此该领域的当前趋势有望加速人工智能技术本身的人工智能进步，可能导致分布式系统中人工智能技术的渐近递归改进，这一前景与不透明、单一代理内部自我改进的愿景形成鲜明对比。因此，人工智能发展的轨迹表明，渐近全面的超级智能级人工智能服务的出现——至关重要的是——可以包括开发新服务的服务，这些新服务既有狭义的，也有广义的，由具体的人类目标引导，并受到人类（不）认可的强大模型的影响。综合人工智能服务 (CAIS) 的概念提供了一种灵活的通用智能模型，其中代理是一类服务提供产品，而不是自然或必要的进步引擎。CAIS 模型的影响不仅重新定义了智能爆炸的前景和高级机器智能的性质，还重新定义了目标与智能之间的关系、利用高级人工智能解决广泛、具有挑战性的问题的问题以及人工智能安全和战略的基本考虑。也许令人惊讶的是，即使实现起来更容易，强自修改代理也会失去其工具价值，而此类代理出现的可能背景是一个已经拥有通用超级智能级能力的世界。这些未来能力反过来又带来了新的风险和机遇。本研究还涉及的主题包括具有广泛功能的系统的总体架构、符号系统和神经系统之间的交集、智能定义中的学习与能力、人类控制背景下的战术任务与战略任务，以及人类大脑与当前数字系统的相对容量的估计。
重新定义超级智能 - 人类未来研究所
主要关键词
相关文件推荐
