我们在此认为,当代半导体计算技术对任何通用人工智能系统的出现都构成了重大甚至是不可逾越的障碍,更不用说被许多人期待的“超级智能”系统了。人工智能超级智能 (ASI) 的这种限制源于系统的能量需求,该系统比人脑更智能,但能源使用效率要低几个数量级。考虑到集体行为对社会进步的影响,ASI 不仅要取代单个大脑,还要取代大量人口,这进一步增加了能源需求。假设的 ASI 所消耗的能源可能会比高度工业化国家高出几个数量级。我们用一个称为“Erasi 方程”的方程来估算 ASI 的能耗,该方程表示人工智能的能量需求。当前人工智能研究的发展轨迹不集中且分散,将产生额外的效率后果。综合起来,这些论点表明,基于当前的计算机架构,在可预见的未来,ASI 的出现可能性极小,这主要是由于能源限制,而仿生学或其他新技术可能是解决方案。
超级智能系统的研究通常认为人工智能的功能在理性的效用导向代理中扮演着心智的角色,因此采用了最初作为人类决策者的理想化模型而开发的抽象概念。如今,人工智能技术的发展凸显了与心智截然不同的智能系统,并为理解它们的不同方法提供了基础:今天,我们可以考虑人工智能系统是如何产生的(通过研究和开发工作)、它们做什么(广义上讲,通过执行任务提供服务)以及它们将实现什么(包括逐步但可能彻底地自动化人类任务)。由于自动化的任务包括人工智能研究和开发的任务,因此该领域的当前趋势有望加速人工智能技术本身的人工智能进步,可能导致分布式系统中人工智能技术的渐近递归改进,这一前景与不透明、单一代理内部自我改进的愿景形成鲜明对比。因此,人工智能发展的轨迹表明,渐近全面的超级智能级人工智能服务的出现——至关重要的是——可以包括开发新服务的服务,这些新服务既有狭义的,也有广义的,由具体的人类目标引导,并受到人类(不)认可的强大模型的影响。综合人工智能服务 (CAIS) 的概念提供了一种灵活的通用智能模型,其中代理是一类服务提供产品,而不是自然或必要的进步引擎。CAIS 模型的影响不仅重新定义了智能爆炸的前景和高级机器智能的性质,还重新定义了目标与智能之间的关系、利用高级人工智能解决广泛、具有挑战性的问题的问题以及人工智能安全和战略的基本考虑。也许令人惊讶的是,即使实现起来更容易,强自修改代理也会失去其工具价值,而此类代理出现的可能背景是一个已经拥有通用超级智能级能力的世界。这些未来能力反过来又带来了新的风险和机遇。本研究还涉及的主题包括具有广泛功能的系统的总体架构、符号系统和神经系统之间的交集、智能定义中的学习与能力、人类控制背景下的战术任务与战略任务,以及人类大脑与当前数字系统的相对容量的估计。
人工智能的简要概述 人工智能的三种类型是什么? 从根本上讲,人工智能主要有三种类型:狭义人工智能(或狭义 AI)、通用人工智能(或 AGI)和超级人工智能(或 ASI)。狭义人工智能是指人工智能在一项任务或一组相关任务上表现出色的情况。例如,它可以解决某些数学问题,或者它可以在几秒钟内就几乎任何主题撰写一篇文章——并设置必要的防护措施以防止出现性或暴力内容。人们甚至可以与人工智能聊天机器人进行对话。通用人工智能 (AGI) 是指计算系统在一系列认知任务中具有高级智能。它似乎具有类似人类的智能,并能够掌握一系列更大的任务。我们还没有 AGI,但一些计算机科学家认为我们正在接近它。在 AGI 之后,人工智能的下一个阶段可能是 ASI,或者是一种超级智能,它将远远超过任何人类,几乎超出我们所能想象的一切。
在全球范围内,人工智能继续吸引着最大份额的风险投资,在 2024 年第三季度,美洲、亚洲和欧洲的交易额最大。虽然核心人工智能公司继续获得大量投资——包括美国的 Safe Superintelligence(10 亿美元)、百川人工智能(6.88 亿美元)、中国的 Moonshot AI(3 亿美元)和日本的 Sakana AI(2 亿美元)——但人工智能的行业应用也引起了风险投资者的浓厚兴趣。在本季度,人工智能驱动的国防科技公司筹集了大量资金,其中包括美国的 Anduril Industries(15 亿美元)和德国的 Helsing(4.84 亿美元)。中国还有一家专注于帮助汽车公司将人工智能嵌入其车辆的初创公司 AutoAI,该公司在 2024 年第三季度筹集了 1.07 亿美元。
主要局限于小众领域,这导致人们猜测其结果将是所谓的“通用人工智能”(AGI),或有人称之为“超级人工智能”(ASI),即在很多方面或大多数方面匹敌或超越人类智能行为的人工智能。本文并不排除这种可能性,也不认为它特别有可能,但提出人工智能的进步可能是不可预测或无法识别的,其形式与外行人所认为的基于人类经验的“智能”不同。虽然中国先进的人工智能研究不一定是传说中的人类水平的机器智能的圣杯,但它的成果将同样具有重大意义。
1 延世大学电气电子工程学院,首尔 03722,韩国 2 韩国科学技术研究院生物医学研究所仿生学中心,首尔 02792,韩国 3 成均馆大学电气与计算机工程系,水原 16419,韩国 4 韩国科学技术大学 KIST 学院生物医学科学与技术系,首尔 02792,韩国 5 成均馆大学智能精准医疗融合系,水原 16419,韩国 6 成均馆大学生物医学工程系,水原 16419,韩国 7 成均馆大学超智能工程系,水原 16419,韩国 * 通讯地址:mikyungshin@g.skku.edu (硕士);daniel3600@g.skku.edu(博士)
本文有助于探讨AI驱动的技术奇异性及其经济影响的文献的不断增长。探索在三个关键部分中展开。首先,它阐明了人工通用智能(AGI),AI超智能和奇异性本身的概念。随后,它讨论了AI对齐问题,并解决了超智能AI对人类文明的潜在结果。此外,Giddens的融合理论用于强调基于AI的“权威资源”在确定资源分配和确保技术 - 乌托邦社会中的分布式jus tice方面的重要作用。本文还探讨了乌托邦的想法和“历史的终结”,并结论是,通过超级智能AI实现技术乌托邦是一个机制设计问题。
人工智能确实会变得无处不在。关于人工智能是好是坏的讨论已经不再有意义了。现在是讨论如何根据国家需求塑造人工智能发展的时候了(Kalluri,2020 年)。围绕核武器的地缘政治辩论已经转向人工智能。在这种前所未有的变化时代,需要对人工智能的社会政治影响进行分析。《人工智能时代:我们的人类未来》一书让公众了解人工智能对社会和全球政治的影响。有趣的是,它建立在《第三次浪潮》(Toffler,1981 年)、《未来政治》(Susskind,2018 年)和《超级智能》(Bostrom,2014 年)中提出的结论之上。它重申了人工智能可能在政治上造成破坏的论点。验证这一论点需要外交事务和技术发展方面的专业知识,而《人工智能时代》的作者符合这些条件。