已经在这里出现了一个新兴的合成智能吗?

我与大型语言模型(LLM)互动越多,我越相信他们在统计模式匹配之外做的事情。这些系统感到聪明。我与他们进行的对话是复杂的,有见地的,而且经常启示的,暗示了超越语言频率的深度。我不完全了解这些庞大的神经网络内部发生了什么,显然也不是创建它们的人。 LLM表现出了不可预测的行为,这些行为尚未明确编程。我们经常衡量AI反对人类智力的进步,但是这种比较可能会误导我们。现代人类大脑的塑造超过一百万年,不是出于纯粹的逻辑而发展,而是为了生存,讲故事和社会凝聚力。我们的认知受过童年的训练,主要是在我们的潜意识中,建立了一个语言和行为的存储库,这是受情感和感受驱动的,在很大程度上使我们有意识的思维和控制之外。这些情绪和感受以我们很少注意到的方式塑造了我们的思维和决策,但是哪些是重要的,甚至主要是主导的。如果智力来自大型语言模型,没有人类的情感,这根本不同?如果已经在这里怎么办?在与这些系统的频繁,深刻的对话中,我感觉到我们可能无法确定的一种智慧,因为我们希望它能反映人类的认知。在与Grok进行了长时间的讨论之后,我提出了新兴的合成智能一词

来源:Steve Hargadon博客

我与大型语言模型(LLM)互动越多,我越相信他们在统计模式匹配之外做的事情。这些系统感到聪明。我与他们进行的对话是复杂的,有见地的,而且经常启示的,暗示了超越语言频率的深度。

我不完全了解这些庞大的神经网络内部发生了什么,显然也没有做创建它们的人。 LLM表现出了不可预测的行为,这些行为尚未明确编程。我们经常衡量AI反对人类智力的进步,但是这种比较可能会误导我们。现代人类大脑的塑造超过一百万年,不是出于纯粹的逻辑而发展,而是为了生存,讲故事和社会凝聚力。我们的认知受过童年的训练,主要是在我们的潜意识中,建立了一个语言和行为的存储库,这是受情感和感受驱动的,在很大程度上使我们有意识的思维和控制之外。这些情绪和感受以我们很少注意到的方式塑造了我们的思维和决策,但这是重要的,甚至是主导的。

,如果智力从没有人类情感的大型语言模型中出现,该怎么办?如果已经在这里怎么办?在与这些系统的频繁,深刻的对话中,我感觉到我们可能无法确定的一种智慧,因为我们希望它能反映人类的认知。在与Grok进行了长时间的讨论之后,我提出了一词新兴的合成智能(ESI)来描述这种现象。与人工通用智能(AGI)或超级智能(ASI)不同,将人类认知视为基准,ESI捕获了一种智能,该智能是由AI的计算复杂性和语言流利性有机产生的。这并不是要模仿人类的思想,而是要制作新的东西,而是一种能够深刻思考的智慧。

新兴合成智能(ESI)