详细内容或原文请订阅后点击阅览
停止在代码中寻找情报。事实证明，你最喜欢的 ChatGPT 并不比旧策略中的一群山羊聪明
一个视觉实验清楚地解释了流行的神经网络的运行机制。
来源:安全实验室新闻频道停止在代码中寻找情报。事实证明，你最喜欢的 ChatGPT 并不比旧策略中的一群山羊聪明
一个视觉实验清楚地解释了流行的神经网络的运行机制。
关于聊天机器人“意识”的争论往往始于人类在简单程序运行时看到个性的习惯，微软人工智能专家 Adrian de Winter 通过视频游戏《帝国时代 II》将这场争论推向了极致。
De Winter 在《帝国时代 II》脚本编辑器中构建了一个简单的神经网络元素，其中山羊扮演比特的角色，游戏逻辑基于草地和桥梁。该项目在题为“如果法学硕士具有人类特征，那么帝国时代 II 也具有人类特征”的论文中进行了描述。该实验的要点不是游戏或聊天机器人具有意识，而是人们如何容易地将人类品质归因于机器。
De Winter 没有使用真正的聊天机器人，而是在游戏中组合了一个小型游戏电路，其工作原理类似于神经网络的最简单部分。在常规神经网络中，数字通过数学节点，而在他的实验中，山羊扮演了此类数字的角色。它们在地图上的位置意味着“是”或“否”，就像电灯开关显示两种状态：开或关。草地和桥梁设定了运动规则，脚本编辑器使整个结构对输入数据做出反应。
因此，在旧策略内部，出现了一种原始的“心理”机制，但不是思维或成熟的语言模型。该电路可以执行一种简单的逻辑运算，并展示如何从基本开关构建更复杂的系统。这正是这个例子的要点：如果《帝国时代 II》中的山羊可以代表神经网络的一部分，那么没有人会说游戏已经获得了意识。这意味着神经网络机制运行的事实还不能证明聊天机器人有情感、个性或理解力。