详细内容或原文请订阅后点击阅览
Max Tegmark：人工智能的发展可能导致人类灭绝
科技巨头是否故意分散我们对真正威胁的注意力？
来源:安全实验室新闻频道物理科学家和人工智能安全倡导者马克斯·泰格马克警告说，科技巨头正在分散世界对人工智能继续对人类构成的生存风险的注意力。
在首尔人工智能峰会上发表讲话时，泰格马克警告说，将焦点从灭绝威胁转移到一般安全问题可能会推迟对强大智能系统创建者的限制。
首尔人工智能峰会这位科学家与核物理史上最重要的事件之一进行了直接的比较：
“1942 年，恩里科·费米 (Enrico Fermi) 在芝加哥的一个足球场下建造了世界上第一个自持核链式反应堆。当当时的顶尖物理学家得知这一消息时，他们确实感到震惊，因为他们意识到制造核武器的主要障碍刚刚崩溃。他们意识到制造炸弹是未来几年的事情，而三一学院实际上只有三年的时间了。”
泰格马克认为，能够通过图灵测试并且在通信方面与人类无法区分的人工智能模型同样是一个令人震惊的信号，因为没有人保证有一天我们不会失去对算法的控制。这就是为什么杰弗里·辛顿 (Geoffrey Hinton)、约书亚·本吉奥 (Yoshua Bengio) 等行业先驱以及许多科技公司的负责人最近开始发出警报，尽管并未公开。
去年，Tegmark 领导的非营利组织 Future of Life 呼吁暂停人工智能研究六个月。当 OpenAI 在当年 3 月发布其超强大的 GPT-4 模型时，Tegmark 称其为“煤矿里的金丝雀”，证明危险已经非常接近。
OpenAI“但现在我们需要从空谈转向实际行动，”这位物理学家强调道。