OpenAI 的 o3 引发 AGI 争论：“这将不是一个轻松的世纪”

OpenAI 刚刚用 o3 震撼了 AI 世界，许多人认为，其最新模型是迈向通用人工智能 (AGI) 的一大步，甚至可能是超级人工智能 (ASI)。

随着 o3 的影响逐渐深入，OpenAI 团队的两名成员发表了一些大胆、发人深省的观点，探讨了这一切对政策、治理和人类未来意味着什么。

首先，OpenAI 前沿 AI 安全政策负责人 Yo Shavit 概述了为什么强大的 AI (或 ASI) 的到来可能彻底颠覆全球经济。

然后，OpenAI 任务协调负责人 Joshua Achiam 写了一篇充满激情的帖子，讲述了世界对可能比我们预期的更快到来的变化有多么没有准备。

在《人工智能秀》第 129 集中，我和 Marketing AI Institute 创始人兼首席执行官 Paul Roetzer 分解了他们的关键观点，以及它们现在为何如此重要。

人工智能秀第 129 集 列出他们的要点——以及为什么它们现在很重要。

5 大 AGI 政策观察

在 X 上的一篇文章中，Yo Shavit 明确表示，如果 AGI（和 ASI）到来，社会需要开始为一些突发事件做计划。

X 上的文章

1. 每个人都有可能获得 ASI

如果我们真正开发出人工智能超级智能，Shavit 相信我们不会只看到它掌握在一个玩家手中。 相反，整个世界最终都会拥有它的某个版本。

2. 企业税率变得“非常非常重要”

如果人工智能代理承担了大部分劳动并归公司所有，那么这些公司可能会主导经济。 Shavit 认为，谁获利以及获利多少突然成为一个巨大的政策问题。

3. 人工智能不应拥有资产

Shavit 认为，让人工智能拥有现实世界的资产会带来巨大的风险。 如果人工智能本身拥有财产、资本或财富，它可能会完全避开人类的控制。

4. 围绕计算的法律将非常重要......

5. AGI 的技术协调是一切

即将到来的“动荡”世纪

撰写了自己的帖子

国内和国际政治

经济和市场效率

用 Achiam 的话来说：