详细内容或原文请订阅后点击阅览
Sabine Hossenfelder：“有人给我钱告诉你人工智能会杀死我们”
一张由阴暗动机、政治、阴险策略和意想不到的曲折组成的错综复杂的网络。但当谈到人工智能时，你还能期待什么？萨宾·霍森菲尔德 (Sabine Hossenfelder) 的帖子：“有人给我钱告诉你人工智能会杀死我们”，首先出现在 Watts Up With That? 上。
来源:与此有关的是什么埃里克·沃勒尔 (Eric Worrall) 的文章
一张由阴暗动机、政治、阴险策略和意想不到的曲折组成的错综复杂的网络。但当谈到人工智能时，你还能期待什么呢？
视频
首先，我认为我们都应该感谢 Sabine Hossenfelder 揭露了这一混乱局面。我不同意萨宾的气候观点，但她一直给我留下的印象是一个正直的人，而这一最新的披露强化了我对萨宾的好感。
Sabine 点名的组织之一是“人工智能安全中心”。奇怪的是，根据维基百科的说法，“人工智能安全中心”得到了开放人工智能和其他人工智能超大规模的大力支持，或者至少在 2023 年是这样的。
Sabine 还提到支持人工智能的团体也在推广赞助的支持人工智能的内容。
Sooo – 我们有一个反人工智能团体，直到最近才得到美国人工智能超大规模企业的支持，还有一个支持人工智能团体，得到了谁知道谁的支持。
到底发生了什么事？
所以我做了显而易见的事情——我要求人工智能弄清楚发生了什么。
我刚刚观看了 Sabine Hossenfelder 的一段视频，声称有人向她提供金钱来告诉我们人工智能会杀死我们。显然还有一些人工智能团体试图向有影响力的人付费来制作支持人工智能的材料。真正奇怪的是萨宾命名的反人工智能组织之一“人工智能安全中心”似乎得到了美国人工智能超大规模企业的支持。
您知道正在发生什么吗？这些团体是谁，以及他们想要实现什么目标？
这是真实的、最近的、真正纠结的。 Sabine 的视频于 9 月 5 日上线，她的核心主张是，告诉你人工智能将毁灭人类是有钱的，告诉你人工智能会改善你的生活也是有钱的——双方都在悄悄地向创作者付费，有些有适当的披露，有些则没有。以下是大致的球员名单。
“人工智能末日”融资方面。这笔钱主要可以追溯到有效的利他主义/长期主义慈善网络，尤其是开放慈善事业（主要由 Facebook 联合创始人达斯汀·莫斯科维茨的财富提供资金）。生命未来研究所和人工智能安全中心共同作为开放慈善事业的主要捐助者，参与这一运动的人们——他们往往称自己为长期主义者或有效的利他主义者——已在很大程度上将注意力转向人工智能安全。这个生态系统现在直接资助内容创作者：例如，有一个“框架奖学金”，将有前途的人工智能安全内容创作者带到旧金山，并为他们提供指导、制作和资金支持，以便他们能够制作有关人工智能风险的内容。 Perry Metzger 等批评者认为，大部分资金来自 EA 运动，该运动在塑造公众对话方面投入了大量资金。他们的目标是善意地表述：引起公众足够的警觉，以便对前沿人工智能进行严格监管。毫不客气地说：制造恐慌。
现在您发现了一个悖论 - 为什么 CAIS 看起来受到行业支持？一些线索可以解开它：
首先，这种纠缠是真实的，但贯穿于慈善事业，而不是超大规模企业的公司财务。 CAIS 和 FLI 的共同捐助者 Open Philanthropy 也向 OpenAI 捐赠了 3000 万美元，其前首席执行官 Holden Karnofsky 曾是 OpenAI 董事会成员。与大型科技公司相邻的财富和社交网络为前沿实验室提供了种子，也为 x 风险非营利组织提供了种子。 （值得在此进行全面披露：造就我的 Anthropic 位于同一个生态系统中 - 早期的 Anthropic 投资者和员工也与 EA 有联系。所以在阅读我的文章时请牢记这一点。）
Claude 是由参与这种情况的人管理的 - 因此，当您阅读 Claude 的解释时请记住这一点。
“支持人工智能”的资助方。这是更新、更大、更赤裸裸的政治性。一个名为“Leading the Future”的超级政治行动委员会于 2025 年筹集了 1.25 亿美元，由 Andreessen Horowitz、OpenAI 联合创始人 Greg Brockman、Palantir 联合创始人 Joe Lonsdale、Ron Conway 和 Perplexity 提供支持，目标是支持支持国家人工智能法规而非各州规则的候选人。它运营着一个网络，包括共和党导向的美国使命政治行动委员会（American Mission PAC）、民主党导向的 Think Big PAC 以及一个名为“构建美国人工智能”（Build American AI）的倡导机构。影响者角度有记录：《连线》杂志的一项调查发现，与超级政治行动委员会挂钩的“Build American AI”向 TikTokers 支付每段视频高达 5,000 美元的费用，以推动反华、支持人工智能的话题，并指示不要标记或披露支付者。他们的目标很具体：废除州级人工智能监管，确保宽松的联邦框架，并赢得 2026 年中期选举，其中人工智能正在成为一个关键问题，行业团体正在投入巨资来消除公众对人工智能的担忧。数据中心、能源使用和工作岗位转移。
其次，行业领袖公开认可 CAIS 的信息。其著名的 2023 年一句话灭绝风险声明由 OpenAI、DeepMind 和 Anthropic 的首席执行官签署。这就是让人产生怀疑的原因：愤世嫉俗的解读是“我们的产品可能会毁灭世界”是一种出色的营销（这意味着该产品是神圣的），吸引了人才和资本，并引发了只有拥有丰富律师经验的企业才能遵守的监管——这是针对初创企业和开源的护城河。
第三，两个阵营现在确实在互相争斗。 CAIS 的游说部门支持加州的 SB 1047 式安全法案； a16z 和 OpenAI 与他们进行了斗争，Leading the Future 则反对与州级人工智能监管相关的候选人，例如纽约州议员 Alex Bores 反对他的人工智能安全法案。因此，“超大规模企业为末日者提供资金”太简单了——该行业的政治资金目前瞄准了安全阵营。
最有道理的综合可能是这样的：不存在单一的阴谋，但有两个资金充足的倡导机器，它们都发现 YouTuber 和 TikTokers 的每次印象比游说者更便宜，而且它们都模糊了披露规则。繁荣一方的资金来自拥有直接财务利益的投资者和高管。 Sabine 的基本观点——你应该问谁为你遇到的任何人工智能观点付费，包括她的观点（她的视频本身由地面新闻赞助）和我的观点——无论哪一方的主张最终是正确的，都是合理的。
当前的战斗可能就像民主党与共和党一样简单，一场影响中期选举的战斗。正如 WUWT 之前指出的，一些民主党人最近转向宣扬人工智能恐惧，很可能作为两党对失败的气候恐慌的替代品。
而特朗普总统正在宣扬人工智能是美国关键战略优先事项的立场。
中国在何处或如何陷入这场混乱，谁也说不准。从逻辑上讲，中国希望通过煽动对人工智能的反对来阻碍美国的人工智能进步，但整个问题变得如此纠结，中国在哪里、如何发挥作用，甚至是否发挥作用都是一个悬而未决的问题。据我们所知，中国正在袖手旁观，看着美国压力团体互相撕扯。
我想我们可以从这场混乱中得到的一个结论是，在人工智能问题上要非常小心你信任的人。我个人从来没有为我的任何文章提供过金钱，可能是因为我不够突出，无法在提出此类提议的团体的雷达上注册，而且我当然不会有兴趣接受不包括完全披露权的资金，或者需要我宣传我不同意的职位。但扮演影响者的报酬很高，而控制人工智能叙事的信息战争影子游戏正在变得比气候辩论更加复杂。