人工智能还是民主

在时代中心,Anthropic 的杰克·克拉克 (Jack Clark) 论证了涌向我们的技术是可以治理的。事后反思,塞缪尔·金布里尔(Samuel Kimbriel)围绕着一个核心问题:它是否可以由我们来治理。 后人工智能或民主首先出现在阿斯彭研究所。

来源:阿斯彭研究所刊物

2026 年 6 月 18 日星期四,在纽约时代中心,哲学与社会计划主任塞缪尔·金布里尔 (Samuel Kimbriel) 与 Anthropic 联合创始人兼研究所所长杰克·克拉克 (Jack Clark) 坐下来,进行了一次基本上对技术持乐观态度的对话,部分原因是两人都不是勒德分子,部分原因是克拉克最终捍卫了这项技术有良好发展轨迹的观点。金布里尔指出了他认为标准风险清单中遗漏的一个担忧。

您可以在此处观看完整视频。一些值得带出房间的东西:

  • 基本主张。克拉克的前提是递归自我改进:机器可以发明自己的继任者,可能在几年内,之后世界将不再与我们所拥有的机器和解。 Kimbriel 将 RSI 视为枢纽——一个开放的实证问题,以及将人工智能视为正常技术和非常异常技术之间的界限。最让他印象深刻的是,克拉克不仅不甘心小心翼翼地建造它,而且还认真地建造它。他坚信一切都会顺利进行。
  • 关于“好”的争论。OpenAI 的目标是在护栏内提供一个最小的、最大程度合规的工具,而 Anthropic 则试图发展一个好的实体。一个诚实、愿意承认无知、拒绝奉承的人,其价值观被写入一部已出版的宪法。金布里尔的疑虑源自道德哲学:谁来决定什么是好的?他认为,从社会层面来看,这留下了三种令人不快的选择:面对真正的冲突时假装中立,阿谀奉承的极简主义,或者将一种善的观念强加给每个人,而随着技术变得更加强大,每一种都变得越来越不足。