致谢:我们感谢 2021 年 10 月召开的研讨会的参与者,他们让我们了解了各种威胁和缓解措施。我们还感谢许多研讨会参与者对本文草稿提供的反馈。如需有关本文的更多反馈,我们感谢 Deepesh Chaudhari、Jeff Ding、Tyna Elondou、Shengli Hu、Daniel Kokotajlo、Gretchen Krueger、Pamela Mishkin、Ronald Robertson、Sarah Shoker、Samuel Wolrich 和 Jenny Xiao。Josh Goldstein 以斯坦福大学博士后研究员的身份开始从事该项目,并继续担任乔治城 CSET 的 CyberAI 项目的研究员。Matthew Gentzel 在为 OpenAI 签约期间完成了他的贡献,现在在 Longview Philanthropy 任职。Katerina Sedova 在担任乔治城 CSET 的 CyberAI 项目的研究员期间以及进入美国政府部门之前完成了对这个项目的贡献。所有错误都是我们自己的。