详细内容或原文请订阅后点击阅览
管理核与生物安全中人工智能应用的阿西洛玛原则
CNS 发布了具有里程碑意义的阿西洛玛进程原则，旨在就早期人工智能治理进行持续的跨部门对话。
来源:詹姆斯马丁防扩散研究中心信息2026年6月18日艾莉森·伯克、史蒂芬·赫尔佐格、潘彦良、威廉·波特、道格拉斯·肖
管理核与生物安全中人工智能应用的阿西洛玛原则
会议秘书处通过
“硅、剑和犁：
人工智能在核和生物领域的危险和前景”
2026 年 4 月 8 日至 9 日
阿西洛玛会议场地，太平洋丛林，加利福尼亚州
我们秘书处在来自学术界、研究机构、政府、民间社会和人工智能（AI）行业的100多名专家审议的基础上，通过以下原则。这些原则旨在指导对影响核安全和生物安全的人工智能应用进行负责任的治理。他们认识到人工智能对人类安全的潜在贡献，以及其造成或放大全球灾难性风险的能力。作为正在进行的阿西洛玛进程的第一个声明，这些原则旨在为进一步的研究和实施工作制定议程，同时随着经验和能力的发展保持开放的完善态度。
1.人工智能必须保护人类的生存。
人工智能系统必须加强（而不是削弱）使用核武器和生物武器的障碍。这些武器早在人工智能发展之前就给人类带来了灭绝的风险。人工智能系统不得加速或加剧此类风险。因此，在部署影响这些领域的人工智能工具时，保护人类生存应该是首要任务。