详细内容或原文请订阅后点击阅览
人工智能正在改变生物和核风险；治理必须相应改变
《原子科学家公报》发布了“核与生物安全领域人工智能应用的阿西洛玛原则”。
来源:詹姆斯马丁防扩散研究中心信息2026年6月18日斯蒂芬·赫尔佐格、艾莉森·伯克、潘彦良、威廉·波特、道格拉斯·肖
4 月，100 多名专家齐聚加州阿西洛玛会议中心，讨论人工智能如何影响核武器和生物武器。图片：爱德华多·藤井
以下是《原子科学家公报》的摘录。
4 月 7 日，Anthropic 宣布限制公众访问其最先进的人工智能 (AI) 模型 Claude Mythos Preview，因为该系统可能会发现和利用软件中的未知安全漏洞。开发商并不是唯一有这些担忧的人。此类风险远远超出了黑客攻击和数字安全的范围。
2026年的一份主要行业安全报告发现，一些前沿人工智能实验室最近对其系统添加了限制，因为他们不能排除他们的模型可能会帮助新手开发化学或生物武器。人工智能公司通常早在政府和国际组织做出反应之前就意识到了严重风险，这使得它们从一开始就参与制定监管规则至关重要。但当谈到限制自己具有商业价值的人工智能模型时，该行业常常止步不前。超越临时限制需要一个常设论坛，人工智能开发人员和外部安全专家可以共同确定哪些新兴功能需要更严格的审查或限制。
继续阅读原子科学家公报。