XiaoMi-AI文件搜索系统
World File Search System模型权重
保护 AI 模型权重：防止前沿模型被盗用和滥用
研究诚信 我们的使命是通过研究和分析帮助改善政策和决策，这一使命通过我们的核心价值观——质量和客观性以及我们对最高诚信和道德行为的坚定承诺得以实现。为确保我们的研究和分析严谨、客观和不偏不倚，我们对研究出版物进行了严格而严格的质量保证流程；通过员工培训、项目筛选和强制披露政策避免出现和实际的财务和其他利益冲突；并通过我们致力于公开发表研究结果和建议、披露已发表研究的资金来源以及确保知识独立的政策，追求研究工作的透明度。有关更多信息，请访问 www.rand.org/about/research-integrity。
对 NTIA 关于具有广泛可用模型权重的双重用途基础人工智能模型的 RFC 的回应
执行摘要 感谢您有机会对美国国家电信和信息管理局 (NTIA) 关于“具有广泛可用模型权重的双重用途基础人工智能模型”的评论请求 (RFC) 做出评论，1 涉及 NTIA 根据《关于安全、可靠和值得信赖地开发和使用人工智能的行政命令》(EO) 第 4.6 节所承担的责任。2 此处表达的评论反映了约翰霍普金斯大学健康安全中心的想法，并不一定反映约翰霍普金斯大学的观点。下面，我们提供了有关“开放”双重用途基础模型（即模型权重广泛可用的模型）的政策和监管方法相关主题的生物安全考虑信息。约翰霍普金斯大学健康安全中心正在研究新政策方法、科学进步和技术创新如何加强健康安全和挽救生命。该中心在生物安全领域拥有 25 年的经验，致力于确保未来流行病、灾难和生物武器不再威胁我们的世界。我们的中心由科学、医学、公共卫生、法律、社会科学、经济学、国家安全和新兴技术领域的研究人员和专家组成。行政命令第 4.6 节要求 NTIA 编写一份报告，报告涉及具有广泛可用模型权重的双重用途基础模型的益处和风险。3 行政命令特别关注用户微调开放的双重用途基础模型或删除模型保护措施所带来的风险。行政命令将双重用途基础模型定义为，除其他外，任何包含至少数百亿个参数的人工智能模型，“适用于广泛的环境”，并且“在对安全、国家经济安全、国家公共卫生或安全构成严重风险的任务中表现出高水平的性能，或可以轻松修改以表现出高水平的性能。” 4 行政命令强调的第一个令人担忧的能力是“大幅降低非专家设计、合成、获取或使用化学、生物、放射或核武器 (CBRN) 的准入门槛。”