机构名称：
¥ 6.0
i 此术语以及本文件中的其他术语均在附录 A 中定义。ii 第 14110 号行政命令将“双重用途基础模型”定义为“一种基于广泛数据进行训练的人工智能模型；通常使用自我监督；包含至少数百亿个参数；适用于广泛的环境；并且在对安全、国家经济安全、国家公共健康或安全或这些事项的任何组合构成严重风险的任务中展现出高水平的性能，或者可以轻松修改以展现高水平的性能，例如：（i）大幅降低非专家设计、合成、获取或使用化学、生物、放射或核武器 (CBRN) 的进入门槛；（ii）通过自动发现和利用漏洞，针对广泛的潜在网络攻击目标实现强大的攻击性网络行动；或（iii）允许通过欺骗或混淆手段逃避人类的控制或监督。”iii 编入 14 USC§278h-1。 iv 第 14110 号行政命令第 4.1(a)(ii) 节指示商务部长“制定适当的准则（作为国家安全系统组成部分的人工智能除外），包括适当的程序和流程，使人工智能开发者，特别是两用基础模型开发者，能够进行人工智能红队测试，从而部署安全、有保障且值得信赖的系统。这些工作应包括：（A）协调或制定与评估和管理两用基础模型的安全性、保障性和可信度相关的准则。”v 备忘录第 3.3(e)(ii) 节要求人工智能安全研究所“为人工智能开发者发布指导，指导他们如何测试、评估和管理由两用基础模型引起的安全性、保障性和可信度风险……”，包括此处范围内的一系列子主题。vi 附录 D 提供了对化学和生物滥用风险的考虑；附录 E 提供了网络滥用风险。
管理双重用途基础模型的误用风险
主要关键词
相关文件推荐
