我们发现,对于七个领域中的六个,我们分析的研究并未为开放基础模型的边际风险提供有说服力的证据:他们不考虑框架中的步骤,例如现有技术或防御能力如何适应边际风险。但是,对于与CSAM相关的风险,Thiel等人。(2023)3进行了完整的分析,该分析显示了未能令人满意解决的开放基础模型的边际风险。4为了提供指导,我们对自动网络安全脆弱性检测和NCII进行了初步的边际风险评估,我们发现,当前开放基础模型的边际风险较低,对于自动化脆弱性检测(部分是由于AI的有效性而用于防御的效率),而开放模型的开放型风险对NCII有可能。
主要关键词