CSET 人工智能危害框架基于与外部组织的讨论以及对 AIID 中大约 100 起人工智能事件进行注释的经验。在长达一年的注释过程中,我们加深了对事件多样性和复杂性的理解,确定了人工智能危害的核心要素并完善了定义。最终形成的框架以从现实世界的事件报告中创建可操作、可分析的数据为中心。此外,CSET 还参与了与负责任人工智能协作组织、MITRE、经济合作与发展组织、美国国家标准与技术研究所 (NIST) 和 O'Neil 风险咨询与算法审计 (ORCAA) 16 的讨论,讨论如何描述、识别和跟踪人工智能危害和风险。在可能的情况下,该框架会将其术语与这些组织使用的术语保持一致。
主要关键词