FLI 赞扬 NIST 在 AI RMF 初稿中强调“极有可能产生不利影响”的“低概率”事件或“不易预见”的事件(第 5 页第 28-30 行和第 6 页第 12-14 行)。我们的组织相信强调 AI 系统催化灾难性风险的潜力的价值,正如 AI RMF 概念文件(第 2 页第 15 行)中所述。我们建议在文档 1.0 版发布时重新纳入这一想法。这样做将有助于阐明越来越强大的 AI 系统可能引发全球长期直接和间接负面社会影响的可能性。此外,NIST 应考虑将以下概念纳入其 AI RMF:当 AI 系统大规模部署时,对个人影响较小到中等的低概率问题可能会聚集成大型社会问题。