机构名称：
¥ 1.0
我们建议 NIST 考虑将与人类价值观和意图的一致性纳入其指导原则中。1 一致的人工智能系统能够可靠地完成人类希望它们做的事情，因此一致性的概念 2 与指导原则的首要关注点直接相关，即维护“表明社会优先事项的更广泛的社会规范和价值观”。我们认为，一致性是人工智能发展的一个重要指导原则，特别是对于那些将定期与个人互动并随着时间的推移将越来越多地融入我们的经济和社区的人工智能系统而言。随着人工智能系统变得越来越强大，由一致性失败引起的风险可能会非常大。3 NIST 完全有能力强调这一点，这是人工智能风险管理面临的重要挑战。
OpenAI 对 NIST AI RMF 的评论
主要关键词
相关文件推荐
