设计文档

评估人工智能的风险和影响 (ARIA) 计划评估设计文档

ARIA（评估人工智能的风险和影响）是一项 NIST 评估驱动的研究计划，旨在开发能够解释人工智能在现实世界中的风险和影响的测量方法。该计划建立了一个实验环境，以收集有关人们在受控的现实条件下使用人工智能时会发生什么的证据。与当前依赖概率和预测的方法相比，ARIA 将能够直接观察人工智能系统行为及其对用户的潜在影响。ARIA 将人与人工智能应用程序配对，在围绕特定人工智能风险设计的基于场景的交互中，并研究结果。来自世界各地的申请提交给 NIST，并根据风险是否在场景中实现以及由此产生的影响的大小和程度进行评估。参与团队将了解他们的应用程序是否可以在测试环境的不同上下文中保持功能。