除了高风险功能外,在Microsoft开发和部署AI技术时,还要控制更广泛的风险。在微软的综合AI治理计划下,Frontier模型以及其他模型和AI系统都受到相关评估的约束,然后进行缓解以使总体风险达到适当的水平。有关模型或系统性能,负责使用以及建议的系统级评估的信息与下游参与者共享,将模型集成到系统中,包括Microsoft Building Mucdure Models的外部系统开发人员,部署者,部署者以及团队。适当的信息共享对于促进缓解更广泛的风险很重要,其中许多风险是由用例和部署环境以及各个司法管辖区变化的法律和规范的大大塑造的。因此,不同的风险概况可能会为不同的缓解策略提供信息,但微软的总体映射,测量和缓解风险方法(包括通过强大的评估和测量)始终适用于我们的AI技术。我们为评估和减轻与该框架所追踪功能相关的风险的努力受益于该广泛应用治理计划,该计划将不断改进。该框架的其余部分更具体地解决了与框架跟踪功能有关的风险的评估和缓解。
主要关键词