详细内容或原文请订阅后点击阅览
美国人工智能安全研究所与 Anthropic 和 OpenAI 签署关于人工智能安全研究、测试和评估的协议
马里兰州盖瑟斯堡 — 今天，美国商务部国家标准与技术研究所 (NIST) 的美国人工智能安全研究所宣布了正式合作开展人工智能安全研究的协议
来源:美国国家标准技术研究所盖瑟斯堡，马里兰州 - 今天，美国商务部国家标准技术研究所（NIST）的美国人工智能安全研究所宣布了协议，该协议能够正式合作与Anthropic and Openai进行AI安全研究，测试和评估。 每个公司的谅解备忘录为美国AI安全研究所建立了框架，以便在公开发布之前和之后从每个公司获得主要的新车型。这些协议将对如何评估能力和安全风险以及减轻这些风险的方法进行合作研究。 “安全对于助长突破性技术创新至关重要。有了这些协议，我们期待着与人类和OpenAI的技术合作，以推进AI安全的科学。”美国AI安全研究所主任伊丽莎白·凯利说。 “这些协议仅仅是开始，但是它们是一个重要的里程碑，因为我们努力帮助负责任地管理AI的未来。” 此外，美国AI安全研究所计划与其在英国AI安全研究所的合作伙伴密切合作，向人类和Openai提供有关模型潜在安全改进的反馈。 美国AI安全研究所建立在NIST超过120年的测量科学，技术，标准和相关工具的遗产上。根据这些协议的评估将通过促进对各个风险领域的先进AI系统的深入协作和探索性研究，进一步进一步研究AI的工作。 根据这些协议进行的评估将有助于通过在Biden-Harris政府对AI的行政命令以及领导AI模型开发人员对政府提出的自愿承诺上建立biden-harris政府的行政命令来提高安全，可信赖和可信赖的发展和使用。 关于美国AI安全研究所 美国AI安全研究所
盖瑟斯堡，马里兰州 - 今天，美国商务部国家标准技术研究所（NIST）的美国人工智能安全研究所宣布了协议，该协议能够正式合作与Anthropic and Openai进行AI安全研究，测试和评估。
每个公司的谅解备忘录为美国AI安全研究所建立了框架，以便在公开发布之前和之后从每个公司获得主要的新车型。这些协议将对如何评估能力和安全风险以及减轻这些风险的方法进行合作研究。
“安全对于助长突破性技术创新至关重要。有了这些协议，我们期待着与人类和OpenAI的技术合作，以推进AI安全的科学。”美国AI安全研究所主任伊丽莎白·凯利说。 “这些协议仅仅是开始，但是它们是一个重要的里程碑，因为我们努力帮助负责任地管理AI的未来。”
此外，美国AI安全研究所计划与其在英国AI安全研究所的合作伙伴密切合作，向人类和Openai提供有关模型潜在安全改进的反馈。
美国AI安全研究所建立在NIST超过120年的测量科学，技术，标准和相关工具的遗产上。根据这些协议的评估将通过促进对各个风险领域的先进AI系统的深入协作和探索性研究，进一步进一步研究AI的工作。
评估将有助于通过在Biden-Harris政府对AI的行政命令以及领导AI模型开发人员对政府提出的自愿承诺上建立biden-harris政府的行政命令来提高安全，可信赖和可信赖的发展和使用。
关于美国AI安全研究所美国AI安全研究所