详细内容或原文请订阅后点击阅览
兰德公司人工智能安全项目通过 Audacious 项目获得资金承诺
认识到先进人工智能 (AI) 对社会的潜在影响，TED 下属的合作资助计划“大胆计划”已承诺向 RAND 和 METR 提供约 3800 万美元用于“金丝雀计划”，这是一项旨在帮助使未来 AI 系统更安全的新研究合作。
来源:兰德国防安全研究中心首页发布
2024年10月9日（星期三）
Project Canary（与Metr的合作）将获得大约3800万美元，以研究人工智能的增长风险
认识到高级人工智能（AI）对社会的潜在影响，大胆的项目是TED的合作资金计划，已向Rand和Metr投入了大约3,800万美元的Rand和Metr，以进行Canary Project Canary，这是一项旨在使未来AI Systems Safer Safer Safer的新研究合作。
被选为大胆项目的2024年大创意之一，该项目旨在开发Altier AI开发人员可以在发布之前使用其系统来评估其系统的工具。
“ AI系统正在以前所未有的速度前进。兰德总裁兼首席执行官杰森·马修尼（Jason Matheny）说：“除了令人难以置信的潜力外，许多我们尚未完全理解。” “兰德几乎正在研究AI在几乎每个政策领域中的含义，但是这个项目令人兴奋，因为它是第一个在仍在开发过程中评估Frontier AI系统能力的基于证据的方法。”
Jason Matheny非党派，非营利性RAND和METR的研究人员，AI评估研究非营利组织将分别为该项目做出贡献，分别基于其滥用风险和AI系统自治方面的集体专业知识。该项目将着重于开发尖端的科学，方法论和工具，以评估AI系统的风险如何表现出来，并对每一代新一代Frontier AI系统进行预先评估。
该项目创建的方法和工具将与更广泛的AI研究社区共享，使其他人可以在现有研究的基础上大大降低新组织的进入障碍。兰德（Rand）和梅特（Metr）还将与决策者分享他们的发现和见解，以告知负责任的AI系统的开发和部署。
ella guest 贝丝·巴恩斯 在这里