详细内容或原文请订阅后点击阅览
CDAO赞助了军事医学背景下的AI Assurance Pilot
首席数字和人工智能办公室已成功地结论了众包AI红色团队的保证计划飞行员，专注于在军事医学背景下使用大型语言模型聊天机器人。
来源:美国国防部发行首席数字和人工智能办公室 (CDAO) 成功完成了众包人工智能红队 (CAIRT) 保证计划试点，重点关注在军事医学背景下使用大语言模型 (LLM) 聊天机器人。 CAIRT 计划支持国防部 (DoD) 制定人工智能保障和人工智能风险缓解的基层众包方法。通过众包，项目能够获取大量数据并涉及广泛的利益相关者。
该 CAIRT LLM 试点项目由 Humane Intelligence 进行，该公司是一家围绕算法评估建立实践社区的科技公司，与国防卫生局 (DHA) 和国防医疗管理系统项目执行办公室 (PEO DHMS) 合作。通过红队方法（使用对抗性技术在内部测试系统的稳健性），Humane Intelligence 能够有效地检测特定的系统漏洞。此外，红队吸引了那些想要接触新技术的参与者，并作为未来可能的受益者，获得为改进系统做出贡献的机会。此前，CDAO 在 2024 年春季利用奖金举办了一次有价值的红队 CAIRT 演习。
赏金“由于在国防部内将 GenAI 用于此类目的尚处于试点和实验的早期阶段，因此该计划充当了重要的探路者，用于生成大量测试数据、列出供考虑的区域以及验证缓解方案，这些方案将影响未来可能部署的 GenAI 系统的研究、开发和保证，”CDAO 的该计划负责人 Matthew Johnson 博士说道。