详细内容或原文请订阅后点击阅览
CDAO 在军事医学背景下赞助众包 AI 保证试点
首席数字和人工智能办公室已成功完成众包 AI 红队保证计划试点，重点是在军事医学背景下使用大型语言模型聊天机器人。
来源:美国国防部发行首席数字和人工智能办公室（CDAO）成功地结束了众包AI红色团队（CAIRT）保证计划飞行员，专注于在军事医学的背景下使用大型语言模型（LLM）聊天机器人。 CAIRT计划支持国防部（DOD）产生基层，众包AI保证的方法和AI风险缓解。通过众包，项目能够引起大量数据并涉及各种利益相关者。
该CAIRT LLM飞行员是由人类情报公司（Humane Intelligence）与国防健康机构（DHA）和国防医疗保健管理系统（PEO DHMS）的计划执行办公室合作的人Huanane Intelligence进行的。通过红色团队的方法论 - 使用对抗技术来内部测试系统鲁棒性 - 人类智能能够有效地检测特定的系统漏洞。此外，红色团队吸引了希望与新技术互动并尽可能将来受益人参与的参与者，从而获得了有助于改善系统的机会。此前，在2024年春季，CDAO利用财务赏金进行了宝贵的红线Cairt练习。
赏金“由于在DOD内将Genai应用于试点和实验的阶段，因此该计划是生成大量测试数据，浮出水面领域的必不可少的探路，并验证了对未来的研究，可以在未来造成的Genai系统的缓解方案，并在未来的Genai系统中进行了调查。