机构名称：
¥ 1.0
2023 年 10 月 30 日，拜登总统发布了第 14110 号行政命令 (EO)，涉及安全、可靠和值得信赖的人工智能 (AI)。这项庞大的行政命令确定了政府在与美国日常生活中使用人工智能系统有关的各种主题上的优先事项，从制定安全标准到保护美国公民的隐私。具体来说，该行政命令要求 NIST“制定标准、工具和测试，以帮助确保人工智能系统安全、可靠和值得信赖……[包括] 严格的标准，以进行广泛的红队测试，以确保在公开发布之前的安全。”鉴于 CMU 与 NIST 在人工智能问题上的持续合作，以及我们坚信专家必须负责任地设计、开发和部署人工智能系统，以促进更加公正和公平的社会，K&L Gates 计划和 Block 中心联合在校园内接待了来自全国各地公共、私人和学术界的专家，以支持 NIST 制定红队指南。 2024 年 2 月，Block Center 和 CMU 的 K&L Gates 计划在 CMU 校园内召开了一场研讨会，讨论有关生成式人工智能 (GenAI) 的红队问题。会议由几位专家发言人和三个小组组成，重点讨论了以下主题：(1) 人工智能系统红队研究的前沿，(2) 围绕人工智能红队的行业实践，以及最后，(3) 人工智能红队的政策和法律影响。这份白皮书综合了全天活动讨论的主要发现。赞助商：卡内基梅隆大学 (CMU) 的 K&L Gates 伦理与计算技术计划旨在阐明在开发或使用计算技术过程中出现的伦理和社会问题，包括公平和正义问题、对个人自主权和福祉的影响、利益相关者参与和社区赋权、问责制和治理、促进利益和减轻风险以及其他相关问题。 Block 中心的“负责任的人工智能”计划汇集了大学最前沿的教育工作者和研究人员，并结合他们的专业知识与公共和私营部门的专家进行合作，以促进有效的政策制定和实践知识，产生思想领导力，并为有关负责任地使用人工智能的及时讨论做出贡献。
支持 NIST 制定红色指南
主要关键词
相关文件推荐
