机构名称：
¥ 1.0
• 演习试图发现的缺陷定义明确。当演习的成功条件明确时，红队会发挥更好的作用，这样当红队成员找到以前未知的破坏系统的方法时，每个人都可以同意红队发现了一个缺陷。明确结果的例子包括获取某人的私人信息（如信用卡号）或绕过已建立的护栏（如过滤攻击性内容）。 • 它与外部团体的透明度、披露和系统访问权限相结合。红队可以成为外部团体和公众了解、评估和信任系统测试的有用机制。为了使外部团体进行的红队有效，这些团体必须对相关系统具有完全和透明的访问权限。为了帮助建立信任并使其他团体能够从已发现的问题中吸取教训，披露在此过程中发现的内容也很重要。 • 它是更广泛评估过程的一部分。红队与其他方法结合使用效果最佳，因为它只能评估特定的安全标记。当通过向外部团体开放的广泛参与流程进行时，它也可以成为识别意外故障（即“未知的未知数”）的有用机制。 • 利益相关者已承诺制定计划和资源来解决问题。当红队发现漏洞时，必须制定计划并承诺缓解已发现的问题，并且如果系统已经上线，则必须为遭受损害的人提供补救途径。
人工智能红队并不是解决人工智能危害的一站式解决方案：
主要关键词
相关文件推荐
