详细内容或原文请订阅后点击阅览
打击暴力极端主义：FBI 和 DHS 需要制定与社交媒体和游戏公司共享威胁信息的策略和目标
GAO 的发现国内暴力极端分子利用社交媒体和游戏平台有多种目的，包括接触广泛受众；将他们的极端主义思想纳入主流；据政府报告和政府问责局采访的专家称（见图），这些行为还包括激进化、招募和动员其他人。专家指出，暴力极端分子通常出于不同目的使用各种平台，具体取决于可用功能、受众和内容审核实践。家庭暴力极端分子使用在线平台的病毒性示例据社交媒体和游戏公司 GAO 会见，他们使用各种内容审核工具来识别和删除他们认为违反其平台上与国内暴力极端主义相关的政策的内容。例如，他们报告使用机器学习工具来扫描违反其政策的内容以及员工的评论。然而，公司和专家报告说，有几个因素影响这些审核工作，例如公司财务考虑和可接受内容标准的多样性。例如，一个平台上禁止的内容可能在另一个平台上被允许。联邦调查局 (FBI) 和国土安全部 (DHS) 设有与社交媒体和游戏公司共享和接收国内暴力极端主义威胁相关信息的机制。然而，这两个机构都没有制定一项战略来阐明如何识别和选择参与的公司或这些参与的目标和预期结果。如果没有战略或目标，各机构可能无法充分意识到他们与公司的沟通有多有效，或者他们的信息共享机制如何有效地服务于机构的总体使命。为什么 GAO 进行这项研究 近年来，社交媒体和社交媒体上的内容专家和机构官员表示，宣扬国内暴力极端主义的游戏平台已影响了多起引人注目的袭击事件。因此，一些社交媒体和游戏公司以及联邦机构正在努力了解和解决宣扬国内暴力极端主义的网络内容。GAO 被要求审查国内暴力极端分子对社交媒体和游戏平台的使用情况。本报告(1)描述了国内暴力极端分子使用这些平台的目的； (2) 描述选定的公司如何报告宣扬国内暴力极端主义的缓解内容； (3) 评估联邦调查局和国土安全部制定与公司共享威胁相关信息的目标和战略的程度。政府问责局审查了联邦调查局和国土安全部的文件并采访了官员。 GAO 听取了美国国家科学院确定的 16 名主题专家以及之前工作的意见。 GAO 还采访了来自五家社交媒体和游戏公司的不可概括样本的代表。
来源:美国政府问责局__国土安全 空间信息美国政府问责署的发现
根据政府报告和美国政府问责署采访的专家，国内暴力极端分子使用社交媒体和游戏平台有多种目的，包括接触广泛受众；将他们的极端主义思想引入主流；以及激进化、招募和动员他人（见图）。专家指出，暴力极端分子通常使用各种平台来达到不同的目的，具体取决于可用的功能、受众和内容审核实践。
国内暴力极端分子使用网络平台的病毒性示例
根据美国政府问责署采访的社交媒体和游戏公司，他们使用各种内容审核工具来识别和删除他们认为违反其平台与国内暴力极端主义相关的政策的内容。例如，他们报告使用机器学习工具扫描违反其政策的内容以及员工的评论。然而，公司和专家报告称，有几个因素影响着这些审核工作，例如公司财务考虑和可接受内容标准的多样性。例如，在一个平台上被禁止的内容可能在另一个平台上被允许。
联邦调查局 (FBI) 和国土安全部 (DHS) 有与社交媒体和游戏公司共享和接收国内暴力极端主义威胁相关信息的机制。然而，这两个机构都没有制定出一项战略，阐明如何识别和选择要合作的公司，或这些合作的目标和预期结果。如果没有战略或目标，这些机构可能无法充分了解他们与公司的沟通有多有效，或者他们的信息共享机制如何有效地服务于机构的整体使命。