机构名称：
¥ 3.0
外国信息操纵和干扰（FIMI）是误解，虚假信息，失败和其他扭曲的伞。fimi在过去的几十年中已经成长为全球威胁，渗透到许多公众的话语和通讯中，尤其是在社交媒体上[57，14]。FIMI是对民主，健康和隐私的威胁[60，64，82]。最近的发展已经看到了使用生成人工智能（AI）来增加针对FIMI的操作的影响。例如，大型语言模型（LLMS）能够创建与人类文本几乎没有区别的文本[35，42]。llms开始用于控制僵尸网络，用于全球快速自动化恶意含量和虚假信息[104]。过去几年彻底改变了生成AI的图像，视频和音频的进展，促进了多模型信息攻击，并且只会不断增加对抗AI驱动的FIMI的困难。对使用生成AI进行FIMI的兴趣源于低成本宣传的大规模分布的承诺[40]。，如Goldstein等。争辩，建立此类“巨魔农场”的低成本使人们可以快速改变竞选重点以适应当前的新闻事件[36]。Jachim等人。认为，将生成的AI用于FIMI特别适合国家和国家赞助的巨魔，以通过传播和创建例如谣言，阴谋论和恶意叙事来进一步地缘政治议程[40]。安全对齐模型几乎不得不指示产生不安全的输出[69，106]。也有一项持续的努力来减轻基于AI的FIMI，并采取了基于技术和政策的措施。尽管培训数据的策展（例如，为了避免已知偏见）和安全对准等技术措施，一种用于使模型行为与人类偏好和伦理相结合的方法，[76]在许多方面可能是成功的，但它们在其他方面也可能不足。在大型语言模型（LLM）的背景下，这是本报告的重点，不安全的输出是一个字符串1，可以在fimi中使用，即传播仇恨，不道德的观点，歧视，暴力等。需要持续和持续努力来对抗基于AI的FIMI的努力部分取决于对其进行建模的困难[14]，部分是基于生成AI领域的快速技术发展。此外，威胁行为者与捍卫者之间存在不对称性，威胁行为者可以将其资源集中在一种恶意类型的内容或一种特定的攻击向量上，而后卫则需要始终防御所有可能的威胁。基于策略的努力（例如，参见[95]）减轻FIMI与其他类型的并发症有关。这种方法通常建议基于社区的解决方案，包括教育努力和有商业利益的各方与有民事责任的当事方合作。Goldstein等。[36]给出这样的建议。在本报告中，我们将尝试在FIMI中使用生成AI的主题增加价值 - 在当前每周在现场发表的报告和文章的雪崩中。我们的贡献是，我们从LLM的角度来处理该主题以及在FIMI中使用此类模型所需的功能，而无需进入技术细节并需要AI领域知识。我们以技术为重点的报告应
外国信息 - 操纵与干扰 - 大 - ...
主要关键词
相关文件推荐
