机构名称：
¥ 3.0
在过去三年中，生成式人工智能技术（例如 DALL-E、ChatGPT）突然从研究论文和公司实验室跃升至包括学童在内的数亿人使用的在线服务。根据皮尤研究中心 (Pew Research) 的数据，仅在美国，2023 年 7 月就有 18% 的成年人使用过 ChatGPT（Park & Gelles-Watnick, 2023）。随着生成式人工智能的流畅性和可负担性逐月提高，其广泛滥用也在不断增加，用于创建价格合理、极具说服力的大规模虚假宣传活动。人工智能生成的虚假信息具有高度破坏性的例子比比皆是，包括利润丰厚的 Facebook 广告 1，试图通过摩尔多瓦亲西方总统的深度伪造视频来影响选民（Gilbert, 2024）。YouTube 还被发现托管带有政治深度伪造视频的广告，这些视频使用了声音模仿（RTL Lëtzebuerg, 2023）。除了视频之外，人工智能生成的图像还被用来传播有关加沙的虚假信息（法国，2023 年；Totth，2023 年）并传播分裂的反移民言论（The Journal，2023 年）。事实核查人员还报告了音频深度伪造，到目前为止，这些音频伪造主要集中在政客的虚假对话和言论上（Demagog，2023 年；Dobreva，2023 年；Bossev，2023 年）。俄罗斯的虚假宣传活动还将生成式人工智能武器化（例如，乌克兰总统呼吁投降的深度伪造视频（Kinsella，2023 年）、人工智能生成的乌克兰总统与妻子的对话（Demagog，2023 年）。目标国家遍及整个欧盟（及其他地区），包括保加利亚（Bossev，2023 年；BNT，2023 年）等高度易受影响的国家，这些国家的公民媒体素养和批判性思维能力较低，并且缺乏对人工智能生成的复杂图像、视频、音频和文本存在的认识。旨在打击帖子和广告中的虚假信息的平台行动迄今为止也未能检测和删除有害的人工智能生成内容。所有主要的社交媒体平台和聊天应用程序都受到了影响。为简洁起见，我们这里仅列举了 Facebook 的一些示例（广告（Gilbert，2024 年）、群组（The Journal，2023 年）、页面（Bossev，2023 年） ))、YouTube (RTL 卢森堡，2023 年)、X (法国，2023 年；Totth，2023 年)、Instagram (法国，2023 年；Totth，2023 年)、TikTok (法新社，美国和法新社德国，2023 年；Marinov，2023 年) 和 Telegram (Starcevic，2023 年；Marinov，2023 年)。人工智能生成的内容（例如，一条声称保加利亚选票被操纵的虚假音频（Dobreva，2023 年））也通过电子邮件发送给媒体和记者，意图欺骗可靠的媒体发布虚假内容。此外，生成式人工智能不仅被用于以低成本创建极具欺骗性的虚假宣传活动，而且其存在和熟练程度还被行为者武器化，他们传播虚假声明，声称真实的图像、视频、政府和主流媒体的音频内容实际上是假的。最近的一个例子是针对特斯拉的一起诉讼案，该公司律师声称伊隆·马斯克的一段视频是深度伪造的（《卫报》和路透社，2023 年）。另一个例子来自保加利亚，试图抹黑政府和“新自由主义”主流媒体的坏人通过
生成人工智能与虚假信息：最新进展、挑战和
主要关键词
相关文件推荐
