XiaoMi-AI文件搜索系统
World File Search Systemfakes
介绍政治 Deepfakes 事件数据库
本文介绍了政治深度伪造事件数据库 (PDID)，这是一个政治上显著的深度伪造的集合，包括合成视频、图像和不太复杂的“廉价伪造”。该项目的推动因素包括政治中生成式人工智能的兴起、持续的应对危害的政策努力以及将人工智能事件与政治传播研究联系起来的需要。该数据库包含政治深度伪造内容、元数据和研究人员编码的描述符，这些描述符来自政治学、公共政策、传播和错误信息研究。它旨在帮助揭示政治深度伪造的普遍性、趋势和影响，例如那些以主要政治人物或事件为特色的深度伪造。PDID 可以对深度伪造的使用提供见解，协助监管，进行深入分析，支持事实核查和建立信任的努力，并提高对政治深度伪造的认识，从而使政策制定者、研究人员、记者、事实核查人员和公众受益。它适用于媒体效应、政治话语、人工智能伦理、技术治理、媒体素养和对策方面的研究和应用。
朝着检测扩散模型深击
摘要：在过去的几年中，扩散模型（DMS）达到了前所未有的视觉质量水平。然而，对DM生成图像的检测几乎没有关注，这对于防止对我们社会的不利影响至关重要。相比之下，从法医角度对生成对抗网络（GAN）进行了广泛的研究。在这项工作中，我们采取自然的下一步来评估是否可以使用以前的方法来检测DMS生成的图像。我们的实验产生了两个关键发现：（1）最新的GAN检测器无法可靠地区分真实图像，但是（2）在DM生成的图像上重新训练它们几乎可以完美地检测，甚至可以显着将其推广到GAN。与特征空间分析一起，我们的结果导致了以下假设：DMS产生的可检测到的伪影较少，因此与gan相比更难检测到。造成这种情况的一个可能原因是在DM生成的图像中没有网格样频率伪像，这是已知的gan弱点。但是，我们做出了有趣的观察结果，即扩散模型倾向于低估高频，这是我们归因于学习目标。
人类和人工智能如何合作检测深度伪造？
长期以来，视频证据一直是表明某人是否做过或说过某事的最佳方式。不幸的是，深度伪造的兴起意味着情况已不再如此。深度伪造是显示人们说或做的事情的视频，这些视频是由基于深度学习的人工智能 (AI) 系统创建的，因此得名深度伪造。过去几年，有少数深度伪造视频在网上疯传。其中包括巴拉克·奥巴马、唐纳德·特朗普和马克·扎克伯格等知名人物的视频
人工智能修改视频 (Deepfakes)、图像...
人工智能 (AI) 是一种已融入人类生活的现象，技术与人类之间的这种共生关系将继续存在。AI 的一种用途是深度伪造。将 AI 用于深度伪造可以说是最具争议的话题之一，因为它引发了道德问题。深度伪造是经过令人信服的修改和操纵的图像或录音，以歪曲某人的行为或言论，而实际上他们并没有做或说。这些操纵在政治舞台上蓬勃发展，最近在色情行业中也是如此，其中女性的脸被蒙在其他身体上以产生视频幻觉，导致非自愿性形象虐待和其他伤害。毫不奇怪，深度伪造技术的恶意使用促使出台了《美国国防授权法案》（NDAA）等监管立法，以及最近批准的《数字服务法案》（DSA）修正案，将恶意深度伪造定为犯罪。学者、倡导者和受害者继续呼吁制定更具体、更严格的法律来规范深度伪造，并对不遵守规定的行为处以罚款。本文及时分析了作为一种基于图像的性虐待的深度伪造色情内容，以及法律对恶意使用深度伪造技术的立场。还讨论了《通用数据保护条例》下的数据保护问题，以及补救、控制和根除的政策建议和措施。关键词：人工智能、网络欺凌、深度伪造、数字媒体、道德、法律、图像处理、性虐待 介绍
Deepfakes 与国际冲突 - 布鲁金斯学会
泽连斯基办公室立即否认了其真实性，并指出这正是他们在战前警告过的那种“深度伪造”。尽管如此，作为武装冲突中首次高调使用深度伪造的事件，该事件标志着信息行动的转折点。欺骗和媒体操纵一直是战时通信的一部分，但此前几乎没有任何冲突参与者能够生成对手政治官员和军事领导人的逼真音频、视频和文本。随着人工智能 (AI) 变得越来越复杂，计算成本不断下降，深度伪造对在线信息环境构成的挑战只会越来越大。政策制定者和政府官员需要开发强大的系统来实时监控和验证公共和私人信息，同时还要评估何时（如果有的话）自己利用这项技术。
人工智能生成的角色：充分利用 Deepfakes
虽然这项技术最广泛地与媒体操纵和错误信息的传播有关，通常被称为深度伪造，但它越来越多地被用于积极的应用，并融入从娱乐到人道主义努力和教育的各个领域。随着人工智能生成的角色在不同行业的适应和使用，我们看到了在学习、隐私、电信、艺术和治疗等各种领域都有重大积极应用的潜力。在本次研讨会上，我们将召集人机交互、人工智能和相关领域的研究人员，探讨使用人工智能生成的角色和相关形式的合成媒体的积极应用、设计考虑和道德影响。
人工智能生成的角色：充分发挥 Deepfakes 的作用
虽然这项技术最广泛地与媒体操纵和虚假信息传播有关，通常被称为深度伪造，但它越来越多地被用于积极的应用，并被整合到从娱乐到人道主义努力和教育的各个领域。随着人工智能生成的角色在不同行业的适应和使用，我们看到了在学习、隐私、电信、艺术和治疗等各个领域都有重大积极应用的潜力。在本次研讨会上，我们将召集人机交互、人工智能和相关领域的研究人员，探讨使用人工智能生成的角色和相关形式的合成媒体的积极应用、设计考虑和道德影响。
人工智能、深度伪造和虚假信息
信息战正在升级。虚假信息战的主要工具是简单的模因：在社交媒体上分享的图像、视频或文本，传达特定的想法或感受（Sprout Social，未注明日期）。俄罗斯利用模因针对 2016 年美国大选（DiResta 等人，2019 年）；中国利用模因针对香港抗议者（Wong、Shepherd 和 Liu，2019 年）；那些试图质疑 2019 年冠状病毒病疫苗有效性的人将模因用作最喜欢的工具（Wasike，2022 年；Helmus 等人，2020 年）。许多人认为，表情包以及其他常见且看似过时的虚假信息工具（例如虚假新闻网页和故事以及尖锐的 Facebook 帖子）已成功破坏了人们对美国大选的信心（大西洋理事会数字取证研究实验室，2021 年），在美国选民中制造了分裂（Posard 等人，2020 年），并增加了阴谋论的采纳（反数字仇恨中心，2021 年；Marcellino 等人，2021 年）。然而，计算机科学和人工智能 (AI) 的进步为传播虚假信息提供了一种新的、极具吸引力的方法：深度伪造。深度伪造视频是