本文件涵盖了基于人工智能的多媒体身份表征操纵。由于在将人工智能应用于生成或修改以不同媒体格式(特别是音频、视频和文本)表示的数据的问题方面取得了重大进展,出现了新的威胁,这些威胁可能在各种情况下导致重大风险,从个人诽谤和使用虚假身份开设银行账户(通过攻击生物特征认证程序)到影响舆论的活动。人工智能技术可用于操纵真实的多媒体身份表征或创建虚假的多媒体身份表征。此类操纵的可能输出包括但不限于视频或音频文件,这些文件显示人们做或说他们从未做过或说过的事情。由于通常使用深度神经网络 (DNN) 来生成此类输出,因此它们通常被称为“深度伪造”。





