详细内容或原文请订阅后点击阅览
AudioSeal：人工智能与人工智能对抗音频假货
Meta* 创建了一个系统来防止语音克隆。
来源:安全实验室新闻频道Meta* 创建了一个系统来防止语音克隆。
Meta* 开发了一种名为 AudioSeal 的新技术，该技术允许将隐藏信号（称为水印）嵌入人工智能生成的音频录音中。该系统旨在帮助检测人工智能在线生成的内容，并利用语音克隆工具应对日益严重的虚假信息和欺诈问题。
音频密封Meta 研究员 Hadi Elsakhar 表示，AudioSeal 是第一个可以查明音频录音（例如播客）的哪些部分可能是由 AI 创建的工具。
然而，有一些严重的警告。 Meta 尚未计划将水印应用于使用其人工智能工具创建的音频。音频水印尚未普及，并且没有统一的行业标准。此外，人工智能生成内容的水印通常很容易伪造或删除。
Elsakhar 表示，快速检测和查明人工智能生成的音频文件元素的能力对于系统的实用性至关重要。他的团队在水印识别方面实现了 90% 到 100% 的准确率，比之前的工作有了显着的进步。
AudioSeal 可在 GitHub 上免费获取。任何人都可以下载它并使用它为人工智能生成的音频剪辑添加水印。未来，它可以与人工智能语音生成模型集成，自动应用于使用它们生成的任何语音。
GitHub但是，在广泛采用此类音频水印之前，还需要克服其他严重的缺点。 Meta 研究人员发现，有关水印算法的信息泄露得越多，它就越容易受到攻击。此外，该系统要求人们自愿在其音频文件中添加水印。