详细内容或原文请订阅后点击阅览
新工具可识别虚假视频的来源
随着人工智能生成的虚假视频变得越来越成问题，加州大学河滨分校的计算机科学家开发了一种工具，它不仅仅是简单地识别视频是否虚假。它还决定了哪个人工智能系统创建了它。
来源:加州大学河滨分校人工智能可以生成如此逼真的视频，以至于将它们与真实的镜头区分开来变得越来越困难。 但由加州大学河滨分校研究人员领导的计算机科学团队开发了一种工具，它不仅仅是简单地识别视频是否是假的。它还决定了哪个人工智能系统创建了它。
新框架可识别人工智能视频生成器无意引入的虚假视频帧中的视觉模式，为识别创建视频的系统提供了取证路径。
“这些模式就像生成模型留下的指纹，我们的目标是找出不同生成器之间的签名是否不同。事实证明，是的，那里有不同的指纹，”UCR 博士生 Rohit Kundu 说，他在 Amit Roy-Chowdhury 教授的指导下与 YouTube 和 Google DeepMind 的研究人员合作领导了这项研究。 （Roy-Chowdhury 也是加州大学河滨分校人工智能研究与教育 (RAISE) 研究所的联合主任。）
新框架称为 SAGA — 生成 AI 视频源归因的缩写。它是追踪人工智能生成视频起源的首批大规模努力之一。
随着生成式人工智能系统的迅速改进以及合成视频越来越多地应用于娱乐、广告、教育、社交媒体和政治，这一创新应运而生。与此同时，人们越来越担心它们在错误信息活动、欺诈和其他欺骗活动中被滥用。
“仅仅知道视频是假的通常是不够的，”研究人员写道。 “关键需求已经从它是否是假的转向它的来源是什么？”
与静止图像不同，视频包含运动和时间信息——视觉元素如何随着时间的推移从一帧变化到下一帧。不同的人工智能视频生成器会在这些变化中产生微妙的模式，从而创造出独特的工件。