deepfake探测器中的“主要漏洞”

一项新的研究突出了现有的DeepFake探测器中的主要缺陷,并为更可靠的解决方案提供了框架。 CSIRO,澳大利亚国家科学局和韩国Sungkyunkwan大学(SKKU)的一项研究评估了16个领先的探测器,发现没有人能可靠地识别现实世界中的深层。 Deepfakes是人工智能(AI)生成的合成媒体,可以操纵图像,视频或音频,以创建超现实但错误的内容,从而引起人们对错误信息,欺诈和侵犯隐私性的担忧。

来源:Scimex

一项新的研究突出了现有的DeepFake探测器中的主要缺陷,并为更可靠的解决方案提供了框架。 CSIRO,澳大利亚国家科学局和韩国Sungkyunkwan大学(SKKU)的一项研究评估了16个领先的探测器,发现没有人能可靠地识别现实世界中的深层。 Deepfakes是人工智能(AI)生成的合成媒体,可以操纵图像,视频或音频,以创建超现实但错误的内容,从而引起人们对错误信息,欺诈和侵犯隐私性的担忧。

媒体版本

来自:

csiro

一组国际研究人员呼吁在发现广泛使用的检测工具中的关键缺陷之后,紧急改进DeepFake检测技术。

CSIRO,澳大利亚国家科学局和韩国Sungkyunkwan大学(SKKU)的一项研究评估了16个领先的探测器,发现没有人能可靠地识别现实世界中的深层探测。 深击是人工智能(AI)产生的合成媒体,可以操纵图像,视频或音频来创建超现实但错误的内容,从而引起人们对误解,欺诈和侵犯隐私性的担忧。 CSIRO网络安全专家Sharif Abuadbba博士说,生成AI的可用性助长了Deepfakes的迅速增长,这些燃料比以往任何时候都更便宜,更容易创建。 “深果越来越具有欺骗性,能够传播错误信息,因此迫切需要更适应性和弹性的解决方案来检测它们。” Abuadbba博士说。 “随着深击变得越来越有说服力,检测必须集中在含义和上下文上,而不是单独出现。 “通过将检测方法分解为其基本组件,并通过现实世界中的深层进行严格的测试,我们正在促进能够开发更好的工具,以应对各种场景。” 它确定了影响准确性的18个因素,从数据的处理方式到对模型的训练和测试方式。 arxiv预印本

CSIRO,澳大利亚国家科学局和韩国Sungkyunkwan大学(SKKU)的一项研究评估了16个领先的探测器,发现没有人能可靠地识别现实世界中的深层探测。

深击是人工智能(AI)产生的合成媒体,可以操纵图像,视频或音频来创建超现实但错误的内容,从而引起人们对误解,欺诈和侵犯隐私性的担忧。

CSIRO网络安全专家Sharif Abuadbba博士说,生成AI的可用性助长了Deepfakes的迅速增长,这些燃料比以往任何时候都更便宜,更容易创建。

“深果越来越具有欺骗性,能够传播错误信息,因此迫切需要更适应性和弹性的解决方案来检测它们。” Abuadbba博士说。

“随着深击变得越来越有说服力,检测必须集中在含义和上下文上,而不是单独出现。

“通过将检测方法分解为其基本组件,并通过现实世界中的深层进行严格的测试,我们正在促进能够开发更好的工具,以应对各种场景。”

它确定了影响准确性的18个因素,从数据的处理方式到对模型的训练和测试方式。arxiv预印本