aIDeepFake:一种检测假冒内容的系统

AI Deepfake 首席执行官 Ekaterina Kornyushina 介绍了一种反伪造系统的开发,该系统可以帮助识别欺诈者用于犯罪的篡改视频和图像。

来源:OSP网站大数据新闻

制作深度伪造作品的工具的出现,导致针对企业的虚假信息攻击急剧增加。它们能够对任何组织造成重大损害。据Gartner估计,目前只有不到5%的组织机构正在尝试创建工具来防范虚假信息,但预计三年内,每两家公司中就会有一家出现“反造假”系统。最近在俄罗斯市场上出现的此类工具之一就是aIDeepFake。 AI Deepfake 首席执行官、数据奖提名人 Ekaterina Kornyushina 讲述了深度伪造检测平台的创建历史和前景。

数据奖 数据奖

- 关于 aIDeepFake 项目的历史简介。他是如何出生的?

- 关于 aIDeepFake 项目的历史简介。他是如何出生的?

2023年,我参加了俄罗斯联邦联邦委员会关于制定人工智能技术规范领域法案的会议。正是在那时,我们意识到人工智能的发展可能带来的挑战,于是便产生了开发一个系统来打击欺诈并识别借助人工智能创建的伪造内容的想法。

Deepfakes 开辟了新的创造可能性,但由于其可能被滥用,也带来重大的道德和其他风险。例如,一段被篡改的首席执行官发表虚假陈述或泄露机密信息的视频可能会严重影响公司的股价和利益相关者的信心。金融服务业严重依赖语音验证平台,该平台用于从身份验证到交易和发送电汇的所有事务。如今,任何人都可以仅使用 15 秒的现有音频来克隆真实的人声,这些平台变得脆弱不堪。

- 检测deepfakes的难度是什么,问题出在哪里?

- 检测deepfakes的难度是什么,问题出在哪里?