谷歌：如果不紧急采取行动，大量的 Deepfakes 将会淹没我们

生成式人工智能如何毒害社会？为什么我们忽视当前的问题？

来自 Google 各部门（DeepMind 人工智能实验室、Jigsaw 智囊团和 Google.org 慈善部门）的专家介绍了一项关于生成人工智能 (AI) 对社会影响的新研究的令人震惊的结果。这份题为“滥用生成式人工智能：策略分类和现实世界数据分析”的报告基于对 2023 年 1 月至 2024 年 3 月媒体和学术出版物中报道的约 200 个滥用该技术案例的审查。

谷歌 新研究

与一些科技高管关于未来通用人工智能 (AGI) 的“生存威胁”的言论相反，谷歌的研究重点是生成式人工智能今天造成的真正危害，并且这种危害在短期内可能会恶化。

AGI

研究的主要结论：现在互联网上充斥着人工创建的文本、音频、图像和视频，这对任何用户来说都不是什么困难。

根据作者的说法，绝大多数滥用生成式人工智能的案例​​（几乎十分之九的记录事件）都涉及利用这些系统的功能，而不是直接攻击模型本身。

同时，许多滥用方法甚至与模型使用规则没有直接矛盾，并且看起来并不完全是恶意的。

研究人员警告说，生成式人工智能的可用性及其结果的真实性使得创建大量与真实内容无法区分的内容成为可能。在政治领域使用此类技术尤其危险——现在，在选举前夕，深度造假尤其经常被公众人物冒充为真实言论。例如，你可以回忆一下乔·拜登的例子，他打电话给选民并要求他们不要参加初步投票。

示例 传播