人工智能与真相：OpenAI、Meta 和 TikTok 对抗阴暗的虚假信息活动
熟练的数字造假已成为 21 世纪的主要网络武器。
来源:安全实验室新闻频道人工智能与真相：OpenAI、Meta 和 TikTok 对抗阴暗的虚假信息活动
熟练的数字造假已成为 21 世纪的主要网络武器。
OpenAI、Meta* 和 TikTok 正在积极打击隐藏的影响力活动，其中许多活动利用人工智能来操纵公众舆论和政治结果。这些公司的行动帮助识别并阻止了几起此类行动，我们将在下面更详细地讨论。
OpenAI 元 抖音OpenAI 操作
OpenAI 发现了与中国、伊朗、以色列和俄罗斯等多个国家有关的五个影响力行动。这些操作使用人工智能模型来创建评论和文章、创建虚假的社交媒体资料、进行研究、调试代码和翻译文本。
展开代号为 Bad Grammar 的网络使用 Telegram 向不同国家的受众发送低质量内容。第二个网络 Doppelganger 生成评论并翻译文章，以便在社交网络上的假新闻网站上发布。
其他确定的网络包括 Spamouflage 网络、IUVM 和 Zero Zeno，所有这些网络都使用人工智能来创建和分发宣传内容。
元努力
Meta 还积极对抗协调的影响力活动。该公司在其季度威胁响应报告中称，已删除 Facebook* 和 Instagram* 上与 STOIC 行动相关的近 500 个虚假和被盗账户。
在季度报告中Meta 还删除了来自不同国家的数百个账户，这些账户存在旨在影响公众舆论和宣传政治叙事的不真实行为。
此外，Meta 发现许多秘密影响活动使用先进的数字工具（包括人工智能）来创建逼真的文本、图像甚至视频。尽管如此，该公司强调，这些活动的受众尚未显着增加。