TikTok 的月度用户群从 2020 年初到 2021 年 9 月翻了一番,用户数超过 10 亿。“TikTok 的用户群在过去一年半中急剧增加。2020 年初,该平台在全球拥有超过 5 亿用户。据该公司称,9 月份其月度用户数突破 10 亿。” [纽约时报,2021 年 10 月 2 日] TikTok 在美国的用户平均每天在该平台上花费 82 分钟。“在 2018 年中期选举时,TikTok 刚刚在美国推出,在 2020 年总统大选期间,它仍然被广泛认为是年轻人的娱乐应用程序。根据应用分析公司 Sensor Tower 最近发布的报告,如今,TikTok 的美国用户群平均每天在该平台上花费 82 分钟,是 Snapchat 或 Twitter 的三倍,是 Instagram 或 Facebook 的两倍。TikTok 正变得越来越重要,成为政治内容的目的地,这些内容通常由有影响力的人制作。” [纽约时报,2022 年 8 月 14 日] 美国三分之二的 13-17 岁青少年使用 TikTok。“TikTok 拥有超过 10 亿用户,已成为文化现象的主要引擎,例如上个月有数十名年轻人发布了关于穿着西装去看最新《小黄人》电影的帖子。根据皮尤研究中心上周发布的一份报告,如今,67% 的美国 13 至 17 岁青少年使用该应用。” [纽约时报,2022 年 8 月 14 日] 标题:The Verge:“调查发现,TikTok 是英国成年人增长最快的新闻来源。” [The Verge,2022 年 7 月 21 日] 标题:Buzzfeed 新闻:“‘我不再使用 Google 了。我用 TikTok。’” [Buzzfeed 新闻,2022 年 6 月 7 日] 标题:TechCrunch:“33% 的美国 TikTok 用户表示他们经常通过该应用获取新闻,高于 2020 年的 22%。” [TechCrunch,2022 年 9 月 20 日] 路透社研究所的研究发现,40% 的 18-24 岁年轻人使用 TikTok,其中 15% 的人将 TikTok 用作新闻来源。“TikTok 已成为今年调查中增长最快的网络,覆盖 40% 的 18-24 岁年轻人,其中 15% 的人使用该平台获取新闻。” [路透社研究所数字新闻报告,2022 年 6 月]
否认描述了允许实现战略目标的信息操作。本书旨在揭露为俄罗斯网络恶搞辩护的努力。具体来说,本书记录了在两个不相关的背景和时间段中流传的用于为俄罗斯网络恶搞辩护的系统否认主义的模式和框架。本书不仅揭示了辩护论点及其构建方式,还解释了它们的起源以及导致它们在网上如此普遍的原因。此外,通过后公众的概念,本书举例说明了尽管有基于事实的理性证据,但公共领域是如何通过使用否认主义的话语手段而被破坏的。出于各种原因,我不得不研究俄罗斯在网络平台上的网络恶搞的特征。俄罗斯的网络恶搞已被揭露为一种意识形态武器,利用虚假信息操纵舆论(Berghel & Berleant,2018 年)。操纵被发现采用典型的虚假网络恶搞策略,例如破坏和不信任(Berghel & Berleant,2018 年)以及将注意力转移到无关紧要的问题上(Zelenkauskaite & Niezgoda,2017 年),从而在网上造成混乱。本书进一步提出了一些问题,例如,尽管有明确的证据,为什么让俄罗斯的网络恶搞如此难以被发现?俄罗斯网络恶搞干涉的合理性如何挑战民主
俄罗斯入侵乌克兰后发生的事件再次显示了网络虚假/造谣的威力。随着网络虚假/造谣的不断增长和蔓延,人们不断尝试解决这个问题。这些措施包括供应方和需求方的修复(包括媒体素养计划、事实核查,以及欧洲的新法规),但这些措施很少能取得规模化。本文研究了一种供应方尝试解决网络虚假/造谣普遍性问题的尝试:使用某种形式的人工智能 (AI) 机器/深度学习进行内容审核、媒体完整性和验证的技术解决方案市场。本文介绍了对 20 家使用人工智能识别网络虚假/造谣的小众公司的采访结果,其中许多公司之前曾在 2019 年的一篇关于人工智能初创公司在打击虚假信息中的作用的论文中接受过调查。这些公司没有公布他们的收入数据,但似乎他们服务的市场比许多企业家最初希望的要小,而且谷歌和 Facebook 并不依赖这些公司来帮助识别网络虚假信息。这些初创公司提供的服务的成本以及希望将事情保留在公司内部并保护其活动不受外界审查的愿望是科技巨头不依赖小型初创公司来帮助筛选网络虚假信息的部分原因。这可能是为什么
过去几年,人工智能 (AI) 和机器学习的能力呈指数级增长,同时人们使用日益复杂的信息操作来操纵公共领域。武器化和性别化的虚假信息、影响力运动和网络骚扰加剧了现有的新闻自由和人权挑战,同时也带来了新的挑战。国家支持的虚假宣传运动在各种类型的政治体系中越来越普遍。这些运动利用社交媒体平台的设计及其背后的人工智能系统,通过协调一致的努力来压制批评者并操纵舆论,从而实施破坏、淹没和非法化真实新闻的策略。它们通常包括针对那些报道信息行动或从事事实核查当权者的网络骚扰。从松散协调到严密编排的活动,信息行动利用国家和/或政党的资源,通过利用管理平台介导的公共领域和/或推动骚扰活动的人工智能系统来操纵舆论。本文分析了国家支持的虚假信息活动的动态以及人工智能在此背景下所扮演的角色。它特别研究了针对记者和媒体机构部署的协调活动、其性别维度,以及它们如何利用和操纵人工智能系统来扭曲公共领域。信息行动已成为世界各国国内政治和地缘政治的核心要素。这一趋势在与国家一致的信息行动是指通过操纵人工智能系统和心理来影响公众舆论、态度和行动,以支持国家领导人的政治目标或影响选举的协同努力。虚假信息是指以恶意 1 传播的虚假、捏造、误导或操纵的信息,以影响或欺骗。2 这与虚假信息不同,虚假信息缺乏欺骗或恶意的意图。3 在独立媒体经济稳定性下降的同时,国家、政府和政党对信息行动的预算、人员和关注度呈指数级增长。
信息战正在升级。虚假信息战的主要工具是简单的模因:在社交媒体上分享的图像、视频或文本,传达特定的想法或感受(Sprout Social,未注明日期)。俄罗斯利用模因针对 2016 年美国大选(DiResta 等人,2019 年);中国利用模因针对香港抗议者(Wong、Shepherd 和 Liu,2019 年);那些试图质疑 2019 年冠状病毒病疫苗有效性的人将模因用作最喜欢的工具(Wasike,2022 年;Helmus 等人,2020 年)。许多人认为,表情包以及其他常见且看似过时的虚假信息工具(例如虚假新闻网页和故事以及尖锐的 Facebook 帖子)已成功破坏了人们对美国大选的信心(大西洋理事会数字取证研究实验室,2021 年),在美国选民中制造了分裂(Posard 等人,2020 年),并增加了阴谋论的采纳(反数字仇恨中心,2021 年;Marcellino 等人,2021 年)。然而,计算机科学和人工智能 (AI) 的进步为传播虚假信息提供了一种新的、极具吸引力的方法:深度伪造。深度伪造视频是
在 Microsoft,我们致力于在我们的产品和服务以及整个网络上建立信任和安全。我们还认识到,打击虚假信息是创建值得信赖和安全的在线环境的关键要素。Microsoft 长期以来一直与政府、行业、民间社会组织、学术界和其他利益相关者密切合作,以确保我们的服务和整个在线空间的完整性和安全性。然而,我们的努力并不局限于虚假信息;相反,它们扩展到许多其他相关领域,旨在促进我们在线服务的完整性、信任、安全性和安全性。正如《准则》所述,“……本准则试图解决的用户行为、内容和危害类型在不同数字平台提供的各种服务和产品中的发生率和影响将有很大差异。” 1 就 Microsoft 而言,我们的大多数服务都是由企业客户或以专业身份行事的个人使用的。虚假信息通常不会通过企业对企业的互动或在专业环境中互动的个人之间传播。此外,由于不法分子通常使用针对消费者的在线服务来传播虚假信息,因此面向企业的在线服务不太可能在其服务上遇到虚假信息。考虑到这些因素,本报告的其余部分将重点介绍 Microsoft 如何开展
摘要 匈牙利的民主倒退表明,冷战时期的观念,即更多的信息获取渠道将加速民主的传播,正在消亡。对于独裁者来说,社交媒体促成的虚假信息是首选武器,因为它挑战了民主制度的合法性。匈牙利 Sputnik V 疫苗的流行表明,在俄罗斯入侵乌克兰之前,俄罗斯的影响力在欧盟后院不断增长。通过利用匈牙利的社会、政治和经济不平等,俄罗斯的虚假信息促进了维克托·奥尔班在 2020 年 4 月选举前巩固权力。民主国家应该采用一种新的国家权力投射范式,将强大的国内机构视为应对社交媒体促成的虚假信息问题的方法。民主对抗虚假信息的最有效武器是制度合法性、社会经济平等和公众参与政府。 关键词:匈牙利、维克托·奥尔班、民主、虚假信息、COVID19、俄罗斯
6 参见美洲国家组织,《美洲人权公约》第 13 条,1969 年 11 月 22 日,O.A.S.T.S. 第 36 号,1144 U.N.T.S. 123。或许至关重要的是,《美洲人权公约》第 13 条和《公民权利和政治权利国际公约》第 19 条之间的关键区别在于,《公民权利和政治权利国际公约》使用了“应当”——一个以传达法律约束意图而闻名的术语。 7 同上。 8 美洲法院,《美洲人权法院 ABC》,1(2019 年),https://www.corteidh.or.cr/sitios/libros/todos/docs/ABCCorteIDH_2019_eng.pdf。委内瑞拉宣布退出,该协议于 2013 年 9 月 10 日生效。9 见上文,注释 4、8。10 见上文,注释 5。11 美洲国家组织,《美洲国家组织宪章》,第 2 条,1948 年 4 月 30 日,http://www.oas.org/en/about/purpose.asp。12 见成员国,《美洲国家组织》(2021 年),http://www.oas.org/en/member_states/default.asp。
唐纳德·J·特朗普的上一届政府破坏了向公众传递准确、真实信息的责任规范。无论是关于琐事还是当今的重大问题,“特朗普主义”在全球引发了破坏性的错误信息和虚假信息的洪流。这种对谎言和歪曲的倾向并没有放过美国的人权政策。政府决定成立不可剥夺权利委员会 (COUR),这代表着其颠覆国际人权规范的运动达到了高潮。在介绍了与错误信息和虚假信息有关的关键概念之后,本文回顾了 COUR 的成立及其最终报告的内容。除其他事项外,COUR 报告优先考虑“不可剥夺权利”,而忽略了旨在保护弱势群体的其他“较小”或“较新”的权利。结合这种层级框架,该报告旨在冻结 1948 年的人权实质,并援引国家主权作为合法盾牌,以抵御国际社会对国内人权状况的审查。在建立这一背景的基础上,本文探讨了 COUR 对民主国家共享的共同政治知识的虚假信息攻击如何破坏共同价值观,同时赋予独裁和非自由主义行为者权力。更具破坏性的是,本节还展示了政府如何通过其后续行动加剧了这种虚假信息裂痕