人工智能 (AI) 系统在我们世界当前面临的虚假信息现象中发挥着至关重要的作用。此类系统不仅增加了创建逼真的 AI 生成的虚假内容的机会,而且本质上还促进了恶意利益相关者向目标受众大规模传播虚假信息,从而加剧了这一问题。这种情况涉及多个道德和人权问题,特别是关于人类尊严、自治、民主和和平的问题。作为回应,其他 AI 系统被开发出来以检测和控制在线虚假信息。此类系统也无法逃避道德和人权问题,特别是关于言论和信息自由的问题。欧盟 (EU) 最初从上升的共同监管开始,现在正朝着下降的共同监管这一现象的方向发展。特别是,《数字服务法案》提案规定了对大型在线平台的推荐系统和内容审核的透明度义务和外部审计。虽然委员会在该提案中专注于对被视为有问题的内容的监管,但欧洲议会和欧盟理事会呼吁加强对可信内容的访问。根据我们的研究,我们强调虚假信息问题主要是由基于广告收入的网络商业模式造成的,采用这种模式将大大减少这一问题。我们还观察到,虽然人工智能系统不适合审核在线虚假信息内容,甚至不适合检测此类内容,但它们可能更适合对抗对数字生态系统的操纵。
首次详细调查凸显了有组织的虚假信息塑造 20 世纪政治格局的能力。俄罗斯的阴谋“信托行动”在苏联境内创建了一个伪君主制组织。这不仅将潜在的煽动者聚集在一个受到严密监控的组织中,而且在外部确保了稳定的战略沟通。潜在的侵略者寻求新共产主义国家的灭亡,他们被说服避免干预,而是等待内部革命。这一事件是 Rid 用来强调真正的活动家很容易被虚假信息行动所笼罩的几个案例研究中的第一个。积极措施只是点燃了普遍存在的不满情绪,通过有针对性的沟通和财政支持来实现敌对势力的目标。
这是益普索在 2023 年 4 月 21 日至 5 月 5 日期间通过益普索 Global Advisor 在线调查平台和印度混合型 IndiaBus 对 29 个国家/地区进行的调查结果。调查对象包括印度 21,816 名 18 岁及以上的成年人、加拿大、爱尔兰共和国、马来西亚、新西兰、南非、土耳其和美国的 18-74 岁成年人、泰国的 20-74 岁成年人、印度尼西亚和新加坡的 21-74 岁成年人以及其他 20 个国家的 16-74 岁成年人。每个国家的样本包括澳大利亚、巴西、加拿大、法国、德国、英国、意大利、日本、新西兰、西班牙和美国各约 1,000 人;阿根廷、比利时、智利、哥伦比亚、匈牙利、印度尼西亚、爱尔兰、马来西亚、墨西哥、荷兰、秘鲁、波兰、罗马尼亚、新加坡、南非、韩国、瑞典、泰国和土耳其各约 500 人。印度的样本约有 2,200 人,其中约 1,800 人接受了面对面采访,400 人接受了在线采访。
我们将虚假信息宣传活动分为多个阶段。通过侦察,操作人员监视环境并了解他们试图操纵的受众。他们需要基础设施——信使、可信人物、社交媒体账户和群组——来传播他们的叙述。从帖子和长篇文章到照片、表情包和视频,内容的不断流动是确保他们的信息播种、生根和发展所必需的。一旦部署到互联网流中,这些虚假信息单元就会被机器人、平台算法和社会工程技术放大,以传播宣传活动的叙述。但仅仅散布虚假信息并不总是足够的:广泛的影响来自于通过网络喷子与不知情的用户持续互动——这相当于肉搏战。在最后阶段,虚假信息行动是通过改变不知情目标的想法甚至动员他们采取行动来制造混乱来实现的。无论起源如何,虚假信息运动如果能培养出自然追随者,就会成为社会的普遍现象,与真实的言论难以区分。它们可能会破坏
生成式人工智能技术的快速发展(包括人工智能生成的音频和视频材料中深度伪造的潜力 15 )需要采取全面的方法来确保负责任和合乎道德的使用。更严格的规定对于减少虚假信息的传播至关重要,开发人员应该对低估恶意行为者滥用其产品的可能性负责。必须促进透明度,制定和执行技术保障措施、强有力的安全标准和明确的沟通政策。这些措施必须通过律师、
虚假信息的概念并不新鲜。该术语的首次使用记录可以追溯到 19 世纪 90 年代,尽管其流行程度和影响力在我们的数字世界中显著增强。攻击者变得越来越老练,某些民族国家将其提升为数字战略的关键部分,攻击者启动了类似于我们在恶意软件中看到的影子产业,其中技术既作为产品和服务出售。
摘要 匈牙利的民主倒退表明,冷战时期的观念,即更多的信息获取渠道将加速民主的传播,正在消亡。对于独裁者来说,社交媒体促成的虚假信息是首选武器,因为它挑战了民主制度的合法性。匈牙利 Sputnik V 疫苗的流行表明,在俄罗斯入侵乌克兰之前,俄罗斯的影响力在欧盟后院不断增长。通过利用匈牙利的社会、政治和经济不平等,俄罗斯的虚假信息促进了维克托·奥尔班在 2020 年 4 月选举前巩固权力。民主国家应该采用一种新的国家权力投射范式,将强大的国内机构视为应对社交媒体促成的虚假信息问题的方法。民主对抗虚假信息的最有效武器是制度合法性、社会经济平等和公众参与政府。 关键词:匈牙利、维克托·奥尔班、民主、虚假信息、COVID19、俄罗斯
作者:M Leitenberg · 2021 · 被引用 23 次 — 从 1949 年到 1988 年,苏联几乎不间断地进行虚假生物武器指控。美国使用过 (BW)。
2023 年 2 月 22 日——化学、生物、放射和核 (CBRN) 虚假信息可能非常具有破坏性,并可能造成严重后果。这尤其适用于...
Dmitri Teperik 自 2016 年起担任 ICDS 首席执行官和管理委员会成员。他是 ICDS 在乌克兰的多个发展与合作项目以及波罗的海国家的外展活动的主管。2007 年至 2015 年,他在爱沙尼亚国防部工作,负责监督研究与开发 (R&D) 以及国防工业。2016 年,他与他人共同创立了“复原力联盟”,这是一个国际培训与合作平台,旨在为年轻专业人员和专家提供必要的实用技能和工具,以培养应对敌对虚假信息和社会两极分化的认知复原力。自 2016 年以来,他一直领导“复原力乌克兰”,这是一项发展与合作计划,重点是衡量和加强乌克兰脆弱社区的国家复原力。他的主要学术兴趣包括促进国家复原力的因素、信息环境和社交媒体中的态势感知以及沟通与行为之间的相互依赖关系。他拥有塔尔图大学(爱沙尼亚)的硕士学位,并在维尔纽斯大学(立陶宛)和北约总部等多个国家完成过实习。他参加过爱沙尼亚、拉脱维亚、立陶宛、格鲁吉亚、比利时、德国、法国、西班牙、荷兰、美国、加拿大以及北约和欧盟的各种安全专业培训课程。