本报告记录了美国陆军副参谋长办公室 G-3/5/7 赞助的“资源约束下的俄罗斯大战略”项目的一部分所进行的研究和分析。该项目的目的是记录俄罗斯全球野心的程度和限度;评估这些野心是否以及如何与资源和连贯的国防政策相匹配;并评估对陆军和美国国家安全的影响,特别是对大规模与俄罗斯接触的影响,包括在欧洲的威慑以及管理莫斯科在中东、亚洲和后苏联欧亚大陆的介入。这项研究是在兰德公司阿罗约中心的战略、条令和资源项目下进行的。兰德阿罗约中心是兰德公司的一部分,是美国陆军赞助的联邦资助研究与开发中心 (FFRDC)。兰德公司在“联邦范围保证”(FWA00003425)下运作,并遵守美国法律规定的《保护人体受试者联邦法规》(45 CFR 46),也称为“通用规则”,以及国防部指令 3216.02 中规定的实施指南。如适用,此合规性包括兰德公司机构审查委员会(人体受试者保护委员会)和美国陆军的审查和批准。本研究中使用的消息来源的观点仅代表他们自己,并不代表美国国防部或美国政府的官方政策或立场。
贬损性极端言论是指不符合特定地区/地方/国家背景下公认的文明规范的言论,针对基于种族类别或受保护特征(种姓、民族、性别、语言群体、国籍、宗教信仰、性取向)的人群/群体以及其他掌权群体(国家、媒体、政客)。2 它不仅包括针对人的贬损性言论,还包括针对他们所针对的群体所属的抽象类别或机构的贬损性言论。它包括在特定社会-文化-政治背景下被视为“令人恼火的、有争议的、古怪的、异端的、不受欢迎的和挑衅的言论,只要这些言论不倾向于引发暴力”的各种言论。3
尽管它们取得了成功,但人们并不总是清楚,在多大程度上真正的多模态推理和理解对于解决当前的许多任务和数据集是必需的。例如,有人指出,语言可能会无意中强加强大的先验,从而产生看似令人印象深刻的性能,而对底层模型中的视觉内容却没有任何理解 [15]。在 VQA [3] 中也发现了类似的问题,其中没有复杂多模态理解的简单基线表现非常好 [94, 35, 1, 26],在多模态机器翻译 [18, 74] 中,图像被发现相对重要 [13, 17, 7]。在这项工作中,我们提出了一个旨在衡量真正的多模态理解和推理的挑战集,具有直接的评估指标和直接的真实世界用例。
摘要 在审核暴力内容或明显新闻时,人工智能可以被视为盟友,但如果没有人工干预(将表达置于语境中并充分翻译)的使用,则存在预先审查的风险。目前,国际上正在对此进行辩论,因为人工智能缺乏将其审核的内容置于语境中的能力,因此它更多地被视为一种不加区分的预先审查工具,而不是一种保护言论自由的审核手段。因此,在分析了国际立法、国际组织的报告以及 Twitter 和 Facebook 的条款和条件后,我们提出了五项旨在改进算法内容审核的建议。首先,我们建议各国在尊重言论自由的国际标准的同时协调其国内法。我们还敦促他们制定与实施立法相一致的公共政策,以保护自动内容删除决定的人类监督者的工作条件。就其本身而言,我们理解社交网络必须提出明确一致的条款和条件,对人工智能在传播和删除在线内容方面的运作方式采取透明和问责的内部政策,最后,他们必须对人工智能对人权的影响进行事先评估。
摘要:在本文中,我们讨论了使用人工智能进行在线内容审核的一些道德和技术挑战。作为一个案例研究,我们使用了一个为检测社交网络上的仇恨言论而开发的人工智能模型,这一概念在科学文献中给出了不同的定义,并且缺乏共识。我们认为,虽然人工智能可以在处理社交媒体上的信息过载方面发挥核心作用,但它可能会导致侵犯言论自由的风险(如果项目执行不当)。我们介绍了人工智能项目整个流程中涉及的一些道德和技术挑战——从数据收集到模型评估——这些挑战阻碍了仇恨言论检测算法的大规模使用。最后,我们认为人工智能可以帮助检测社交媒体中的仇恨言论,前提是必须通过有人参与的过程对内容进行最终判断。关键词:人工智能、道德、网络危害、仇恨言论、偏见大纲:1.2
摘要 到目前为止,仇恨言论的检测仍然主要由人类进行,但将人类专业知识与自动化方法相结合具有巨大的潜力。然而,由于算法缺乏文化和社会结构等方面的专业知识,已发现的挑战包括人与机器之间的一致性较低。在这项工作中,设计科学方法用于获取设计知识并开发工件,通过该工件将人类融入检测和评估仇恨言论的过程。为此,利用了可解释的人工智能 (XAI):该工件将提供解释性信息,说明为什么深度学习模型可以预测文本是否包含仇恨。结果表明,以仪表板形式实例化的设计知识被认为是有价值的,并且 XAI 功能增加了对工件有用性、易用性、可信度以及使用意图的感知。
2联合国总部的仇恨言论工作组包括以下实体:全球通讯部,和平运营部,政治与和平事务部,政治与和平事务部,青年秘书长,联合国秘书长,全球秘书长,全球秘书处,全球诉讼,国际委员会,国际委员会,国际委员会,国际委员会,国际委员会,国际责任委员会,国际官员,副局长,副局长,副官员派遣了副教育,副官员派遣了副派,副教育委员会跨国公司,副官员派遣责任跨国公司。联合国难民高级专员(联合国文明联盟,联合国儿童基金会(联合国儿童基金会),联合国发展计划(UNDP),联合国教育,科学和文化组织(UNESCO)(UNESCO)和联合国对性别平等和女性的性别平等和妇女的empower妇女(UN-UN-WOMEN)的实体(联合国)。
摘要。在宣布 COVID-19 为大流行病后,社交媒体上立即涌现出许多疯狂的阴谋论。巴基斯坦很容易受到此类阴谋论的影响,并因此类说法而经历了脊髓灰质炎疫苗接种计划的失败。最近,两位著名的政治人物提出了针对巴基斯坦 COVID-19 疫苗的阴谋论,称 COVID-19 是一个巨大的幻想,是针对穆斯林国家的阴谋。这一理论在当地社区引起了广泛讨论,支持了人们对 COVID-19 疫苗的犹豫。我们敦促巴基斯坦卫生部门在此类说法渗透到普通社区之前采取必要措施。反疫苗运动可能会破坏结束 COVID-19 大流行的努力。我们相信,大众媒体的道德和负责任行为、巴基斯坦电子媒体监管局的谨慎建议、医疗机构的严厉措施、提高公众对 COVID-19 认识的有效举措、数据或通信科学家对信息的有力分析以及卫生专业人员发表反对此类理论的反对意见,将在很大程度上消除此类误导性说法。由于巴基斯坦的疾病负担沉重,确诊病例急剧增加,立即采取行动至关重要,以消除未来 COVID-19 疫苗接种计划的任何潜在障碍。
当世界各国政府、企业和人民努力应对仇恨言论、恐怖主义宣传和网络造假的挑战时,“人工智能” (AI) 常常被提议作为识别和过滤问题内容的重要工具。然而,“人工智能”并不是一个简单的解决方案或单一类型的技术;在政策讨论中,它已成为不断变化的自动检测和分析内容技术的简称。各种形式的人工智能和自动化被用于排名和推荐系统,以管理大量在线内容。这些技术的使用引发了关于人工智能对我们的信息环境以及最终对我们的言论自由和信息获取权的影响的重要问题。
人工智能驱动的工具在媒体中扮演着越来越重要的角色:从协助记者制作故事的智能工具到完全自动化的新闻制作(机器人新闻),从为编辑委员会决策提供信息的受众分析到人工智能驱动的内容和用户匹配建议。因此,人工智能驱动的工具不仅仅是简单的工具。在新闻编辑室内,人工智能驱动的工具是内部惯例和人机之间责任划分的潜在深远结构性变化的元素。新的新闻角色和参与者正在出现,这影响了新技术塑造新闻产品的方式,并需要重新评估职业道德和编辑责任的分配。将人工智能驱动的工具引入媒体内容的制作和分发过程也带来了欧洲媒体市场内部重大的结构性转变和权力转变。获取技术、技能和培训数据成为新的重要的竞争资产,有利于社交网络和搜索引擎等新的非欧洲参与者的影响力不断扩大,并为规模较小、不太富裕的新闻编辑室、发展中国家的媒体和当地新闻媒体设置潜在障碍。