XiaoMi-AI文件搜索系统
World File Search System偏见
多模态人工智能中的偏见：公平自动招聘的试验台
决策算法在社会中的存在感如今正在迅速增加，同时人们也开始担心其透明度以及这些算法可能成为新的歧视来源。事实上，许多相关的自动化系统已被证明会根据敏感信息做出决策或歧视某些社会群体（例如，某些用于人员识别的生物特征识别系统）。为了研究当前基于异构信息源的多模态算法如何受到数据中的敏感元素和内部偏见的影响，我们提出了一个虚构的自动招聘测试平台：FairCVtest。我们使用一组有意识地以性别和种族偏见进行评分的多模态合成档案来训练自动招聘算法。FairCVtest 展示了此类招聘工具背后的人工智能（AI）从非结构化数据中提取敏感信息并以不良（不公平）的方式将其与数据偏见结合起来的能力。最后，我们列出了最近开发能够从深度学习架构的决策过程中删除敏感信息的技术的列表。我们使用其中一种算法（SensitiveNets）来实验歧视感知学习，以消除我们多模态 AI 框架中的敏感信息。我们的方法和结果展示了如何生成更公平的基于 AI 的工具，特别是更公平的自动招聘系统。
人工智能/机器学习在医疗健康领域的挑战：偏见、普遍性、隐私
另请参阅：可穿戴传感器在 SARS-CoV-2 感染检测中的表现：系统评价，Mitratza 和 Goodale 等人。《柳叶刀数字健康》
用技术偏见在清洁和肮脏的能量之间取代的弹性
清洁和肮脏的能量与技术变革之间的替代弹性是讨论当今最具挑战性的问题之一，即气候变化之一。尽管其重要性，但很少有研究从经验上估算这些关键参数。在本文中，我估计了从微数据中的清洁和肮脏能量之间取代的弹性，并与技术参数共同反映了能量骨料内技术变化的方向。发现替代弹性范围为2至3的弹性。在数据中观察到的很大的肮脏能量偏见的技术变化验证了指导技术变革的框架，鉴于相对能源价格的历史运动和统一上方替代的估计弹性。但是，我还发现了暗示性的证据，表明近年来，随着相对能源价格的变化和清洁能源的补贴，清洁能源增长的技术的增长速度快于肮脏的能源增强技术。
利用虚拟工作环境减少隐性性别偏见
摘要 隐性性别偏见会给职场女性带来代价高昂且复杂的后果，许多女性报告称自己遭受了性别微侵犯，这导致她们被忽视或不尊重。我们呈现了一个在线桌面虚拟环境，从第一人称视角讲述了男性或女性自我形象的故事，他们要么经历积极要么消极的工作场景。消极场景包括许多来自性别微侵犯分类的例子。与拥有男性自我形象的参与者相比，与女性自我形象有过消极职场体验的参与者的隐性性别偏见水平显著降低。有证据表明，在消极条件下，女性自我形象表现出同理心和观点采择。无论自我形象的性别如何，积极的职场场景体验都没有表明隐性性别偏见显著减少。我们讨论了这些发现的含义，并就减少隐性偏见提出了虚拟环境技术和场景的建议。
种族偏见如何融入临床模型
不仅包括隐性偏见或个人歧视，还包括鼓励和助长这种歧视的规则和实践结构。1 结构性种族主义的一个定义是“社会通过相互加强的住房、教育、就业、收入、福利、信贷、媒体、医疗保健和刑事司法系统助长种族歧视的全部方式”。3 衡量种族主义具有挑战性。它不仅可能是主观的，而且还可能带有政治色彩，并且基于难以收集的数据。尽管如此，为了监测变化和设定目标，有一个可衡量的结果至关重要。出于这个原因，出现了许多衡量种族主义的方法，包括感知歧视量表。3
AI记者和减少感知到的敌对媒体偏见
随着新闻机构在公众不信任的问题上挣扎，人工智能（AI）的记者可能会通过激活机器启发式方法来减少对敌对媒体偏见的看法，这是一种普遍的心理捷径 - 观众将机器视为客观，系统性和准确性。本报告详细介绍了两个实验的结果（分别为n = 235和279，美国成年人）复制了作者以前的工作。与先前的工作一致，目前的研究为AI记者的触发机器神秘主义评估而又减少了对敌对媒体偏见的看法的论点提供了更多支持。延长了过去的工作，目前的研究还表明，偏置缓解过程（如果AI，机器神经疗法激活，因此减少了偏差）会受到源/自我意识到的不一致的调节，尽管在两个问题的覆盖范围内不同（堕胎合法化和共同化疫苗的疫苗授权）。
评估模型中的算法偏见，以预测菲律宾学生的学习成绩
摘要算法偏见是教育环境中机器学习模型中的主要问题。但是，它尚未在亚洲学习环境中进行彻底研究，并且只有有限的工作才考虑了基于区域（亚国家）背景的算法偏见。作为解决这一差距的一步，本文研究了菲律宾一所大型大学的5,986名学生的人口，并根据学生的区域背景调查了算法偏见。大学在广泛领域的在线课程中使用了画布学习管理系统（LMS）。在三个学期的典范上，我们收集了4870万个学生在画布中活动的日志记录。我们使用这些日志来训练从LMS活动中预测学生成绩的二进制分类模型。表现最佳的模型达到0.75，加权F1得分为0.79。随后，我们根据学生区域检查了偏见的数据。使用三个指标进行评估：AUC，加权F1得分和MADD在所有人口组中均显示出一致的结果。因此，在年级预测中对特定学生群体没有观察到不公平。