XiaoMi-AI文件搜索系统
World File Search System公平
定量研究中嵌入公平考虑因素
在KHI于2024年5月14日举办的一次召集期间收集了有关指南的反馈，标题为“研究中的居中公平：制定实践策略和确定考虑因素”，以及通过事后调查。召集包括来自堪萨斯州各地的约50名利益相关者，他们审查了这些策略并提供了有价值的反馈，后来又将其纳入了指南。该活动的特色是演讲者EusebioDíaz，M.A。，卫生前进基金会策略，学习与沟通副总裁，来自亚利桑那州立大学的香农·波特略（Shannon Portillo）博士，以及密苏里州肯尼亚大学的M.S.C.R. Bridgette L. Jones，M.S.C.R.。演讲者讨论了研究中的当前公平状态，应对挑战并探索未来的机会。
Allyship研讨会 - 机构多样性，公平和包容
➔了解我们在特权和压迫体系中的立场，并不学习保护这些系统的习惯和实践，这对我们所有人来说都是终生工作的，毫无例外的是团结和相互关系的真实关系，这是我们不可能避免或超越这些不平衡的工具的，这些态度始终是避免了那些始终建立的，这些习惯是在建立不平等的，即使他们的工作变得无关紧要，却是构成无价值的工具，即有效地构成了一个不可思议的工具，却是有效的，却是有效的，却是有效的，却是有效的，却是有效的，却是有效的，这些习惯是努力的，这些习惯是努力的，这些习惯是构成了一个无效的工具，这些习惯是在努力，而却是有效的。谦卑和问责制➔内部进入沉默，调解，内在的智慧和深厚的喜悦与社会变革的外在工作
公平的人工智能
减轻对亚群体的歧视。1 人们可能倾向于认为，只需从决策支持系统中省略敏感属性也能解决公平问题。然而，这是一个常见的误解：一些非敏感属性充当了代理（例如，工资是性别的代理，邮政编码是民族的代理，家庭结构是种族或宗教的代理），因此，即使不了解敏感属性的决策支持系统也被认为是不公平的。本文的目的是向信息系统从业者和研究人员介绍“公平的人工智能”。如上所述，信息系统内有多个领域容易出现不公平现象。事实上，信息系统维持甚至强化了人工智能中现有的不公平现象，而不是减轻它。在依赖这样的信息系统时，企业和组织面临着巨大的法律风险。在这方面，世界各地的立法机构都在实施法律，禁止在算法决策中进行差别对待（White & Case 2017）；例如，在美国，公平贷款法对风险评分中的算法偏见进行惩罚，而在欧盟，人工智能的责任由通用数据保护条例（GDPR）强制执行。因此，实现公平的人工智能对于歧视的潜在受害者和依赖人工智能进行决策支持系统的机构都至关重要。最近的报告指出，企业、组织和政府对公平人工智能的采用已经落后（AI Now Institute 2018）。正如我们稍后讨论的，这种进展缓慢的潜在原因在于信息系统的所有维度，即人（例如信任）、技术（例如设计原则、经济影响）和组织（例如治理）。在以下章节中，本文将回顾公平的理论概念，将它们与人工智能的公平性联系起来，并为信息系统研究提出建议。
公平行动计划
在彼得伯勒维多利亚诺森伯兰和克拉灵顿 (PVNC) 天主教区教育局，我们陪伴着一群多元化的学生和教职员工，这反映在《2021-2022 年每个学生都很重要人口普查》、《2023-2024 年学生人口普查》和《2022-2023 年教职员工普查》中。认识到我们实现公平的共同责任，这些反馈论坛展示了我们对协作决策的承诺，并为学生和教职员工提供了分享他们对学习和工作环境的看法的机会。对这些共享信息的分析使 PVNC 天主教学校对存在的结构性不平等和偏见有了更深入的了解，并确认需要继续进行系统变革和转型，以确保被边缘化和服务不足的学生和教职员工能够获得高质量的教育、公平的就业机会和安全，他们根据《教育法》（RSO 1990，c. E.2）、《1993 年就业公平法》（SO 1993，c）有权享有这些机会。 35及其他相关立法。
人工智能与结构性不公正 - 多样性、公平性和包容性
摘要 本章主张采用结构性不公正方法来治理人工智能。结构性不公正包括分析和评价两个部分。分析部分包括社会科学中众所周知的结构性解释。评价部分是一种正义理论。结构性不公正是一个强大的概念工具，它使研究人员和从业者能够识别、表达甚至预测人工智能偏见。本章以人工智能中因结构性不公正而产生的种族偏见为例。然后，本章介绍了哲学家 Iris Marion Young 提出的结构性不公正概念。此外，本章还认为结构性不公正非常适合作为一种人工智能治理方法，并将这种方法与从危害和利益分析或价值陈述开始的替代方法进行了比较。本章表明，结构性不公正为多样性、公平和包容性的价值观和关注提供了方法论和规范基础。本章最后对“结构”和责任的概念进行了展望。结构的概念是正义的核心。一个开放的理论研究问题是人工智能本身在多大程度上是社会结构的一部分。最后，责任的实践是结构性不公正的核心。即使他们不能对结构性不公正的存在负责，每个人和每个组织都有责任在未来解决结构性不公正问题。
阿肯色州电力合作社-公平竞争
塞拉俱乐部委托对清洁能源组合进行独立评估，该组合可以在独立和白崖发电站退役后满足 AECC 的可靠性和能源需求。该分析使用 GenX，这是麻省理工学院和普林斯顿大学的研究人员开发的开源电力系统评估模型，用于评估能源系统如何整合可再生能源、存储和其他技术。该模型可用于评估可再生能源和存储的组合如何满足电力公司的每小时需求。在本例中，该模型用于评估 AECC 的系统。我们的评估保守地假设 AECC 没有机会与 MISO 和 SPP 中的区域电力和容量市场互动，尽管它定期这样做。我们还将 AECC 的 MISO 和 SPP 部门之间的互动限制在仅 275 兆瓦的传输容量，反映了 AECC 对 SPP 需求的预测，该需求与 MISO“伪绑定”。这些保守假设的价值在于，该模型被迫构建替代投资组合，就好像 AECC 完全独立于市场，其系统中的 SPP 和 MISO 部分之间的互动有限，而这种立场通常需要更高的成本。我们的理由是，如果我们能够证明 AECC 可以构建一个独立于市场的具有成本效益的投资组合，那么任何共享的市场资源只会使投资组合更便宜。
DSCI-531 人工智能公平性课程大纲
● HW1：研究过程中的道德规范 - 这项作业将向学生介绍开展公平和道德研究的概念。重点将放在对 IRB 本质的历史理解上。学生将完成 CITI 人类受试者研究培训作为其作业的一部分。● HW2：数据和预测中的偏见 - 学生将学习将基本的数据挖掘技术应用于数据。学生将设计和对大型数据集进行统计测试。这些测试将围绕公平概念以及如何利用技术来识别不公平进行设计。● HW3：NLP 中的偏见 - 学生将学习命名实体识别中的性别偏见。解决这项作业需要基本的自然语言处理技术，包括基于转换器的语言模型，如 BERT。● HW4：网络中的偏见——在这项作业中，学生将学习和应用基本的网络技术来发现网络中的性别偏见。女性在网络中的代表性是更多还是更少？她们是否倾向于占据比男性更高或更低的中心位置？注意：在书面和编程作业中，描述和分析的完整性和清晰度与最终的正确答案一样重要。仅发送单个最终值（即使正确）是不够的。请参阅下表：
公平的人工智能
信息系统 (IS) 目前正在经历根本性转变：直到最近，决策支持都是基于规则的确定性算法开发的。然而，随着人工智能 (AI) 的最新进展，这些决策规则已被概率算法（例如深度学习；参见 Kraus 等人）取代。2020 ）。概率算法通过从数据中学习现有模式进行推理，一旦部署，就会在某些不确定性下为看不见的数据提供预测。因此，它们容易产生偏见和系统性不公平，从而对个人或整个群体进行差别对待。先前的研究已多次证明人工智能应用缺乏公平性。例如，研究发现，信贷贷款申请的决策支持系统对某些社会人口群体存在不成比例的偏向 (Hardt and Price 2016; O'Neil 2016 )。
机器学习工程中公平意识实践的目录
摘要 - 机器学习在决策过程中的广泛采用引起了人们对公平性的担忧，尤其是对敏感特征和对少数群体的潜在歧视的治疗。软件工程社区的反应是开发面向公平的指标，经验研究和方法。但是，在整个机器学习生命周期中，理解和分类工程公平的做法仍然存在差距。本文介绍了一种新颖的实践目录，以解决从系统的映射研究中得出的机器学习中的公平性。该研究确定并分类了现有文献中的28种实践，将它们映射到机器学习生命周期的不同阶段。从该目录中，作者提取了可操作的项目及其对软件工程研究人员和从业者的影响。这项工作旨在提供全面的资源，以将公平考虑因素整合到机器学习系统的开发和部署，增强其可靠性，问责制和信誉。