XiaoMi-AI文件搜索系统
World File Search System公平
公平即平等让步：对公平人工智能的批评
摘要 尽管现有研究引起了人们对实现公平人工智能的一系列障碍的关注，但该领域缺乏一个系统地强调这些担忧如何结合在一起的解释。此外，对公平人工智能和哲学文献的回顾表明，“一视同仁”和其他直观观念不适合作为公平概念。该回顾随后提出了对人工智能研究有价值的替代公平概念的三个要求：（1）它必须提供一个理解权衡的元理论，这意味着它必须足够灵活以捕捉对决策的各种反对意见。（2）它不能诉诸公正的观点（中立数据、客观数据或最终仲裁者）。（3）它必须突出公平判断对背景的敏感性，即对历史和制度状况的敏感性。我们认为，公平的概念是制度决策历史迭代中适当的让步，符合这三个要求。基于这一定义，我们将评论者的见解组织成道德领域的流程结构图，我们希望这能为分析公平人工智能的计算机科学家和伦理学家带来清晰的认识，同时为进一步的技术和哲学工作扫清障碍。
谁是公平访问和公平分配的概念
对所有国家和所有有需要的人口的公平承诺仍然是全球公平分配框架的基础。WHO秘书处已定义了总体原则，以促进基于公平和公平性的基本Covid-19健康产品的访问和分配。这些原则是基于每个人享有最高可实现的健康标准的权利，而没有区分种族，宗教，政治信仰，经济或任何其他社会状况。3要获得这项权利，Covid-19的治疗疗法，疫苗，诊断和其他健康产品必须负担得起，可用，适当且适合所有需要的人。总体原则是：1。团结。团结是全球社区努力联合起来
论结果主义与公平
最近关于机器学习公平性的研究主要强调如何定义、量化和鼓励“公平”结果。然而，人们较少关注这些努力背后的道德基础。在应该考虑的道德观点中，结果主义是其中之一，其立场大致认为结果才是最重要的。虽然结果主义并非没有困难，虽然它不一定提供一种可行的选择行动的方式（因为不确定性、主观性和聚合性的综合问题），但它仍然为批判现有的机器学习公平性文献提供了强有力的基础。此外，它还突出了一些相关的权衡，包括谁来计算的问题、使用政策的利弊以及遥远未来的相对价值。在本文中，我们对机器学习中公平性的常见定义进行了结果主义批判，并从机器学习的角度对结果主义进行了批判。最后，我们更广泛地讨论了学习和随机化问题，这对于自动决策系统的伦理具有重要的意义。
公平的人工智能
减轻对亚群体的歧视。1 人们可能倾向于认为，只需从决策支持系统中省略敏感属性也能解决公平问题。然而，这是一个常见的误解：一些非敏感属性充当了代理（例如，工资是性别的代理，邮政编码是民族的代理，家庭结构是种族或宗教的代理），因此，即使不了解敏感属性的决策支持系统也被认为是不公平的。本文的目的是向信息系统从业者和研究人员介绍“公平的人工智能”。如上所述，信息系统内有多个领域容易出现不公平现象。事实上，信息系统维持甚至强化了人工智能中现有的不公平现象，而不是减轻它。在依赖这样的信息系统时，企业和组织面临着巨大的法律风险。在这方面，世界各地的立法机构都在实施法律，禁止在算法决策中进行差别对待（White & Case 2017）；例如，在美国，公平贷款法对风险评分中的算法偏见进行惩罚，而在欧盟，人工智能的责任由通用数据保护条例（GDPR）强制执行。因此，实现公平的人工智能对于歧视的潜在受害者和依赖人工智能进行决策支持系统的机构都至关重要。最近的报告指出，企业、组织和政府对公平人工智能的采用已经落后（AI Now Institute 2018）。正如我们稍后讨论的，这种进展缓慢的潜在原因在于信息系统的所有维度，即人（例如信任）、技术（例如设计原则、经济影响）和组织（例如治理）。在以下章节中，本文将回顾公平的理论概念，将它们与人工智能的公平性联系起来，并为信息系统研究提出建议。
公平的人工智能
信息系统 (IS) 目前正在经历根本性转变：直到最近，决策支持都是基于规则的确定性算法开发的。然而，随着人工智能 (AI) 的最新进展，这些决策规则已被概率算法（例如深度学习；参见 Kraus 等人）取代。2020 ）。概率算法通过从数据中学习现有模式进行推理，一旦部署，就会在某些不确定性下为看不见的数据提供预测。因此，它们容易产生偏见和系统性不公平，从而对个人或整个群体进行差别对待。先前的研究已多次证明人工智能应用缺乏公平性。例如，研究发现，信贷贷款申请的决策支持系统对某些社会人口群体存在不成比例的偏向 (Hardt and Price 2016; O'Neil 2016 )。
通过公平检索增强>公平的人类一代
现有的文本到图像生成模型反映甚至扩大了其培训数据中根深蒂固的社会偏见。这对于人类图像发生尤其关注，其中模型与某些人口统计组有偏见。现有的纠正此问题的尝试受到预训练模型的固有局限性的阻碍，并且无法实质上改善人口多样性。在这项工作中，我们引入了公平检索增强生成（Fairrag），这是一个新颖的框架，该框架对从外部图像数据库中检索到的参考图像进行了预训练的生成模型，以改善人类发电机的公平性。Fairrag可以通过轻质线性模块进行调节，该模块将图像投入到Textual空间中。为了提高公平性，Fairrag应用了简单但有效的借鉴策略，在生成过程中提供了来自Di-Verse人群的图像。广泛的实验表明，Fairrag在人口统计学多样性，图像文本比对和图像保真度方面构成了现有方法，同时在推断过程中产生了最小的计算开销。
公平行为准则
（关于负责任的金融产品和服务及营销）简介 Northern Arc Capital Limited 的使命是让银行服务不足的人群能够以高效、可扩展和可靠的方式获得融资。Northern Arc Group（Northern Arc Capital Limited 及其子公司）通过线上和线下渠道直接或通过第三方提供金融产品和服务。我们 Northern Arc Group 致力于负责任地开展业务。范围 Northern Arc Group 将酌情应用本附录中概述的客户保护原则，同时通过线下或线上渠道直接或通过第三方向其客户（定义如下）和其他客户提供金融产品和服务，包括第三方金融产品和服务，以及此类金融产品和服务的营销和销售。下文给出的公平实践准则将管辖 Northern Arc Capital Limited 的贷款业务。