重新未来是艰难的。预测一个国家温斯顿·丘吉尔(Winston Churchill)的未来被描述为“包裹在谜团内部的谜团”的未来是很困难的。1尽管到1980年代后期,西方学术和政策界的整个所谓的苏联学家都在增长,但很少有人预测苏联会崩溃,没有人预测其灭亡的确切时机和方式。尽管许多苏联的观察员看到了1980年代的改革,但约翰·P·霍德(John P. Hardt)博士远远领先于曲线。在1971年在参数上写作,Hardt指出了对苏联经济进行改革的必要性,解释了为什么这种改革会很困难,并结论一下,每年都会延迟这些努力的成本。可以肯定的是,Hardt并没有使一切都正确,但是他的文章应在其出版50年的课程中重新检查他的文章应重新检查。
可重复使用的持有:在自适应数据分析中保留有效性。Cynthia Dwork,Vitaly Feldman,Moritz Hardt,Toniann Pitassi,Omer Reingold和Aaron Roth。科学。349(6248),第636-638页(在线补充材料)。2015年8月7日。(Penn News功能:https://news.upenn.edu/news/p Research-helps-develop-algorithm-aimed-combating-sciencation-science-s-Science-s-reprodroducibilible-problem)。2015年帕特·戈德堡纪念奖奖获得者。
1993年5月17日。向联合经济委员会成员:我特此传输供联合经济承诺,国会和公众使用的第二卷研究,该研究评估了前苏联新独立国家的经济体,题为前苏联,前苏联是过渡。该研究包含委员会根据众多政府和私人专家的要求准备的论文。本卷包含对能源,农业,环境,科学和运输,国防和国防转化的关键部门发展的分析,以及包括健康和教育的人力资源问题。特别重点是15个前苏联共和国的经济发展。在每个新独立国家都有经济评估和概况。该研究由国会研究局副主任约翰·P·哈特(John P.Phillip J. Kaiser担任出版协调员。我们感谢国会研究服务局,以使Hardt博士和其他人可以从事该项目以及许多贡献论文的作者。真诚的,联合经济委员会主席David R. Obey。
自动化决策系统越来越多地用于我们的日常生活中,例如在贷款,保险和医疗服务的背景下。一个挑战是,这些决策系统可以证明对弱势群体的歧视(Dwork等,2012)。为了减轻此问题,已经提出了公平的限制(Hardt等,2016; Dwork等,2012),例如寻求实现某些统计奇偶校验属性。尽管公平的机器学习已经进行了广泛的研究,但大多数工作都考虑了静态设置,而无需考虑决策的顺序反馈效果。同时,算法决定可能会通过与社会的反馈循环来改变数据中基本统计模式的变化。反过来,这会影响决策过程;
Char, D. S., M. D. Abr amoff 和 C. Feudtner。2020.确定机器学习医疗保健应用的伦理考虑因素。美国生物伦理学杂志 20 (11):7 – 17。doi: 10.1080/15265161.2020.1819469。Fawcett, T. 2006。ROC 分析简介。模式识别快报 27 (8):861 – 874。Hardt, M.、E. Price 和 N. Srebro。2016.监督学习中的机会平等。神经信息处理系统进展 29:3315 – 3323。Kleinberg,J.,和 S. Mullainathan。2019.简单造成不公平:对公平、刻板印象和可解释性的影响。2019 年 ACM 经济与计算会议论文集,807 – 808。Platt,J. C. 1999。支持向量机的概率输出以及与正则化似然方法的比较。在《大边距分类器的发展》中,编辑。A. J. Smola、Peter Bartlett、B. Schölkopf 和 D. Schuurmans,61 – 74。马萨诸塞州剑桥:麻省理工学院出版社。Rajkomar,A.、M. Hardt、M. D. Howell、G. Corrado 和 M. H. Chin。2018 年。确保机器学习的公平性以促进健康公平。内科年鉴 169 (12):866 – 872。Woodworth,B.、S. Gunasekar、M. I. Ohannessian 和 N. Srebro。2017.学习非歧视性预测因子。机器学习研究论文集 65:1920 – 1953。Zhang, B. H., B. Lemoine, 和 M. Mitchell。2018.通过对抗性学习减轻不必要的偏见。2018 年 AAAI/ACM 人工智能、伦理和社会会议论文集,335 – 340。美国路易斯安那州新奥尔良。
信息系统 (IS) 目前正在经历根本性转变:直到最近,决策支持都是基于规则的确定性算法开发的。然而,随着人工智能 (AI) 的最新进展,这些决策规则已被概率算法(例如深度学习;参见 Kraus 等人)取代。2020 )。概率算法通过从数据中学习现有模式进行推理,一旦部署,就会在某些不确定性下为看不见的数据提供预测。因此,它们容易产生偏见和系统性不公平,从而对个人或整个群体进行差别对待。先前的研究已多次证明人工智能应用缺乏公平性。例如,研究发现,信贷贷款申请的决策支持系统对某些社会人口群体存在不成比例的偏向 (Hardt and Price 2016; O'Neil 2016 )。
Sander,J.,Schmidt,S。V.,Cirovic,B.,McGovern,N.,Papantonopoulou,O. Schulte-Schrepping,J.,Günther,Pulas,T.,Klee,K.,Katzmarski,N.,Herresthal,S.,Krebs,W.,Martin,B. E.V.,Ginhoux,F.,Schlitzer,A.,Schultze,J.L。(2017)。细胞区分受时间依赖性白介素-4信号传导和转录调节剂NCOR2的调节。免疫,47(6),1051-106 https://doi.org/10.1016/j.immuni.2017.11.11.024
算法在不同的人口群体中可能表现不同。例如,如果一个心理健康工具主要基于来自白人中产阶级的数据进行训练,那么它可能无法准确诊断或治疗其他种族人群的疾病(Buolamwini 和 Gebru 2018)。偏见的另一个来源是人工智能工具的设计和开发过程。如果开发团队缺乏多样性或未能考虑不同人群的具体需求,那么最终的工具可能会无意中反映出其创造者的偏见。这可能导致工具对某些群体效率较低甚至有害,加剧心理健康护理中现有的差距(Gebru 等人 2020)。此外,算法本身也会带来偏见。例如,机器学习算法通常会优化准确性或效率而不考虑公平性。因此,它们可能会强化数据中现有的偏见,甚至通过其决策过程产生新的偏见(Hardt 等人 2016)。
References • Ariano A, D'Apolito M, Bova M, Bellanti F, Loffredo S, D'Andrea G, Intrieri M,Petraroli A, Maffione AB, Spadaro G, Santacroce R, Margaglione M. A myoferlingain-of-function variant associates with a new type of hereditary血管性水肿。2020年11月; 75(11):2989-2992。 doi:10.1111/all.14454。EPUB 2020 7月1日NoAbstract可用。引用PubMed(https://www.ncbi.nlm.nih.gov/ PubMed/32542751)•Bork K,Machnig T,Wulff K,WiTzke G,Prusty S,Hardt J.具有正常C1抑制剂的遗传性血管性水肿类型的临床特征:对定性证据的系统评价。orphanet j Rare。2020OCT 15; 15(1):289。DOI:10.1186/S13023-020-01570-X。 Citation on PubMed (https://www.ncbi.nlm.ni h.gov/pubmed/33059692) • Bork K, Wulff K, Mohl BS, Steinmuller-Magin L, Witzke G, Hardt J, Meinke P.Novel hereditary angioedema linked with a heparan sulfate 3-O-sulfotransferase 6基因突变。 J过敏临床免疫。 2021年10月; 148(4):1041-1048。 doi:10.1016/j.jaci。 2021.01.011。 EPUB 2021 JAN 25。 Citation on PubMed (https://www.ncbi.nlm.nih.gov/ pubmed/33508266) • Busse PJ, Christiansen SC, Riedl MA, Banerji A, Bernstein JA, Castaldo AJ,Craig T, Davis-Lorton M, Frank MM, Li HH, Lumry WR, Zuraw BL. 美国海上医学顾问委员会2020年遗传性血管性水肿管理指南。 Jallergy Clin Immunol实践。 2021 JAN; 9(1):132-150.e3。 doi:10.1016/j。 Jaip.2020.08.046。 EPUB 2020年9月6日。 amj hum Genet。 2006年12月; 79(6):1098-104。 doi:10.1086/509899。2020OCT 15; 15(1):289。DOI:10.1186/S13023-020-01570-X。Citation on PubMed (https://www.ncbi.nlm.ni h.gov/pubmed/33059692) • Bork K, Wulff K, Mohl BS, Steinmuller-Magin L, Witzke G, Hardt J, Meinke P.Novel hereditary angioedema linked with a heparan sulfate 3-O-sulfotransferase 6基因突变。J过敏临床免疫。 2021年10月; 148(4):1041-1048。 doi:10.1016/j.jaci。 2021.01.011。 EPUB 2021 JAN 25。 Citation on PubMed (https://www.ncbi.nlm.nih.gov/ pubmed/33508266) • Busse PJ, Christiansen SC, Riedl MA, Banerji A, Bernstein JA, Castaldo AJ,Craig T, Davis-Lorton M, Frank MM, Li HH, Lumry WR, Zuraw BL. 美国海上医学顾问委员会2020年遗传性血管性水肿管理指南。 Jallergy Clin Immunol实践。 2021 JAN; 9(1):132-150.e3。 doi:10.1016/j。 Jaip.2020.08.046。 EPUB 2020年9月6日。 amj hum Genet。 2006年12月; 79(6):1098-104。 doi:10.1086/509899。J过敏临床免疫。2021年10月; 148(4):1041-1048。 doi:10.1016/j.jaci。2021.01.011。EPUB 2021 JAN 25。Citation on PubMed (https://www.ncbi.nlm.nih.gov/ pubmed/33508266) • Busse PJ, Christiansen SC, Riedl MA, Banerji A, Bernstein JA, Castaldo AJ,Craig T, Davis-Lorton M, Frank MM, Li HH, Lumry WR, Zuraw BL.美国海上医学顾问委员会2020年遗传性血管性水肿管理指南。Jallergy Clin Immunol实践。2021 JAN; 9(1):132-150.e3。doi:10.1016/j。Jaip.2020.08.046。 EPUB 2020年9月6日。 amj hum Genet。 2006年12月; 79(6):1098-104。 doi:10.1086/509899。Jaip.2020.08.046。EPUB 2020年9月6日。amj hum Genet。2006年12月; 79(6):1098-104。 doi:10.1086/509899。引用于PubMed(https://www.ncbi.nlm.nlm.nlm.nh.g ov/pubMed/32898710)•Circhon S,Martin L,Hennies HC,Muller F,Muller F,Van Driesche K,Van Driesche K,Carphens W,Stevens W,Stevens W,Colombo rork kne bork kne bork bork bork bork bork born con n of drouet the n of drouet the n of drouet the n of drouet。Epub 2006年10月18日。 引用PubMed(https://pubmed.ncbi.nlm.nih.gov/17186468)或免费文章Epub 2006年10月18日。引用PubMed(https://pubmed.ncbi.nlm.nih.gov/17186468)或免费文章
人类已经依靠机器将过多的信息减少到可管理的代表。但是可以滥用这种依赖 - 战略机器可能会制作来操纵用户的表示。用户如何根据战略表示做出好选择?我们将其形式化为学习问题,并追求算法进行决策,这些算法是可靠的。在我们关注的主要设置中,系统将项目的属性表示给用户,然后决定是否消耗。我们通过策略分类的镜头对这种相互作用进行建模(Hardt等人2016),反转:学习,首先播放的用户;响应的系统排名第二。系统必须以揭示“除了真理”但不必透露整个真理的表示形式做出响应。因此,用户面临着在战略子集选择下学习设置功能的问题,该问题呈现出不同的算法和统计范围。我们的主要结果是一种学习算法,尽管具有战略性代表,但可以最大程度地减少错误,而我们的理论分析阐明了学习工作和操纵性的知名度之间的权衡。