Ovido de Filippo 1†,Victoria L. Camnn 2†,Corrado Pancotti 3†,Davide DI Vace 2,Angelo Silverio 4,Victor Schweiger 2,Victor Schweiger 2,David Niederser 2,David Niederser 2,Konrad A. Szawan 2吉多。 Parodi 6,Eduardo Bossone 7,Sebastiano Gili 8,Michael Neuhaus 9,Jennifer Franke 1 0,Benjamin Meder 1 0,MiłoszJaguszewski11,Michelel Nouutias 1 2,Michel Nouutias 1 2 2 Burgdorf 1 6,Behrouz Kherad 1 7,CarstenTschöpe1 7,Annahita Sarcon 1 8,Jerold Shinbane 1 9,Lawrence Rajan 20,Guido Michels 2 1,Roman Pfister 22,Alessandro Cuneo 23,Claudius Jacobshagen 23,Claudius Jacobshagen 24.25,Mahir Karakans 26.27,Mahir Karak.27,3.27,Wolfg。 Koenig 28,29,Alexander Pott 30,Philippe Meyer 3 1,Marco Roffi 3 1,Adrian Banning 32,Mathias Wolfrum 33,Florim Cuculi 33,Richard Kobza 33,Thomas A. Fischer 34,Tuija Vasankari 35 35,Tuija Vasankari 35,K.E.Juhani Airaksinen 35,L。Christian Napp 36,Rafal Dworakowski 37,Philip Maccarthy 37,Christoph Kaiser 38,Stefan Osswald 38,Leonarda Galiuto 39,Christina Chan 40,Christina Chan 40,Christina Chan 40,Christina Chan 40,Christina 40,Christa galie Chriel galie gali galiuto dan999999 1,42,克莱门·德尔马斯43,奥利维尔·莱雷斯43,埃卡特琳娜·吉利亚罗娃44,亚历山德拉·希洛娃44,米哈伊尔·吉利亚罗夫44,伊布拉希姆·埃尔·巴特维45,46,易卜拉欣·艾布拉希姆·阿金(Ibrahim Akarohim akarohim akarolina akarolinapoledniková47davideek 47 davideek 47,ibrahim A Massoomi 48, Jan Galuszka 49, Christian UKENA 50, Gregor Poglajen 5 1, Pedro Carrilho-Ferrairaa 52, Christian Hauccica , Carla Paolini 54, Claudio Bilato 54, Yoshio Kobayashi 55, Ken Kato 55, IWAO Ishibashi 56, Toshihariu Himi 57, Jehangir Din 58, Al-Shammari 58, Abhiram Prasad 58, Abhiram Prasad 58, Abhiram Prasad 58, Charanjit S. Rihal 59, kan liu 60, P. Christian Schulze 6 1, Matteo Bianco 62, Lucas Jörg 63, Hans Rickli 63, Gonçalo Pestana 64, Thanh H. Nguyen 65, Michael Boohm 50,Lars S. Maier S. Maier S. Maier S. Maier S. Maier S. Maier S. Maier S. Maier S. Monika Budnik 68,Grzegorz Opolski 68,Holger Thiele 69,Johann Bauersachs 36,John D. Hrowitz 65,Carlo di Mario 70,Francesco Bruno 1,Francesco Bruno 1,William Kong 7 1 1. Mayank dalakoti 71。 Lüscher73,74,Jeroen J. Bax 75,Frank Ruschitzka 2,Gaetano Maria de Ferrari 1,Piero Fariselli 3,Jelena R. Ghadri 2,Rodolfo Citro 5,76,Fabrizio D'Sessenzo 1‡,和Christian Templin 2 *
Ovidio De Filippo 1 † , Victoria L. Cammann 2 † , Corrado Pancotti 3 † , Davide Di Vece 2 , Angelo Silverio 4 , Victor Schweiger 2 , David Niederseer 2 , Konrad A. Szawan 2 , Michael Würdinger 2 , Iva Koleva 2 , Veronica Dusi 1 , Michele Bellino 4 , Carmine Vecchione 4,5 , Guido Parodi 6 , Eduardo Bossone 7 , Sebastiano Gili 8 , Michael Neuhaus 9 , Jennifer Franke 1 0 , Benjamin Meder 1 0 , Miłosz Jaguszewski 11 , Michel Noutsias 1 2 , Maike Knorr 1 3 , Thomas Jansen 1 3 , Wolfgang Dichtl 1 4 , Dirk von Lewinski 1 5,Christof Burgdorf 1 6,Behrouz Kherad 1 7,CarstenTschöpe1 7,Annahita Sarcon 1 8,Jerold Shinbane 1 9,Lawrence Rajan 20,Guido Michels 2 1,Roman Pfist Ander Pott 30,Philippe Meyer 3 1,Marco Roffi 3 1,Adrian Banning 32,Mathias Wolfrum 33,Florim Cuculi 33,Richard Kobza 33,Richard Kobza 33,Thomas A. Fischer 34,Tuija Vasankari 35 , 拉法尔·德沃拉科夫斯基 37 , 菲利普·麦卡锡 37 , 克里斯托夫·凯泽 38 , 斯蒂芬·奥斯瓦尔德 38 , 莱昂纳达·加利乌托 39 , 克里斯蒂娜·陈 40 , 保罗·布里奇曼 40 , 丹尼尔·博格 4 1 ,42 , 克莱门特·德尔马斯 43 , 奥利维尔·莱雷斯 43 , 叶卡捷琳娜·吉利亚罗娃 44 , 亚历山德拉·希洛娃 44 , 米哈伊尔·吉利亚罗夫 44 , 易卜拉欣·埃尔-巴特拉维 45,46 , 易卜拉欣·阿金 45,46 , 卡罗琳娜·波莱德尼科娃 47 , 彼得·图塞克 47 , 戴维·E·温彻斯特 48 , 迈克尔·马苏米 48 , 扬·加卢斯卡 49 , 克里斯蒂安·乌凯纳 50 , 格雷戈尔·波格拉延 5 1 , 佩德罗Carrilho-Ferreira 52 , Christian Hauck 53 , Carla Paolini 54 , Claudio Bilato 54 , Yoshio Kobayashi 55 , Ken Kato 55 , Iwao Ishibashi 56 , Toshiharu Himi 57 , Jehangir Din 58 , Ali Al-Shammari 58 , Abhiram Prasad 59 , Charanjit S. Rihal 59 , Kan Liu 60 , P. Christian Schulze 6 1 , Matteo Bianco 62 , Lucas Jörg 63 , Hans Rickli 63 , Gonçalo Pestana 64 , Thanh H. Nguyen 65 , Michael Böhm 50 , Lars S. Maier 53 , Fausto J. Pinto 52 , Petr Widimsk´y 47 , Stephan B. Felix 4 1,42,Ruediger C. Braun-Dullaeus 66,Wolfgang Rottbauer 30,GerdHasenfuß24,Burkert M. 70,Francesco Bruno 1,William Kong 7 1,Mayank Dalakoti 7 1,Yoichi imori 72,ThomasMünzel1 3,Filippo Crea 39,ThomasF.Lüscher73,74,Jeroen J.Bax 75,Frank Ruschitzka 2,frank Ruschitzka 2,Gaetzka 2,Gaetzka de farisel deeria deeria dieria dieria pieria pierari 1,Pierari 1,Pierari 1,i 1, 3、Jelena R. Ghadri 2、Rodolfo Citro 5.76、Fabrizio D'Ascenzo 1 ‡、Christian Templin 2 * ‡
[1] Dario Amodei、Chris Olah、Jacob Steinhardt、Paul Christiano、John Schulman 和 Dan Mané。2016 年。《人工智能安全中的具体问题》。CoRR abs/1606.06565 (2016)。[2] Berkeley J. Dietvorst、Joseph P. Simmons 和 Cade Massey。2015 年。《算法厌恶:人们在发现算法有错误后会错误地避开它们》。《实验心理学杂志:综合》144, 1 (2015),114。[3] Berkeley J. Dietvorst、Joseph P. Simmons 和 Cade Massey。2018 年。《克服算法厌恶:如果人们可以(即使稍微)修改算法,他们也会使用不完美的算法》。《管理科学》64, 3 (2018),1155–1170。 [4] Julie S. Downs、Mandy B. Holbrook、Steve Sheng 和 Lorrie Faith Cranor。2010 年。您的参与者是否在玩弄系统?筛查 Mechanical Turk 工人。在 SIGCHI 计算机系统人为因素会议论文集上。2399–2402。[5] Jodi Forlizzi 和 Carl DiSalvo。2006 年。家庭环境中的服务机器人:对家用 Roomba 吸尘器的研究。在第一届 ACM SIGCHI/SIGART 人机交互会议论文集上。[6] Dylan Hadfield-Menell、Smitha Milli、Pieter Abbeel、Stuart J. Russell 和 Anca Dragan。2017 年。逆向奖励设计。在神经信息处理系统的发展中。[7] Bill Hibbard。2012 年。避免意外的 AI 行为。在国际通用人工智能会议上。Springer,107–116。[8] Lynn M. Hulse、Hui Xie 和 Edwin R. Galea。2018 年。对自动驾驶汽车的看法:与道路使用者的关系、风险、性别和年龄。安全科学 102(2018 年),1–13。[9] Rafal Kocielnik、Saleema Amershi 和 Paul N. Bennett。2019 年。您会接受不完美的人工智能吗?探索调整人工智能系统最终用户期望的设计。在 CHI 计算系统人为因素会议论文集上。[10] Moritz Körber。2018 年。衡量对自动化信任的理论考虑和问卷的开发。在国际人体工程学协会大会上。Springer,13–30。 [11] Victoria Krakovna、Laurent Orseau、Miljan Martic 和 Shane Legg。2019 年。使用逐步相对可达性惩罚副作用。在 AI 安全研讨会 IJCAI 中。[12] Victoria Krakovna、Laurent Orseau、Richard Ngo、Miljan Martic 和 Shane Legg。2020 年。通过考虑未来任务来避免副作用。在第 20 届神经信息处理系统会议论文集上。[13] Miltos Kyriakidis、Riender Happee 和 Joost CF de Winter。2015 年。公众对自动驾驶的看法:对 5000 名受访者的国际问卷调查结果。交通研究 F 部分:交通心理学和行为 32(2015 年),127–140。 [14] Ramya Ramakrishnan、Ece Kamar、Debadeepta Dey、Julie Shah 和 Eric Horvitz。2018 年。《发现强化学习中的盲点》。《第 17 届自主代理和多代理系统国际会议论文集》。[15] Stuart Russell。2017 年。《可证明有益的人工智能》。《指数生命,下一步》(2017 年)。[16] Sandhya Saisubramanian、Ece Kamar 和 Shlomo Zilberstein。2020 年。一种减轻负面影响的多目标方法。在第 29 届国际人工智能联合会议论文集上。[17] Sandhya Saisubramanian 和 Shlomo Zilberstein。2021 年。通过环境塑造减轻负面影响。在第 20 届自主代理和多智能体系统国际会议论文集上。[18] Sandhya Saisubramanian、Shlomo Zilberstein 和 Ece Kamar。2020 年。避免因对人工智能系统知识不完整而产生的负面影响。CoRR abs/2008.12146 (2020)。[19] Rohin Shah、Dmitrii Krasheninnikov、Jordan Alexander、Pieter Abbeel 和 Anca Dragan。 2019. 世界状态中的隐含偏好。第七届国际学习表征会议论文集。[20] Alexander Matt Turner、Dylan Hadfield-Menell 和 Prasad Tadepalli。2020. 通过可实现效用保存实现保守代理。AAAI/ACM 人工智能、伦理与社会会议论文集。[21] Ming Yin、Jennifer Wortman Vaughan 和 Hanna Wallach。2019. 理解准确度对机器学习模型信任的影响。CHI 计算系统人为因素会议论文集。[22] Shun Zhang、Edmund H. Durfee 和 Satinder P. Singh。2018. 分解马尔可夫决策过程中对副作用的 Minimax-Regret 查询以实现安全最优。在第 27 届国际人工智能联合会议论文集上。
先知。博士。Ilya Okulov (Libniiz-Institute furary Designer Techno- login – IWT) Dr. Yasmine Sassa (Chalmers University or Technology) Amir Malakizadi (Chalmers University or Technology) Prof. Dr. Alexor Matic (Chalmers University or Technology) Dr. Sfjetlana Stecovic (Link University) Prof. Dr. Kevin M. Ryan (University or Limerick) Prof. Dr. Piter加尔加拉(联邦大学或圣卡洛斯)教授桑德拉·卡瓦略(Coimbra大学)麦地娜·沙姆苏耶娃(Madina Shamsuyeva)博士(汉诺威的利布尼兹大学)教授尼古拉斯·阿隆索·范特(Nicolas Alonso Vante)博士(Poitiers the Poitiers) AB)Wim Theelans博士(Katholic University Leuven)Aline Rogue博士(Bordaux大学)DAMENTAL TOURRET(IMDEA材料研究所)博士。Annable Broad(Katholic University Leuven)Gonzalo Priceto博士(西班牙研究委员会CSIC - 理工大学或Valencia UPV)Maria Vara del Arco博士(Madrid大学)Giovanni Perotto博士(Intirition Italo Italo Italo这Tecnologia(IIT)(IIT))。ThomasWeißgarber(Fraunhofer Instituteförferigigung偷窃和Ange Walls Material forshung)MaríaVallet-Regí博士(大学计算机或马德里)博士。AndrésFabánLasagni(技术大学)Regina Ciancio博士(地区科学园)博士。 Raquel Oro Calderon(维也纳技术大学)教授Laura M. Bartolo博士(芝加哥西北大学)Artur Erbe博士(Helmoltz- Zentrum drrest-Rossendorf E.V.))AndrésFabánLasagni(技术大学)Regina Ciancio博士(地区科学园)博士。Raquel Oro Calderon(维也纳技术大学)教授Laura M. Bartolo博士(芝加哥西北大学)Artur Erbe博士(Helmoltz- Zentrum drrest-Rossendorf E.V.))Raquel Oro Calderon(维也纳技术大学)教授Laura M. Bartolo博士(芝加哥西北大学)Artur Erbe博士(Helmoltz- Zentrum drrest-Rossendorf E.V.)Konda Gokuldoss Prahanth(Tallinn技术大学)教授WillumeitRömer(Helmholtz Center在这里)JoaquínRams博士(Helmholtz Center)教授JoaquínRams博士(Rey Rey Juan Carlos大学)Ivan Kaban博士(技术 - 以色列技术学院)AntonioJesúsSalinasSánchez博士(Madrid大学) Österlund(Uppsala University)博士。 洛伦佐·莫罗尼(Lorenzo Moroni)教授(马斯特里赫特大学)教授罗伯特·伍德沃德(Robert Woodward)博士(维也纳大学)Pearl Agyakwa博士(诺丁汉大学) Kiran Gulia(Wolverhampton大学)Masiar Sistani博士(维也纳技术大学)Konda Gokuldoss Prahanth(Tallinn技术大学)教授WillumeitRömer(Helmholtz Center在这里)JoaquínRams博士(Helmholtz Center)教授JoaquínRams博士(Rey Rey Juan Carlos大学)Ivan Kaban博士(技术 - 以色列技术学院)AntonioJesúsSalinasSánchez博士(Madrid大学) Österlund(Uppsala University)博士。洛伦佐·莫罗尼(Lorenzo Moroni)教授(马斯特里赫特大学)教授罗伯特·伍德沃德(Robert Woodward)博士(维也纳大学)Pearl Agyakwa博士(诺丁汉大学) Kiran Gulia(Wolverhampton大学)Masiar Sistani博士(维也纳技术大学)