Brayan J. Anaya 1#,JoséCerda1#,Rita Datri 1,I。Yuste1,F.C。 div>Luciano 1,Aytug Kara 1,Helga div>
从这颗种子开始,哥伦比亚大学、美国国家科学基金会和拉斐尔·尤斯特与来自科学和伦理各个领域的一群领导人进行了为期三天的研讨会。在这些会议之后,神经权利倡议成立了。然后,在 2019 年,他们制定了五项具体的神经权利:个人身份权、自由意志权、精神隐私权、平等获得精神增强的权利和免受算法偏见的权利(神经权利倡议,2021 年)。如今,该倡议由哥伦比亚大学神经技术中心管理,尤斯特担任主任。具体来说,平等获得精神增强的权利定义为:“应该在国际和国家层面制定指导方针,规范精神增强神经技术的开发和应用。这些指导方针应基于正义原则,并保证所有公民平等获得这些技术”(神经权利倡议,2021 年)。
15 Yuste,R.,哥伦比亚大学教授和 Gil,D.,IBM 研究主管。十年后,头上安装传感器将成为一种潮流,就像现在每个人都拥有一部智能手机一样。国家。 2022 年 1 月 5 日。作者采访。摘自:https://elpais.com/ciencia/2022-01-05/tener-un-sensor-en-la-cabeza-sera-de-rigor-en-10-anos-igual-que-ahora-todo-el-mundo-tiene-un-telefono-inteligente.html,2022 年 10 月 15 日。
在快速发展的神经信息学领域,人工智能 (AI) 与神经科学的交叉既带来了前所未有的机遇,也带来了巨大的道德挑战(Ienca 和 Ignatiadis,2020 年;Dubois 等人,2023 年;Parellada 等人,2023 年;Scheinost 等人,2023 年)。随着人工智能技术越来越多地支撑神经科学研究,建立强有力的治理框架至关重要,该框架不仅要与这项研究的雄心勃勃的范围相匹配,而且还要遵守严格的隐私和数据共享要求(Eke 等人,2022 年;Jwa 和 Martinez-Martin,2024 年;Yuste,2023 年;英国政府,2018 年)。本文探讨了协调人工智能治理法规与神经信息学实践的迫切需要,特别关注数据共享和隐私领域。这篇评论文章基于对 4,000 多篇研究文章和 AI 监管文件的全面分析,并引用了 100 多篇关键文章和文件。它对当前的 AI 治理框架以及 AI 与神经信息学交叉领域存在的挑战进行了批判性分析。1
拉丁美洲议会 (Parlatino) 最近推出了《神经权利示范法》,为成员国提供监管神经科学和神经技术的框架。然而,这项倡议存在重大的理论、概念和科学问题,这引发了人们对其应用和便利性的严重担忧。本文批判性地审查了拟议法律的关键条款,强调了其含糊不清、缺乏技术严谨性以及过度依赖模糊的伦理法律概念。它认为,采用这样的框架可能会导致仓促和缺乏根据的公共政策和神经科学法规,无法解决神经技术带来的真正挑战。本文建议,立法者不应制定抽象、无知和过于宽泛的法规,而应专注于具体的、基于证据的法律、软法方法、国际标准和全球知情原则,以应对国家和国际层面的真正风险。在此之前,有人建议不应将 Parlatino 示范法纳入任何立法,拟议的法律只是神经权利立法不应有的典范。2017 年,正式提出创建一类新的基本权利,即“神经权利”。这一概念首次由 Ienca 和 Andorno (2017) 提出,他们提出了四项核心神经权利:认知自由、精神隐私、精神完整性和心理连续性。同年,Yuste 等人在《自然》杂志上发表了一篇评论,进一步强调了围绕神经技术和人工智能的伦理问题(Yuste 等人,2017 年)。作为回应,神经权利倡议(后来转变为神经权利基金会)成立。该倡议提出了五项神经权利:精神隐私、个人身份、自由意志、公平获得精神增强的机会以及对算法偏见的保护(神经权利基金会,2024 年)。一些拉丁美洲国家和地区组织已推进改革,将神经权利纳入其法律框架,并采用了不同的立法方式(Borbón 和 Ramírez-Gómez,2024 年)。智利率先进行了这些努力,修改了宪法第 19 条,以保护心理完整性和大脑活动。继智利之后,墨西哥、巴西、阿根廷和哥伦比亚等其他国家也在推进新的法案,目前正在由立法者研究(Borbón 和 Ramírez-Gómez,2024 年)。软法方法也已出现,例如美洲法律委员会 2023 年的宣言概述了神经技术的 10 项原则(美洲法律委员会 - OAS,2023 年)。另一项重要的区域发展正是拉丁美洲议会示范法。
参考文献 [1] Abiri, R.、Borhani, S.、Sellers, EW、Jiang, Y.、Zhao, X. 基于 eeg 的脑机接口范式综合综述。神经工程杂志 16(1),011001 (2019) [2] Burwell, S.、Sample, M.、Racine, E. 脑机接口的伦理方面:范围界定综述。BMC 医学伦理学 18(1),1–11 (2017) [3] Sample, M.、Sattler, S.、Blain-Moraes, S.、Rodríguez-Arias, D.、Racine, E. 公众是否与专家一样担心脑机接口?一项关于神经技术伦理的三国调查。 Science, Technology, & Human Values 45(6), 1242–1270 (2020) [4] Schmid, J., Friedrich, O., Kessner, S., Jox, R.: 技术解锁的思想——德国关于脑机接口的调查。纳米伦理学 15(3), 303–313 (2021) [5] Yuste, R., Goering, S., Bi, G., Carmena, JM, Carter, A., Fins, JJ, Friesen, P., Gallant, J., Huggins, JE, Illes, J., et al. 神经技术和人工智能的四个伦理优先事项。自然 551(7679), 159–163 (2017)
的旨在最大程度地减少脑部疾病和疾病(如痴呆,慢性疼痛,抑郁,成瘾,成瘾和自闭症)等全球范围内的显着影响和经济影响,近年来出现了几项国家和地区研究项目,以改善我们对脑功能和功能障碍的理解。这些项目促进了神经技术和技术的发展,这些技术和技术在分析有关神经活动模式的数据或通过“转录”心理状态来解码有关精神状态或过程的信息的意义上,通过解码有关精神状态或过程的信息来解码有关精神状态或过程的信息,通过调整Neural Computation来解码有关过程。这些技术及通过它们获得的知识对于实现脑疾病的新疗法至关重要,因此在伦理上是由利益的生物伦理学原则在道德上激发的。但是,有人认为,它们还带来了必须在监管层面上解决的新神经伦理挑战。最近,Yuste等。(2021)建议,需要进一步扩展和/或指定现有的国际人权,因为它们以非常一般的术语来解决人类生活的某些道德相关方面,通常会易于解释,并规范神经技术的影响需要更大的特定城市。讨论最多的神经视线之一可能是心理隐私。这是我们应该控制访问神经数据的访问以及有关我们的心理过程和可以通过分析可以获得的状态的信息的想法。关键问题是心理隐私是否与其他形式的隐私不同。遵循这一想法,智利,巴西和西班牙等国家正在为调节神经技术(也称为“神经照射”)的特定权利。其中一些提案的灵感来自于Morningside组(由神经科学家Rafael Yuste领导的跨学科小组)开发的框架,该框架介绍了五个关键的神经视频:个人身份的权利,自由意志的权利,自由意志的权利,具有对认知能力增强技术的权利的权利,是对认知能力的访问权利和反对精神的权利和权利保护的权利和Alg salg和Alg and and Algias的权利。The “mind-reading” neurotechnologies that could put mental privacy at risk consist of a wide variety of applications, including not only the interpretation of neural activity patterns in isolation (e.g., determining what I am thinking about without using any external cue), but also the use of neural responses to consciously perceived stimuli (e.g., P300 signals) for identifying experiences of recognition ( Rissman et al., 2010 ),以及使用潜意识刺激来检测性偏好(Wernicke等,2017)和移情反应(Chiesa等,2017)。特别是,我们需要确定与其他类型的个人信息相比,神经数据和心理信息是否需要更严格的保护。我将阐明并支持一项建议,表明心理隐私需要特殊待遇,因为它与个人身份的相关方面有关。
近几十年来,神经科学发生了范式转变。过去,我们关注的是单个神经元的特性(James 1890;Queenan 等人 2017)。现在人们逐渐意识到,信息的存储和处理依赖于空间分布的、动态的神经元组合(Fujisawa 等人 2008;Buschman 等人 2011;Yuste 2015),称为神经集合(Buschman 等人 2012;Tayler 等人 2013;Pfau 等人 2013;Pinotsis 等人 2017;Pinotsis 和 Miller 2017)或印迹细胞(Thompson 1976;Josselyn 等人 2015)。蛋白质诱导(Gordon 等人,1980 年)、立即早期基因 (IEG) 表达(Guzowski 等人,2005 年)和光遗传学(Fenno 等人,2011 年)等技术可以识别参与记忆存储和回忆的神经元集合(Ryan 等人,2015 年;Tonegawa 等人,2015b 年)。此外,最近的实验发现许多大脑区域同时存在维持相同记忆的神经集合,这被称为印迹复合体(Poo 等人,2016 年;Roy 等人,2019 年)。在 Roy 等人 (2019 年) 的研究中,他们使用蛋白质 cFos 和 IEG 绘制了总共 247 个大脑区域,其中发现 117 个区域在回忆恐惧记忆时会被显著重新激活。因此,记忆并非存储在单个大脑区域,而是分散在多个区域和神经集合中。早期的记忆巩固理论(Squire 和 Alvarez 1995)和多重痕迹理论(Nadel 和 Moscovitch 1997)也发现记忆存储在多个区域,形成印迹复合体。这些印迹复合体通过由单突触或多突触连接形成的印迹通路连接在一起(Tonegawa 等人 2015a)。
人工智能及其配套技术机器人有望通过其分析、解释和执行人类行为的能力彻底改变人机关系(电气和电子工程师协会,2017 年)。这些能力在激发人们的兴奋和担忧的同时(Bostrom,2014 年),也引发了人们对指导技术发展的伦理和价值观的反思(Calo,2016 年)。因此,引发价值观演变的因素对于影响技术可能采用的形式至关重要。广义上讲,这些行为被视为在两个层面上运作:(1)通过认识论推断,通常通过神经科学观察——人类就像机器(McCulloch 和 Pitts,1943 年;Fodor,1975 年;Marr 和 Poggio,1976 年;Marr,1982 年;Piccinini,2004 年;Yuste,2010 年)和(2)通过本体论谓词,即作为人类元属性的推断类比——机器就像人类(Hornyak,2006 年;Kitano,2006 年;Sabanovic,2014 年)。由于人工智能设备的设计意图是减少人为干预的负担,它们越来越多地用于满足人类的一系列需求,从低阶运动辅助到高阶计算和社交功能,例如生活辅助伴侣和工作同事(Sabanovic,2014 年);因此,它们在多个层面上进行类比。尤其是高阶认知的模拟被视为价值归属的驱动因素——在此被理解为权利和道德权利的内在基础(Rothaar,2010),它源于关于技术操作类似于人类认知的本体论推论。也就是说,通过复制这些人类独有的能力,技术中本体论的入侵日益加深,以模拟本体论等价的名义推动价值进化。例如,Breazeale 的 Kismet 机器人不仅探索了促进人机交互所必需的社交手势,还探索了人类社交智能的构建,甚至探索了成为人类的意义(Breazeal,2002;Calo,2016)。因此,模拟挑战了传统的价值等级制度,将人类置于有机体生命的顶端,并为伦理、生物伦理和神经伦理实践奠定基础,这种优先顺序促进了人类的繁荣,同时也限制了对人类的有害干预。
•所有基础参与者和网站:Alfonso Iorio博士,Ana Boban博士,Laurent Frenzel博士,博士Godfrey Chi Fung,博士Laura Villarreal Martiny博士,Chi Cong Li博士,Miodrag Vucic,博士儿子,维克多博士,博士鲁尼·吴(Runhui Wu)。 Zuhre Kaya,Teruhisa Fujii,Tadashi Matssushita博士,Zaher博士,Mariya Todorova博士,Johnny Mahlangu博士,博士