近年来,公众见证了神经技术 (NT) 的迅速崛起,临床试验引起了媒体和专家圈的广泛关注。虽然“读心术”和“精神控制”技术的说法往往倾向于炒作,但在通过大脑将思想与机器连接起来方面正在取得显著进展。在很大程度上得益于首席执行官的媒体策略,正在进行的 Neuralink 人脑芯片临床试验被全球公众视为该领域的先驱。1 然而,许多其他参与者,包括公共实体、2 学术研究团队 3 和私营公司 4,多年来一直参与临床试验,在开发尖端 NT 方面取得了重大进展。这导致科学知识和神经技术应用以及商业化产品的迅速增长。随着这项技术进步,提出基本伦理问题的声音也变得更加明显。神经科学家、伦理学家和法律学者就是否有必要在神经技术普及社会各个领域之前预见到可能产生的破坏性影响展开了激烈的辩论。认识到这些伦理问题以及人权影响的重要性,一些国际组织正在采取积极措施。2019 年,经济合作与发展组织 (OECD) 通过了一项建议,以促进神经技术发展中的负责任创新。5 联合国教育、科学及文化组织 (UNESCO) 通过其国际生物伦理委员会致力于建立一个伦理框架。6 最后,联合国人权理事会的咨询委员会正在开展一项研究,以评估神经技术带来的人权挑战和影响以及潜在机遇。7 本报告旨在为这些标准制定过程做出贡献。首先,它概述了神经技术目前的最新进展。它探讨了正在使用或预期使用神经技术的各个社会领域,并确定了从规范制定角度应监测的关键趋势。其次,报告将阐明新技术的应用和传播中固有的主要道德问题和困境,并指导建立健全的监管框架。该分析强调,了解新技术的功能、应用和现实前景,同时区分科学进步和推测性叙述,对于有效监管至关重要。此外,报告还承认,在解决潜在的人权影响和制定国家和国际层面的法规之前,确定道德问题是必要条件。
2024 年 4 月和 5 月,ICAEW 举办了一系列圆桌会议,旨在为会计行业制定有关人工智能 (AI) 道德使用的指导。这些圆桌会议汇集了来自广泛专业知识领域的参与者,不仅包括会计专业人士,还包括来自技术、道德、法律和学术等领域的专家,以确保尽可能全面和全面的观点。与会者一致认为,随着人工智能迅速进入会计主流并重塑该行业,制定道德原则和指导至关重要且迫切需要。以 ChatGPT 等大型语言模型为代表的易于使用的界面使人工智能应用民主化。虽然人工智能曾经是计算机科学家的专属领域,但现在任何人都可以与先进的人工智能系统交互。这种广泛的可访问性带来了巨大的风险和道德困境。然而,该行业的发展可能受到阻碍,原因不是技术的限制,而是采用的速度以及用户和早期采用者对各种用例的适应程度。信任的重要性,尤其是削弱利益相关者信心的风险,是讨论的中心主题。与会者强调需要区分“传统人工智能”和“生成人工智能”,并指出每种人工智能的具体用例和相关风险。对于生成人工智能,主要问题是技术速度和规模会放大潜在风险。圆桌会议参与者充分认识到这些广泛的风险,包括:
AIES的使命是让一个多学科的学者群体深入思考AI系统对人类社会的影响。我们很高兴会议正在增长,同时仍保持非常高质量的标准和跨学科性质,这是其身份的核心。,我们对AIES今年必须为与会者提供的巨大计划感到非常兴奋(并且,永久阅读诉讼中的论文的人)。我们期待欢迎大家来圣何塞,并希望您喜欢看到该领域正在发生的令人难以置信的工作。我们感谢赞助商的慷慨支持,这使我们能够保持较低的注册费并支持学生计划。我们处于关键时刻,因为AI变得越来越普遍。我们希望AIES的对话继续推动我们需要做的工作,以确保前进的道路是一条好的道路。
• 报告 https://moritzlaw.osu.edu/faculty-research/program-data-and-governance/raim
与最初的期望相反,即我们在数字机会和风险的看法和治理中看到的差异可能是由于对特定价值的强调的明显差异而造成的,数据不支持这种区别。Agide的研究表明,核心价值观(例如正义,尊严或隐私)在世界各地不同地区都具有显着的一致性。的主要差异似乎在其他地方:数字伦理的叙述。叙事是反复讲述的故事,包括一系列以特定顺序选择和安排的事件,通常包括中心人物(主角,对手),冲突和情节。
Gregory Vijayendran 先生 Rajah & Tann Singapore LLP 股权合伙人 Voo Teck Chuan 博士 新加坡保健集团医疗伦理办公室主任 Tan Sor Hoon 教授(至 2023 年 6 月) 新加坡管理大学社会科学学院哲学教授兼学术主任 Audrey Chiang 女士 Dentons Rodyk & Davidson LLP 高级合伙人 Mahesh Choolani 副教授 新加坡国立大学杨潞龄医学院妇产科系主任兼高级顾问;新加坡国立大学医院妇产科系首席兼高级顾问;新加坡国立大学卫生系统 (NUHS) 妇产科集团主任 Julian Savulescu 教授 新加坡国立大学陈素兰医学伦理百年教授;新加坡国立大学杨潞龄医学院生物医学伦理中心主任;及英国牛津大学 Uehiro 实用伦理学讲座教授 Tan Meng How 副教授 南洋理工大学化学与生物医学工程学院副教授 Tan Ee Shien 兼职副教授 甘当克保妇女儿童医院儿科医学系遗传学服务主任兼高级顾问;国家扩大新生儿筛查计划主任
• 与研究所内外的同事密切合作,确保研究员有机会有效地与大学内的世界顶尖专家交流。 • 促进政策参与,最大限度地发挥研究员计划和研究所的影响力。 • 建立长期的伙伴关系和合作关系。 • 为研究所的初级同事(包括博士后研究员和 DPhil 学生)提供指导。 • 开展和发表国际水平的人工智能伦理研究。 • 努力确保加速器研究员计划所在的研究所拥有高质量和可持续的研究环境。 • 帮助实现研究所筹款战略的目标,以确保研究所及其计划的长期可持续性。 • 担任研究所高级领导团队的关键成员,并担任研究所管理委员会成员。 • 在需要时代理主任(例如在主任缺席时主持会议)。
1 Ricardo Limongi摘要本文讨论了科学研究中人工智能(AI)的演变以及其整合所带来的伦理和正直挑战。AI已成为研究人员的必不可少的工具,加速发现并优化过程。但是,使用这些算法引起了人们对偏见,透明和问责制的担忧。机器学习和创造知识的能力挑战了作者身份和信誉的范式,将诚信和道德规范置于新的审查之下。讨论强调了强大的道德治理,利益相关者之间的合作,持续的教育以及创建透明和审计的算法。它进一步强调了在AI研究的核心维持伦理和诚信的重要性,以确保其进步公平,负责任地使人类的良好受益,从而强调需要采用涉及教育,透明度,问责制以及多个利益相关者积极参与的整体方法。最后,它重申,当我们踏上这个AI驱动的发现的新时代时,我们必须接受它提出的机遇和道德挑战,以确保在科学研究中使用AI在科学研究中继续通过促进知识和福祉来使人类受益。关键字:人工智能;研究伦理;道德治理;科学完整性;算法透明度。
支持官员克里斯·摩尔·比克(Chris Moore-Bick)博士,国防科学与技术政策政策顾问,国防AI和自治部门的代表来自国防AI中心MOD MOD法律顾问的法律顾问代表(以前是数据伦理和创新中心)(DSIT)(根据需要)(根据需要)