人工智能 (AI) 在医疗保健领域的应用一直在稳步增长,但对 AI 的监管却充满挑战。受最近提出的欧洲 AI 法规的启发,我们在芬兰医疗保健利益相关者中进行了一项案例研究,以确定当前对基于 AI 的医疗保健技术 (AIHT) 的监管对 AIHT 发展带来的挑战,以及最近提出的欧洲 AI 法规对 AIHT 发展的潜在影响。我们发现的主要挑战之一是 AIHT 所受的多项法规已经存在的模糊性。更重要的是,我们发现这种模糊性甚至会通过欧洲 AI 法规而增加。另一个重要发现是,欧洲 AI 法案可能会阻碍 AIHT 的创新并减缓 AIHT 的发展。我们的主要贡献是对最近关于技术监管的信息系统研究的开放。关键词:人工智能、AI 监管、医疗技术、模糊性、AI 法案、数字化转型
Buchanan 等人 (2020) 强调需要确定所需的能力,以确保使用 AIHT 的护士继续提供高质量、安全和富有同情心的护理。护理专家一致认为,护理专业人员应具备 AIHT 的基本知识、其对实践的影响以及使用这些工具的道德和法律要求 (Ahmad & Jenkins, 2022; von Gerich 等人, 2022)。护理和人工智能领导力 (NAIL) 合作组织建议三个优先事项:(a) 了解 AIHT 使用的特定数据对产出和结果的影响;(b) 参与 AIHT 创建的所有阶段,从开发到实施;(c) 围绕使用 AIHT 的实际、社会、道德和法律影响创造和传播知识 (Ronquillo 等人, 2021)。在战略层面,需要考虑患者赋权以及 AIHT 中使用的数据的道德输入和检索(Ahmad & Jenkins,2022)。
人工智能 (AI) 的应用可能会彻底改变医疗保健系统,通过自动化日常任务和降低与健康相关的成本来提高效率,扩大医疗保健服务的覆盖面,更精准地满足患者需求,并协助临床医生进行决策。为了实现这些好处,政府和卫生当局必须对 AI 进行监管,并进行适当的卫生技术评估 (HTA)。许多作者强调,人工智能卫生技术 (AIHT) 对传统的评估和监管流程提出了挑战。为了告知和支持 HTA 组织和监管机构使其流程适应 AIHT,我们对 AIHT 对 HTA 和卫生监管提出的挑战的文献进行了系统回顾。我们的研究问题是:是什么让人工智能在 HTA 中如此出色?目前的文献似乎将 AIHT 描绘成 HTA 的例外。这种例外表现在 5 个维度上:1) AIHT 的独特特征;2) 它们对医疗保健和卫生部门的系统影响; 3) 人们对人工智能在医疗领域的期望越来越高;4) 在医疗领域部署人工智能所带来的新的伦理、社会和法律挑战;5) 人工智能对 HTA 提出的新的评估限制。因此,人工智能 HT 因其技术特点和对整个社会的潜在影响而被视为例外。由于政府和卫生组织实施人工智能可能会产生新的挑战并加剧现有的挑战,因此有强有力的理由考虑人工智能 HT 的特殊性,特别是因为它们对医疗保健系统的影响将远远大于药品和医疗器械。随着人工智能 HT 越来越多地被引入医疗保健领域,HTA 机构和学者有机会考虑人工智能 HT 的特殊性,并努力在医疗保健系统中只部署临床、经济和社会可接受的人工智能 HT。
“要使新的数字医疗技术充分发挥其潜力并显著改善患者治疗效果……整个医疗保健系统都需要预测和规划未来。”(第 11 页) 1 人工智能* 1 (AI) 时代正在全球兴起,加拿大走在了前列。人工智能使计算机系统能够执行通常需要人类智能的活动。为了保持领导优势,联邦政府于 2017 年启动了 1.25 亿美元的泛加拿大人工智能战略,成为世界上第一个宣布国家战略以推进包括医疗在内的多个领域的人工智能研究和创新的国家。 到 2025 年,全球对人工智能健康技术 (AIHT) 的投资预计将超过 360 亿美元。这一趋势在一定程度上归因于公众对现代化医疗系统的需求不断增长。根据 2019 年的一项调查,加拿大人支持使用 AIHT 来增强患者护理和健康状况。随着公众对这些技术的需求不断增长,加拿大临床领域可能会发生重大变化,并将对所有卫生部门和护理行业的所有领域产生连锁反应。此外,可以预见的是,护理-AI 界面将包括非传统的护理形式,可能会改变护患关系,并可能影响以人为本和以家庭为中心的富有同情心的护理。即将到来的未来构成了一个重大的范式转变,需要所有角色和部门的强大和积极主动的护理领导,为患者护理和职业的机遇和挑战的讨论提供信息;实现共同愿景。本报告以范围审查为基础,提供了相关信息以激发批判性反思并推动这些讨论。读者将找到对可能在不久的将来影响护理实践的新兴 AIHT 的概述。详细讨论了这些新兴趋势对整个护理过程和所有护理领域的影响。虽然大部分讨论都集中在安大略省卫生系统的护理上,但这些技术将影响所有司法管辖区和所有卫生专业。RNAO 和 AMS 认为,护士有共同的责任来评估新兴 AIHT 的伦理、健康和成本效益,并成功整合那些它认为对护理有益的技术,以对患者、社区和卫生系统结果产生积极影响。这份报告是我们对我们的行业的紧急呼吁,让我们的行业参与并为即将到来的未来做好准备。虽然人们一致认为,机器人等 AIHT 不会直接取代护士,但护士必须积极而清晰地阐明如何在护士和 AIHT 之间的界面上概念化和提供以人和家庭为中心的富有同情心的护理。这个新兴的未来需要及时、强大而积极主动的护理领导,特别是在教育、管理和实践方面。这样的领导将推动充分知情和合乎道德的讨论,并影响有关护理组成部分的决策,这些组成部分可以由机器人设备安全执行,也可以通过预测分析得到增强。积极主动的领导还需要倡导那些必须由护士执行的不可协商的护理方面,以确保安全、合乎道德、高质量、临床和富有同情心、以人为本的护理。在所有临床环境中,行政领导都需要:积极倡导和指导护理-人工智能界面;鼓励和支持组织所有角色和级别的护士领导的贡献——从董事会会议室到护理第一线;并确保在整个技术生命周期中适当的患者参与。在大型医疗机构中,这些复杂技术的实施将需要整合护理信息学的治理结构
人工智能 (AI) 涉及开发使机器能够智能运作的技术和方法。这些活动包括获取知识、思考、解决问题、观察、理解语言和决策。这些功能在人工智能系统中借助机器学习、神经网络、自然语言处理和计算机视觉等方法实现。新的人工智能技术经常出现在市场上,在医疗系统中,人工智能医疗技术 (AIHT) 尤其受欢迎,因为它们能够整理和分析大量研究证据以及临床和患者数据,以开发有助于扩大证据基础和做出决策的模式 (Topol,2019)。根据这些能力,预计未来十年人工智能技术将彻底改变医疗系统的各个方面。