摘要 — 对人工智能的主要批评之一是其缺乏可解释性。许多批评者声称,如果不知道人工智能如何得出结果或得出给定的结论,就不可能相信其结果。当基于人工智能的系统和应用程序无法成功执行任务时,这个问题尤其令人担忧。在本期特刊社论中,我们重点关注两个主要领域,可解释的人工智能 (XAI) 和准确性,以及这两个维度对于构建可信赖的系统至关重要。我们回顾了突出的 XAI 设计主题,从而重新构建了设计和开发工作,突出了人类的重要性,从而证明了以人为本的人工智能 (HCAI) 的重要性。HCAI 方法提倡一系列深思熟虑的设计相关决策,例如与多利益相关者参与和消除学科界限有关的决策。这使得人们能够考虑和整合深度跨学科知识,正如我们在人工智能设计的社会认知方法示例中所证明的那样。然后,本社论讨论了未来的发展方向,强调了平衡评估与人工智能设计相关的机遇、风险和责任的价值。最后,我们介绍了特刊中的论文及其贡献,并指出了未来的研究努力。
摘要关于人工智能(AI)的哲学,法律和HCI文献探讨了这些系统将影响的道德含义和价值观。仅被部分探索的一个方面是欺骗的作用。由于该术语的负面含义,AI和人类计算机相互作用(HCI)的研究主要考虑欺骗,以描述该技术不起作用或用于恶意目的的特殊情况。最近的理论和历史工作表明,欺骗是AI的结构性组成部分,而不是通常所承认的。AI系统与用户进行通信实际上,即使在没有恶意意图的情况下,也会引起性别,个性和同理心归因等反应,并且常常对互动产生积极或功能的影响。本文旨在将以人为中心的AI(HCAI)框架运行,以发展这项工作的含义,以实用HCI和设计中的AI伦理学方法。为了实现这一目标,我们在AI的理论和历史奖学金中提出了“平庸”和“强大”欺骗之间的分析区别(欺骗性媒体的Natale:Turnial Interial Intelligence和Turing University test后的人工智力和社交生活,牛津大学出版社,纽约,纽约,20211年),作为开始的创作,以努力发展,这是一项努力的创作。欺骗与交流AI之间的复杂关系引起的问题。本文考虑了如何将HCAI应用于对话AI(CAI)系统,以设计它们以开发社会善良的平庸欺骗,同时避免其潜在风险。
Jan Gulliksen IX,上层主持人:Jan Gulliksen小组成员:JudithDörrenbächer,MareikeGlöss,Netta Iivari,从人为因素到人类演员。 从人机互动到实践社区。 从工作环境到日常生活。 从多学科到跨学科。 人类计算机相互作用(HCI)中的每个浪潮都引入了新的观点,挑战,可能性和风险。 展望未来,HCI社区将面临哪些巨大挑战? 随着以人工智能(HCAI)的兴起和向人类后未来的转变,HCI将扮演什么角色? 我们将获得哪些新知识和理解? 特别是我们对HCI社区的最大恐惧是什么,这对社会一般会产生什么影响? 该小组超越了先前的HCI浪潮,以探索因不断发展的知识和关注而塑造的潜在未来。Jan Gulliksen IX,上层主持人:Jan Gulliksen小组成员:JudithDörrenbächer,MareikeGlöss,Netta Iivari,从人为因素到人类演员。从人机互动到实践社区。从工作环境到日常生活。从多学科到跨学科。人类计算机相互作用(HCI)中的每个浪潮都引入了新的观点,挑战,可能性和风险。展望未来,HCI社区将面临哪些巨大挑战?随着以人工智能(HCAI)的兴起和向人类后未来的转变,HCI将扮演什么角色?我们将获得哪些新知识和理解?特别是我们对HCI社区的最大恐惧是什么,这对社会一般会产生什么影响?该小组超越了先前的HCI浪潮,以探索因不断发展的知识和关注而塑造的潜在未来。
Lead Pharmacist, HCAI, Fungal, AMR, AMU & Sepsis Division, UK Health Security Agency Dr Imran Jawaid GP and RCGP AMR representative Dr Jeeves Wijesuriya GP and Clinical Advisor to NHS England Primary Care Team and Vaccination and Screening Team Dr Naomi Fleming NHS England Regional Antimicrobial Stewardship lead for the East of England region Jackie兰伯蒂药品治理顾问首席药剂师,英国健康安全局乔·詹金斯(Jo Jenkins)乔·詹金斯(Jo Jenkins)领导药剂师小组的指示和药物机制,药物使用和安全部Kieran Reynolds(SLWG协调员)
在过去的几年中,工业 4.0 已发展成为全球广泛认可的概念。许多国家都启动了类似的战略努力,致力于开展大量研究,以推进和整合多种工业 4.0 技术。随着工业 4.0 诞生 10 周年里程碑的临近,欧盟委员会推出了“工业 5.0”的概念(欧盟委员会,2021 年)。工业 5.0 将工人置于生产过程的中心,并利用新技术提供超越就业和增长的繁荣,同时尊重地球的生产极限。它通过将研究和创新服务于向以人为本、可持续和有弹性的行业过渡,补充了工业 4.0 方法。徐等人(2021 年)、冷等人(2022 年)和 Ivanov(2023 年)概述了这一演变,而 Akundi 等人(2024 年)则对这一演变进行了概述。 (2022)分析了工业 5.0 的现状并概述了研究趋势。人工智能 (AI) 在工业 4.0 中的应用提供了解决方案,这些解决方案利用来自智能传感器、设备和机器的数据来生成可操作的情报并帮助提高制造效率(Peres 等人,2020 年;Jan 等人,2023 年)。然而,人工智能使用的这种演变并没有伴随着对以人为本的过程和系统基本方面的类似重视和进展。以人为本的人工智能 (HCAI) 专注于创建通过使用机器智能增强人类智能来设计和开发的系统(Shneiderman,2020a、b)。鉴于工业 5.0 强调人的因素并将其视为生产的中心,因此自然而然地需要 HCAI 来支持向工业 5.0 的迁移,因为人类必须与人工智能系统、机器人等数字解决方案进行协作。这一趋势将研究工作延伸到了“操作员 4.0”及其与人工智能和机器人系统的交互(Bousdekis 等人,2020 年;Romero 等人,2020 年)。
摘要 随着用于辅助或自动化决策的人工智能 (AI) 的快速发展,其公平性尤其受到关注。为了通过以人为本的人工智能 (HCAI) 设计创建可靠、安全和值得信赖的系统,最近的努力已经为 AI 专家制作了用户界面 (UI),以调查 AI 模型的公平性。在本文中,我们提供了一种设计空间探索,不仅支持数据科学家,也支持领域专家调查 AI 公平性。以贷款申请为例,我们与贷款人员和数据科学家举行了一系列研讨会,以了解他们的需求。我们将这些需求实例化为 FairHIL,这是一个支持人机交互公平性调查的 UI,并描述了如何将此 UI 推广到其他用例。我们通过出声思考用户研究评估了 FairHIL。我们的工作有助于更好地设计以调查 AI 模型的公平性 — — 并更接近负责任的 AI。
通过授予对决定系统行为的相关参数的交互式操作,还可以实现对系统的可靠用户控制 [19]。在 HCAI 愿景中,用户控制和系统自主性并不被视为相互对立,而是在设计对人类有益的智能系统时需要充分校准的两个维度 [21]。应该让用户能够利用 AI 算法的强大功能,但也不能忽视用户作为领域专家所拥有的知识的重要性。例如,在 [2] 中介绍了一种基于 ML 的工具,用于从过去的患者那里直观地检索医学图像(来自活检的组织)。该工具支持对新患者的医疗决策,使医生能够即时应对搜索算法,并传达在不同情况下哪些类型的相似性最重要。人与系统之间的这种交互决定了逐步细化,从而增加了所发现图像的诊断效用以及用户对算法的信任。
英国卫生保障局 HCAI、真菌、抗菌药物耐药性、抗菌药物与败血症部门首席药剂师 Imran Jawaid 博士 全科医生和 RCGP 抗菌药物耐药性代表 Jeeves Wijesuriya 博士 全科医生和 NHS England 初级保健团队及疫苗接种和筛查团队临床顾问 Naomi Fleming 博士 NHS England 英格兰东部地区抗菌药物管理负责人 Jackie Lamberty 药品治理顾问 英国卫生保障局首席药剂师 Jo Jenkins 患者组指导和药物机制、药物使用和安全部门首席药剂师、专科药房服务 Liz Cross 高级执业护士 QN Martin Williams 博士 微生物学和传染病顾问 Matthew Scorer 博士 皮肤科顾问 Michelle Toleman 博士 微生物学家顾问 Temitope Odetunde 药品管理负责人 Kieran Reynolds(SLWG 协调员)
● 与其他相关利益攸关方共同制定明确的管理条例和以医疗人工智能为中心的战略,指导其融入医学研究实践,并明确人工智能引发医疗失误的责任分配; ● 分配资金并投资于探索人工智能机遇、社会影响和道德挑战的举措。 ● 促进各部委、政府机构、医疗服务提供者和机构、研究组织、科技公司和其他相关利益攸关方在人工智能实施方面的合作,同时评估人工智能在发展医疗和医学研究创新方面面临的障碍。 ● 提高公众对人工智能在医学实践和研究中的好处的认识,以确保公众知情和患者接受 ● 制定和实施社会责任举措和社区驱动的项目,教育患者和公众了解医疗人工智能的用途。 医疗人工智能 (HCAI) 开发人员、研究人员和公司:
抽象的手卫生是事实证明的主要措施,可有效排除HCAI和抗菌耐药性的传播。但是,已经表明,HCW在遵守不同情况下的手卫生建议方面遇到困难。因此,研究了问题和研究者的经验的强度,重要的是要了解病房服务员关于手动卫生的知识和实践,以防止医院获得的感染。使用描述性研究设计的定量研究方法进行了这项研究。使用方便的抽样技术评估了60名病房服务员。结果表明,平均知识百分比为35,SD 3.61,平均实践百分比为49.58,SD2.21。研究表明,有53.33个样本知识渊博,而60个样本的卫生实践差。在病房服务员的知识和实践评分之间存在较弱的正相关('r'值0.10)。关键字:知识,实践,手工卫生,病房服务员,示范。