XiaoMi-AI文件搜索系统
World File Search SystemCmt
人工智能与健康保险消费者代表报告 - 消费者联络委员会 - 11/19/24-FNM
来自 NAIC 消费者代表 致：全国保险监督官协会 (NAIC) 日期：2024 年 11 月 14 日 我谨代表下列签名的 NAIC 消费者代表 1 ，提供随附的报告，该报告研究了健康保险计划越来越多地使用人工智能 (AI) 来增强利用管理 (UM) 审查和批准流程。人工智能技术进步的速度远远超过了保护消费者所需的州和联邦健康保险监管和监督的变化。虽然我们认为人工智能为计划效率提供了机会，但不受管制的人工智能使用也可能加剧现有的偏见和歧视，特别是对于已经面临差异性医疗保健挑战的边缘化和被剥夺权利的社区。通过广泛的环境扫描和一系列深入的线人访谈，该报告揭示了在健康保险 UM 活动中使用人工智能的领域，这些领域最有可能不当或歧视性地拒绝医疗必需护理。研究的主要发现包括： 健康保险计划经常使用人工智能开展 UM 活动。支持者认为这可以减少行政负担并加快审批速度。但是，必须考虑一些风险，例如加剧现有偏见、优先考虑不一致的激励措施以及使用超出其原始用例或设计的技术导致意外伤害。 研究人员采访的相关利益相关者，包括计划、提供商、技术专家、监管机构和消费者权益倡导者，都看到了使用人工智能的巨大机会，但他们警告说，需要采取适当的保障措施来保护患者获得所需护理的机会，并确保隐私和安全得到适当考虑。 一些州已经开始规范人工智能在健康保险中的开发和使用，但在大多数情况下，它们还没有能够跟上人工智能本身使用的激增。该领域的监管正处于发展的初期，变化的速度使其成为一个既具有挑战性又必须解决的问题。鉴于这些发现，我们向州监管机构提出以下建议： 1. 有意义的透明度至关重要 监管机构和消费者必须清楚，健康保险计划何时将人工智能用于 UM 目的，以及人工智能在确定医疗覆盖范围方面发挥什么作用。 透明度必须扩展到披露用于开发、训练和测试人工智能工具的数据（重点是使用同意和人口代表性），以及任何人工智能工具可以开始自我训练的程度。