本文重点介绍生成式人工智能——一种具有巨大潜力的技术,可以改变社区寻求、获取和交流信息(包括健康信息)的方式。表 1 列出了本文使用的关键术语表。鉴于超过 70% 的人将互联网作为其健康信息的首选来源 1,识别与人工智能技术相关的常见风险类型并引入有效的警戒结构以减轻这些风险至关重要。值得注意的是,随着生成式人工智能变得越来越复杂,公众将越来越难以辨别输出(文本、音频、视频)何时不正确。在本文中,我们旨在区分常见的潜在风险类型,并重点介绍减轻每种风险的新兴想法。为简单起见,我们经常使用大型语言模型 (LLM) 来说明新出现的问题,但提出的概念和考虑因素更广泛地适用于生成式人工智能。