详细内容或原文请订阅后点击阅览
在向人工智能聊天机器人询问健康建议之前要考虑什么
使用聊天机器人提供医疗建议可能会引起幻觉，甚至使您面临安全和隐私风险。以下是危险因素以及如何保持安全。
来源:WeLiveSecurity _恶意软件在向人工智能聊天机器人询问健康建议之前要考虑什么
使用聊天机器人提供医疗建议可能会引起幻觉，甚至使您面临安全和隐私风险。以下是危险因素以及如何保持安全。
2026 年 5 月 27 日•，5 分钟。阅读
无论好坏，聊天机器人正在改变我们思考、学习和感知周围世界的方式。这种破坏在生活的许多领域都很明显，但最敏感和最令人担忧的领域之一可能是越来越多地使用生成式人工智能 (GenAI) 工具进行医疗保健。除了许多免费的人工智能聊天机器人外，主要科技公司也推出了 Copilot Health、ChatGPT Health 和 Amazon HealthAI 等服务，进入面向消费者的健康人工智能领域，这些服务的模型可以帮助用户解释他们的医疗记录，并询问有关他们的症状、实验室结果和治疗方案的问题。
但是，期望人工智能工具来承担医生的角色是存在风险的。此外，风险不仅在于用户收到错误的建议，还在于他们可能与隐私保护、数据共享实践和法律义务可能与医生或医院不同的系统共享高度敏感的个人信息，并且他们的数据可能会暴露给意想不到的实体。据美国一家患者安全组织称，人工智能聊天机器人的滥用目前已成为第一大健康技术危害。
从理论到实践
模型构建者在这个领域推出的原因很明显：聊天机器人已经成为一种非常流行的搜索医疗建议的方式。据微软称，人们在移动设备上谈论自己和亲人的健康比任何其他话题都多。聊天机器人全天候 (24/7) 为所有问题提供答案，并以自信的语气提供答案，有助于让紧张的患者放松下来。