详细内容或原文请订阅后点击阅览
科学家发明了一种疾病来测试人工智能是否知道这是假的。然后，聊天机器人开始说这是真的
眼睛状况 bixonimania 并不存在，但机器人和一些研究人员都没有发现内容是捏造的 - 尽管有明显的线索
来源:《航空与航天杂志》科学家发明了一种疾病来测试人工智能是否知道这是假的。然后，聊天机器人开始说这是真的
眼睛状况 bixonimania 并不存在，但机器人和一些研究人员都没有发现内容是捏造的 - 尽管有明显的线索
许多人转向互联网寻求健康建议。现在，人工智能驱动的聊天机器人触手可及，感觉医疗专业人员只需点击几下即可。
但最近的一个涉及虚假健康状况的项目凸显了这些系统和使用它们的人是多么容易受到错误信息的影响——即使这些信息明显是错误的，令人痛苦。
去年，如果您向 ChatGPT（依赖某种人工智能的众多聊天机器人之一）描述过眼睛酸痛、发痒和粉红眼睑等症状。称为大语言模型（LLM）——它可能指出了与计算机屏幕使用相关的一种称为 bixonimania 的情况。
这不是真的。
这种疾病是由瑞典哥德堡大学医学研究员 Almira Osmanovic Thunström 及其团队发明的。他们想出了一个条件，看看受过大量数据（通常是从网络上抓取的）训练的法学硕士是否可以过滤掉错误信息。
Osmanovic Thunström 在向学生教授法学硕士并解释他们的训练数据来自何处时，突然想到了这个想法。 “有趣的是，他们中很少有人，甚至人工智能领域的人，也很少有人了解大型语言模型是如何构建的，”她在《科学美国人》的“Science Quickly”播客中告诉雷切尔·费尔特曼。
“所以，我真的希望有一个清晰的案例，在整个系统中留下痕迹，以显示数据如何处理、如何生成数据以及预测模型和训练模型在分发信息时如何工作，”Osmanovic Thunström 补充道，他也是一名人工智能专家。瑞典研发组织 Chalmers Industriteknik 的战略家和创新经理。