详细内容或原文请订阅后点击阅览
Bixonimania：人工智能如何将笑话诊断变成“同行评审”医学
当笑话诊断演变成“同行评审”研究时，很明显，科学可信度的危机不再局限于草率的研究或损坏的期刊，而是现在扩展到许多人现在依赖的算法来解决严重的健康问题。《Bixonimania：人工智能如何将笑话诊断变成“同行评审”的医学》一文首先出现在 Watts Up With That? 上。
来源:与此有关的是什么来自合法叛乱
瑞典研究人员创造了一种假眼病，看看人工智能聊天机器人是否会像真实的一样重复它。结果一点也不有趣。
发布者：莱斯利·伊士曼
去年年底，我警告说，通过造纸厂和虚假期刊发表的无节制的科学欺诈行为数量惊人。
这种趋势尤其令人不安，因为坚持科学理论和严谨、可重复的研究使人类能够在对文明生活至关重要的关键领域（例如医学、能源、公共卫生和国家安全）取得进步。如果我们不再信任数据，我们改进和创新的能力将受到严重损害。
公众对科学研究的信任已经在腐蚀，而被称为“值得信赖”的错误发现已经以代价高昂且有害的方式影响了政策制定。
不，人工智能的迅速采用给“科学”日益扭曲的现象增添了另一个令人不安的方面。
早在 2024 年，研究人员就创造了一种名为“bixonimania”的假眼病，看看人工智能聊天机器人是否会像真实的一样重复它。
他们就这种虚构的情况写了明显虚假的研究论文，并将其发布到网上，其中包括诸如假作者之类的暗示以及表明该作品是发明的注释。几周之内，主要的聊天机器人开始将双性癖描述为一种真正的诊断，甚至在人们询问眼睛症状时向他们提供相关建议。
这是由瑞典哥德堡大学医学研究员 Almira Osmanovic Thunström 领导的团队的发明，他们虚构了皮肤状况，然后于 2024 年初将两项有关皮肤状况的虚假研究上传到预印本服务器。Osmanovic Thunström 进行了这项不寻常的实验，以测试大型语言模型 (LLM) 是否会吞下错误信息，然后将其作为信誉良好的健康建议吐出来。 “我想看看我是否可以创造出数据库中不存在的医疗状况，”她说。
4.5 8 票