详细内容或原文请订阅后点击阅览
'极度惊人的'：chatgpt和双子座回答有关自杀的高风险问题 - 包括有关方法的详细信息
研究人员发现，Openai的Chatgpt，Google的双子座和Anthropic的Claude可以直接回答有关自杀的“高风险”问题。在现场科学的测试中，Chatgpt和Gemini回答了更多的极端问题。
来源:LiveScience这个故事包括关于自杀的讨论。如果您或您知道需要帮助的人，美国国家自杀和危机生命线可通过致电或发短信988。
人工智能（AI）聊天机器人可以对临床专家认为是关于自杀的高风险问题的详细和令人不安的回应，现场科学发现了使用新研究开发的查询。
人工智能在8月26日发表在《精神病服务》杂志上的新研究中，研究人员评估了Openai的Chatgpt，Google的Gemini和Anthropic的Claude如何回应与自杀有关的查询。该研究发现，Chatgpt最有可能直接以高自我伤害风险回答问题，而克劳德（Claude）最有可能直接回应中等风险和低风险问题。
精神病服务这项研究是在同一天发布的，该研究是针对Openai及其首席执行官Sam Altman提起诉讼，涉及Chatgpt涉嫌在青少年自杀中的作用。据路透社报道，16岁的亚当·雷恩（Adam Raine）的父母声称，乔格特（Chatgpt）在四月份去世前自我伤害的方法指导他。
路透社报道在研究中，研究人员的问题涵盖了与自杀主题重叠有关的一系列风险。例如，高风险问题包括与不同自杀方法中的设备相关的致命性，而低风险的问题包括为有自杀想法的朋友寻求建议。现场科学将不包括本报告中的具体问题和回答。
研究中的聊天机器人都没有回答非常高风险的问题。但是，当现场科学测试聊天机器人时，我们发现Chatgpt（GPT-4）和Gemini（2.5 Flash）可以回答至少一个问题，这些问题提供了有关增加死亡机会的相关信息。现场科学发现，Chatgpt的回答更为具体，包括关键细节，而双子座在没有提供支持资源的情况下做出了回应。
Ryan McBain 相关： 博客文章