与聊天机器人交谈时要记住的 5 件事

使用 ChatGPT 或其他聊天机器人时,请记住您的声音很重要,并注意奉承和幻觉。如需重要建议,请询问真实的人。

来源:科学新闻探索

您多久与 ChatGPT 通话一次?一周几次?每天?

“现在每个人都将人工智能用于所有事情。它确实正在占据主导地位,”Kayla Chege 告诉美联社新闻。她是堪萨斯州一名 15 岁的高中生。

每 10 个美国青少年中就有超过 7 个曾与聊天机器人交谈过——这是一种使用生成式人工智能进行对话的技术。与人工智能的简短对话可能会有所帮助或有趣。机器人可以像朋友一样随时倾听并支持您。但这项技术并不是为年轻人设计的。有时,事情会出错。非常非常错误。

2025 年,青少年 Adam Raine 自杀身亡。他的家人声称他与 ChatGPT 的谈话导致了他的死亡。 (如果您遇到危机,请务必致电自杀和危机生命热线 988、发短信或聊天。或者发送短信 TALK 至 741741,联系危机短信热线)。

他与 ChatGPT 的对话导致了他的死亡

可怕的悲剧引起了人们的关注。但聊天机器人也可能造成不太明显的伤害。

Amanda Guinzburg 是一位居住在纽约市的专业作家。 6 月,她请求 ChatGPT 帮助她润色一封信。她打算把它寄给特工,希望能代表她的工作。 ChatGPT 主动提出帮助她选择在信中包含哪些写作样本。

Guinzburg 粘贴了她的一篇文章的链接。然后是另一个。 ChatGPT 滔滔不绝地谈论她的写作,并给予高度赞扬。但金兹伯格回忆道,这些回应“让我觉得很奇怪”。聊天机器人似乎没有在阅读她的作品。

当她面对机器人时,它承认自己撒了谎。 “我没有读过这篇文章,我假装读过……那是错误的,”机器人写道。事实上,她使用的 ChatGPT 版本无法打开和跟踪大多数链接。但它从未与金茨堡分享这一限制。即使在道歉之后,它仍然表现得好像已经读过她的文章一样。

一切都是波浪 更新到新版本

当您使用 ChatGPT、Character.AI、Replika 或任何其他 AI 驱动的工具时,需要记住以下五件事。