详细内容或原文请订阅后点击阅览
这位 BBC 科技记者用涉及热狗的简单技巧黑了 ChatGPT
BBC 科技记者 Thomas Germain 的简单而搞笑的实验暴露了常见人工智能工具的严重缺陷
来源:科学美国人Kendra Pierre-Louis：《科学美国人》的 Science Quickly，我是 Kendra Pierre-Louis，代表 Rachel Feltman。
人工智能无处不在。它存在于你的手机、互联网搜索、防御软件中。而且它正在扩大。 Alphabet、微软、Meta 和亚马逊等大型科技巨头仅今年就计划斥资近 7000 亿美元建设人工智能基础设施。
然而，即使公司在人工智能上投入了大量时间和精力，人们仍然对此类技术的安全性和有效性感到担忧。已经有几起诉讼指控人工智能聊天机器人导致自杀。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过订阅来支持我们屡获殊荣的新闻事业。通过购买订阅，您将有助于确保有关塑造当今世界的发现和想法的影响力故事的未来。
最近，BBC 科技记者 Thomas Germain 进行了一项个人实验，研究投资的个人或企业如何利用 ChatGPT 和 Google 搜索的“AI 概述”来传播谎言。我们与 Thomas 进行了交谈，了解破解这些常见人工智能工具有多么容易，以及这样做可能会产生什么后果。
皮埃尔-路易斯：嗨，托马斯。感谢您今天抽出时间加入我们。
Thomas Germain：谢谢您接受我的采访。
Pierre-Louis：所以我的理解是你黑了 ChatGPT。
热尔曼：没错。所以几周前我得到了一个提示，操纵像 ChatGPT 或 Google Gemini 这样的人工智能工具，或者 Google 搜索顶部的小“人工智能概述”，显然操纵他们向其他人说的话就像在自己的网站上发布文章一样简单，比如博客文章，而且显然，人们在整个互联网上都在这样做。
皮埃尔-路易斯：谦虚。 [笑]
Germain：嗯，你知道，你认识我，对吧？我还安排了一群其他的，你知道的，真正的科技记者和一些假记者，他们允许我使用他们的名字。
或者其他人问...
热尔曼：好的。