详细内容或原文请订阅后点击阅览
OpenAI 在科学领域的重大贡献内部
自 ChatGPT 爆炸性亮相以来的三年里，OpenAI 的技术已经颠覆了家庭、工作、学校等一系列引人注目的日常活动——任何人们打开浏览器或拔出电话的地方，这种情况无处不在。现在，OpenAI 正在为科学家们做出明确的贡献。十月，该公司宣布推出了......
来源:MIT Technology Review _人工智能“这实际上是一个令人向往的地方，”韦尔说。 “如果你说了足够多的错误的话，然后有人偶然发现了一些事实，然后另一个人抓住了它并说，‘哦，是的，这不太正确，但如果我们——’你就会逐渐在树林中找到你的踪迹。”
这是 Weil 对 OpenAI for Science 的核心愿景。 GPT-5 很好，但它不是神谕。他说，这项技术的价值在于为人们指明新的方向，而不是给出明确的答案。
事实上，OpenAI 现在正在考虑的事情之一是让 GPT-5 在做出响应时降低其信心。它不会说“这是答案”，而是告诉科学家：“这是需要考虑的事情”。
“这实际上是我们花了很多时间的事情，”韦尔说。 “试图确保该模型具有某种认识论上的谦逊。”
观察观察者
OpenAI 正在研究的另一件事是如何使用 GPT-5 来对 GPT-5 进行事实检查。通常情况下，如果您将 GPT-5 的答案之一反馈回模型，它会将其拆开并突出显示错误。
“你可以将模型作为它自己的批评家，”韦尔说。 “然后你可以获得一个模型正在思考的工作流程，然后它会转到另一个模型，如果该模型发现了可以改进的东西，那么它会将其传递回原始模型并说，‘嘿，等一下 - 这部分不对，但这部分很有趣。保留它。’这几乎就像几个代理一起工作，只有在通过批评者后你才能看到输出。”
Weil 所描述的内容听起来也很像 Google DeepMind 对 AlphaEvolve 所做的事情，AlphaEvolve 是一种工具，将 LLM、Gemini 公司包装在一个更广泛的系统中，从坏的反应中过滤掉好的反应，并将它们再次反馈回来进行改进。 Google DeepMind 使用 AlphaEvolve 解决了几个现实世界的问题。