详细内容或原文请订阅后点击阅览
OpenAI 正在全力打造全自动研究人员
OpenAI 正在重新调整其研究工作重点，并将其资源投入到新的重大挑战中。这家旧金山公司的目标是建立所谓的人工智能研究人员，这是一个完全自动化的基于代理的系统，能够自行解决大型复杂的问题。 OpenAI 表示，这个新...
来源:MIT Technology Review _人工智能“我认为我们需要很长时间才能真正解决这个问题，”他说。 “在你真正信任这些系统之前，你肯定希望有适当的限制。” Pachocki 认为，非常强大的模型应该部署在沙箱中，切断它们可能破坏或用来造成伤害的任何东西。
人工智能工具已被用来发起新颖的网络攻击。一些人担心它们将被用来设计可用作生物武器的合成病原体。您可以在这里插入任意数量的邪恶科学家的恐怖故事。 “我确实认为我们可以想象一些令人担忧的情况，”帕乔基说。
“这将是一件非常奇怪的事情。这是一种极其集中的权力，在某些方面是前所未有的，”帕乔基说。 “想象一下，你拥有一个数据中心，可以完成 OpenAI 或 Google 可以完成的所有工作。过去需要大型人类组织完成的事情现在只需几个人就能完成。”
“我认为这对政府来说是一个巨大的挑战，需要解决，”他补充道。
然而有些人会说政府是问题的一部分。例如，美国政府希望在战场上使用人工智能。最近，人类与五角大楼之间的对决表明，对于我们应该如何使用这项技术以及不应该如何使用这项技术的红线，整个社会几乎没有达成一致意见，更不用说由谁来划定这些红线了。这场争端发生后，OpenAI 立即站出来与五角大楼而不是其竞争对手签署了一项协议。局势仍然不明朗。
我在这件事上向 Pachocki 施压。他是否真的相信其他人能够解决这个问题，或者作为未来的关键建筑师，他是否感到个人责任？ “我确实感到个人有责任，”他说。 “但我认为仅靠 OpenAI 无法解决这个问题，以特定方式推动其技术或以特定方式设计其产品。我们肯定需要政策制定者的大量参与。”