详细内容或原文请订阅后点击阅览
OpenAI 资助研究，试图阻止人工智能被用来制造生物武器
这家初创公司向核威胁倡议提供的资助将资助一个国际信息共享系统，该系统旨在标记来自人工智能的生物安全威胁
来源:科学美国人OpenAI 正在支持一个研究项目，试图降低人工智能制造新生物武器的可能性。
周一，Sam Altman 领导的初创公司表示，它已从 400 多个申请中选择了 14 个组织来接受资助，旨在确保人工智能的进步惠及每个人。其中包括核威胁倡议组织（NTI），这是一个致力于应对核灾难和生物灾难的非营利组织。这笔资金将资助一个项目，以更好地跨境分享潜在人工智能生物威胁的信息。
NTI 负责全球生物政策和项目的副总裁 Hayley Severance 表示，我们的目标是建立一个让国际安全专家和研究人员能够轻松获取风险信息的系统。
“这实际上是为了研究人工智能生物风险缓解措施，并确保我们跨境工作，分享有关这些特定风险以及我们如何解决这些风险的信息，”她说。 “这个问题不仅是跨越（边界）的；它还跨越实验室。”
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过订阅来支持我们屡获殊荣的新闻事业。通过购买订阅，您将有助于确保有关塑造当今世界的发现和想法的影响力故事的未来。
Severance 表示，使用人工智能设计或改变可能造成生物风险的生物体或化合物的合法性很复杂。她说，不同的司法管辖区有不同的规定，这可能会在实验室之间共享信息时造成混乱。
“我们基本上正在研究‘促进信息共享的障碍和潜在途径是什么？’这样，当人们（无论是模型开发人员还是生物安全专家）来到谈判桌讨论这些问题时，他们就知道可以进行这些讨论的界限，”她说。