人工智能(AI)与生命科学的融合有可能为社会带来巨大的好处,但是AI生物设计工具(BDTS)的进步也带来了可能造成重大伤害的风险,并带有潜在的全球后果。几乎没有护栏,以确保安全安全地使用BDT。本报告基于与各种生物安全专家,AI专家和BDT开发人员的访谈和讨论,确定了可能的内置护栏以及管理BDT访问访问BDT以促进访问权限的选择,同时又可以防止滥用滥用。在本报告中,“护栏”一词是指与模型本身相关的减轻风险措施,从模型的概念和开发到其部署或释放。该报告还确定了潜在的试点项目,以启动这些护栏的开发,探索可行性和挑战,并扩大工具包以保护BDT。
1。有关LLM和BDT的更深入的解释,请参见委员会的白皮书#1 2。Adopted from: https://cset.georgetown.edu/wp-content/uploads/20230047-AI-Bi oRisk-Extended-Explainer-FINAL-v2.pdf 3. https://foreignpolicy.com/2023/11/05/ai-artificial-intelligence-chat Bot-Bioweapon-VIRUS-BACTERIA-GENETIC-GENETICER-/4。https://www.rand.org/pubs/research_reports/rra29777-2.html 5。https://www.nti.org/analysis/articles/thealysis/theaslesy/theyalysis/the-consicle/theybericles/theyalsisy/theybericle-cial--cial--cial--cial--cial-------------- ntelligence-and-the-life-sciences/6。 US%20-%20statement.pdf9。https://ir.recursion.com/news-releases/news-release-details/recursion-unveils-lowe-drug-discovery-discovery-software-software-jp-morgan 10。 https://www.schumer.senate.gov/imo/media/doc/sean%20mcclai n.pdf
