详细内容或原文请订阅后点击阅览
国土安全部详细介绍了人工智能如何放大生物、化学威胁
虽然使用实验室设施仍然是一个障碍，但一份新报告指出，云实验室可以允许秘密开发武器组件。
来源:美国防务一号网美国国土安全部新报告称，人工智能可能帮助恶意行为者开发化学、生物、放射性和核武器，但也能帮助防御者阻止这些武器。
报告“美国现有生物和化学安全法规和执法中已知的局限性，加上人工智能工具的使用增加，可能会增加有意和无意的危险研究结果的可能性，对公共健康、经济安全或国家安全构成风险，”该机构的反大规模杀伤性武器办公室在报告中表示。
根据拜登总统 2023 年 10 月关于人工智能的行政命令，完整报告于上周发布，两个月前发布了一份相关的情况说明书。
情况说明书公开可用的人工智能工具的激增可能帮助恶意行为者学习制造和运载化学和生物武器。虽然进入实验室设施仍是一个障碍，但报告指出，云实验室可以允许秘密开发武器部件。
云实验室CWMD 办公室建议美国制定指导方针，涵盖“从大型语言模型的公共培训材料中战术性排除和/或保护敏感化学和生物数据”，以及加强对远程控制实验室设施访问的监督。
报告还表示，需要具体的联邦指导来管理如何使用生物设计工具以及生物和化学特定的基础模型。理想情况下，该指南将包括源代码的“细粒度发布实践”和用于构建相关语言模型的权重计算规范。
更广泛地说，该报告寻求在美国政府监管机构内部就如何管理人工智能和机器学习技术达成共识，特别是当它们与化学和生物研究交叉时。
Nextgov/FCW