确保未来：如果人工智能失控，世界领导人将关闭它

确保未来：如果人工智能失控，世界领导人将关闭它

最大的 IT 公司致力于负责任的技术开发。

包括谷歌、微软、IBM 和 OpenAI 在内的 16 家全球人工智能领导者已签署承诺，如果其技术具有潜在的有害影响，将停用这些技术。该活动在韩国人工智能安全峰会上举行。

谷歌 OpenAI

此次峰会包括对先进人工智能技术安全性的新承诺。 参与公司同意发布其人工智能模型相关风险评估方法，描述可接受的风险水平以及超出这些水平时采取的措施。如果无法将风险降低到既定阈值以下，公司承诺不开发或实施适当的模型和系统。

致力于先进人工智能技术的安全。

虽然这一承诺听起来很有希望，但细节尚未敲定。它们将在 2025 年初举行的人工智能行动峰会上进行讨论。

在首尔签署该文件的公司还承诺：

测试他们的尖端人工智能模型；共享信息；投资于网络安全和内部威胁预防，以保护未发布的技术；鼓励第三方漏洞发现；优先研究与人工智能相关的社会风险。

测试您的高级人工智能模型；

分享信息；

投资于网络安全和内部威胁预防，以保护未发布的技术；

鼓励第三方研究人员发现漏洞；

标记AI内容；

优先研究与人工智能相关的社会风险。

已接受 文档

会议参与者包括七国集团国家、新加坡、澳大利亚、联合国、经合组织和欧盟的政府代表以及行业代表。