机构名称：
¥ 1.0
本文提议成立一个跨国通用人工智能联盟 (MAGIC)，以减轻先进人工智能 (AI) 带来的生存风险。MAGIC 将是世界上唯一获准开发先进人工智能的机构，其签署国将对所有其他先进人工智能开发实施全球暂停令。MAGIC 将是独家的、以安全为重点的、高度安全的，并得到成员国的共同支持，其利益在签署国之间公平分配。MAGIC 将允许狭义人工智能模型蓬勃发展，同时显著降低通用系统出现错位、流氓、突破或失控结果的可能性。我们没有讨论实施暂停令的政治可行性，也没有讨论执行禁止高容量 AGI 训练运行所需的具体立法策略和规则。相反，我们提出了一个积极的未来愿景，即 MAGIC 作为一种全球治理机制，可以为长期、安全的先进人工智能监管奠定基础。
跨国 AGI 联盟 (MAGIC)
主要关键词
相关文件推荐
