机构名称：
¥ 1.0
摘要 通用人工智能（AGI）为人类带来了巨大的好处，但也带来了巨大的风险。本系统评价的目的是总结有关 AGI 相关风险的同行评审文献。该评价遵循系统评价和荟萃分析的首选报告项目 (PRISMA) 指南。十六篇文章被认为符合纳入条件。评价中包括的文章类型分为哲学讨论、建模技术的应用以及与 AGI 相关的当前框架和流程的评估。该评价确定了与 AGI 相关的一系列风险，包括 AGI 脱离人类所有者/管理者的控制、被赋予或发展不安全的目标、发展不安全的 AGI、具有不良道德、道德和价值观的 AGI；AGI 管理不善以及生存风险。还发现了 AGI 文献库的几个局限性，包括同行评议文章和专注于 AGI 风险的建模技术数量有限，缺乏 AGI 可能在哪些领域实施的特定风险研究，缺乏 AGI 功能的具体定义，以及缺乏标准化的 AGI 术语。需要提出解决 AGI 风险研究中发现的问题的建议，以指导 AGI 的设计、实施和管理。
与通用人工智能相关的风险
主要关键词
相关文件推荐
