机构名称：
¥ 1.0
实证研究对于更好地理解人工智能的危害和社会影响至关重要。16“人工智能安全”在某种程度上是既定的历史安全工程实践（如汽车安全或网络安全）的迭代。然而，目前人工智能评估实践的证据基础还不够完善。17虽然人工智能安全研究正在发展，但它只是“人工智能研究总体的沧海一粟[,]”，仅占全球该技术研究的 2%。18部分挑战在于，测量和预测人工智能影响的科学作为一个领域仍然很年轻。19另一个挑战是，目前人工智能潜在灾难性风险的证据大多是推测性的。20某些解决前沿模型风险的方法，例如“人工智能对齐”（确保系统输出与设计意图一致），被认为是直观合理的，并且已成为广泛研究的主题，但事实证明很难衡量和实证研究。21
调查结果和建议：人工智能安全
主要关键词
相关文件推荐
