摘要 — 人工智能 (AI) 能力正在迅速发展。功能强大的 AI 可能会带来截然不同的未来,具体取决于其开发和部署方式。我们无法以可靠地指导 AI 行为的方式指定人类目标和社会价值观。除了非常有限的一组状态-动作-值之外,指定 AI 在特定世界状态下采取特定行动的可取性(价值)是非常困难的。机器学习的目的是针对一组状态进行训练,并让生成的代理概括出在未遇到的情况下选择高价值行动的能力。不可避免的是,在训练期间将价值归因于代理行为的函数是对人类价值观的不完整封装,并且训练过程是对所有可能的未来相关状态的稀疏探索。因此,经过训练后,AI 会部署在人类偏好领域的粗略地图上,并且通常会选择与我们偏好的路径不一致的行动。
摘要 - 人工智能(AI)功能正在迅速发展。高功能的AI可能会根据其开发和部署方式引起根本不同的期货。我们无法以可靠地指导AI行为的方式指定人类的目标和社会价值观。指定在世界特定状态下采取特定行动的AI的可取性(值)超出了非常有限的国家行动价值。机器学习的目的是在一部分状态下进行训练,并使最终的代理推广在未经验证的情况下选择高价值动作的能力。不可避免地,训练期间将价值观归因于代理商的行为的功能是对人类价值观的不完整封装,而训练过程是对与所有可能未来相关的状态的稀疏探索。在训练后,AI被用粗大的人类首选领土部署,并且通常会选择与我们首选路径不结盟的动作。
虽然这种人道主义援助作为紧急响应始终至关重要,但它无法持续增加价值。我们需要的是全面和双管齐下的方法,既要解决灾难的短期影响,又要克服国家或社区脆弱性的根本原因。发展伙伴和机构,甚至政府,都不应仅仅在“事件”的基础上参与。相反,他们都需要创造一种综合和全面的方法,以实现双赢局面,从而增强一个国家对自然灾害的抵御能力,并将任何额外资源用于发展目的,特别是在脆弱地区。通过这种方式,非洲对灾难恢复进程的自主权得以建立和维持,发展伙伴将真正为实现千年发展目标和非洲发展新伙伴关系目标做出贡献。