机构名称：
¥ 1.0
他们正在迅速部署更多资源并开发新技术来提高人工智能能力。人工智能的进步也促进了更快的进步：人工智能助手越来越多地用于自动编程 4 、数据收集 5,6 和芯片设计 7 ，以进一步改进人工智能系统 8 。当人工智能达到人类水平的能力时，没有根本原因导致人工智能进步会减慢或停止。事实上，人工智能已经在蛋白质折叠和战略游戏等狭窄领域超越了人类的能力 9–11 。与人类相比，人工智能系统可以行动更快，吸收更多知识，并以更高的带宽进行通信。此外，它们可以扩展以使用巨大的计算资源，并且可以复制数百万个。改进的速度已经令人震惊，科技公司拥有将最新训练运行规模扩大 100 到 1000 12 倍所需的现金储备。结合人工智能研发的持续增长和自动化，我们必须认真考虑通用人工智能系统在当前或未来十年内在许多关键领域超越人类能力的可能性。然后会发生什么？如果管理得当并公平分配，先进的人工智能系统可以帮助人类治愈疾病、提高生活水平和保护我们的生态系统。人工智能提供的机会是巨大的。但先进的人工智能能力伴随着大规模风险，我们还没有走上妥善处理的轨道。人类正在投入大量资源使人工智能系统更加强大，但在安全和减轻危害方面的投入却少之又少。我们这次调整已经落后于计划了。为了让人工智能成为一种福音，我们必须重新定位；单靠推动人工智能能力是不够的。我们必须预见到持续危害和新风险的扩大，并在最大风险成为现实之前做好准备。气候变化花了几十年的时间才被承认和应对；对于人工智能来说，几十年可能太长了。
在快速发展的时代管理人工智能风险 - CIVIC Ai
主要关键词
相关文件推荐
