机构名称：
¥ 4.0
然而，人工智能的加速发展是一个重大且日益严峻的安全挑战。与核技术一样，人工智能本质上是一种两用技术，很容易被滥用于恶意目的。基于机器学习的人工智能系统从示例而不是预定义规则中学习执行任务，也带来了前所未有的安全风险，这与它们的统计性质有关，具有新的和不可预测的故障模式。它们不是很稳健，即它们的行为可能会在新的环境中突然改变，而且很难解释：它们是自主运行的“黑匣子”，我们不知道它们是如何或为什么运行的。谷歌 (BARD)、微软 (Bing) 或 OpenAI (ChatGPT) 无法阻止其对话代理产生事实错误和暴力或偏见行为。随着这些系统变得更加强大和自主，正确规范它们的目标，即确保系统的目标与用户的偏好和公共利益保持一致，正成为一个主要问题。随着人工智能的快速发展及其在各个领域的大规模普及，这些安全风险可能迅速增加，并成为国家和国际安全问题。
投资安全可靠的人工智能 - 蒙田研究所
主要关键词
相关文件推荐
