机构名称：
¥ 4.0
在人工智能领导者快速发现的背景下，政府必须考虑如何设计与人工智能新功能不断增长的步伐相匹配的监管。人工智能监管市场是一项考虑到适应性而设计的提案。它涉及政府为人工智能公司设定基于结果的目标，他们可以通过从私人监管机构市场购买服务来展示这些目标。我们使用进化博弈论模型来探索政府在建立人工智能系统监管市场以阻止鲁莽行为方面可以发挥的作用。我们警告说，很容易发现会阻止监管市场实现这一目标的激励措施。这些“赏金激励”只会奖励发现不安全行为的私人监管机构。我们认为，人工智能公司可能会学会根据监管机构投入的努力来调整自己的行为，从而阻碍监管机构的创新。相反，我们建议政府始终奖励监管机构，除非他们发现这些监管机构未能发现他们应该发现的不安全行为。这些“警惕激励”可以鼓励私人监管机构找到创新方法来评估尖端的人工智能系统。
警惕激励措施帮助监管市场提高人工智能安全性
主要关键词
相关文件推荐
