详细内容或原文请订阅后点击阅览
Meta*、Google、OpenAI 和 Anthropic 的 1,100 多名员工要求美国当局放慢人工智能竞赛
电子大脑的进化速度比笨拙的法律和人类的贪婪快得多。
来源:安全实验室新闻频道Meta*、Google、OpenAI 和 Anthropic 的 1,100 多名员工要求美国当局放慢人工智能竞赛
电子大脑的进化速度比笨拙的法律和人类的贪婪快得多。
大型科技公司的 1100 多名员工呼吁美国当局帮助制定国际规则，防止强大的人工智能发展失控。
该呼吁由 Pacing the Frontier 倡议发布，该倡议得到了 Meta*、Anthropic、OpenAI 和 Google 的员工以及非营利组织 Guidelight AI Standards 和 Encode AI 的支持。作者建议建立技术和法律机制，如果最先进人工智能系统的进展速度开始威胁安全，各国可以通过这些机制故意放慢最先进人工智能系统的发展速度。
签署方担心，新模式很快就会开始改进，而国家和公司则没有时间评估风险、引入限制和准备保护措施。上诉作者认为，现代规则可能不再适应该行业的发展速度。
该文件由 Anthropic 首席执行官 Dario Amodei、公司几位联合创始人、Meta AI 研究副总裁 Don Song 和 OpenAI 首席科学家 Jakub Pachocki 签署。
OpenAI表示，未来先进模型可能会开始快速发展，以至于各国必须共同控制进展的速度。该公司没有具体说明哪些限制是它认为可以接受的，但支持提前准备工具来管理开发速度的想法。
Anthropic 引用了研究人员最近的工作，他们研究系统如何递归地改进自身。这种机制允许系统帮助创建自己的更强大的版本。该公司相信，此类技术可以极大地加速人工智能的发展，让社会几乎没有时间做好准备。