详细内容或原文请订阅后点击阅览
OpenAI 的流氓特工只留下一个出口
我们可能需要人工智能作为一种反防御方法。我们真的没有选择将其全部关闭。我一直希望有更多的选择，但这个问题来得太快了。现在唯一的出路就是通过。《OpenAI 的流氓特工只留下一个出口》一文首先出现在美国企业研究所 - AEI 上。
来源:美国进取研究所信息这是科技史上的一个教训：猫逃离袋子，精灵腾出瓶子，猴子被赶到机场。然而，我们通常会学会接受这些新的现实——将负面影响最小化到某个可接受的水平——因为逆转是不可能的，或者，如果以某种方式可能的话，将意味着放弃一些巨大而广泛的利益。 （技术总是“反噬”。）
安全并不是早期互联网的设计目标，它是一个为机构研究人员而非普通公众构建的系统。一旦网络成为主流，安全问题就变得显而易见——那时没有人能够关闭它并重新开始。我们已经发现它非常有价值。因此，我们建立了整个行业和大量技术来改进安全性。
亚历山大·弗莱明 (Alexander Fleming) 在 1945 年诺贝尔奖演讲中正确地指出了细菌耐药性的潜力。但我们并没有放弃青霉素或禁止开发其他此类药物。我们学会了指导和监测抗生素的正确使用，同时维持药物管道以生产针对耐药菌株的新武器。
很少有现代技术比汽车造成的伤亡更多。但我们制定了交通法、许可证、驾驶规范和各种安全功能，包括现在有可能几乎消除交通死亡的自动驾驶技术。
就人工智能而言，从广义上讲，尤其是最近的 OpenAI-Hugging Face 事件，大型语言模型已成为现实。正如 OpenAI 的事后报告和外部团体的事件分析所表明的那样，这一现实令人乐观，但也令人深感担忧。
要做什么？暂停？暂停？数据中心关闭？风险投资家马克·安德森 (Marc Andreessen) 在其 2023 年技术乐观主义者宣言中的声明有一个合理的观点：“我们相信人工智能的任何减速都会导致生命损失。本来可以通过阻止人工智能存在而避免的死亡是一种谋杀。”