详细内容或原文请订阅后点击阅览
随着公司和政府就人工智能安全问题展开斗争，研究人员陷入了交火
在《神鬼寓言 5》被下架后，科学家们担心人工智能安全规则可能会重塑开放研究
来源:Science Magazine多年来，那些最努力推动构建更强大的人工智能 (AI) 系统的公司也是对其潜在危险发出最响亮警告的公司之一。上周，这些相互竞争的冲动在 Anthropic 的《神鬼寓言 5》周围以惊人的方式碰撞在一起，这是迄今为止最强大的模型之一。尽管许多研究人员热切地等待着 6 月 9 日的发布，但由于模型的使用方式受到全面限制，发布很快就出现了问题。但即使是这些保障措施也未能令白宫满意——仅仅三天后，白宫就完全终止了。
对于许多科学家来说，这个教训不容忽视：他们越来越依赖于他们无法控制的人工智能研究工具。相反，这种访问权掌握在少数公司和政策制定者手中，他们仍在实时弄清楚应该如何管理这些强大的系统，以及允许他们执行什么样的研究任务。开放科学研究平台 alphaXiv 的联合创始人雷哈恩·艾哈迈德 (Rehaan Ahmad) 表示，这一事件只是监管人工智能和自由研究之间斗争的“冰山一角”。 “这里的清算尚未到来。”
今年 4 月，Anthropic 宣布其开发的人工智能模型过于危险，无法向公众发布，这引起了轩然大波。该公司声称，Mythos 5 功能强大，足以识别当今使用的每个主要操作系统和网络浏览器中的漏洞。该模型的一个版本仅提供给选定的一组网络防御者和关键软件基础设施提供商。
然而，贝德韦尔和其他生物学家几乎立即发现他们实际上被锁在了外面。据用户在社交媒体上报道，《神鬼寓言 5》甚至拒绝回答有关生物学的基本问题。即使一条消息只包含两个表情符号、一个细菌和一个 DNA 双螺旋，也会触发该模型的保护措施。一些人怀疑人工智能正在使用之前的对话历史来识别具有生物学背景的用户并应用更严格的限制。