我们不知道AI是如何工作的。人类想要建立一个“ MRI”以找出
领先的AI实验室说，我们必须在解码我们之前解码模型
来源:ZME科学dario Amodei于2023年站在美国参议院面前，在硅谷说少数人敢于承认：即使是建立人工智能的人们也不了解其运作方式。您读了正确的：AI，这项技术席卷了整个世界……我们只有一个一般的想法。
现在，人类的首席执行官（世界顶级AI实验室之一）正在引起相同的警报，比以往任何时候都大声。在一篇名为“可解释性紧迫性”的文章中，Amodei传达了一个明确的信息：当今最强大的AI模型的内部运作仍然是一个谜，这种谜团可能会带来深远的风险。他写道：“缺乏理解在技术史上本质上是前所未有的。”
可解释性的紧迫性人类的答案？一个月球的目标是开发Amodei所谓的“ AI MRI”，这是一种严格的高分辨率方式，可以在人造思想的决策途径中凝视，然后才变得太强大而无法管理。
“数据中心的天才国家”
AI不再是刚起步的好奇心。这是全球工业，军事规划，科学发现和数字生活的基石。它正在进入世界上每一项技术。但是，其成就的背后是一个令人不安的悖论：现代AI，尤其是Claude或Chatgpt等大型语言模型，其表现更像是自然力量，而不是一块代码。
“生成的AI系统的增长胜于建造的更多，” AI可解释性领域的先驱Anthropic联合创始人Chris Olah说。这些型号不是像老式软件那样按线路编程的。他们经过训练，即大量的文本，代码和图像，它们从中提取模式和关联。结果是一个可以写论文，回答问题甚至通过律师考试的模型，但没有人，甚至没有人，也无法完全解释如何。