详细内容或原文请订阅后点击阅览
数据中心的时代即将结束吗？
Marco Arment 的设置就像煤矿里的金丝雀，或者更确切地说，是 50 台 Mac Mini 服务器群，比 NVIDIA 支持的云端超大规模服务器高效得多...
来源:Brad DeLongMarco Arment 的设置就像煤矿里的金丝雀，或者更确切地说，是 50 台 Mac Mini 服务器群，比 NVIDIA 支持的云端超大规模服务器高效得多。或者，为什么 John Giannandrea 对苹果人工智能战略的管理可能意味着苹果已经赢得了人工智能软件竞赛……
分享
分享德隆把握现实：2000 年代及之前的经济
John Giannandrea 在 Google 负责搜索和“AI”业务，然后于 2018 年跳槽到 Apple，领导机器学习和“AI 战略”。这一举措很重要：苹果有很多关于芯片和隐私的言论，但缺乏连贯的人工智能领导力。然后他决定进行三个相互交织的赌注：
将设备上的智能作为默认设置，而不是“将你的生活运送到超大规模设备，然后逐个将其租回”，他的愿景是：你的手机、你的笔记本电脑、你的手表在 Apple 控制的 NPU 上进行尽可能多的本地推理。
模型和硬件的紧密集成，当软件堆栈围绕其卓越性能形成并且芯片设计源自软件最需要执行的功能时，芯片将获得最大回报。
隐私保护人工智能作为品牌楔子，具有高级本地模型和智能缓存，可防止您的信息被捕获和部署，从而对您造成损害。
John Giannandrea 对追求最大可能的 GPT LLM 模型非常怀疑，他在训练上花费了大量资金，然后将它们部署为在硅、热量和推理功率方面昂贵的庞然大物。 Giannandrea 是山姆·奥尔特曼的反派。 Giannandrea 的愿景是将软件作为厚中间层，其中最经济相关的推理发生在分布在客厅和背包中的 M 系列芯片上，并在其上方进行超大规模训练和更薄的云推理层。
他受聘是为了 (a) 为苹果提供一个连贯的“AI”故事，并修复 Siri。苹果的营销部门一直过度承诺 Apple Siri 很快就能实现的功能：
苹果无法也没有交付。
00:22:59 ◼ ► 我们看不到。