训练和测试 AI 模型以获得卓越的推理能力需要高质量的数据。云原生基础设施可以通过各种方法访问数据,例如数据湖和仓库。许多云提供商提供块、对象和文件存储系统,非常适合提供低成本、可扩展的存储。例如,模型的大小可以达到 GB。在训练阶段,每次拉取模型的检查点都会对网络和存储带宽造成严重负载。将模型视为容器化工件为将它们托管在 OCI 24 注册表中打开了大门并启用了缓存。它还允许将软件供应链最佳实践应用于模型,例如工件签名、验证、证明和数据来源。此外,容器化模型/工件有助于在 WebAssembly (WASM) 二进制文件中进行捆绑。WASM 是一种独立于平台的高效 CN 推理方法。
主要关键词