人工智能时代的 Kubernetes

当 Kubernetes 首次出现时,这是一个重大转折点,它对基础设施和运营空间进行了修订,改变了开发人员和运营人员在云中构建、部署和维护应用程序的方式。此后,它已成为现代应用程序构建和操作方式的明确标准。作为 CNCF [...]

来源:O'Reilly Media _AI & ML

当 Kubernetes 首次出现时,这是一个重大转折点,它对基础设施和运营空间进行了修订,改变了开发人员和运营人员在云中构建、部署和维护应用程序的方式。此后,它已成为现代应用程序构建和操作方式的明确标准。正如 CNCF 在其最新的年度云原生调查报告中指出的那样,“在容器用户中,到 2025 年,82% 的用户将在生产中使用 Kubernetes,而 2023 年这一比例为 66%。这代表了容器生态系统中几乎普遍采用。”

在过去的几年里,随着 Kubernetes 从容器编排器演变为人工智能基础设施平台,该领域发生了另一次修订。根据 CNCF 的调查,“Kubernetes 作为事实上的 AI 平台的崛起代表了组织处理机器学习操作方式的根本性转变……[通过 Kubernetes] 提供了一个统一的编排层,可以处理传统应用程序工作负载和计算密集型 AI 任务。”生成式人工智能和代理式人工智能等地震技术的出现加速了这一转变。

人工智能与 Kubernetes 的交叉无疑是运营领域最具影响力的发展之一。正如 Dijure 的软件架构师 Jonathan Johnson 所观察到的那样,“K8s 上的人工智能非常非常重要,但目前还没有足够的[资源]。” Edward Jones 的高级技术架构师 Raju Gandhi 赞同这一评估,并指出“在 K8s 上实施 AI/ML 是一个大问题,而且只会变得更大。这是一个需要关注的话题。”但是,为了跟上这一趋势并保持领先地位,您应该了解哪些事情?

生成式人工智能

代理人工智能

基础知识