详细内容或原文请订阅后点击阅览
使用 Amazon SageMaker AI 上的 MLflow v3.10 简化生成式 AI 开发
今天,我们很高兴地宣布 Amazon SageMaker AI MLflow 应用程序现已支持 MLflow 版本 3.10,为您的生成式 AI 工作流程带来增强的生成式 AI 开发功能和简化的实验跟踪。该最新版本建立在 Amazon SageMaker AI MLflow 应用程序的基础上,引入了强大的可观察性、评估和生成新功能 [...]
来源:亚马逊云科技 _机器学习今天,我们很高兴地宣布 Amazon SageMaker AI MLflow 应用程序现已支持 MLflow 版本 3.10,为您的生成式 AI 工作流程带来增强的生成式 AI 开发功能和简化的实验跟踪。该最新版本建立在 Amazon SageMaker AI MLflow 应用程序的基础上,引入了用于可观察性、评估和生成式 AI 开发的强大新功能,可帮助数据科学家和 ML 工程师加快他们的 AI 计划从实验到生产的速度。
在这篇文章中,我们将探讨 MLflow v3.10 中的新增功能,引导您开始使用 SageMaker AI MLflow 应用程序,以及如何利用这些增强功能来构建生成式 AI 应用程序。
MLflow v3.10 的新增功能
MLflow 3.10 对 MLflow 生态系统进行了一系列有针对性的改进,扩展了 MLflow 3.0 中建立的跟踪和可观察性功能,特别关注生成式 AI 应用程序开发和代理工作流程。在生成式 AI 方面,此版本改进了对复杂多轮工作流程的跟踪,与流行的 LLM 框架和库更紧密地集成,并简化了生成式 AI 交互和调用的日志记录。评估通过 mlflow.genai.evaluation() API 获得重大升级,它提供了一个编程接口,用于在整个开发到生产生命周期中系统地测量和维护生成式 AI 质量,内置指标涵盖相关性、忠实性、正确性和安全性,所有这些都与 SageMaker AI 工作流程无缝集成。
这些改进与 SageMaker AI 相结合,提供了企业级生成式 AI 基础设施,使跟踪实验、监控生成式 AI 性能以及大规模维护跨 AI 应用程序的治理变得简单。
SageMaker AI MLflow 应用程序 v3.10 入门
先决条件
首先,您需要:
使用 pip 安装两个 Python 包:
