Create a SageMaker inference endpoint with custom model & extended container
这篇文章将引导您完成使用 NASA 的 Prithvi 模型在 SageMaker 上部署单个自定义模型的端到端过程。Prithvi 模型是 IBM 和 NASA 团队在连续的美国协调 Landsat Sentinel 2 (HLS) 数据上预先训练的首创时间 Vision 转换器。可以使用 mmsegmentation 库对其进行微调以进行图像分割，用于烧伤疤痕检测、洪水测绘和多时间作物分类等用例。
Identify idle endpoints in Amazon SageMaker
Amazon SageMaker 是一个机器学习 (ML) 平台，旨在简化大规模构建、训练、部署和管理 ML 模型的过程。 SageMaker 提供全面的工具和服务，为开发人员和数据科学家提供加速开发和部署 ML 解决方案所需的资源。在当今快节奏的技术环境中，[…]
在本系列的第 1 部分中，我们介绍了 Amazon SageMaker Python SDK 上新推出的 ModelTrainer 类及其优势，并向您展示了如何在自定义数据集上微调 Meta Llama 3.1 8B 模型。在这篇文章中，我们将介绍 ModelBuilder 类的增强功能，它允许您将模型从 ModelTrainer 无缝部署到 SageMaker 终端节点，并为多种部署配置提供单一界面。
在本文中，我们重点介绍 ModelTrainer 类，以简化训练体验。ModelTrainer 类比当前的 Estimator 类有显著改进，本文将对此进行详细讨论。我们将向您展示如何使用 ModelTrainer 类来训练您的 ML 模型，其中包括使用自定义脚本或容器执行分布式训练。在第 2 部分中，我们将向您展示如何使用改进的 ModelBuilder 类构建模型并部署到 SageMaker 终端节点。
Unlock cost savings with the new scale down to zero feature in SageMaker Inference
今天在 AWS re:Invent 2024 上，我们很高兴地宣布 Amazon SageMaker 推理终端节点的一项新功能：能够将 SageMaker 推理终端节点扩展到零个实例。这项期待已久的功能对于使用云中的 AI 和机器学习 (ML) 推理功能的客户来说是一个改变游戏规则的功能。
通过该联合解决方案，可以轻松在 AWS 上构建、训练和优化模型，然后使用 AWS IoT Greengrass 将它们部署到基于 Jetson 的终端节点。
