Meta SAM 2.1 is now available in Amazon SageMaker JumpStart
我们很高兴地宣布，Meta 的 Segment Anything Model (SAM) 2.1 视觉分割模型已通过 Amazon SageMaker JumpStart 公开发布，可用于部署和运行推理。Meta SAM 2.1 在单个模型中提供了最先进的视频和图像分割功能。在这篇文章中，我们探讨了 SageMaker JumpStart 如何帮助数据科学家和 ML 工程师发现、访问和部署各种预先训练的 FM 进行推理，包括 Meta 迄今为止最先进、最强大的模型。
Falcon 3 models now available in Amazon SageMaker JumpStart
我们很高兴地宣布，TII 的 Falcon 3 系列模型已在 Amazon SageMaker JumpStart 中推出。在本文中，我们将探讨如何在 Amazon SageMaker AI 上高效部署此模型。
Faster distributed graph neural network training with GraphStorm v0.4
GraphStorm 是一个低代码企业图形机器学习 (ML) 框架，为 ML 从业者提供了一种在行业规模图形数据上构建、训练和部署图形 ML 解决方案的简单方法。在这篇文章中，我们展示了 GraphBolt 如何在分布式设置中增强 GraphStorm 的性能。我们提供了一个在 SageMaker 上使用 GraphStorm 和 GraphBolt 进行分布式训练的实际示例。最后，我们分享了如何将 Amazon SageMaker Pipelines 与 GraphStorm 结合使用。
Build agentic AI solutions with DeepSeek-R1, CrewAI, and Amazon SageMaker AI
在这篇文章中，我们将演示如何将 DeepSeek-R1 等 LLM（或您选择的其他 FM）从 SageMaker JumpStart 或 Hugging Face Hub 等热门模型中心部署到 SageMaker AI 进行实时推理。我们探索了 Hugging Face TGI 等推理框架，它有助于简化部署，同时集成内置性能优化以最大限度地减少延迟并最大限度地提高吞吐量。此外，我们还展示了 SageMaker 开发人员友好的 Python SDK 如何简化端点编排，从而实现 LLM 支持的应用程序的无缝实验和扩展。
Governing the ML lifecycle at scale, Part 4: Scaling MLOps with security and governance controls
这篇文章提供了设置多账户 ML 平台关键组件的详细步骤。这包括配置 ML 共享服务账户，该账户管理中央模板、模型注册表和部署管道；从中央服务目录共享 ML Admin 和 SageMaker 项目组合；以及设置单独的 ML 开发账户，数据科学家可以在其中构建和训练模型。
Fine-tune and host SDXL models cost-effectively with AWS Inferentia2
随着技术的不断发展，新的模型不断涌现，提供更高的质量、更大的灵活性和更快的图像生成功能。StabilityAI 发布的 Stable Diffusion XL (SDXL) 就是这样一种突破性的模型，它将文本到图像的生成 AI 技术推向了前所未有的高度。在这篇文章中，我们演示了如何使用 SageMaker Studio 有效地微调 SDXL 模型。我们展示了如何准备经过微调的模型以在由 AWS Inferentia2 提供支持的 Amazon EC2 Inf2 实例上运行，从而为您的推理工作负载带来卓越的性价比。
Enhancing LLM Capabilities with NeMo Guardrails on Amazon SageMaker JumpStart
将 NeMo Guardrails 与大型语言模型 (LLM) 集成是向面向客户的应用程序中部署 AI 的重要一步。AnyCompany Pet Supplies 的示例说明了这些技术如何在处理拒绝和引导对话实现实施结果的同时增强客户互动。这一走向道德 AI 部署的旅程对于与客户建立可持续的、基于信任的关系以及塑造技术与人类价值观无缝契合的未来至关重要。
DeepSeek-R1 model now available in Amazon Bedrock Marketplace and Amazon SageMaker JumpStart
DeepSeek-R1 是一种先进的大型语言模型，它结合了强化学习、思维链推理和混合专家架构，通过 Amazon Bedrock Guardrails 集成提供高效、可解释的响应，同时保持安全性。
Track LLM model evaluation using Amazon SageMaker managed MLflow and FMEval
在本文中，我们将展示如何使用 FMEval 和 Amazon SageMaker 以编程方式评估 LLM。FMEval 是一个开源 LLM 评估库，旨在为数据科学家和机器学习 (ML) 工程师提供代码优先体验，以评估 LLM 的各个方面，包括准确性、毒性、公平性、稳健性和效率。
Create a SageMaker inference endpoint with custom model & extended container
这篇文章将引导您完成使用 NASA 的 Prithvi 模型在 SageMaker 上部署单个自定义模型的端到端过程。Prithvi 模型是 IBM 和 NASA 团队在连续的美国协调 Landsat Sentinel 2 (HLS) 数据上预先训练的首创时间 Vision 转换器。可以使用 mmsegmentation 库对其进行微调以进行图像分割，用于烧伤疤痕检测、洪水测绘和多时间作物分类等用例。
How BQA streamlines education quality reporting using Amazon Bedrock
教育和培训质量管理局 (BQA) 在提高巴林王国的教育和培训服务质量方面发挥着关键作用。BQA 审查所有教育和培训机构的表现，包括学校、大学和职业学院，从而促进国家人力资本的专业发展。在这篇文章中，我们探讨了 BQA 如何利用 Amazon Bedrock、Amazon SageMaker JumpStart 和其他 AWS 服务的强大功能来简化整体报告工作流程。
iMessage text gets recipient to disable phishing protection so they can be phished
附带指示绕过 iMessage 链接保护的短信钓鱼消息正在增加
Amazon Bedrock 是一项完全托管的服务，它通过单一 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 和 Amazon 等领先 AI 公司的高性能基础模型 (FM)，以及一系列广泛的功能，用于构建具有安全性、隐私性和负责任 AI 的生成式 AI 应用程序。在这篇文章中，我将向您展示如何将 Amazon Bedrock（及其完全托管的按需 API）与您的 Amazon SageMaker 训练或微调模型结合使用。
Efficiently build and tune custom log anomaly detection models with Amazon SageMaker
在本文中，我们将引导您完成使用 Amazon SageMaker 构建自动化机制以处理您的日志数据、对其进行训练迭代以获得性能最佳的异常检测模型并将其注册到 Amazon SageMaker 模型注册表以供您的客户使用的过程。
PEFT fine tuning of Llama 3 on SageMaker HyperPod with AWS Trainium
在这篇博文中，我们展示了如何使用 AWS Trainium 上的 PEFT 和 SageMaker HyperPod 对 Meta Llama 3 模型进行高效的监督微调。我们使用 HuggingFace 的 Optimum-Neuron 软件开发工具包 (SDK) 将 LoRA 应用于微调作业，并使用 SageMaker HyperPod 作为主要计算集群在 Trainium 上执行分布式训练。使用 LoRA 监督微调 Meta Llama 3 模型，您可以进一步将微调模型的成本降低高达 50%，并将训练时间缩短 70%。
Fastweb 是意大利领先的电信运营商之一，很早就认识到了 AI 技术的巨大潜力，并于 2019 年开始在该领域进行投资。在本文中，我们将探讨 Fastweb 如何利用尖端的 AI 和 ML 服务踏上他们的 LLM 之旅，克服挑战并在此过程中解锁新机遇。
TUI Group 是全球领先的旅游服务公司之一，为 180 个地区的 2100 万客户提供无与伦比的度假体验。TUI 内容团队的任务是为其网站制作高质量的内容，包括产品详细信息、酒店信息和旅行指南，通常使用酒店和第三方合作伙伴撰写的描述。在这篇文章中，我们讨论了如何使用 Amazon SageMaker 和 Amazon Bedrock 构建内容生成器，该生成器根据特定的品牌和风格指南重写营销内容。
Llama 3.3 70B now available in Amazon SageMaker JumpStart
今天，我们很高兴地宣布 Meta 的 Llama 3.3 70B 已在 Amazon SageMaker JumpStart 中推出。 Llama 3.3 70B 标志着大型语言模型 (LLM) 开发方面取得了令人兴奋的进步，它以更少的计算资源提供了与大型 Llama 版本相当的性能。在本文中，我们将探讨如何在 Amazon SageMaker AI 上高效部署此模型，并使用高级 SageMaker AI 功能实现最佳性能和成本管理。
