How Zalando optimized large-scale inference and streamlined ML operations on Amazon SageMaker
这篇文章由 Zalando 的 Mones Raslan、Ravi Sharma 和 Adele Gouttes 共同撰写。Zalando SE 是欧洲最大的电子商务时尚零售商之一,拥有约 5000 万活跃客户。Zalando 面临着定期(每周或每天)为 100 多万种产品打折的挑战,也称为降价定价。降价定价是 […]
Accelerate custom labeling workflows in Amazon SageMaker Ground Truth without using AWS Lambda
Amazon SageMaker Ground Truth 支持创建高质量、大规模的训练数据集,这对于在包括大型语言模型 (LLM) 和生成式 AI 在内的各种应用程序中进行微调至关重要。通过将人工注释者与机器学习相结合,SageMaker Ground Truth 显着降低了数据标记所需的成本和时间。无论是注释图像、视频还是 […]
这篇文章是关于大规模管理机器学习 (ML) 生命周期的系列文章的一部分。要从头开始,请参阅大规模管理 ML 生命周期,第 1 部分:使用 Amazon SageMaker 构建 ML 工作负载的框架。多账户策略不仅对于改善治理至关重要,而且对于增强 […]
这篇文章介绍了一种从不同的云环境(例如 Google Cloud Platform (GCP) BigQuery)中提取数据的架构方法,无需移动数据。这最大限度地降低了在云环境之间移动数据所涉及的复杂性和开销,使组织能够访问和利用其不同的数据资产进行 ML 项目。我们重点介绍了使用 Amazon Athena Federated Query 从 GCP BigQuery 提取数据、使用 Amazon SageMaker Data Wrangler 执行数据准备,然后使用准备好的数据在无代码 ML 界面 Amazon SageMaker Canvas 中构建 ML 模型的过程。
Customized model monitoring for near real-time batch inference with Amazon SageMaker
在本文中,我们介绍了一个框架,用于自定义使用 Amazon SageMaker Model Monitor 来处理近乎实时推理场景的多负载推理请求。SageMaker Model Monitor 监控生产中 SageMaker ML 模型的质量。尽早主动检测模型质量偏差使您能够采取纠正措施,例如重新训练模型、审核上游系统或修复质量问题,而无需手动监控模型或构建其他工具。
Air Pollution Could Make It Harder for Bees to Navigate
Fine particulate matter in the atmosphere reduces the degree of polarization of sunlight, which insects use to guide themselves home.
在本文中,我们深入探讨了银行机构的业务用例。我们将向您展示银行的财务或业务分析师如何使用最适合当前业务问题的机器学习模型轻松预测客户的贷款是否会全额支付、注销或当前。
Generative AI foundation model training on Amazon SageMaker
在本文中,我们将探讨组织如何使用 AWS 托管服务(例如 Amazon SageMaker 训练作业和 Amazon SageMaker HyperPod)以经济高效的方式定制和调整 FM。我们将讨论这些强大的工具如何帮助组织优化计算资源并降低模型训练和微调的复杂性。我们将探讨如何做出明智的决定,确定哪种 Amazon SageMaker 服务最适合您的业务需求和要求。
Automate fine-tuning of Llama 3.x models with the new visual designer for Amazon SageMaker Pipelines
在这篇文章中,我们将向您展示如何设置自动化的 LLM 自定义(微调)工作流程,以便 Meta 的 Llama 3.x 模型可以为金融应用程序提供高质量的 SEC 文件摘要。微调允许您配置 LLM 以在特定于域的任务上实现更好的性能。
Implement Amazon SageMaker domain cross-Region disaster recovery using custom Amazon EFS instances
在本文中,我们将指导您完成分步过程,以无缝地将您的 SageMaker 域从一个活动区域迁移到另一个被动或活动区域,包括所有相关的用户配置文件和文件。
Train, optimize, and deploy models on edge devices using Amazon SageMaker and Qualcomm AI Hub
在本文中,我们将介绍一种使用 Amazon SageMaker 和 Qualcomm AI Hub 在边缘进行端到端模型定制和部署的创新解决方案。
Deploying Your Llama Model via vLLM using SageMaker Endpoint
利用 AWS 的 MLOps 平台为您的 LLM 模型提供服务继续阅读 Towards Data Science »
Introducing Amazon EKS support in Amazon SageMaker HyperPod
这篇文章专为 Kubernetes 集群管理员和 ML 科学家设计,概述了 SageMaker HyperPod 引入的关键功能,以促进在 EKS 集群上进行大规模模型训练。
在这篇文章中,我们详细介绍了我们在创建两个概念验证 (PoC) 练习方面的合作,这些练习围绕多模态机器学习进行生存分析和癌症亚型分析,使用基因组(基因表达、突变和拷贝数变异数据)和成像(组织病理学幻灯片)数据。我们提供了关于使用 Amazon SageMaker 在 AWS 上构建复杂 ML 工作流的可解释性、稳健性和最佳实践的见解。这些多模态管道正在 Genomics England 癌症队列中使用,以增强我们对癌症生物标志物和生物学的理解。
在本文中,我们将向您展示如何通过使用直接偏好优化 (DPO) 对使用 SageMaker Ground Truth 收集的数据进行微调来提高 Meta Llama 3 8B Instruct 的性能。
Introducing the Makeblock mBot2: A Fun and Educational AI Robot for Coding
介绍 Makeblock mBot2:一款有趣且具有教育意义的编码 AI 机器人 Makeblock mBot2 是一款令人愉快且具有教育意义的...
Fine-tune Llama 3 for text generation on Amazon SageMaker JumpStart
在本文中,我们将演示如何使用 Amazon SageMaker JumpStart 对 Meta 中最近发布的 Llama 3 模型(特别是 llama-3-8b 和 llama-3-70b 变体)进行微调。
Deploy Amazon SageMaker pipelines using AWS Controllers for Kubernetes
在本文中,我们展示了熟悉 Jupyter 笔记本和 SageMaker 环境的 ML 工程师如何与熟悉 Kubernetes 和相关工具的 DevOps 工程师高效合作,设计和维护具有适合其组织的基础架构的 ML 管道。这使 DevOps 工程师能够使用他们习惯的同一套工具和环境来管理 ML 生命周期的所有步骤。