Run interactive IDEs on Amazon EKS with SageMaker AI to power up your AI workflows
Amazon EKS 的 Amazon SageMaker AI Spaces 插件在您的 ML 团队已运营的集群上运行托管 JupyterLab 和代码编辑器环境。本文介绍如何安装和配置该插件、从浏览器和通过 SSH-over-SSM 的 VS Code 进行连接,以及如何将您的团队转移到使用 Amazon Cognito 进行 OpenID Connect 登录。
Tiered KV cache for large LLMs on Amazon SageMaker HyperPod with Curvine
大规模运行大型语言模型推理会迫使 KV 缓存进行权衡:GPU 实例规模过大或首次生成令牌的时间过长。本文在 Amazon SageMaker HyperPod 上构建了一个分层 KV 缓存,将缓存扩展到使用 Curvine 的共享分布式 NVMe 池中,因此副本可以在经济高效的实例上以接近本地磁盘的速度重用缓存。
LLM optimization integration for Amazon SageMaker Python SDK
Amazon SageMaker Python SDK v3 现在直接在您的笔记本中公开 Amazon SageMaker AI 中的生成式 AI 推理建议。对端点进行基准测试,生成数据驱动的部署建议,并部署推荐的配置,而无需离开笔记本工作流程。
Deploying Kimi K3 on Amazon SageMaker HyperPod and Amazon EKS
本文将介绍如何使用两种方法在 AWS 上部署 Kimi K3:Amazon SageMaker HyperPod 和 Amazon Elastic Kubernetes Service (Amazon EKS) 集群。
India exports 7 tons of Bihar's Makhana to Canada
这批货物共 7 公吨,装在两个集装箱中,通过蒙德拉港发往加拿大 ZKV Foods。
NDA, INDIA Bloc MPs face off at Parliament's Makar Dwar amid NEET protests
反对党成员就 NEET 论文泄露争议向联邦教育部长达门德拉·普拉丹 (Dharmendra Pradhan) 提出抗议,而全国民主联盟 (NDA) 议员则针对 TMC 议员卡扬·班纳吉 (Kalyan Banerjee) 进行示威,后者因对女议员发表令人反感的言论而被人民院停职。
Технический директор МакSим: новые микрофоны Октава готовы к большим сценам
Alexander Lepeshkin 介绍新型麦克风在操作中的表现以及当今专业音乐会设备市场的情况
Monitor Amazon SageMaker Pipelines cross-account with custom Amazon CloudWatch dashboards
在这篇文章中,我们提出了一个解决方案,旨在使用 Amazon CloudWatch 自定义控制面板集中监控跨 AWS 账户和区域的 SageMaker Pipelines。随附的 GitHub 存储库提供了所需基础设施的可自定义 AWS 云开发套件 (AWS CDK) 示例。
Real-time dental image verification with Amazon SageMaker AI at Henry Schein One
本文介绍了 Henry Schein One 如何通过在 Amazon SageMaker AI 上构建图像验证来缩小这一差距,这是一种基于 AI 的质量验证系统,可在数千个位置的拍摄点实时评估牙科 X 射线质量。该系统在几个月内从概念发展到超过 10,000 个活动位置,并且已经处理了超过 1100 万张 X 射线,并且以每周 150 万张的速度增长。 Henry Schein One 目前正在向全球四个地区的 40,000 个地点扩展。
Deploying quantized models on Amazon SageMaker AI with Unsloth
在本文中,您将学习四种部署模式,用于采用已使用 Unsloth 量化的模型并将其部署在 AWS 基础设施上。这些模式使用 Amazon Elastic Compute Cloud (Amazon EC2) 进行直接实例访问,使用 Amazon SageMaker AI 推理终端节点进行托管服务,并在推理需要适应现有容器框架时使用 Amazon Elastic Kubernetes Service (Amazon EKS) 或 Amazon Elastic Container Service (Amazon ECS)。您还可以学习生产部署的操作实践。
Disaggregated prefill and decode for LLM inference on SageMaker HyperPod
在本文中,我们将展示如何使用 HyperPod Inference Operator 在 Amazon SageMaker HyperPod 上通过 vLLM 实现 DPD。
Ростех впервые приглашает студентов к участию в ежегодной Премии имени Макаровца
弹药和特种化学品行业的专家,无论是个人作者还是团队,都可以向竞赛提交他们的开发成果
From Hugging Face to Amazon SageMaker Studio in one click
今天,我们很高兴地宣布 Hugging Face 与 Amazon SageMaker AI 之间的深度链接集成。开发人员现在只需进行一次选择,即可在 SageMaker Studio 中从模型发现到实践实验。
Deploying Multi-Turn RL Infrastructure for Amazon Nova on Amazon SageMaker HyperPod
在本文中,您将在 Amazon SageMaker HyperPod 上使用 Amazon Nova Forge 部署用于多回合 RL 的两阶段基础设施。最后,您将拥有一个事件驱动的管道,当您将数据上传到 Amazon Simple Storage Service (Amazon S3) 时,该管道就会开始训练。训练作业教模型玩 Wordle,这是您自己的 RL 任务的占位符。
How OneAdvanced deployed over 50 AI agents on UK-sovereign AWS
了解英国企业软件提供商 OneAdvanced 如何通过在 Amazon SageMaker AI 上自托管 Llama 4 Maverick 和 Llama Guard 4、在 pgvector 上使用 RAG 管道以及在 Amazon ECS 上使用 Strands Agents SDK 构建的 50 多个代理来构建英国主权 AI 平台。
CROSSPOST: SEAN ILLING: You Can't Have Homer, Nietzsche & Jesus
肖恩的副标题:“对《奥德赛》的思考和文化权利的不连贯性”;基督教本质是黄金法则,还是 Eskhaton 的 Theomakhy?...
Ransom Cartel Leader Sentenced to 16 Years in U.S.
美国法院因经营勒索软件即服务业务而判处 Ransom Cartel 创始人 Maksim Silnikau 16 年徒刑。 Maksim Silnikau(又名“J.P. Morgan”、“lansky”和“xxx”)以特许经营权所有者建立连锁店的方式建立了勒索软件业务:他自己从未接触过大部分犯罪现场。本周,弗吉尼亚州的一位联邦法官 [...]
JINSA President Michael Makovsky to Fox News: President Trump Must Rip the Band-Aid Off
请注意,Makovsky 博士的采访从 20:55 开始。唐纳德·特朗普总统在 7 月 30 日星期三的新闻发布会上表示,“我们将非常严厉地打击(伊朗)”,但在接下来的句子中也表达了他的……阅读更多 ›《JINSA 总统迈克尔·马科夫斯基对福克斯新闻:特朗普总统必须撕掉创可贴》一文首先出现在 JINSA 上。