‘Superpuff‘ planets are as dense as cotton candy
我们银河系中已知的最膨胀的行星围绕着距地球 1,000 多光年的类日恒星运行。
Tiered KV cache for large LLMs on Amazon SageMaker HyperPod with Curvine
大规模运行大型语言模型推理会迫使 KV 缓存进行权衡：GPU 实例规模过大或首次生成令牌的时间过长。本文在 Amazon SageMaker HyperPod 上构建了一个分层 KV 缓存，将缓存扩展到使用 Curvine 的共享分布式 NVMe 池中，因此副本可以在经济高效的实例上以接近本地磁盘的速度重用缓存。
U.S. Army, Perpetua Resources, and INL launch domestic antimony sulfide processing facility
爱达荷州福尔斯 - 美国陆军敏捷保障和弹药采购执行官 (PAE AS&A) 加入 Perpetua Resources Inc. 和爱达荷州 N...
Deploying Kimi K3 on Amazon SageMaker HyperPod and Amazon EKS
本文将介绍如何使用两种方法在 AWS 上部署 Kimi K3：Amazon SageMaker HyperPod 和 Amazon Elastic Kubernetes Service (Amazon EKS) 集群。
#499 – Gary Gallagher: American Civil War, Slavery, Lincoln, Grant & Lee
Gary Gallagher 是一位研究美国内战的历史学家。感谢您的聆听 ❤ 查看我们的赞助商：https://lexfridman.com/sponsors/ep499-sc 请参阅下面的时间戳、文字记录以及提供反馈、提交问题、联系 Lex 等。文字记录：https://lexfridman.com/gary-gallagher-transcript 联系 LEX：反馈 – 向 Lex 提供反馈： https://lexfridman.com/surveyAMA – 提交问题、视频或致电：https://lexfridman.com/amaHiring – 加入我们的团队：https://l
I gave Perplexity's agentic AI 5 complex tasks to run on my Mac - and I'll do it again
Perplexity 的 Mac 应用程序提供了自己的代理 AI、个人计算机，它可以在您的计算机上从头到尾处理多步骤任务。看看为什么结果给我留下了深刻的印象。
Disaggregated prefill and decode for LLM inference on SageMaker HyperPod
在本文中，我们将展示如何使用 HyperPod Inference Operator 在 Amazon SageMaker HyperPod 上通过 vLLM 实现 DPD。
Deploying Multi-Turn RL Infrastructure for Amazon Nova on Amazon SageMaker HyperPod
在本文中，您将在 Amazon SageMaker HyperPod 上使用 Amazon Nova Forge 部署用于多回合 RL 的两阶段基础设施。最后，您将拥有一个事件驱动的管道，当您将数据上传到 Amazon Simple Storage Service (Amazon S3) 时，该管道就会开始训练。训练作业教模型玩 Wordle，这是您自己的 RL 任务的占位符。
