Accelerate Generative AI Inference on Amazon SageMaker AI with G7e Instances
今天,我们很高兴地宣布在 Amazon SageMaker AI 上推出由 NVIDIA RTX PRO 6000 Blackwell 服务器版 GPU 提供支持的 G7e 实例。您可以为节点配置 1、2、4 和 8 个 RTX PRO 6000 GPU 实例,每个 GPU 提供 96 GB GDDR7 内存。此次发布提供了使用单节点 GPU、G7e.2xlarge 实例来托管强大的开源基础模型 (FM)(例如 GPT-OSS-120B、Nemotron-3-Super-120B-A12B(NVFP4 变体)和 Qwen3.5-35B-A3B)的功能,为组织提供了经济高效且高性能的选择。
#494 – Jensen Huang: NVIDIA – The $4 Trillion Company & the AI Revolution
黄仁勋是 NVIDIA 的联合创始人兼首席执行官,NVIDIA 是全球最有价值的公司,也是人工智能计算革命的引擎。感谢您的聆听 ❤ 查看我们的赞助商:https://lexfridman.com/sponsors/ep494-sc 请参阅下面的时间戳、成绩单,以及提供反馈、提交问题、联系 Lex 等。成绩单:https://lexfridman.com/jensen-huang-transcriptCONTACT LEX:反馈 – 向 Lex 提供反馈:https://lexfridman.com/surveyAMA – 提交问题、视频或致电:https://lexfridman.com/am
Run NVIDIA Nemotron 3 Super on Amazon Bedrock
本文探讨了 Nemotron 3 Super 模型的技术特征并讨论了潜在的应用用例。它还提供了技术指导,帮助您开始在 Amazon Bedrock 环境中将此模型用于生成 AI 应用程序。