Nvidia To Replace Intel In The Dow Jones Industrial Average; Stock Jumps
Nvidia 将取代英特尔进入道琼斯工业平均指数；股价大涨就在人们认为 Nvidia 近期创纪录的涨势有失败的危险时，周五晚些时候，道琼斯工业平均指数的所有者标准普尔道琼斯指数的决策委员会宣布，Nvidia 将取代英特尔进入道琼斯工业平均指数（显然现在已经发生了变化），这对蓝筹股指数来说是一次重大调整，将一家萎靡不振的半导体公司替换为人工智能 GPU 的主要供应商。另外，Sherwin Williams 也将毫不讽刺地取代曾经的化学巨头（道琼斯的同名公司）进入道琼斯指数。此次更换将于 11 月 8 日进行。英特尔股价在周五盘后交易中下跌 1%。Nvidia 股价上涨 1%。截至 2024 年，
On the Programmability of AWS Trainium and Inferentia
使用自定义运算符加速 AI/ML 模型训练 — 第 4 部分照片由 Agata Bres 在 Unsplash 上拍摄在这篇文章中，我们继续探索通过自定义运算符开发来优化机器学习 (ML) 工作负载运行时的机会。这一次，我们重点介绍 AWS Neuron SDK 提供的工具，用于在 AWS Trainium 和 AWS Inferentia 上开发和运行新内核。随着推动 AI 革命的低级模型组件（例如注意层）的快速发展，用于训练和运行 ML 模型的加速器的可编程性至关重要。专用 AI 芯片必须为广泛使用且影响深远的通用 GPU (GPGPU) 开发框架（例如 CUDA 和 Triton）提供有
Research on the Power Usage of GPUs
Amanda Guan，SEAS ’27，新泽西州阿斯伯里帕克 今年夏天，我有幸在宾夕法尼亚大学的 Benjamin Lee 教授的指导下进行研究。我非常感谢 2024 年职业服务暑期资助，让我能够继续进行这项研究……
为了满足对先进 AI 基础设施日益增长的需求，硅谷 GPU 云提供商 GMI Cloud 采取了一项战略举措，已在 A 轮融资中筹集了 8200 万美元。此轮融资由 Headline Asia 牵头，并得到 Banpu Next 和纬创等知名合作伙伴的支持，使 GMI 的总资本超过 9300 万美元。[…] 文章 GMI Cloud 在 A 轮融资中获得 8200 万美元，以先进的 GPU 解决方案推动全球 AI 基础设施扩张首先出现在 Unite.AI 上。
Computational Bottlenecks of Training Small-Scale Large Language Models
这篇论文被 NeurIPS Workshop 2024 的高效自然语言和语音处理 (ENLSP) 研讨会接受。虽然大型语言模型 (LLM) 主导着人工智能领域，但由于消费者对成本和效率的要求，小规模大型语言模型 (SLM) 正受到关注。然而，对 SLM 的训练行为和计算要求的研究有限。在本研究中，我们通过检查各种超参数和配置（包括 GPU 类型、批量大小等）的影响，探索了训练 SLM（最多 2B 个参数）的计算瓶颈…
Microsoft’s Inference Framework Brings 1-Bit Large Language Models to Local Devices
2024 年 10 月 17 日，微软宣布推出 BitNet.cpp，这是一个旨在运行 1 位量化大型语言模型 (LLM) 的推理框架。BitNet.cpp 是 Gen AI 的一项重大进展，它能够在标准 CPU 上高效部署 1 位 LLM，而无需昂贵的 GPU。这一发展使 LLM 的访问变得民主化，使其可以在各种 […]文章《微软的推理框架将 1 位大型语言模型带到本地设备》首先出现在 Unite.AI 上。
IEEE Transactions on Artificial Intelligence, Volume 5, Issue 10, October 2024
1) 基于 Transformer 的计算机视觉生成对抗网络：综合调查作者：Shiv Ram Dubey、Satish Kumar Singh页数：4851 - 48672) 数据驱动技术在智能家居社区规划、需求侧管理和网络安全中的应用作者：Dipanshu Naware、Arghya Mitra页数：4868 - 48833) 针对物体检测系统的中间人攻击作者：Han Wu、Sareh Rowlands、Johan Wahlström页数：4884 - 48924) 夜间色热语义分割的测试时间自适应作者：Yexin Liu、Weiming Zhang、Guoyang Zhao、Jinjing
Microsoft Launches Azure Confidential VMs with NVIDIA Tensor Core GPUs for Enhanced Secure Workloads
微软 Azure 推出了 NCC H100 v5 虚拟机，现在配备了 NVIDIA Tensor Core GPU，可增强高性能工作负载的安全计算。这些虚拟机利用 AMD EPYC 处理器提供强大的数据保护，使其成为 AI 模型训练和推理等任务的理想选择，同时确保敏感应用程序的可信执行环境。作者：Steef-Jan Wiggers
AI Model Optimization on AWS Inferentia and Trainium
使用 AWS Neuron SDK 加速 ML 的技巧照片由 julien Tromeur 在 Unsplash 上拍摄我们正处于人工智能的黄金时代，尖端模型颠覆了行业并准备改变我们所知的生活。推动这些进步的是越来越强大的人工智能加速器，例如 NVIDIA H100 GPU、Google Cloud TPU、AWS 的 Trainium 和 Inferentia 芯片等。随着选项数量的增加，选择最适合我们的机器学习 (ML) 工作负载的平台的挑战也随之而来——考虑到与 AI 计算相关的高成本，这是一个至关重要的决定。重要的是，对每个选项进行全面评估需要确保我们最大限度地利用它以充分利用其功能。
"Superhuman": Nvidia CEO Blown Away After Musk Sets Up 100,000 GPUs In 19 Days
“超人”：马斯克在 19 天内设置了 100,000 个 GPU，Nvidia 首席执行官大吃一惊Nvidia 首席执行官黄仁勋表示，埃隆·马斯克在短短 19 天内设置了 100,000 个 H200 Blackwell GPU 的超级集群，实现了“超人”壮举 - 他说这个过程其他人需要“一年才能完成”。插图由 Kristen Radtke / The Verge；Getty Images 提供根据 Tom's Hardware 的说法，xAI 团队据称在不到三周的时间内从“概念”发展到与 Nvidia 的“设备”完全兼容 - 包括运行 xAI 的首次 AI 训练运行。从开始到结束，这个过程涉
dnata grows green operations at DXB
地面处理商 dnata 已在迪拜国际机场 (DXB) 投资 400 万美元购买了 14 台新的 180kVA 地面电源装置 (GPU)... 阅读更多文章 dnata 在 DXB 扩大绿色运营首先出现在 Air Cargo News 上。
Depth Pro: Sharp Monocular Metric Depth in Less Than a Second
我们提出了零样本度量单目深度估计的基础模型。我们的模型 Depth Pro 合成了高分辨率深度图，具有无与伦比的清晰度和高频细节。预测是度量的，具有绝对尺度，而不依赖于元数据（例如相机内在函数）的可用性。而且该模型速度很快，在标准 GPU 上 0.3 秒内即可生成 225 万像素的深度图。这些特性是由许多技术贡献实现的，包括用于密集预测的高效多尺度视觉变换器、结合了……的训练协议
Intel: интегрированный графический процессор Xe2 опережает Ryzen 9 HX 370
该公司公布的数据显示了对40款热门游戏的测试结果。
PS5 Pro: All we know about release date, cost, design features and specifications
PS5 Pro 将于 2024 年 11 月 7 日发布，提供重大的硬件改进，包括升级的 GPU、光线追踪和 AI 驱动的升级。它的售价为 699.99 美元，增强了向后兼容的游戏。它还推出了 PS5 Pro 增强版游戏。
