在训练场景中,英特尔® Gaudi® 3 加速器相对于上一代产品几乎所有的先进功能都发挥了作用。由于训练场景是计算密集型的,因此增加的计算比率可带来立竿见影的效果。增加的 HBM 带宽允许更大的计算来体现增加的计算能力。此外,更大的 HBM 容量也有助于提高性能。更大的 HBM 容量允许增加批处理大小,从而实现更高的计算利用率,并避免重新计算某些部分工作负载或避免模型并行拆分,从而在运行时增加网络操作。一般而言,LLM 推理吞吐量由可用的 HBM 带宽决定,可用于读取模型参数和上下文窗口。将英特尔® Gaudi® 3 加速器与英特尔® Gaudi® 2 加速器进行比较时,我们发现对于小型 LLM(13B 大小的模型或更小),加速比与两代加速器之间的 HBM 带宽比率相似,大约为 1.5 倍。然而,当比较较大的 LLM 模型(如 LLama-70B 和 Falcon-180B)时,我们看到改进大于 HBM 带宽比,并且超过了 2 倍的比率。更大的改进是由于英特尔® Gaudi® 3 加速器可用的内存容量更大。这种更大的容量允许使用更大的批处理大小,因此可以在给定的时间内处理更多的样本。
该公司在其生态系统中培育外部开发者社区也是明智之举。多年来,英特尔与独立软件供应商、系统集成商、初创公司、开源社区和学术界进行了广泛的合作。事实上,英特尔被强烈地视为一家硬件公司,以至于它在软件领域的悠久历史——既编写自己的代码,也支持他人编写的代码——并没有得到应有的赞誉。然而,基辛格将当今的计算环境描述为“软件定义、硅增强——因为软件层定义了用户体验[和]算法。” 英特尔的领导者直言不讳地指出了开发人员在创新中的关键作用,公司也已投入资金来支持开发人员,其支持水平与这种心态相匹配。
由Intel的第一代AI增强的SDV System-on-Chip和NewIntel®ARC™图形用于汽车,该示范突显了车辆内体验的革命性飞跃。不仅仅是技术进步,还可以瞥见汽车体验的未来。英特尔的AI增强SDV平台收敛高性能计算,AI和汽车工程,提供了经验,曾经被视为科幻小说。建立在开放式平台和生态系统上,该平台提供了汽车制造商的选择和灵活性,以利用庞大的AI PC软件生态系统。
本材料可能涉及用于安全关键应用的最终产品的创建,这些应用旨在符合功能安全标准或要求(“安全关键应用”),或任何英特尔产品故障可能直接或间接导致人身伤害或死亡的应用。您有责任设计、管理和确保系统级安全措施以预测、监控和控制系统故障,并且您应对您使用与安全关键应用相关的任何材料时的所有适用监管标准和安全相关要求负全部责任。
根据以下电池容量的同类商用电脑(截至 2024 年 12 月上市)的电池续航时间测量结果:最新一代 HP EliteBook X – 68 Wh;HP EliteBook Ultra G1q 14 – 59 Wh;戴尔 Latitude 7455 笔记本 – 54 Wh;联想 ThinkPad T14s Gen 6 – 58 Wh。系统性能会因电池容量、屏幕类型和其他 OEM 设计因素的不同而有很大差异。有关更多详细信息,请参阅 intel.com/performance index
根据以下电池容量的同类商用电脑(截至 2024 年 12 月上市)的电池续航时间测量结果:最新一代 HP EliteBook X – 68 Wh;HP EliteBook Ultra G1q 14 – 59 Wh;戴尔 Latitude 7455 笔记本 – 54 Wh;联想 ThinkPad T14s Gen 6 – 58 Wh。系统性能会因电池容量、屏幕类型和其他 OEM 设计因素的不同而有很大差异。有关更多详细信息,请参阅 intel.com/performance index
• 贡献来⾃主要浏览器⼚商 (Google , Apple , Mozilla 和 Microsoft) ,其它公司 ( 特别是英特尔 ) 和个⼈
人工智能无处不在,涉及各种关键工作负载。从核心企业应用程序到自动语音服务员,经典机器学习 (ML) 和深度学习模型正在成为业务运作的基本构建模块。大规模使用人工智能依赖于从数据预处理到训练再到部署的漫长开发流程。每个步骤都有自己的开发工具链、框架和工作负载——所有这些都会产生独特的瓶颈并对计算资源提出不同的要求。英特尔至强可扩展处理器具有内置加速器,可用于开箱即用地运行整个流程并全面提高人工智能性能。英特尔® 加速器引擎是专门构建的集成加速器,支持最苛刻的新兴工作负载。
为何选择英特尔博锐® 安全?随着网络攻击不断发展,以通过纯软件安全方法逃避检测,安全比以往任何时候都更加重要。威胁正在向下移动计算堆栈,使用远程工作者端点 PC 作为进入网络、云和 SaaS 应用程序的直接载体。不法分子不再只是窃取数据,他们可以大规模地征用计算资源。入侵的方式往往是一台被入侵的 PC,除了敏感数据外,它还会提供访问身份、加密密钥和密码。远程工作已经从工作者通过防火墙或 VPN 保护访问资产发展到现在通过 SaaS 和云托管应用程序访问。这些应用程序依靠端点检测和响应 (EDR) 安全软件来评估工作者设备的健康状况(没有恶意软件),以对每个连接的用户进行身份验证。这是新的零信任安全模型,这种 PC 健康评估对于安全操作评估风险至关重要。除此之外,IT 和信息安全专业人员还面临着数据本地化和信息隐私方面日益严格的监管合规要求。除了系统内存外,许多类型的攻击还针对操作系统 (OS)、浏览器、应用程序、固件和 BIOS。根据 CrowdStrike 的 2024 年全球威胁报告¹,75% 的攻击首先在内存中以无文件恶意软件的形式执行,而 90% 的攻击源自端点。2 2023 年,IBM 报告称,数据泄露的全球平均成本为 445 万美元 3 ,而一家领先的网络安全公司报告称,从 2022 年到 2023 年,加密劫持增加了 659%。4 黑客继续改进他们的技术,越来越多地转向硬件基础设施。所有组织
3.3. 可信 IO 访问控制 ................................................................................................................................................ 26 3.3.1. 可信 MMIO 安全目标 ................................................................................................................................ 26 3.3.1. 安全 MMIO 管理 ...................................................................................................................................... 29 3.3.2. 可信 DMA 安全目标 ................................................................................................................................ 30 25