自 2009 年 AI 小组成立以来,我一直负责管理该小组。该小组由 200 多名 AI 专业人员组成,我们有 500 多个 AI 解决方案投入生产,每个解决方案都使用几种不同的算法。我们今天正在努力进一步提高速度和规模,以实现通过 AI 改造英特尔的下一个飞跃。这将导致数千种 AI 解决方案应用于各种业务挑战和数据类型。根据研究公司 Gartner 的数据,2019 年只有 14% 的公司在生产中部署了 AI。这一数字在 2020 年增长到 19%,预计到 2021 年底将增加到 24%。[4] 但在英特尔,我们已经部署 AI 解决方案十多年了。事实上,自 2009 年以来,我们已经执行了 1,000 多个 AI 项目——虽然我们也经历过不少失败,但我们的成功率远远超过行业 AI 成功率。我们利用在这些项目中获得的集体智慧,制定了一套在整个企业范围内成功实施 AI 的最佳实践。我们的 AI 团队获得了英特尔成就奖,
处理器 QS 预生产版(40 核,2.0 GHz)、1 个英特尔® 服务器主板(QuantaGrid D54Q-2U)、总内存:512 GB(16x 32 GB 4800 MHz DDR5 DIMM)、英特尔® 超线程技术 = 开启、英特尔® 睿频加速技术 = 开启、BIOS = SE5C741.86B.01.01.0002.2212220608、微码 = 0x2b0001b0 存储(启动):1 个 Solidigm DC S4610(960 GB)、存储:6 个 Solidigm D7-P5510 系列(3.84 TB)、网络设备:1 个 25 GbE 英特尔® 以太网网络适配器 E810-XXV-4 @ 25 GbE、1 个 10 GbE 英特尔® 以太网融合网络适配器 X550-T2 @ 1 GbE、操作系统/软件:带有 Ubuntu Server 2022 的 Microsoft Azure Stack HCI 版本 20385。
摘要 - 使用多芯片封装的异构集成已成为满足下一代计算架构高带宽需求的关键技术推动因素。封装技术的最新进展,例如英特尔的嵌入式多芯片互连桥接 (EMIB) 封装技术,使得能够使用多技术芯片集成在单个封装中构建复杂的计算架构。这些进步为设计人员提供了灵活性,使他们能够使用具有独特功能和所选工艺技术的优化和定制芯片以及标准化的低功耗、高带宽 IO 链路在单个封装中构建系统。英特尔的高级接口总线 (AIB) 是一种芯片到芯片的 PHY 级标准,它通过芯片知识产权 (IP) 块库实现了模块化系统设计方法。将英特尔的 FPGA 与 AIB 接口和 EMIB 封装技术相结合,为开发用于国防应用的新型产品提供了独特的机会,这些产品以小尺寸满足系统要求,具有更大的灵活性、可扩展性、易用性和更快的上市时间。
在本设计测试中,我们使用 BERT-Large 无大小写(全词掩码)预训练模型作为模型检查点。该模型包含 3.4 亿个参数。我们使用斯坦福问答数据集 (SQuAD) v1.1 数据集进行微调分析。用例要求按照英特尔架构 Model Zoo 在线存储库文档 中所述执行。为了展示使用可扩展端到端企业 AI 堆栈解决方案进行 BERT-Large 微调的性能和可扩展性,我们使用了潜在的英特尔优化,例如针对 oneDNN 优化的 TensorFlow 和用于分布式训练的 Horovod。Horovod 与英特尔® MPI 库 一起部署,进一步利用了英特尔在 MPI 层的优化。我们使用容器映像和一组 MPIJob 规范文件在 Kubeflow 的训练运算符上运行 BERT-Large 工作负载。
本材料可能涉及用于安全关键应用的最终产品的创建,这些应用旨在符合功能安全标准或要求(“安全关键应用”),或任何英特尔产品故障可能直接或间接导致人身伤害或死亡的应用。您有责任设计、管理和确保系统级安全措施以预测、监控和控制系统故障,并且您应对您使用与安全关键应用相关的任何材料时的所有适用监管标准和安全相关要求负全部责任。
英特尔公司。保留所有权利。英特尔、英特尔徽标和其他英特尔标志是英特尔公司或其子公司的商标。英特尔保证其 FPGA 和半导体产品的性能符合英特尔的标准保修,符合当前规格,但保留随时更改任何产品和服务的权利,恕不另行通知。除非英特尔以书面形式明确同意,否则英特尔不承担因应用或使用本文描述的任何信息、产品或服务而产生的任何责任或义务。建议英特尔客户在依赖任何已发布的信息和订购产品或服务之前获取最新版本的设备规格。 *其他名称和品牌可能被视为其他财产。
除非另有说明,本报告全面总结了我们的企业责任方法以及 2021 日历年和财年的业绩。本报告根据全球报告倡议 (GRI) 标准:综合选项编制。我们的 GRI 内容索引在我们的报告生成器网站上提供。我们还使用其他公认的框架来指导本报告的内容,包括联合国 (UN) 全球契约、联合国可持续发展目标、气候相关财务披露工作组 (TCFD) 和价值报告基金会。1 2021 年,我们继续推进我们的综合报告战略,将环境、社会和治理信息纳入我们的 2021 年 10-K 表年度报告和 2022 年代理声明中,这些声明可在我们的投资者关系网站上查阅。如需了解英特尔企业责任方法、支持文档和数据、过往报告的更多信息,以及如何根据您选择的部分定制报告,请访问我们的企业责任和报告生成器网站。
通过转型以应对高增长市场,英特尔体现了半导体行业的整体转型。英特尔以解决方案为基础、以终端市场为导向的需求模式,投资于半导体、软件、硬件和服务,这些投资都是为了系统在终端用户需要时如何使用和构建。例如,英特尔提供 OpenAPI 供所有业务部门使用,以实现跨架构编程;通过 CCG 提供 Unison,以实现 PC 和移动设备之间的无缝连接;通过 DCAI 提供 Granulate,以优化数据中心应用程序和工作负载。IDC 的下一份关于英特尔业务转型的报告将分析英特尔在解决方案方面的投资,并探讨这些投资如何使英特尔能够在核心市场和现有市场中竞争。
表 1 扩展 PCR17 的摘要值 ...................................................................................................... 17 表 2 扩展 PCR18 的摘要值 ...................................................................................................... 18 表 3. MLE 标头结构 ............................................................................................................. 22 表 4. MLE/SINIT 功能字段位定义 ...................................................................................... 24 表 5. SINIT/MLE 功能的真值表 ............................................................................................. 25 表 6. SGX 索引内容 ............................................................................................................. 79 表 7. IA32_SE_SVN_STATUS MSR (0x500) ............................................................................. 79 表 8. 经过身份验证的代码模块格式 ............................................................................................. 83 表 9. AC 模块标志说明 ............................................................................................................. 86 表 10. 芯片组 AC 模块信息表 ................................................................................................ 88 表 11. 芯片组 ID 列表 ............................................................................................................. 90 表 12. TXT_ACM_CHIPSET_ID 格式 ...................................................................................... 90 表 13. 处理器 ID 列表 .......................................................................................................... 91 表 14. TXT_ACM_PROCESSOR_ID 格式 ...................................................................................... 91 表 15. TPM 信息列表 ............................................................................................................. 91 表 16. TPM 功能字段 ............................................................................................................. 92 表 17 ACM 版本信息列表 ............................................................................................................. 93 表 18 芯片组 ID 列表 ............................................................................................................. 94 表 19 芯片组 2 ID 列表 ............................................................................................................. 95 表 20 TXT_ACM_CHIPSET_ID_2 格式 ............................................................................................. 95 表 21 处理器 ID 列表 ............................................................................................................. 96 表 22 TPM 信息列表 ............................................................................................................. 97 表 24. 处理器启动的 Intel ® TXT 关闭的类型字段编码 ................................101 表 25. TPM 局部地址映射 ...................................................................................................... 112 表 26. Intel ® 可信执行技术堆 ................................................................................................ 113 表 27. BIOS 数据表 ................................................................................................................ 116 表 28. MLE 标志字段位定义 ................................................................................................ 117 表 29. OS 到 SINIT 数据表 ................................................................................................ 119 表 30. SINIT 到 MLE 数据表 ................................................................................................ 122 表 31. SINIT 内存描述符记录 ................................................................................................ 123 表 32 扩展堆元素注册表 ........................................................................................................ 125 表 33. AUX 数据结构 ................................................................................................................ 140 表 34. SINIT 退出并返回 MLE 时的平台状态 ........................................................................ 142 表 35. 事件类型........................................................................................................... 146 表 36. 通用 TXT.ERRORCODE 寄存器格式 .......................................................................... 153 表 37. CPU 发起的 TXT 关闭的 TXT.ERRORCODE 寄存器格式 ................................................ 153 表 38. ACM 发起的 TXT 关闭的 TXT.ERRORCODE 寄存器格式 ............................................................. 154 表 39. TPM 系列 2.0 NV 存储矩阵 ......................................................................................... 156................................................. 142 表 35. 事件类型 .......................................................................................................... 146 表 36. 通用 TXT.ERRORCODE 寄存器格式 ................................................................ 153 表 37. CPU 发起的 TXT 关闭的 TXT.ERRORCODE 寄存器格式 ................................................ 153 表 38. ACM 发起的 TXT 关闭的 TXT.ERRORCODE 寄存器格式 ................................................ 154 表 39. TPM 系列 2.0 NV 存储矩阵 ............................................................................................. 156................................................. 142 表 35. 事件类型 .......................................................................................................... 146 表 36. 通用 TXT.ERRORCODE 寄存器格式 ................................................................ 153 表 37. CPU 发起的 TXT 关闭的 TXT.ERRORCODE 寄存器格式 ................................................ 153 表 38. ACM 发起的 TXT 关闭的 TXT.ERRORCODE 寄存器格式 ................................................ 154 表 39. TPM 系列 2.0 NV 存储矩阵 ............................................................................................. 156
带有相关 Tensorflow* 或 PyTorch* 内核的 Jupyter* 笔记本,从源代码存储库克隆训练示例笔记本 (ipynb 文件),使用所选数据集训练模型并将训练好的模型上传到您选择的存储设施。通过“启动 Red Hat OpenShift Data Science”学习路径了解有关如何使用 Red Hat* OpenShift* Data Science 的更多信息。对于本教程中选择的示例,我们假设开发人员已完成此部分,并将训练好的 PyTorch* 肾脏分割模型上传到 AWS* S3 存储桶。为方便起见,我们以 OpenVINO™ 中间表示 (IR) 文件的形式为本练习提供预训练模型。有关说明,请参阅先决条件部分。2. 不同英特尔® 硬件上的 AI 模型推理利用了英特尔® 开发者云