XiaoMi-AI文件搜索系统
World File Search SystemDDR5
PowerEdge R360
使用PowerEdge R360将企业提升到新的高度，由最新的Intel®Xeon®E-2400处理器提供动力，Dell PowerEdge R360专为生产力和数据密集型应用程序而设计，使其非常适合您不断增长的业务。使用4400/mt DDR5和Advanced NVME Boss-N1，它支持降低的延迟和无缝可扩展性，以使计算能力提高到一个新的水平。除了计算能力之外，Dell PowerEdge R360配备了能源有效的电源，热水插头的仓库，空气冷却风扇，使其成为可靠，负责任和安全的选择。
随处部署人工智能
12 Habana Gaudi2 深度学习加速器：所有测量均使用 Habana SynapseAI 版本 1.10 和 optimum-habana 版本 1.6 在 HLS2 Gaudi2 服务器上进行，该服务器具有八个 Habana Gaudi2 HL-225H 夹层卡和两个 Intel Xeon Platinum 8380 CPU @ 2.30GHz 和 1TB 系统内存。性能测量于 2023 年 7 月进行。第四代英特尔至强 8480：英特尔第四代至强铂金 8480+ 2 插槽系统，112 核/224 线程，Turbo Boost 开启，超线程开启，内存：16x32GB DDR5 4800MT/s，存储：953.9GB）；操作系统：CentOS Stream 8；内核：5.15.0-spr.bkc.pc.16.4.24.x86_64；批次大小：1；在 1 个插槽上测量：1；PyTorch 每日构建 0711；英特尔® PyTorch 扩展标签 v2.1.0.dev+cpu.llm；模型：Llama 2 7B 和 Llama 2 13B；数据集 LAMBADA；令牌长度：32/128/1024/2016（输入）、32（输出）；波束宽度 4；精度：BF16 和 INT8；英特尔于 2023 年 7 月 12 日进行测试。英特尔至强 Max 9480：英特尔至强 Max 9480 2 插槽系统，112 核/224 线程，Turbo Boost 开启，超线程开启，内存：16x64GB DDR5 4800MT/s；8x16GB HBM2 3200 MT/s，存储：1.8TB；操作系统：CentOS Stream 8；内核：5.19.0-0812.intel_next.1.x86_64+server；批次大小：1；在 1 个插槽上测量；PyTorch nightly build0711；英特尔® PyTorch 扩展 llm_feature_branch；模型：Llama 2 7B 和 Llama 2 13B，数据集 LAMBADA；令牌长度：32/128/1024/2016（输入）、32（输出）；波束宽度 4；精度：BF16 和 INT8；英特尔于 2023 年 7 月 12 日进行测试。英特尔数据中心 GPU Max 系列：1 个节点、2 个英特尔至强铂金 8480+、56 个内核、超线程开启、睿频开启、NUMA 2、总内存 1024GB（16x64GB DDR5 4800 MT/s [4800 MT/s]）、BIOS SE5C7411.86B.9525.D19.2303151347、微码 0x2b0001b0、1 个以太网控制器 X710（用于 10GBASE-T）、1 个 1.8T WDC WDS200T2B0B、1 个 931.5G 英特尔 SSDPELKX010T8、Ubuntu 22.04.2 LTS、5.15.0-76-generic、4 个英特尔数据中心 GPU Max 1550（仅使用单个 OAM 的单个 Tile 进行测量） GPU 卡）、IFWI PVC 2_1.23166、agama 驱动程序：agama-ci-devel-627.7、英特尔 oneAPI 基础工具包 2023.1、PyTorch 2.0.1 + 英特尔 PyTorch 扩展 v2.0.110+xpu（dev/LLM 分支）、AMC 固件版本：6.5.0.0、型号：Meta AI Llama 2 7B 和 Llama 2 13B、数据集 LAMBADA；令牌长度：32/128/1024/2016（输入）、32（输出）；贪婪搜索；精度 FP16；由英特尔于 2023 年 7 月 7 日测试。
利用英特尔® AMX 和英特尔® TME 解决方案设计简介加速 AI 推理工作负载并提高 Azure Stack HCI 上的安全性
处理器 QS 预生产版（40 核，2.0 GHz）、1 个英特尔® 服务器主板（QuantaGrid D54Q-2U）、总内存：512 GB（16x 32 GB 4800 MHz DDR5 DIMM）、英特尔® 超线程技术 = 开启、英特尔® 睿频加速技术 = 开启、BIOS = SE5C741.86B.01.01.0002.2212220608、微码 = 0x2b0001b0 存储（启动）：1 个 Solidigm DC S4610（960 GB）、存储：6 个 Solidigm D7-P5510 系列（3.84 TB）、网络设备：1 个 25 GbE 英特尔® 以太网网络适配器 E810-XXV-4 @ 25 GbE、1 个 10 GbE 英特尔® 以太网融合网络适配器 X550-T2 @ 1 GbE、操作系统/软件：带有 Ubuntu Server 2022 的 Microsoft Azure Stack HCI 版本 20385。
B13DET——超微
Supermicro B13DET 支持双第四代英特尔® 至强® 可扩展处理器（插槽 E1 LGA 4677-1），具有三个 UPI（最高 16GT/s）和高达 350W 的 TDP（热设计功率）。B13DET 采用英特尔 C741 芯片组构建，支持 4TB（最高）3DS RDIMM/RDIMM DDR5 ECC 内存，在 16 个 DIMM 插槽中速度高达 4800MT/s（下面的注释 1）。这款主板具有出色的 I/O 可扩展性和灵活性，包括两个支持 SATA 6G/NVMe 的 HDD 连接器、一个支持 PCIe 5.0 的 M.2 连接器、两个支持子转接卡的夹层插槽、一个支持 25GbE 以太网 LAN 的中板，以及来自 PCH 的用于支持 SATA 6.0 的额外 SATA 连接器。它还提供最先进的数据保护，支持硬件 RoT（信任根）和 TPM（可信平台模块）（见下文注释 2）。B13DET 针对 4U/8U SuperBlade 系统进行了优化，具有高密度和高速输入/输出能力。它是高性能计算 (HPC)、云计算、财务建模、企业应用程序、具有数据密度应用程序的科学和工程计算的理想选择。请注意，此主板仅供专业技术人员安装和维修。有关处理器/内存更新，请参阅我们的网站 http://www.supermicro.com/products/。
B13DET-超微
Supermicro B13DET 支持双第四代 Intel® Xeon® 可扩展处理器（插槽 E1 LGA 4677-1），具有三个 UPI（最高 16GT/s）和高达 350W 的 TDP（热设计功率）。B13DET 采用 Intel C741 芯片组构建，支持 4TB（最高）3DS RDIMM/RDIMM DDR5 ECC 内存，在 16 个 DIMM 插槽中速度高达 4800MT/s（见下文注释 1）。该主板具有出色的 I/O 可扩展性和灵活性，包括两个支持 SATA 6G/NVMe 的 HDD 连接器、一个支持 PCIe 5.0 的 M.2 连接器、两个支持子转接卡的夹层插槽、一个支持 25GbE 以太网 LAN 的中板，以及一个来自 PCH 的用于支持 SATA 6.0 的附加 SATA 连接器。它还提供最先进的数据保护，支持硬件 RoT（信任根）和 TPM（可信平台模块）（下面的注释 2）。B13DET 针对具有高密度和高速输入/输出能力的 4U/8U SuperBlade 系统进行了优化。它是高性能计算 (HPC)、云计算、财务建模、企业应用程序、具有数据密度应用程序的科学和工程计算的理想选择。请注意，此主板仅供专业技术人员安装和维修。有关处理器/内存更新，请参阅我们的网站 http://www.supermicro.com/products/。
Nantero ACE RFI 响应高级计算...
Nantero, Inc. 的 NRAM ® 内存技术是一种非易失性、字节寻址的光纤连接内存层解决方案，可满足对更好的 Optane ™ 替代品的需求。NRAM 是 DRAM 和 NAND Flash 的颠覆性替代品，可以降低成本，具有更好的功率、延迟和性能特性，提供 EMP 保护和 RadHard 功能，并为 2025-2030 年及以后的系统架构和平台增强提供未来保障。NRAM 比传统内存技术消耗更少的能源，从而降低碳排放，同时还支持未来的计算能力变化，例如 CXL、内存处理、分解、边缘计算等。当今内存系统中的大部分电力都用于刷新；NRAM 可以通过兼容 DDR5 的部件消除这一问题，为 DoE、整个 USG 和整个行业带来立竿见影的巨大胜利。 Nantero 需要政府支持资金用于技术创新，并获得使用政府资金为研究人员和小公司建造的新 EUV 晶圆厂的权限，以鼓励像 Nantero 这样的创新。有了这种至关重要的支持，晶圆厂访问和准备就绪之间的差距可以弥合，即 Nantero 等创新者目前需要的东西与大型成熟公司在没有政府参与和监督的情况下定期向创新者提供的有限现实之间的差距。一旦提供这种晶圆厂访问和支持，Nantero 的 NRAM 内存技术将发挥其成本和性能优势，从而颠覆 DRAM 和 NAND 闪存，为能源部、美国政府和行业现在和未来几年提供广泛的功能。
了解新兴行业解决方案的安全益处和开销
我们介绍了最先进的DRAM-DIE读取干扰方法的第一个严格的安全性，绩效，能源和成本分析，该方法在更新（截至2024年4月）中（截至2024年4月）JEDEC DDR5规格中的更新（截至截至2024年4月）在更新中的描述方面被广泛称为“ PRAC”（PRAC）。与先前的最新技术不同，它建议内存控制器发出名为Refresh Management（RFM）的DRAM命令，该命令为DRAM芯片提供了时间来执行其对策，PRAC引入了新的后退信号。PRAC的向后信号从DRAM芯片传播到存储器控制器，并迫使内存控制器到1）停止服务请求，2）发出RFM命令。因此，仅在需要时就发布RFM命令，而不是定期降低RFM的性能开销。我们分四个步骤分析PRAC。首先，我们定义了一个面向安全的对抗访问模式，该模式代表了PRAC安全性最差的案例。第二，我们研究了PRAC的不同形象及其安全含义。我们的安全性分析表明，只要在访问内存位置20次之前，就可以将PRAC配置为安全操作。第三，我们评估了PRAC的性能影响，并使用开源周期级模拟器Ramulator 2.0将其与先前的作品进行了比较。我们的性能分析表明，尽管PRAC在当今DRAM芯片的良性应用程序上的性能开销少于13％，但对于将来的DRAM芯片来说，其性能开销可以达到94％（平均为60个工作负载，平均为85％），这些芯片更容易受到读取令人不安的人。第四，我们定义了一种面向可用性的对抗访问模式，该模式加剧了PRAC的性能开销，以执行记忆性能，这表明这种对抗性模式可以诱发多达94％的DRAM吞吐量和降低系统吞吐量的94％（平均为87％）。我们讨论了PRAC对未来系统和预示未来研究方向的影响。为了帮助未来的研究，我们可以在https://github.com/cmu-safari/ramulator2上开放实施和脚本。
通过机密计算加速 AI 推理
声明和免责声明 1. 在搭载英特尔 SGX 和英特尔 AMX 的第四代至强可扩展处理器上运行 TensorFlow ResNet50 推理工作负载时，性能提升高达 7.57 倍。请参阅下面的配置详细信息。 2. 在搭载英特尔 SGX 和英特尔 AMX 的第四代至强可扩展处理器上运行 Bert-Large 推理工作负载时，性能提升高达 5.26 倍。请参阅下面的配置详细信息。 3. 与上一代相比，在搭载英特尔 SGX 和英特尔 AMX 的第四代英特尔至强可扩展处理器上以 INT8 精度运行 Bert-Large 推理工作负载时，性能提升高达 4.61 倍。请参阅下面的配置详细信息。 4. 在配备英特尔 SGX 和英特尔 AMX 而非 FP32 的第四代英特尔至强可扩展处理器上运行 TensorFlow ResNet50 推理工作负载时，INT8 精度下的性能提升高达 8.02 倍，BF16 精度下的性能提升高达 4.30 倍。请参阅下面的配置详细信息。5. 在配备英特尔 SGX 和英特尔 AMX 而非 FP32 的第四代英特尔至强可扩展处理器上运行 Bert-Large 推理工作负载时，INT8 精度下的性能提升高达 5.46 倍，BF16 精度下的性能提升高达 4.17 倍。请参阅下面的配置详细信息。配置详细信息测试 1：截至 2022 年 11 月 21 日，英特尔进行测试。1 节点、2x 英特尔® 至强® 铂金 8380 CPU @ 2.30GHz、40 个内核、超线程关闭、睿频开启、总内存 512 GB（16x32GB DDR4 3200 MT/s [运行速度为 3200 MT/s]）、BIOS 版本 SE5C6200.86B.0022.D64.2105220049、ucode 版本 0xd000375、操作系统版本 Ubuntu 22.04.1 LTS、内核版本 6.0.6-060006-generic、工作负载/基准使用 Fortanix 在安全区域内进行深度学习推理、框架版本 TensorFlow 2.11、模型名称和版本ResNet50v1.5/Bert-Large TEST-2：截至 2022 年 11 月 21 日，英特尔进行测试。1 节点、2x 英特尔® 至强® 铂金 8480+ CPU @ 2.0GHz、56 核、超线程关闭、睿频开启、总内存 512 GB（16x32GB DDR5 4800 MT/s [运行于 4800 MT/s]）、BIOS 版本 3A05、ucode 版本 0x2b000070、操作系统版本 Ubuntu 22.04.1 LTS、内核版本 6.0.6-060006-generic、工作负载/基准使用 Fortanix 在安全区域中进行深度学习推理、框架版本 TensorFlow 2.11、模型名称和版本 ResNet50v1.5/Bert-Large 性能因使用情况、配置和其他因素而异。欲了解更多信息，请访问性能指数网站。性能结果基于截至配置中所示日期的测试，可能无法反映所有公开可用的更新。有关配置详细信息，请参阅备份。没有任何产品或组件能够绝对安全。您的成本和结果可能会有所不同。英特尔技术可能需要启用硬件、软件或激活服务。© 英特尔公司。英特尔、英特尔徽标和其他英特尔标志是英特尔公司或其子公司的商标。其他名称和品牌可能是其他财产。