nvidia(mlnx_ofed)是ofed的NVIDIA测试和包装版本,并使用相同的RDMA(远程DMA)和核旁路APIS支持两种互连类型,称为Infiniband和Ethernet。最多可达400GB/s Infiniband和ROCE(基于RDMA,基于RDMA),并支持启用OEM和系统集成商,以满足上述市场中最终用户的需求。
预计的性能可能会更改令牌到token的延迟(TTL)= 50毫秒(MS)实时GPT-3 175B:第一个令牌延迟(FTL)2s;输入序列长度= 2,048,输出序列长度= 128,4 HGX H100气冷400GB IB网络与2 GB200 SuperChips液体冷却NVLink;根据GPU性能比较,GPT-MOE-1.8T:FTL = 5s;输入序列长度= 32,768,输出序列长度= 1,024,8 HGX H100气冷400GB IB网络vs 18 GB200 SuperChips液体冷却NVL36;每GPU性能比较
基于NVIDIA Quantum-2的QM9700和QM9790开关系统在1U标准底盘设计中,每个端口提供了前所未有的64个端口,为400GB/s Infiniband。单个开关的汇总双向吞吐量为每秒51.2 Terabits(TB/s),地标超过665亿数据包(BPPS)。NVIDIA Quantum-2支持最新的NVIDIA高速互连400GB/S技术,带来了高速,极低的潜伏期和可扩展的解决方案,其中包含了最先进的技术,例如远程直接内存访问(RDMA),适应性路由,适应性路由,以及NVIDIA可伸缩的层次汇总集合和锋利的层次结构(Sprand Cartigation and Replection and Redication and Redication and Redication and Redication and Reduction and Reduction and Reduction and Repluction and Reduction)™。
项目名称 用于传感和光学互连的硅光子集成电路 负责人 曾汉基教授(电子工程系) 工学院院长、伟伦电子工程学教授 成员 易丹博士 博士(电子工程),2022 年 陈吴大卫博士 博士(电子工程),2023 年 周学桐博士 博士(电子工程),2023 年 项目描述 本项目旨在开发下一代硅光子集成电路技术,该技术可以提高系统性能,使其超越纯微电子集成电路所能达到的水平。 该团队的核心专业知识是硅光子学,这是中大二十多年的研究成果。作为亚洲最早开发硅光子学的团队之一,该团队拥有一些最先进的硅光子设计,可用于提高通讯设备、3D 成像和量子信息系统的性能。遵循微电子行业无晶圆厂设计业务模式的成功范例,我们将专注于设计,同时利用现有的代工厂制造光子集成电路 (PIC)。该团队将构建子系统,用作其他公司生产的产品的核心组件。他们的产品将包括用于数据中心互连的基于硅光子的 1.6 和 3.2 TbE 光学引擎,以及用于医疗设备和工业计量的小型手持式光学相干断层扫描 (OCT) 成像系统。创始成员包括电子工程系的曾汉基教授、易丹博士、陈吴博士和周学桐博士。曾汉基教授是工程学院院长和伟伦电子工程教授,在硅光子学方面拥有超过 23 年的研发经验,包括成功将新产品推向市场。易丹博士于 2022 年获得中大博士学位,并荣获工程学院最佳论文奖。 David WU Chan 博士于 2023 年获得博士学位,并开发出最先进的工作速度超过 400Gb/s 的硅调制器。周学桐博士于 2023 年获得博士学位,并开发出最先进的先进光纤到芯片接口,该接口可提供同类最佳的性能,具有高耦合效率(耦合损耗小于 0.9dB)和宽工作带宽。
