Optimizing Data Transfer in Batched AI/ML Inference Workloads
借助 NVIDIA Nsight™ 系统深入探讨数据传输瓶颈、识别瓶颈及其解决方案 - 第 2 部分优化批量 AI/ML 推理工作负载中的数据传输一文首先出现在 Towards Data Science 上。
Optimizing Data Transfer in AI/ML Workloads
借助 NVIDIA Nsight™ 系统，深入探讨数据传输瓶颈、识别瓶颈和解决方案优化 AI/ML 工作负载中的数据传输一文首先出现在 Towards Data Science 上。
Breaking the Hardware Barrier: Software FP8 for Older GPUs
深度学习工作负载越来越受内存限制，GPU 核心在等待数据传输时处于空闲状态。 FP8 精度在较新的硬件上解决了这个问题，但是已经部署的数百万个 RTX 30 和 20 系列 GPU 又如何呢？ Feather 证明，通过按位打包进行基于软件的 FP8 仿真可以实现接近理论的 4 倍带宽改进（实测为 3.3 倍），无需昂贵的硬件升级即可实现高效的深度学习。《打破硬件障碍：适用于旧版 GPU 的软件 FP8》一文首先出现在《走向数据科学》上。
Как за два дня построить сеть передачи данных в офисе? Кейс УЦСБ и Sofinet
国外企业网络设备制造商离开后，俄罗斯出现了数十种新的解决方案，理论上可以提供大公司所需的功能。然而，在现实中，认证和测试并不总是能够有效地进行，因此在实施此类解决方案时，可能会出现与第三方外设不兼容或堆叠在一起的多台交换机运行不稳定等问题。当设备的所述特性与其实际功能不匹配时，公司会发现为其网络基础设施找到合适的解决方案变得更加困难。在这种情况下，选择错误可能会导致以后的操作出现问题。我们告诉您，在这种情况下，IT 公司 UCSB 如何找到现有制造商设备的替代品，并在两天之内在新办公室部署了数据传输网络。寻找解决方案：为什么我们选择 Sofinet 在为新办公室准备数据网络时，UCSB 团队面
