A100 80GB GPU 的 GPU 内存带宽比 A100 40GB GPU 增加了 30%,成为全球首款每秒 2 兆字节 (TB/s) 的 GPU。与上一代 NVIDIA GPU 相比,它的片上内存也显著增加,包括 40 兆字节 (MB) 的二级缓存,其容量几乎增加了 7 倍,从而最大程度地提高了计算性能。DGX A100 还首次推出了第三代 NVIDIA ® NVLink ®,将 GPU 到 GPU 的直接带宽提高了一倍,达到每秒 600 千兆字节 (GB/s),几乎比 PCIe Gen 4 高 10 倍,并且新的 NVIDIA NVSwitch ™ 比上一代快 2 倍。这种前所未有的强大功能可以最快地解决问题,使用户能够应对以前不可能或不切实际的挑战。