机构名称：
¥ 3.0
人工智能和机器学习正在工业界和学术界得到广泛应用。这是由于人工智能的应用和准确性通过日益复杂的算法和模型迅速发展所推动的；这反过来又刺激了对专用硬件人工智能加速器的研究。鉴于进步的快速步伐，人们很容易忘记它们通常是在真空中开发和评估的，没有考虑完整的应用环境。本文强调需要对人工智能工作负载进行整体、端到端分析，并揭示“人工智能税”。我们在边缘数据中心部署和描述人脸识别。该应用程序是一个以人工智能为中心的边缘视频分析应用程序，使用流行的开源基础设施和机器学习工具构建。尽管使用了最先进的人工智能和机器学习算法，但该应用程序严重依赖于预处理和后处理代码。随着以人工智能为中心的应用程序受益于加速器承诺的加速，我们发现它们给硬件和软件基础设施带来了压力：随着人工智能加速的增加，存储和网络带宽成为主要瓶颈。通过专注于人工智能应用，我们表明，专门构建的边缘数据中心可以设计用于应对加速人工智能的压力，其 TCO 比来自同质服务器和基础设施的 TCO 低 15%。
人工智能税：人工智能数据中心应用的隐性成本
主要关键词
相关文件推荐
