XiaoMi-AI文件搜索系统
World File Search System每秒
神经处理单元每秒执行的 TERA 操作数 (TOPS)
在人工智能和机器学习时代，对高效、强大的硬件加速器的需求对于嵌入式系统和边缘设备的实时处理和低功耗至关重要。神经处理单元 (NPU) 旨在处理深度学习任务的高计算需求，其基准是其每秒执行大量操作的能力。评估 NPU 性能的主要指标是每秒万亿次操作 (TOPS)，这是一种计算吞吐量度量，代表每秒万亿次操作。本文探讨了 TOPS 作为关键性能指标的作用，研究了它如何影响从自动驾驶汽车到移动设备等各个领域的 NPU 设计、优化和应用。此外，我们讨论了仅依赖 TOPS 的局限性，包括由于功率效率、内存带宽和特定于模型的要求不同而导致的性能差异。通过分析案例研究并将 TOPS 与其他指标进行比较，本研究旨在全面了解 TOPS 如何影响 NPU 开发以及对推进 AI 驱动技术的更广泛影响。
“如何度过人工智能寒冬” James Luke 博士，IBM 杰出工程师和首席发明家 如果您不知道，人工智能寒冬是指在人们对人工智能的期望达到顶峰之后出现的低迷，资金枯竭，专业人士对其潜力嗤之以鼻。70 年代末 80 年代初发生过一次人工智能寒冬，十年后又发生过一次——最后一次是在 1992 年。在这样的“寒冬”里，人们对人工智能嗤之以鼻并不罕见——James Luke 深情地回忆起 IBM 的一位（至今仍是）高管在他职业生涯早期告诉他，“如果你想在公司有所成就，就离开人工智能”。但即便是 Luke 也承认，考虑到挑战的规模，出现怀疑者并不奇怪。Luke 在会议开幕式主旨演讲中表示：“我们试图用人工智能重塑人脑的智能，这是人类面临的最大工程挑战。” “它比曼哈顿计划、比大型强子对撞机还要大——但我们通常只以两三个人组成的团队进行研究。”尽管如此，他仍敦促与会代表对人工智能保持积极态度，因为如果以正确的方式对待，人工智能可以发挥作用并带来巨大的机遇。那么，什么才是“正确的方式”？卢克说，人工智能有效用例的最佳例子之一仍然是 1997 年超级计算机深蓝与世界冠军国际象棋选手加里卡斯帕罗夫之间的著名比赛。深蓝曾在 1996 年挑战卡斯帕罗夫并失败，而它的架构师 IBM 决心不再重蹈覆辙。IBM 工程师寻求另一位国际象棋大师的帮助来构建深蓝，并对计算机进行编程，使其能够预测未来 14 步。从本质上讲，它复制了人类的能力，但通过巨大的规模进行了扩展。尽管“深蓝”赢得了 1997 年的锦标赛，但它的局限性也暴露无遗。当时参与打造它的大师说：“深蓝每秒评估两百万步，我评估三步。但我怎么知道该评估哪三步？”卢克说，这句话完美地概括了人工智能的缺点：“我们还没有解决这个问题，我们不明白大师如何知道该评估哪三步。这是智能和人工智能之间差异的一个很好的例子。人工智能不会比人类更好——人类脑细胞比电子神经元复杂得多。”他补充说，人工智能经常被认为比人类智能更好，因为它不会忘记东西。但卢克认为，人类忘记的能力是智能的一部分，因为忘记可以帮助我们“概括、实验和学习”——更不用说不会被我们做过的所有可耻的事情所打败。卢克分享了三条让人工智能发挥作用的建议：
“如何度过人工智能寒冬” James Luke 博士，IBM 杰出工程师和首席发明家 如果您不知道，人工智能寒冬是指在人们对人工智能的期望达到顶峰之后出现的低迷，资金枯竭，专业人士对其潜力嗤之以鼻。70 年代末 80 年代初发生过一次人工智能寒冬，十年后又发生过一次——最后一次是在 1992 年。在这样的“寒冬”里，人们对人工智能嗤之以鼻并不罕见——James Luke 深情地回忆起 IBM 的一位（至今仍是）高管在他职业生涯早期告诉他，“如果你想在公司有所成就，就离开人工智能”。但即便是 Luke 也承认，考虑到挑战的规模，出现怀疑者并不奇怪。Luke 在会议开幕式主旨演讲中表示：“我们试图用人工智能重塑人脑的智能，这是人类面临的最大工程挑战。” “它比曼哈顿计划、比大型强子对撞机还要大——但我们通常只以两三个人组成的团队进行研究。”尽管如此，他仍敦促与会代表对人工智能保持积极态度，因为如果以正确的方式对待，人工智能可以发挥作用并带来巨大的机遇。那么，什么才是“正确的方式”？卢克说，人工智能有效用例的最佳例子之一仍然是 1997 年超级计算机深蓝与世界冠军国际象棋选手加里卡斯帕罗夫之间的著名比赛。深蓝曾在 1996 年挑战卡斯帕罗夫并失败，而它的架构师 IBM 决心不再重蹈覆辙。IBM 工程师寻求另一位国际象棋大师的帮助来构建深蓝，并对计算机进行编程，使其能够预测未来 14 步。从本质上讲，它复制了人类的能力，但通过巨大的规模进行了扩展。尽管“深蓝”赢得了 1997 年的锦标赛，但它的局限性也暴露无遗。当时参与打造它的大师说：“深蓝每秒评估两百万步，我评估三步。但我怎么知道该评估哪三步？”卢克说，这句话完美地概括了人工智能的缺点：“我们还没有解决这个问题，我们不明白大师如何知道该评估哪三步。这是智能和人工智能之间差异的一个很好的例子。人工智能不会比人类更好——人类脑细胞比电子神经元复杂得多。”他补充说，人工智能经常被认为比人类智能更好，因为它不会忘记东西。但卢克认为，人类忘记的能力是智能的一部分，因为忘记可以帮助我们“概括、实验和学习”——更不用说不会被我们做过的所有可耻的事情所打败。卢克分享了三条让人工智能发挥作用的建议：