机构名称：
¥ 1.0
摘要 —我们提出了 NNStreamer，这是一个将神经网络作为流管道过滤器来处理的软件系统，将流处理范式应用于深度神经网络应用。随着深度神经网络应用的广泛传播，设备上的 AI 也成为一种新趋势。它是在移动设备或边缘/物联网设备而不是云服务器上处理神经网络。新出现的隐私问题、数据传输成本和运营成本意味着对设备上 AI 的需求，特别是在我们部署大量设备的情况下。NNStreamer 可以有效地处理设备上具有复杂数据流管道的神经网络，以最小的努力显著提高整体性能。此外，NNStreamer 简化了实现并允许直接重用现成的媒体过滤器，从而大大降低了开发成本。我们已经在包括 Galaxy 系列和各种消费电子设备在内的各种产品和平台上部署了 NNStreamer。实验结果表明，管道架构和 NNStreamer 的开发成本降低，性能增强。它是由 Linux Foundation AI 孵化的开源项目，可供公众使用，适用于各种硬件和软件平台。索引术语 — 神经网络、设备上 AI、流处理、管道和过滤器架构、开源软件
高效、敏捷地开发设备上的 AI 系统
主要关键词
相关文件推荐
