摘要 - 在过去的几年中,越来越多的AI应用程序应用于边缘设备。但是,由数据科学家培训的具有机器学习框架的模型,例如Pytorch或TensorFlow,无法在边缘无缝执行。在本文中,我们开发了一个端到端代码生成器,使用MicrotVM(机器学习编译器框架扩展程序扩展)解决裸机设备上的推理的后端,将预训练的模型解析为C源库。一个分析表明,具有通用模块化加速器(UMA)界面的专用计算密集型运算符可以轻松地向专用加速器进行流动,而其他则在CPU核心中处理。通过使用提前C运行时自动生成的自动生成,我们在ARM Cortex M4F核心上进行了手势识别实验。索引项 - TVM,MicroTVM,模型部署,BYOC,UMA
主要关键词