摘要 如今,预测机器学习模型通常以无状态且昂贵的方式进行更新。对于想要构建基于机器学习的应用程序和系统的公司来说,未来的主要趋势是实时推理和持续更新。不幸的是,这两种趋势都需要成熟的基础设施,而这些基础设施在本地实现起来既困难又昂贵。本文定义了一种称为持续学习即服务 (CLaaS) 的新型软件服务和模型交付基础设施来解决这些问题。具体来说,它包含持续机器学习和持续集成技术。它为数据科学家提供模型更新和验证工具支持,而无需本地解决方案,并且以高效、有状态且易于使用的方式提供。最后,这种 CL 模型服务很容易封装在任何机器学习基础设施或云系统中。本文介绍了一种称为 Continual Brain 的 CLaaS 实例的设计和实现,并在两个真实场景中进行了评估。前者是使用 CORe50 数据集的机器人对象识别设置,而后者是使用时尚领域的 DeepFashion-C 数据集的命名类别和属性预测。我们的初步结果表明,无论计算发生在连续边缘云的何处,持续学习模型服务的可用性和效率以及该解决方案在解决实际用例方面的有效性。
主要关键词