生产中的深度学习:笔记本电脑设置和系统设计

关于如何在生产中编写和部署深度学习系统的文章课程。python 代码优化、云托管和系统设计

来源:AI夏令营

你好,欢迎来到“生产中的深度学习”课程。

在本系列文章中,我们的目标非常简单。我们将从一个包含原型深度学习代码(即研究项目)的 colab 笔记本开始,然后部署和扩展它以服务数百万或数十亿(好吧,也许我太兴奋了)的用户。

我们将逐步探索以下概念和想法:

    如何构建和开发可用于生产的机器学习代码,如何优化模型的性能和内存需求,以及如何通过在云端设置小型服务器将其提供给公众。
  • 如何构建和开发可用于生产的机器学习代码,
  • 如何构建和开发可用于生产的机器学习代码,

  • 如何优化模型的性能和内存要求,以及
  • 如何优化模型的性能和内存要求,以及

  • 如何通过在云端设置小型服务器使其可供公众使用。
  • 如何通过在云端设置小型服务器使其可供公众使用。

    但这并不是全部。 之后,我们需要扩展我们的服务器,以便能够处理用户群不断增长的流量。

    我们需要扩展我们的服务器

    因此,请从机器学习的角度为一些严肃的软件工程做好准备。 实际上,现在我正在考虑,这个系列更合适的标题是“深度学习和软件工程”。

    为了阐明为什么软件工程是深度学习中不可否认的重要组成部分,我们以 Google Assistant 为例。毫无疑问,Google Assistant 背后有一个巧妙的机器学习算法(可能是 BERT、LSTM 和天知道还有什么的组合)。但你认为仅凭这项惊人的研究就能同时回答数百万用户的查询吗?绝对不是。幕后有数十名软件工程师,他们维护、优化和构建系统。这正是我们即将发现的。

    最佳实践 在这里 =