新博客系列 - TorchVision 开发人员回忆录

我将开始撰写有关 PyTorch 计算机视觉库开发的新博客文章系列。我计划主要讨论 TorchVision 和 PyTorch 生态系统中即将推出的有趣功能。我的目标是重点介绍新功能和正在开发的功能，并阐明发布期间发生的事情。虽然格式可能会随着时间的推移而改变，但我最初计划保持简短，并为那些想要深入了解的人提供参考。最后，我不会按固定间隔发布文章，而是在有足够多有趣的主题要介绍时才发布。

TorchVision

免责声明：所涵盖的功能将偏向我个人感兴趣的主题。PyTorch 生态系统非常庞大，而我只能看到其中的一小部分。涵盖（或不涵盖）某个功能并不说明其重要性。所表达的观点仅代表我个人。

免责声明：

好了，让我们看看接下来会发生什么：

交叉熵损失的标签平滑

PyTorch 上一个备受期待的功能是支持软目标并在交叉熵损失中添加标签平滑选项。这两个功能都旨在使标签平滑变得简单，第一个选项在使用 mixup/cutmix 等数据增强技术时提供更大的灵活性，第二个选项对于简单情况更高效。软目标选项已由 Joel Schlosser 合并到 master，而 label_smoothing 选项正在由 Thomas J. Fan 开发，目前正在审核中。

支持软目标 添加标签平滑选项 mixup cutmix 已合并到 master 正在开发中

新的预热调度程序

学习率预热是训练模型时常用的一种技术，但到目前为止，PyTorch 还没有提供现成的解决方案。最近，Ilqar Ramazanli 推出了一款支持线性和恒定预热的新调度程序。目前正在进行的工作是改进现有调度程序的链式能力和组合。

引入 组合 Twitter