社区焦点：使用 torchopt 的乐趣

从一开始，看到 Torch 生态系统中开发出的软件包数量不断增加就令人兴奋不已。令人惊奇的是人们使用 Torch 可以做各种各样的事情：扩展其功能；集成其低级自动微分基础设施并将其用于特定领域；移植神经网络架构……最后但并非最不重要的是，回答科学问题。

torch torch

这篇博文将以简短而主观的形式介绍其中一个软件包：torchopt。在开始之前，有一件事我们可能应该更经常说：如果您想在此博客上发布一篇文章，介绍您正在开发的软件包或您使用 R 语言深度学习框架的方式，请告诉我们——非常欢迎您！

torchopt

torchopt

torchopt

torchopt 是由巴西国家空间研究所的 Gilberto Camara 及其同事开发的一个软件包。

torchopt torchopt Gilberto Camara 巴西国家空间研究所

从表面上看，这个软件包存在的理由是不言而喻的。torch 本身并没有——也不应该——实现所有新发布的、可能对你有用的优化算法。那么，这里组装的算法可能正是作者最渴望在自己的工作中尝试的算法。截至本文撰写时，它们包括流行的 ADA* 和 *ADAM* 系列的各种成员。我们可以放心地假设这个列表会随着时间的推移而增长。

torch ADA ADAM

我将通过强调一些从技术上讲“仅仅”是实用函数但对用户来说非常有用的东西来介绍这个包：对于任意优化器和任意测试函数，绘制优化过程中采取的步骤的能力。

(Yao 等人 2020) Yao 等人 2020 torch 专门的博客文章

它的工作方式

所讨论的实用函数名为 test_optim()。唯一必需的参数与要尝试的优化器 (optim) 有关。但您可能还想调整其他三个：

<-