-
torch-optimizer集合,即pytorch-optimizer,是Pytorch的优化器合集
资源介绍
火炬优化器
torch-optimizer -- 与模块兼容的优化器集合。
简单的例子
import torch_optimizer as optim
# model = ...
optimizer = optim . DiffGrad ( model . parameters (), lr = 0.001 )
optimizer . step ()
安装
安装过程很简单,只需:
$ pip install torch_optimizer
文档
https://pytorch-optimizer.rtfd.io
支持的优化器
A2GradExp
https://arxiv.org/abs/1810.00553
A2GradInc
https://arxiv.org/abs/1810.00553
A2GradUni
https://arxiv.org/abs/1810.00