Optimizer 优化器

在import torch之后，torch.optim中包含了多种优化器，用于算法的优化，例如更新参数等。常见的优化器有SGD、Adam、Adagrad，需要参数传进去并优化，后续通过optimizer.step()可以实现每步训练完模型之后，都进行参数的优化更新。optimizer = torch.optim.Adam(model.parameters(), lr=0.01, weight_de

让我安静会

1678人浏览 · 2022-03-16 11:09:56

让我安静会 · 2022-03-16 11:09:56 发布

在import torch之后，torch.optim中包含了多种优化器，用于算法的优化，例如更新参数等。

常见的优化器有SGD、Adam、Adagrad，需要参数传进去并优化，后续通过optimizer.step()可以实现每步训练完模型之后，都进行参数的优化更新。

optimizer = torch.optim.Adam(model.parameters(), lr=0.01, weight_decay=0.01)
optimizer = torch.optim.Adagrad(model.parameters(), lr=0.01, weight_decay=0.01)
optimizer = optim.Adam(model.parameters(), lr = 0.01)

参考：

torch.optim优化算法理解之optim.Adam()：https://blog.csdn.net/kgzhang/article/details/77479737

天启AI社区

GitCode 天启AI是一款由 GitCode 团队打造的智能助手，基于先进的LLM（大语言模型）与多智能体 Agent 技术构建，致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话，还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力，真正做到“一句话，让 Al帮你完成复杂任务”。

更多推荐