纯净、安全、绿色的下载网站

首页

当前位置:首页IT学院IT技术

PyTorch梯度裁剪避免nan PyTorch梯度裁剪避免训练loss nan的操作

一个菜鸟的奋斗   2021-05-24 我要评论
想了解PyTorch梯度裁剪避免训练loss nan的操作的相关内容吗,一个菜鸟的奋斗在本文为您仔细讲解PyTorch梯度裁剪避免nan的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:PyTorch训练,梯度裁剪,避免训练loss,nan,下面大家一起来学习吧。

近来在训练检测网络的时候会出现loss为nan的情况,需要中断重新训练,会很麻烦。因而选择使用PyTorch提供的梯度裁剪库来对模型训练过程中的梯度范围进行限制,修改之后,不再出现loss为nan的情况。

PyTorch中采用torch.nn.utils.clip_grad_norm_来实现梯度裁剪,链接如下:

https://pytorch.org/docs/stable/_modules/torch/nn/utils/clip_grad.html

训练代码使用示例如下:

from torch.nn.utils import clip_grad_norm_
outputs = model(data)
loss= loss_fn(outputs, target)
optimizer.zero_grad()
loss.backward()
# clip the grad
clip_grad_norm_(model.parameters(), max_norm=20, norm_type=2)
optimizer.step()

其中,max_norm为梯度的最大范数,也是梯度裁剪时主要设置的参数。

备注:网上有同学提醒在(强化学习)使用了梯度裁剪之后训练时间会大大增加。目前在我的检测网络训练中暂时还没有碰到这个问题,以后遇到再来更新。

补充:pytorch训练过程中出现nan的排查思路

1、最常见的就是出现了除0或者log0这种

看看代码中在这种操作的时候有没有加一个很小的数,但是这个数数量级要和运算的数的数量级要差很多。一般是1e-8。

2、在optim.step()之前裁剪梯度

optim.zero_grad()
loss.backward()
nn.utils.clip_grad_norm(model.parameters, max_norm, norm_type=2)
optim.step()

max_norm一般是1,3,5。

3、前面两条还不能解决nan的话

就按照下面的流程来判断。

...
loss = model(input)
# 1. 先看loss是不是nan,如果loss是nan,那么说明可能是在forward的过程中出现了第一条列举的除0或者log0的操作
assert torch.isnan(loss).sum() == 0, print(loss)
optim.zero_grad()
loss.backward()
# 2. 如果loss不是nan,那么说明forward过程没问题,可能是梯度爆炸,所以用梯度裁剪试试
nn.utils.clip_grad_norm(model.parameters, max_norm, norm_type=2)
# 3.1 在step之前,判断参数是不是nan, 如果不是判断step之后是不是nan
assert torch.isnan(model.mu).sum() == 0, print(model.mu)
optim.step()
# 3.2 在step之后判断,参数和其梯度是不是nan,如果3.1不是nan,而3.2是nan,
# 特别是梯度出现了Nan,考虑学习速率是否太大,调小学习速率或者换个优化器试试。
assert torch.isnan(model.mu).sum() == 0, print(model.mu)
assert torch.isnan(model.mu.grad).sum() == 0, print(model.mu.grad)

以上为个人经验,希望能给大家一个参考,也希望大家多多支持。


相关文章

猜您喜欢

  • Docker搭建ELK日志系统 基于Docker搭建ELK 日志系统的方法

    想了解基于Docker搭建ELK 日志系统的方法的相关内容吗,Time-Traveler在本文为您仔细讲解Docker搭建ELK日志系统的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:Docker,搭建,ELK,日志系统,Docker,,ELK,日志系统,下面大家一起来学习吧。..
  • 多线程模拟站点售票 Java实战之多线程模拟站点售票

    想了解Java实战之多线程模拟站点售票的相关内容吗,wayne_lee_lwc在本文为您仔细讲解多线程模拟站点售票的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:Java多线程,java模拟站点售票,下面大家一起来学习吧。..

网友评论

Copyright 2022 版权所有 软件发布

声明:所有软件和文章来自软件开发商或者作者 如有异议 请与本站联系 联系我们