Pytorch查看释放程序占用GPU Pytorch 怎样查看、释放已关闭程序占用的GPU资源

软件发布|下载排行|最新软件

当前位置:首页IT学院IT技术

Pytorch查看释放程序占用GPU Pytorch 怎样查看、释放已关闭程序占用的GPU资源

JianzhuWang   2021-05-20 我要评论
想了解Pytorch 怎样查看、释放已关闭程序占用的GPU资源的相关内容吗,JianzhuWang在本文为您仔细讲解Pytorch查看释放程序占用GPU的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:Pytorch,查看释放,占用GPU资源,下面大家一起来学习吧。

看代码吧~

import torch 
print(torch.cuda.current_device())
print(torch.cuda.device_count())
print(torch.cuda.get_device_name())
print(torch.cuda.is_available())

打开terminal输入nvidia-smi可以看到当前各个显卡及用户使用状况,如下图所示,使用kill -9 pid(需替换成具体的编号)即可杀掉占用资源的程序,杀完后结果如下图所示,可以发现再也没有对应自己的程序了!

补充一下师弟帮忙的记录截图,方便以后查询使用:

补充:如何处理Pytorch使用GPU后仍有GPU资源未释放的情况

使用PyTorch设置多线程(threads)进行数据读取(DataLoader),其实是假的多线程,他是开了N个子进程(PID都连着)进行模拟多线程工作,所以你的程序跑完或者中途kill掉主进程的话,子进程的GPU显存并不会被释放,需要手动一个一个kill才行

具体方法描述如下:

1.先关闭ssh(或者shell)窗口,退出重新登录

2.查看运行在gpu上的所有程序:

fuser -v /dev/nvidia*

3.kill掉所有(连号的)僵尸进程

以上为个人经验,希望能给大家一个参考,也希望大家多多支持。

Copyright 2022 版权所有 软件发布 访问手机版

声明:所有软件和文章来自软件开发商或者作者 如有异议 请与本站联系 联系我们