Pytorch中dataloader加载batch卡死问题如何处理
这篇文章主要介绍“Pytorch中dataloader加载batch卡死问题如何处理”,有一些人在Pytorch中dataloader加载batch卡死问题如何处理的问题上存在疑惑,接下来小编就给大家来介绍一下相关的内容,希望对大家解答有帮助,有这个方面学习需要的朋友就继续往下看吧。
以上就是关于“Pytorch中dataloader加载batch卡死问题如何处理”的介绍了,感谢各位的阅读,如果大家想要了解更多相关的内容,欢迎关注博信,小编每天都会为大家更新不同的知识。
问题:
自己写了个dataloader,为了部署方便,用OpenCV的接口进行数据读取,而没有用PIL,代码大致如下:
def __getitem__(self, idx): sample = self.samples[idx] img = cv2.imread(sample[0]) img = cv2.resize(img, tuple(self.input_size)) img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB) # if not self.val and random.randint(1, 10) < 3: # img = self.img_aug(img) img = Image.fromarray(img) img = self.transforms(img) ...
结果在训练过程中,在第1个epoch的最后一个batch时,程序卡死。
解决方案:
可能是因为OpenCV与Pytorch互锁的问题,关闭OpenCV的多线程,问题解决。
cv2.setNumThreads(0) cv2.ocl.setUseOpenCL(False)
补充:pytorch 中一个batch的训练过程
# 一般情况下 optimizer.zero_grad() # 梯度清零 preds = model(inputs) # inference,前向传播求出预测值 loss = criterion(preds, targets) # 计算loss loss.backward() # 反向传播求解梯度 optimizer.step() # 更新权重,更新网络权重参数
此外,反向传播前,如果不进行梯度清零,则可以实现梯度累加,从而一定程度上解决显存受限的问题。
以上就是关于“Pytorch中dataloader加载batch卡死问题如何处理”的介绍了,感谢各位的阅读,如果大家想要了解更多相关的内容,欢迎关注博信,小编每天都会为大家更新不同的知识。
版权声明
本文仅代表作者观点,不代表博信信息网立场。
上一篇:实例讲解Python批量修改文件名 下一篇:详解python中的求和函数sum()