Pytorch dataloader在加載最后一個batch時卡死的解決
更新時間：2021年05月28日 10:15:47 作者：Wilber529
這篇文章主要介紹了Pytorch dataloader在加載最后一個batch時卡死的解決方案，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教
問題：
自己寫了個dataloader，為了部署方便，用OpenCV的接口進行數(shù)據(jù)讀取，而沒有用PIL，代碼大致如下：
def __getitem__(self, idx):
sample = self.samples[idx]
img = cv2.imread(sample[0])
img = cv2.resize(img, tuple(self.input_size))
img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
# if not self.val and random.randint(1, 10) < 3:
# img = self.img_aug(img)
img = Image.fromarray(img)
img = self.transforms(img)
...
結(jié)果在訓(xùn)練過程中，在第1個epoch的最后一個batch時，程序卡死。
解決方案：
可能是因為OpenCV與Pytorch互鎖的問題，關(guān)閉OpenCV的多線程，問題解決。
cv2.setNumThreads(0) cv2.ocl.setUseOpenCL(False)
補充：pytorch 中一個batch的訓(xùn)練過程
# 一般情況下 optimizer.zero_grad() # 梯度清零 preds = model(inputs) # inference，前向傳播求出預(yù)測值 loss = criterion(preds, targets) # 計算loss loss.backward() # 反向傳播求解梯度 optimizer.step() # 更新權(quán)重，更新網(wǎng)絡(luò)權(quán)重參數(shù)
此外，反向傳播前，如果不進行梯度清零，則可以實現(xiàn)梯度累加，從而一定程度上解決顯存受限的問題。
以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
這篇文章主要介紹了解決jupyter加載文件失敗的問題，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2021-03-03
Python面向?qū)ο缶幊讨庋b的藝術(shù)你了解嗎
這篇文章主要為大家詳細介紹了Python面向?qū)ο缶幊讨庋b的藝術(shù)，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來幫助2022-02-02
這篇文章主要介紹了Python?list?append方法如何給列表追加元素，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2022-11-11
使用Python構(gòu)建一個Hexo博客發(fā)布工具
雖然Hexo的命令行工具非常強大,但對于日常的博客撰寫和發(fā)布過程,我總覺得缺少一個直觀的圖形界面來簡化操作,下面我們就來看看如何使用Python構(gòu)建一個Hexo博客發(fā)布工具吧2025-04-04
今天小編就為大家分享一篇對Python w和w+權(quán)限的區(qū)別詳解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-01-01
這篇文章主要為大家詳細介紹了python讀取圖片并修改格式與大小的方法，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-07-07
這篇文章主要為大家詳細介紹了python如何操作excel讓工作自動化，具有一定的參考價值，感興趣的小伙伴們可以參考一下2019-08-08
Python字符串的字符轉(zhuǎn)換、字符串劈分、字符串合并問題分析
這篇文章主要介紹了Python字符串的字符轉(zhuǎn)換、字符串劈分、字符串合并,本文通過實例代碼給大家介紹的非常詳細，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下2023-03-03
這篇文章主要介紹了keras建模的3種方式詳解,keras是Google公司于2016年發(fā)布的以tensorflow為后端的用于深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練的高階API,因接口設(shè)計非常人性化,深受程序員的喜愛,需要的朋友可以參考下2023-08-08
深入理解Python?@dataclass的內(nèi)部原理
文章介紹了Python中dataclass的實現(xiàn)原理,通過自定義裝飾器實現(xiàn)了__init__和__repr__方法,并解釋了__annotations__屬性和exec函數(shù)在其中的作用,感興趣的朋友跟隨小編一起看看吧2025-01-01