Pytorch獲取無梯度TorchTensor中的值
更新時間：2021年05月22日 08:59:23 作者：_Epsilon_
這篇文章主要介紹了Pytorch獲取無梯度TorchTensor中的值，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教
獲取無梯度Tensor
遇到的問題：
使用兩個網(wǎng)絡(luò)并行運(yùn)算，一個網(wǎng)絡(luò)的輸出值要給另一個網(wǎng)絡(luò)反饋。而反饋的輸出值帶有網(wǎng)絡(luò)權(quán)重的梯度，即grad_fn=<XXXBackward0>.
這時候如果把反饋值扔到第二網(wǎng)絡(luò)中更新，會出現(xiàn)第一個計算圖丟失無法更新的錯誤。哎喲喂，我根本不需要第一個網(wǎng)絡(luò)的梯度好嗎？
一開始用了一個笨辦法，先轉(zhuǎn)numpy，然后再轉(zhuǎn)回torch.Tensor。因為numpy數(shù)據(jù)是不帶梯度的。
但是我的原始tensor的放在cuda上的，
cuda的張量是不能直接轉(zhuǎn)Tensor，所以
t_error = td_error.cuda().data.cpu().numpy() t_error = torch.FloatTensor(t_error).to(device)
從cuda轉(zhuǎn)回了cpu，變成numpy，又轉(zhuǎn)成了tensor，又回到了cuda上，坑爹呢這是，可能只有我才能寫出如此低效的辣雞代碼了。
后來發(fā)現(xiàn)，其實直接在返回的時候添加
with torch.no_grad(): td_error = reward + GAMMA * v_ - v
即可.
補(bǔ)充：在pytorch中取一個tensor的均值，然后該張量中的所有值與其對比！
Pytorch中的Tensor的shape是(B, C, W, H)，
對該tensor取均值并與所有值做對比代碼如下：
C, H, W = tensor.shape[1], tensor.shape[2], tensor.shape[3] for c in range(C): mean = torch.mean(x[0][c]) for h in range(H): for w in range(W): if x[0][c][h][w] >= mean: x[0][c][h][w] = mean
以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
Spring Cloud Feign高級應(yīng)用實例詳解
這篇文章主要介紹了Spring Cloud Feign高級應(yīng)用實例詳解,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2019-12-12
python opencv檢測目標(biāo)顏色的實例講解
下面小編就為大家分享一篇python opencv檢測目標(biāo)顏色的實例講解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-04-04
今天小編就為大家分享一篇pandas重新生成索引的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-11-11
這篇文章主要為大家詳細(xì)介紹了如何利用Python實現(xiàn)一個自動工作匯報的腳本，文中的示例代碼講解詳細(xì)，對我們學(xué)習(xí)Python有一定幫助，需要的可以參考一下2022-08-08
這篇文章主要介紹了Python 文件操作的詳解及實例的相關(guān)資料,希望通過本文大家能夠理解掌握Python 文件操作的知識，需要的朋友可以參考下2017-09-09
在本篇文章里小編給大家整理了一篇關(guān)于python unittest單元測試的步驟，對此有興趣的朋友們可以跟著學(xué)習(xí)下。2021-08-08
用virtualenv建立多個Python獨(dú)立虛擬開發(fā)環(huán)境
這篇文章主要為大家詳細(xì)介紹了用virtualenv建立多個Python獨(dú)立虛擬開發(fā)環(huán)境，具有一定的參考價值，感興趣的小伙伴們可以參考一下2017-07-07
這篇文章主要為大家詳細(xì)介紹了python+POP3實現(xiàn)批量下載郵件附件，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-06-06
Python 實現(xiàn)數(shù)據(jù)結(jié)構(gòu)-循環(huán)隊列的操作方法
這篇文章主要介紹了Python 實現(xiàn)數(shù)據(jù)結(jié)構(gòu)-循環(huán)隊列的操作方法,需要的朋友可以參考下2019-07-07
Pandas數(shù)據(jù)形狀df.shape的實現(xiàn)
本文主要介紹了Pandas數(shù)據(jù)形狀df.shape的實現(xiàn)，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-07-07