PyTorch中 tensor.detach() 和 tensor.data 的區(qū)別詳解
更新時間：2020年01月06日 14:46:20 作者：夢家
今天小編就為大家分享一篇PyTorch中 tensor.detach() 和 tensor.data 的區(qū)別詳解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
PyTorch0.4中，.data 仍保留，但建議使用 .detach(), 區(qū)別在于 .data 返回和 x 的相同數(shù)據(jù) tensor, 但不會加入到x的計算歷史里，且require s_grad = False, 這樣有些時候是不安全的, 因為 x.data 不能被 autograd 追蹤求微分 。
.detach() 返回相同數(shù)據(jù)的 tensor ,且 requires_grad=False ,但能通過 in-place 操作報告給 autograd 在進(jìn)行反向傳播的時候.
舉例：
tensor.data
>>> a = torch.tensor([1,2,3.], requires_grad =True) >>> out = a.sigmoid() >>> c = out.data >>> c.zero_() tensor([ 0., 0., 0.]) >>> out # out的數(shù)值被c.zero_()修改 tensor([ 0., 0., 0.]) >>> out.sum().backward() # 反向傳播 >>> a.grad # 這個結(jié)果很嚴(yán)重的錯誤，因為out已經(jīng)改變了 tensor([ 0., 0., 0.])
tensor.detach()
>>> a = torch.tensor([1,2,3.], requires_grad =True) >>> out = a.sigmoid() >>> c = out.detach() >>> c.zero_() tensor([ 0., 0., 0.]) >>> out # out的值被c.zero_()修改 !! tensor([ 0., 0., 0.]) >>> out.sum().backward() # 需要原來out得值，但是已經(jīng)被c.zero_()覆蓋了，結(jié)果報錯 RuntimeError: one of the variables needed for gradient computation has been modified by an
以上這篇PyTorch中 tensor.detach() 和 tensor.data 的區(qū)別詳解就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
Python UnicodeEncodeError: ''gbk'' codec can''t encode chara
這篇文章主要介紹了Python UnicodeEncodeError: 'gbk' codec can't encode character 解決方法,需要的朋友可以參考下2015-04-04
這篇文章主要介紹了Python中的異常處理學(xué)習(xí)筆記,本文講解了常見的異常類、自定義異常類、捕獲異常、拋出異常、上下文管理器等內(nèi)容,需要的朋友可以參考下2015-01-01
到年底了，現(xiàn)在的時間適合寫點最近的小總結(jié),所以下面這篇文章主要介紹了Python中遇到的一些小問題及解決方法,需要的朋友可以參考借鑒，下面來一起學(xué)習(xí)學(xué)習(xí)吧。2017-01-01
這篇文章主要介紹了Python中NumPy的ufuncs函數(shù)實例,NumPy是一個開源的Python科學(xué)計算庫,使用NumPy，就可以很自然地使用數(shù)組和矩陣,本文主要介紹Python Numpy ufuncs通用函數(shù),需要的朋友可以參考下2023-07-07
下面小編就為大家分享一篇淺談numpy庫的常用基本操作方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-01-01
這篇文章主要為大家詳細(xì)介紹了python編寫一個GUI倒計時器，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們可以參考一下2022-08-08
詳解基于Jupyter notebooks采用sklearn庫實現(xiàn)多元回歸方程編程
這篇文章主要介紹了詳解基于Jupyter notebooks采用sklearn庫實現(xiàn)多元回歸方程編程，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-03-03
python正則表達(dá)式re.match()匹配多個字符方法的實現(xiàn)
這篇文章主要介紹了python正則表達(dá)式re.match()匹配多個字符方法的實現(xiàn),文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-01-01
寫了個圖片蜘蛛人玩玩，抓了幾個網(wǎng)頁試試，感覺不不錯。核心的代碼可能20行也不到，簡潔明了，嘻嘻。廢話少說，翠花，上代碼2012-08-08
Python 給定的經(jīng)緯度標(biāo)注在地圖上的實現(xiàn)方法
今天小編就為大家分享一篇Python 給定的經(jīng)緯度標(biāo)注在地圖上的實現(xiàn)方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07