基于python介紹pytorch保存和恢復(fù)參數(shù)
一、讀寫文件
1.加載和保存張量
import torch from torch import nn from torch.nn import functional as F import os path = os.path.join(os.getcwd(), "") x = torch.arange(4) torch.save(x, path + "x-file")
現(xiàn)在我們可以將存儲在文件中的數(shù)據(jù)讀回內(nèi)存
x2 = torch.load(path + "x-file") x2
tensor([0, 1, 2, 3])
我們可以存儲一個(gè)張量列表，然后把他們讀回內(nèi)存
y = torch.zeros(4) torch.save([x, y], path + 'x-file') x2, y2 = torch.load(path + 'x-file') (x2, y2)
(tensor([0, 1, 2, 3]), tensor([0., 0., 0., 0.]))
我們甚至可以寫入或讀取從字符串映射到張量的字典。當(dāng)我們要讀取或?qū)懭肽Ｐ椭械乃袡?quán)重時(shí)，這很方便
mydict = {'x': x, 'y': y}
torch.save(mydict, path + 'mydict')
mydict2 = torch.load('mydict')
mydict2{'x': tensor([0, 1, 2, 3]), 'y': tensor([0., 0., 0., 0.])}2.加載和保存模型
保存單個(gè)權(quán)重向量確實(shí)有用，但是如果我們想保存整個(gè)模型，并在之后加載他們，單獨(dú)保存每個(gè)向量則會變得很麻煩。畢竟，我們可能有數(shù)百個(gè)參數(shù)分布在各處。深度學(xué)習(xí)框架提供了內(nèi)置函數(shù)來保存和加載整個(gè)網(wǎng)絡(luò)。需要注意的細(xì)節(jié)是，這里的保存模型并不是保存整個(gè)模型，而只是保存了其中的所有參數(shù)。
為了恢復(fù)模型，我們需要用代碼生成框架，然后從磁盤加載參數(shù)。
net = MLP() X = torch.randn(size=(2, 20)) Y = net(X)
我們將模型的參數(shù)存儲在一個(gè)叫做“mlp.params”的文件中
torch.save(net.state_dict(), 'mlp.params')
為了恢復(fù)模型，我們實(shí)例化了原始多層感知機(jī)模型的一個(gè)備份。這里我們不需要隨機(jī)初始化模型參數(shù)，而是直接讀取文件中的參數(shù)
clone = MLP()
clone.load_state_dict(torch.load('mlp.params'))
clone.eval()MLP( ? (hidden): Linear(in_features=20, out_features=256, bias=True) ? (out): Linear(in_features=256, out_features=10, bias=True) )
由于兩個(gè)實(shí)例具有相同的模型參數(shù)，在輸入相同的X時(shí)，兩個(gè)實(shí)例的計(jì)算結(jié)果應(yīng)該相同
Y_clone = clone(X) Y_clone == Y
tensor([[True, True, True, True, True, True, True, True, True, True], ? ? ? ? [True, True, True, True, True, True, True, True, True, True]])
到此這篇關(guān)于基于python介紹pytorch保存和恢復(fù)參數(shù)的文章就介紹到這了,更多相關(guān)pytorch保存和恢復(fù)參數(shù)內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
很多計(jì)算過程都需要每次從一個(gè)字符串中取一個(gè)字符,下面這篇文章主要給大家介紹了關(guān)于python遍歷字符串中每一個(gè)字符的4種方式,文中通過實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下2023-05-05
這篇文章主要介紹了Python中返回字典鍵的值的values()方法使用,是Python入門學(xué)習(xí)中的基礎(chǔ)知識,需要的朋友可以參考下2015-05-05
Python的Tqdm模塊實(shí)現(xiàn)進(jìn)度條配置
這篇文章主要介紹了Python的Tqdm模塊實(shí)現(xiàn)進(jìn)度條配置，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-02-02
Python基于內(nèi)置函數(shù)type創(chuàng)建新類型
這篇文章主要介紹了Python基于內(nèi)置函數(shù)type創(chuàng)建新類型,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-10-10
今天小編就為大家分享一篇python 使用裝飾器并記錄log的示例代碼，具有很好的參考價(jià)值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07
這篇文章主要介紹了Python中嘗試多線程編程的一個(gè)簡明例子,由于GIL的存在,Python中的多線程編程一個(gè)是熱點(diǎn)和難點(diǎn)問題,需要的朋友可以參考下2015-04-04
Matplotlib使用Cursor實(shí)現(xiàn)UI定位的示例代碼
這篇文章主要介紹了Matplotlib使用Cursor實(shí)現(xiàn)UI定位的示例代碼，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-03-03
這篇文章主要介紹了Python編程中字符串和列表的基本知識講解,是Python入門學(xué)習(xí)中的基礎(chǔ)知識,需要的朋友可以參考下2015-10-10
loss.item()是PyTorch中的一種方法,用于計(jì)算損失函數(shù)的值,下面這篇文章主要給大家介紹了關(guān)于loss.item()用法和注意事項(xiàng)的相關(guān)資料,需要的朋友可以參考下2023-06-06
這篇文章主要為大家介紹了Python 馬氏距離求取函數(shù)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來幫助2021-11-11