Pytorch根據(jù)layers的name凍結(jié)訓(xùn)練方式
更新時(shí)間:2020年01月06日 09:27:31 作者:木有感情的機(jī)器人
今天小編就為大家分享一篇Pytorch根據(jù)layers的name凍結(jié)訓(xùn)練方式,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧
使用model.named_parameters()可以輕松搞定,
model.cuda()
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 帶有參數(shù)名的模型的各個(gè)層包含的參數(shù)遍歷
if 'out' or 'merge' or 'before_regress' in name: # 判斷參數(shù)名字符串中是否包含某些關(guān)鍵字
continue
param.requires_grad = False
# #############################################################################################################
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)
以上這篇Pytorch根據(jù)layers的name凍結(jié)訓(xùn)練方式就是小編分享給大家的全部內(nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
python實(shí)現(xiàn)pptx批量向PPT中插入圖片
大家好,本篇文章主要講的是python實(shí)現(xiàn)pptx批量向PPT中插入圖片,感興趣的同學(xué)趕快來看一看吧,對你有幫助的話記得收藏一下2022-02-02
pytorch如何凍結(jié)某層參數(shù)的實(shí)現(xiàn)
這篇文章主要介紹了pytorch如何凍結(jié)某層參數(shù)的實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-01-01
基于Python的A*算法解決八數(shù)碼問題實(shí)現(xiàn)步驟
這篇文章主要給大家介紹了關(guān)于如何基于Python的A*算法解決八數(shù)碼問題的實(shí)現(xiàn)步驟,文中介紹了八數(shù)碼問題及其求解方法,通過啟發(fā)式搜索算法,特別是A*算法,可以有效地解決八數(shù)碼問題,,需要的朋友可以參考下2024-11-11
python 實(shí)現(xiàn)批量xls文件轉(zhuǎn)csv文件的方法
今天小編就為大家分享一篇python 實(shí)現(xiàn)批量xls文件轉(zhuǎn)csv文件的方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-10-10

