pytorch梯度剪裁方式
更新時間：2020年02月04日 14:54:42 作者：wang xiang
今天小編就為大家分享一篇pytorch梯度剪裁方式，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
我就廢話不多說，看例子吧！
import torch.nn as nn outputs = model(data) loss= loss_fn(outputs, target) optimizer.zero_grad() loss.backward() nn.utils.clip_grad_norm_(model.parameters(), max_norm=20, norm_type=2) optimizer.step()
nn.utils.clip_grad_norm_ 的參數(shù)：
parameters – 一個基于變量的迭代器，會進行梯度歸一化
max_norm – 梯度的最大范數(shù)
norm_type – 規(guī)定范數(shù)的類型，默認為L2
以上這篇pytorch梯度剪裁方式就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
實習(xí)項目要做安全帽目標檢測，拿到了公司給的一些視頻數(shù)據(jù)，使用Opencv讀取視頻并每隔1s存儲一副圖像，本文就詳細的介紹一下使用，感興趣的可以了解一下2021-06-06
這篇文章主要介紹了python中Event實現(xiàn)線程間同步，Event是python線程間同步一種常用的方法，下列內(nèi)容總結(jié)需要的朋友可以參考一下2022-04-04
上篇文章我們介紹了簡單的Python web程序，實現(xiàn)hello world，本文我們來結(jié)合一下mysql，實現(xiàn)對數(shù)據(jù)庫的簡單操作，希望對大家有所幫助2014-09-09
在Python中,使用base64模塊可以解碼Base64編碼的圖片數(shù)據(jù),首先需要去除Base64字符串的前綴,然后使用base64.b64decode()函數(shù)進行解碼,最后將解碼后的數(shù)據(jù)保存為圖片文件,適用于各種MIME類型的Base64編碼2024-09-09
用python生成(動態(tài)彩色)二維碼的方法(使用myqr庫實現(xiàn))
今天小編就為大家分享一篇用python生成(動態(tài)彩色)二維碼的方法(使用myqr庫實現(xiàn))，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-06-06
Windows命令行打印文件使用print 命令，具體用法可使用help print查看，下面是使用Python調(diào)用print指令執(zhí)行打印文件功能的代碼,需要的朋友可以參考下2020-02-02
Dockerfile構(gòu)建一個Python Flask 鏡像
這篇文章主要介紹了Dockerfile構(gòu)建一個Python Flask 鏡像，對正在學(xué)習(xí)的你有一定的參考價值，需要的小伙伴可以參考一下2022-01-01
這篇文章主要為大家詳細介紹了python實現(xiàn)飛機大戰(zhàn)游戲，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2019-04-04
這篇文章主要介紹了Tornado服務(wù)器中綁定域名、虛擬主機的方法,本人查看了Tornado才得的方法,特此分享,需要的朋友可以參考下2014-08-08
這篇文章主要介紹了在Python中使用__slots__方法的詳細教程,__slots__方法是Python的一個重要內(nèi)置類方法,代碼基于Python2.x版本,需要的朋友可以參考下2015-04-04