人工智能學(xué)習(xí)pyTorch的ResNet殘差模塊示例詳解

1.定義ResNet殘差模塊
一個block中,有兩個卷積層,之后的輸出還要和輸入進(jìn)行相加。因此一個block的前向流程如下:
輸入x→卷積層→數(shù)據(jù)標(biāo)準(zhǔn)化→ReLU→卷積層→數(shù)據(jù)標(biāo)準(zhǔn)化→數(shù)據(jù)和x相加→ReLU→輸出out
中間加上了數(shù)據(jù)的標(biāo)準(zhǔn)化(通過nn.BatchNorm2d實現(xiàn)),可以使得效果更好一些。
①各層的定義

②前向傳播
在前向傳播中輸入x,過程中根據(jù)前向流程,調(diào)用上面定義的層即可。

如此,便定義好了一個殘差的模塊。
2.ResNet18的實現(xiàn)
此處的ResNet18并沒有涉及到太多細(xì)節(jié),只是一個大致的內(nèi)容。
在初始化的時候,定義好所需要使用的模塊,根據(jù)上面定義好的殘差模塊,調(diào)用即可。在這里使用了4次殘差模塊,將通道數(shù)從輸入的3(也就是RGB),變成了512通道。也就是最終提取的高級特征。提取完特征,直接輸入給Linear方法,得到圖片在10種圖片類型上的結(jié)果,用于預(yù)測以及損失值的求解。
①各層的定義

②前向傳播
同樣的,調(diào)用上面定義好的層,根據(jù)流程傳播即可。

3.測試ResNet18
如下圖,輸入的是2張圖,RGB,長寬均是32的數(shù)據(jù)。
通過ResNet18之后,輸出的是2張圖,每張圖對應(yīng)10種類型的不同取值logits。
過程中的通道數(shù)目的轉(zhuǎn)換如下面的結(jié)果所示:3→64→128→256→512→512
過程中的尺寸轉(zhuǎn)換,根據(jù)設(shè)置的卷積核,以及步長,會有不同的結(jié)果。但總體都是為了得到更高級的特征,最終輸入全連層,得到Logits。


以上就是人工智能學(xué)習(xí)pyTorch的ResNet殘差模塊示例詳解的詳細(xì)內(nèi)容,更多關(guān)于PyTorch人工智能學(xué)習(xí)ResNet殘差模塊的資料請關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
Python入門開發(fā)教程 windows下搭建開發(fā)環(huán)境vscode的步驟詳解
大家都知道Python是跨平臺的,它可以運(yùn)行在Windows、Mac和各種Linux/Unix系統(tǒng)上。在Windows上寫Python程序,放到Linux上也是能夠運(yùn)行的,今天給大家分享Python開發(fā)環(huán)境搭建vscode的步驟,一起看看吧2021-07-07
Python實現(xiàn)子類調(diào)用父類的初始化實例
這篇文章主要介紹了Python實現(xiàn)子類調(diào)用父類的初始化實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-03-03
Jmeter調(diào)用Python腳本實現(xiàn)參數(shù)互相傳遞的實現(xiàn)
這篇文章主要介紹了Jmeter調(diào)用Python腳本實現(xiàn)參數(shù)互相傳遞的實現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-01-01
Python中playwright啟動瀏覽器與常見運(yùn)行方式詳解
Playwright是一個功能強(qiáng)大的工具,可以幫助開發(fā)人員自動化測試、網(wǎng)頁截圖、信息提取等任務(wù),本文主要介紹了如何使用Playwright來啟動瀏覽器,感興趣的可以了解下2024-05-05

