快捷導(dǎo)航

PyTorch中反卷積的用法詳解

更新時(shí)間：2019年12月30日 15:16:48 作者：月牙眼的樓下小黑

今天小編就為大家分享一篇PyTorch中反卷積的用法詳解，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧

pytorch中的 2D 卷積層和 2D 反卷積層函數(shù)分別如下：

class torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, groups=1, bias=True)

class torch.nn.ConvTranspose2d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, bias=True)

我不禁有疑問(wèn)：

問(wèn)題1：兩個(gè)函數(shù)的參數(shù)為什么幾乎一致呢？

問(wèn)題2：反卷積層中的 output_padding是什么意思呢？

問(wèn)題3：反卷積層如何計(jì)算input和output的形狀關(guān)系呢？

看了中文文檔后，我得不出答案，看了英文文檔，才弄明白了。花費(fèi)了一個(gè)下午的時(shí)間去研究這個(gè)問(wèn)題，值得用此文紀(jì)錄一下。

我們知道，在卷積層中，輸入輸出的形狀關(guān)系為：

o = [ (i + 2p - k)/s ] +1 （1）

其中：

O : 為 output size

i: 為 input size

p: 為 padding size

k: 為kernel size

s: 為 stride size

[] 為下取整運(yùn)算

(1) 當(dāng) S=1 時(shí)

若 s等于1，則公式（1）中的取整符號(hào)消失，o 與 i 為一一對(duì)應(yīng) 的關(guān)系。我們有結(jié)論：

如果卷積層函數(shù)和反卷積層函數(shù)的 kernel_size, padding size參數(shù)相同（且 stride= 1），設(shè)反卷基層的輸入輸出形狀為 i' 和 o', 卷積層的輸入輸出形狀i和o, 則它們?yōu)?交叉對(duì)應(yīng) 的關(guān)系，即：

i = o'
o = i'

為回答問(wèn)題3, 我們將上述關(guān)系代入公式中，即：

i' = o' + 2p - k +1

已知 i', 即可推出 o':

o' = i' - 2p + k - 1 （2）

摘兩個(gè)例子：

(2) 當(dāng) S>1 時(shí)

若 S>1 , 則公式（1）中的取整符號(hào)不能消去，o 與 i 為多對(duì)1 的關(guān)系。效仿 S=1時(shí)的情形, 我們有結(jié)論：

如果卷積層函數(shù)和反卷積層函數(shù)的 kernel_size, padding size參數(shù)相同（且 stride>1），設(shè)反卷基層的輸入輸出形狀為 i' 和 o', 卷積層的輸入輸出形狀i和o,

i' = [ (o' + 2p - k)/s ] +1

已知 i', 我們可以得出 s 個(gè) o' 解:

o'(0) = ( i' - 1) x s + k - 2p
o'(1) = o'(1) + 1
o'(2) = o'(1) + 2
...
o'(s-1) = o'(1) + s-1

即：

o'(n) =o'(1) + n = ( i' - 1) x s + k - 2p + n,
n = {0, 1, 2...s-1}

為了確定唯一的 o' 解，我們用反卷積層函數(shù)中的ouput padding參數(shù)指定公式中的 n 值。這樣，我們就回答了問(wèn)題（2）。

摘一個(gè)簡(jiǎn)單的例子：

(3) 實(shí)驗(yàn)驗(yàn)證

給出一小段測(cè)試代碼，改變各個(gè)參數(shù)值，運(yùn)行比較來(lái)驗(yàn)證上面得出的結(jié)論，have fun~.

from torch import nn
from torch.nn import init
from torch.autograd import Variable

dconv = nn.ConvTranspose2d(in_channels=1, out_channels= 1, kernel_size=2, stride=2, padding=1,output_padding=0, bias= False)
init.constant(dconv.weight, 1)
print(dconv.weight)

input = Variable(torch.ones(1, 1, 2, 2))
print(input)
print(dconv(input))

以上這篇PyTorch中反卷積的用法詳解就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

您可能感興趣的文章: