快捷導(dǎo)航

python神經(jīng)網(wǎng)絡(luò)Pytorch中Tensorboard函數(shù)使用

更新時(shí)間：2022年05月07日 14:33:49 作者：Bubbliiiing

這篇文章主要為大家介紹了python神經(jīng)網(wǎng)絡(luò)Pytorch中Tensorboard常用函數(shù)的使用示例，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪

所需庫(kù)的安裝

很多人問(wèn)Pytorch要怎么可視化，于是決定搞一篇。

tensorboardX==2.0
tensorflow==1.13.2

由于tensorboard原本是在tensorflow里面用的，所以需要裝一個(gè)tensorflow。會(huì)自帶一個(gè)tensorboard。

也可以不裝tensorboardX，直接使用pytorch當(dāng)中的自帶的Tensorboard。導(dǎo)入方式如下：

from torch.utils.tensorboard import SummaryWriter

不過(guò)由于我使用pytorch當(dāng)中的自帶的Tensorboard的時(shí)候有一些bug。所以還是使用tensorboardX來(lái)寫(xiě)這篇博客。

常用函數(shù)功能

1、SummaryWriter()

這個(gè)函數(shù)用于創(chuàng)建一個(gè)tensorboard文件，其中常用參數(shù)有：

log_dir：tensorboard文件的存放路徑flush_secs：表示寫(xiě)入tensorboard文件的時(shí)間間隔

調(diào)用方式如下：

writer = SummaryWriter(log_dir='logs',flush_secs=60)

2、writer.add_graph()

這個(gè)函數(shù)用于在tensorboard中創(chuàng)建Graphs，Graphs中存放了網(wǎng)絡(luò)結(jié)構(gòu)，其中常用參數(shù)有：

model：pytorch模型

input_to_model：pytorch模型的輸入

如下所示為graphs：

調(diào)用方式如下：

if Cuda:
    graph_inputs = torch.from_numpy(np.random.rand(1,3,input_shape[0],input_shape[1])).type(torch.FloatTensor).cuda()
else:
    graph_inputs = torch.from_numpy(np.random.rand(1,3,input_shape[0],input_shape[1])).type(torch.FloatTensor)
writer.add_graph(model, (graph_inputs,))

3、writer.add_scalar()

這個(gè)函數(shù)用于在tensorboard中加入loss，其中常用參數(shù)有：

tag：標(biāo)簽，如下圖所示的Train_loss
scalar_value：標(biāo)簽的值
global_step：標(biāo)簽的x軸坐標(biāo)

調(diào)用方式如下：

writer.add_scalar('Train_loss', loss, (epoch*epoch_size + iteration))

4、tensorboard --logdir=

在完成tensorboard文件的生成后，可在命令行調(diào)用該文件，tensorboard網(wǎng)址。具體代碼如下：

tensorboard --logdir=D:\Study\Collection\Tensorboard-pytorch\logs

示例代碼

import torch
from torch.autograd import Variable
import torch.nn.functional as functional
from tensorboardX import SummaryWriter
import matplotlib.pyplot as plt
import numpy as np
# x的shape為(100,1)
x = torch.from_numpy(np.linspace(-1,1,100).reshape([100,1])).type(torch.FloatTensor)
# y的shape為(100,1)
y = torch.sin(x) + 0.2*torch.rand(x.size())
class Net(torch.nn.Module):
    def __init__(self, n_feature, n_hidden, n_output):
        super(Net, self).__init__()
        # Applies a linear transformation to the incoming data: :math:y = xA^T + b
        # 全連接層，公式為y = xA^T + b
        self.hidden = torch.nn.Linear(n_feature, n_hidden)
        self.predict = torch.nn.Linear(n_hidden, n_output)
    def forward(self, x):
        # 隱含層的輸出
        hidden_layer = functional.relu(self.hidden(x))
        output_layer = self.predict(hidden_layer)
        return output_layer
# 類的建立
net = Net(n_feature=1, n_hidden=10, n_output=1)
writer = SummaryWriter('logs')
graph_inputs = torch.from_numpy(np.random.rand(2,1)).type(torch.FloatTensor)
writer.add_graph(net, (graph_inputs,))
# torch.optim是優(yōu)化器模塊
optimizer = torch.optim.Adam(net.parameters(), lr=1e-3)
# 均方差loss
loss_func = torch.nn.MSELoss() 
for t in range(1000):
    prediction = net(x)
    loss = loss_func(prediction, y)
    # 反向傳遞步驟
    # 1、初始化梯度
    optimizer.zero_grad()
    # 2、計(jì)算梯度
    loss.backward()
    # 3、進(jìn)行optimizer優(yōu)化
    optimizer.step()
    writer.add_scalar('loss',loss, t)
writer.close()

效果如下：