pytorch實現(xiàn)對輸入超過三通道的數(shù)據(jù)進行訓練
案例背景:視頻識別
假設每次輸入是8s的灰度視頻,視頻幀率為25fps,則視頻由200幀圖像序列構成.每幀是一副單通道的灰度圖像,通過pythonb里面的np.stack(深度拼接)可將200幀拼接成200通道的深度數(shù)據(jù).進而送到網(wǎng)絡里面去訓練.
如果輸入圖像200通道覺得多,可以對視頻進行抽幀,針對具體場景可以隨機抽幀或等間隔抽幀.比如這里等間隔抽取40幀.則最后輸入視頻相當于輸入一個40通道的圖像數(shù)據(jù)了.
pytorch對超過三通道數(shù)據(jù)的加載:
讀取視頻每一幀,轉為array格式,然后依次將每一幀進行深度拼接,最后得到一個40通道的array格式的深度數(shù)據(jù),保存到pickle里.
對每個視頻都進行上述操作,保存到pickle里.
我這里將火的視頻深度數(shù)據(jù)保存在一個.pkl文件中,一共2504個火的視頻,即2504個火的深度數(shù)據(jù).
將非火的視頻深度數(shù)據(jù)保存在一個.pkl文件中,一共3985個非火的視頻,即3985個非火的深度數(shù)據(jù).
數(shù)據(jù)加載
import torch
from torch.utils import data
import os
from PIL import Image
import numpy as np
import pickle
class Fire_Unfire(data.Dataset):
def __init__(self,fire_path,unfire_path):
self.pickle_fire = open(fire_path,'rb')
self.pickle_unfire = open(unfire_path,'rb')
def __getitem__(self,index):
if index <2504:
fire = pickle.load(self.pickle_fire)#高*寬*通道
fire = fire.transpose(2,0,1)#通道*高*寬
data = torch.from_numpy(fire)
label = 1
return data,label
elif index>=2504 and index<6489:
unfire = pickle.load(self.pickle_unfire)
unfire = unfire.transpose(2,0,1)
data = torch.from_numpy(unfire)
label = 0
return data,label
def __len__(self):
return 6489
root_path = './datasets/train' dataset = Fire_Unfire(root_path +'/fire_train.pkl',root_path +'/unfire_train.pkl') #轉換成pytorch網(wǎng)絡輸入的格式(批量大小,通道數(shù),高,寬) from torch.utils.data import DataLoader fire_dataloader = DataLoader(dataset,batch_size=4,shuffle=True,drop_last = True)
模型訓練
import torch
from torch.utils import data
from nets.mobilenet import mobilenet
from config.config import default_config
from torch.autograd import Variable as V
import numpy as np
import sys
import time
opt = default_config()
def train():
#模型定義
model = mobilenet().cuda()
if opt.pretrain_model:
model.load_state_dict(torch.load(opt.pretrain_model))
#損失函數(shù)
criterion = torch.nn.CrossEntropyLoss().cuda()
#學習率
lr = opt.lr
#優(yōu)化器
optimizer = torch.optim.SGD(model.parameters(),lr = lr,weight_decay=opt.weight_decay)
pre_loss = 0.0
#訓練
for epoch in range(opt.max_epoch):
#訓練數(shù)據(jù)
train_data = Fire_Unfire(opt.root_path +'/fire_train.pkl',opt.root_path +'/unfire_train.pkl')
train_dataloader = data.DataLoader(train_data,batch_size=opt.batch_size,shuffle=True,drop_last = True)
loss_sum = 0.0
for i,(datas,labels) in enumerate(train_dataloader):
#print(i,datas.size(),labels)
#梯度清零
optimizer.zero_grad()
#輸入
input = V(datas.cuda()).float()
#目標
target = V(labels.cuda()).long()
#輸出
score = model(input).cuda()
#損失
loss = criterion(score,target)
loss_sum += loss
#反向傳播
loss.backward()
#梯度更新
optimizer.step()
print('{}{}{}{}{}'.format('epoch:',epoch,',','loss:',loss))
torch.save(model.state_dict(),'models/mobilenet_%d.pth'%(epoch+370))
RuntimeError: Expected object of scalar type Long but got scalar type Float for argument #2 'target'
解決方案:target = target.long()
以上這篇pytorch實現(xiàn)對輸入超過三通道的數(shù)據(jù)進行訓練就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
- pytorch使用horovod多gpu訓練的實現(xiàn)
- pytorch VGG11識別cifar10數(shù)據(jù)集(訓練+預測單張輸入圖片操作)
- 解決pytorch多GPU訓練保存的模型,在單GPU環(huán)境下加載出錯問題
- pytorch 使用加載訓練好的模型做inference
- Pytorch自己加載單通道圖片用作數(shù)據(jù)集訓練的實例
- PyTorch加載預訓練模型實例(pretrained)
- Pytorch保存模型用于測試和用于繼續(xù)訓練的區(qū)別詳解
- 解決Pytorch 加載訓練好的模型 遇到的error問題
- pytorch 準備、訓練和測試自己的圖片數(shù)據(jù)的方法
- 使用PyTorch訓練一個圖像分類器實例
- 使用PyTorch將文件夾下的圖片分為訓練集和驗證集實例
- 基于pytorch 預訓練的詞向量用法詳解
- PyTorch預訓練Bert模型的示例
相關文章
pytorch 預訓練模型讀取修改相關參數(shù)的填坑問題
這篇文章主要介紹了pytorch 預訓練模型讀取修改相關參數(shù)的填坑問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2021-06-06
Python的Flask框架應用程序實現(xiàn)使用QQ賬號登錄的方法
利用QQ開放平臺的API使用QQ賬號登錄是現(xiàn)在很多網(wǎng)站都具備的功能,而對于Flask框架來說則有Flask-OAuthlib這個現(xiàn)成的輪子,這里我們就來看一下Python的Flask框架應用程序實現(xiàn)使用QQ賬號登錄的方法2016-06-06

