在Pytorch中使用樣本權重(sample_weight)的正確方法
更新時間：2019年08月17日 11:22:22 作者：dlchang_chang
今天小編就為大家分享一篇在Pytorch中使用樣本權重(sample_weight)的正確方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
step：
1.將標簽轉換為one-hot形式。
2.將每一個one-hot標簽中的1改為預設樣本權重的值
即可在Pytorch中使用樣本權重。
eg：
對于單個樣本：loss = - Q * log(P),如下：
P = [0.1,0.2,0.4,0.3] Q = [0,0,1,0] loss = -Q * np.log(P)
增加樣本權重則為loss = - Q * log(P) *sample_weight
P = [0.1,0.2,0.4,0.3] Q = [0,0,sample_weight,0] loss_samle_weight = -Q * np.log(P)
在pytorch中示例程序
train_data = np.load(open('train_data.npy','rb'))
train_labels = []
for i in range(8):
train_labels += [i] *100
train_labels = np.array(train_labels)
train_labels = to_categorical(train_labels).astype("float32")
sample_1 = [random.random() for i in range(len(train_data))]
for i in range(len(train_data)):
floor = i / 100
train_labels[i][floor] = sample_1[i]
train_data = torch.from_numpy(train_data)
train_labels = torch.from_numpy(train_labels)
dataset = dataf.TensorDataset(train_data,train_labels)
trainloader = dataf.DataLoader(dataset, batch_size=batch_size, shuffle=True)
對應one-target的多分類交叉熵損失函數(shù)如下：
def my_loss(outputs, targets): output2 = outputs - torch.max(outputs, 1, True)[0] P = torch.exp(output2) / torch.sum(torch.exp(output2), 1,True) + 1e-10 loss = -torch.mean(targets * torch.log(P)) return loss
以上這篇在Pytorch中使用樣本權重(sample_weight)的正確方法就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關文章
這篇文章主要介紹了python shell根據(jù)ip獲取主機名代碼示例，涉及用socket模塊和shell中hostname命令獲取等相關內(nèi)容，具有一定參考價值，需要的朋友可以了解下。2017-11-11
這篇文章主要為大家詳細介紹了Python實現(xiàn)排序算法的相關代碼，具有一定的參考價值，感興趣的小伙伴們可以參考一下2017-08-08
每行在promotion后面包含一些數(shù)字，如果這些數(shù)字是相同的，則認為是相同的行，對于相同的行，只保留一行。接下來通過本文給大家介紹Python做文本按行去重的實現(xiàn)方法，感興趣的朋友一起看看吧2016-10-10
解決python3報錯之takes?1?positional?argument?but?2?were?gi
這篇文章主要介紹了解決python3報錯之takes?1?positional?argument?but?2?were?given問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-03-03
這篇文章主要給大家介紹了關于Python中浮點數(shù)四舍五入問題的分析與解決方法，文中通過示例代碼介紹的非常詳細，對大家學習或者使用Python具有一定的參考學習價值，需要的朋友們下面來一起學習學習吧2019-11-11
python多進程實現(xiàn)數(shù)據(jù)共享的示例代碼
本文介紹了Python中多進程實現(xiàn)數(shù)據(jù)共享的方法,包括使用multiprocessing模塊和manager模塊這兩種方法,具有一定的參考價值,感興趣的可以了解一下2025-01-01
使用Python創(chuàng)建多功能文件管理器的代碼示例
在本文中,我們將探索一個使用Python的wxPython庫開發(fā)的文件管理器應用程序,這個應用程序不僅能夠瀏覽和選擇文件,還支持文件預覽、壓縮、圖片轉換以及生成PPT演示文稿的功能,需要的朋友可以參考下2024-08-08
今天小編就為大家分享一篇在PyCharm中實現(xiàn)添加快捷模塊，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-02-02
Pytorch之8層神經(jīng)網(wǎng)絡實現(xiàn)Cifar-10圖像分類驗證集準確率94.71%
這篇文章主要介紹了Pytorch之8層神經(jīng)網(wǎng)絡實現(xiàn)Cifar-10圖像分類驗證集準確率94.71%問題，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2023-03-03
這篇文章主要介紹了Python2.x和3.x版本的主要區(qū)別,本文給大家介紹的非常詳細，具有一定的參考借鑒價值，需要的朋友可以參考下2018-11-11