keras 自定義loss model.add_loss的使用詳解
一點(diǎn)見解，不斷學(xué)習(xí)，歡迎指正
1、自定義loss層作為網(wǎng)絡(luò)一層加進(jìn)model，同時(shí)該loss的輸出作為網(wǎng)絡(luò)優(yōu)化的目標(biāo)函數(shù)
from keras.models import Model
import keras.layers as KL
import keras.backend as K
import numpy as np
from keras.utils.vis_utils import plot_model
x_train=np.random.normal(1,1,(100,784))
x_in = KL.Input(shape=(784,))
x = x_in
x = KL.Dense(100, activation='relu')(x)
x = KL.Dense(784, activation='sigmoid')(x)
def custom_loss1(y_true,y_pred):
return K.mean(K.abs(y_true-y_pred))
loss1=KL.Lambda(lambda x:custom_loss1(*x),name='loss1')([x,x_in])
model = Model(x_in, [loss1])
model.get_layer('loss1').output#取出loss
model.add_loss(loss1)#作為網(wǎng)絡(luò)優(yōu)化的目標(biāo)函數(shù)
model.compile(optimizer='adam')
plot_model(model,to_file='model.png',show_shapes=True)
#
model.fit(x_train, None, epochs=5)
2、自定義loss,作為網(wǎng)絡(luò)優(yōu)化的目標(biāo)函數(shù)
x_in = KL.Input(shape=(784,)) x = x_in x = KL.Dense(100, activation='relu')(x) x = KL.Dense(784, activation='sigmoid')(x) model = Model(x_in, x) loss = K.mean((x - x_in)**2) model.add_loss(loss)#只是作為loss優(yōu)化目標(biāo)函數(shù) model.compile(optimizer='adam') plot_model(model,to_file='model.png',show_shapes=True) model.fit(x_train, None, epochs=5)
補(bǔ)充知識(shí)：keras load_weights fine-tune
分享一個(gè)小技巧，就是在構(gòu)建網(wǎng)絡(luò)模型的時(shí)候，不要怕麻煩，給每一層都定義一個(gè)名字，這樣在復(fù)用之前的參數(shù)權(quán)重的時(shí)候，除了官網(wǎng)給的先加載權(quán)重，再凍結(jié)權(quán)重之外，你可以通過簡單的修改層的名字來達(dá)到加載之前訓(xùn)練的權(quán)重的目的，假設(shè)權(quán)重文件保存為model_pretrain.h5 ,重新使用的時(shí)候，我把想要復(fù)用的層的名字設(shè)置成一樣的，然后
model.load_weights('model_pretrain.h5', by_name=True)
以上這篇keras 自定義loss model.add_loss的使用詳解就是小編分享給大家的全部內(nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
相關(guān)文章
Python高級(jí)編程之消息隊(duì)列(Queue)與進(jìn)程池(Pool)實(shí)例詳解
這篇文章主要介紹了Python高級(jí)編程之消息隊(duì)列(Queue)與進(jìn)程池(Pool),結(jié)合實(shí)例形式詳細(xì)分析了Python消息隊(duì)列與進(jìn)程池的相關(guān)原理、使用技巧與操作注意事項(xiàng),需要的朋友可以參考下2019-11-11
這篇文章主要為大家詳細(xì)介紹一下Python中的包與模塊的使用，文中的示例講解詳細(xì)，對(duì)我們學(xué)習(xí)Python有一定幫助，感興趣的小伙伴可以學(xué)習(xí)一下2022-07-07
python?gravis庫實(shí)現(xiàn)圖形數(shù)據(jù)可視化實(shí)例探索
這篇文章主要為大家介紹了python?gravis庫實(shí)現(xiàn)圖形數(shù)據(jù)可視化實(shí)例探索,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2024-02-02
這篇文章主要介紹了Python?seaborn?barplot畫圖案例，文章圍繞主題展開詳細(xì)的內(nèi)容介紹，具有一定的參考價(jià)值，需要的小伙伴可以參考一下2022-07-07
在本篇文章里小編給大家分享的是關(guān)于pymysql模塊的簡單操作，有需要的朋友們可以參考下。2019-12-12
這篇文章主要介紹了Python sqrt()函數(shù)用法說明，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-03-03
Python神器之使用watchdog監(jiān)控文件變化
這篇文章主要為大家詳細(xì)介紹了Python中的神器watchdog以及如何使用watchdog監(jiān)控文件變化,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以了解下2023-12-12
python numpy實(shí)現(xiàn)文件存取的示例代碼
這篇文章主要介紹了python numpy實(shí)現(xiàn)文件存取的示例代碼，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-05-05
下面小編就為大家?guī)硪黄猵ython多進(jìn)程和多線程究竟誰更快(詳解)。小編覺得挺不錯(cuò)的，現(xiàn)在就分享給大家，也給大家做個(gè)參考。一起跟隨小編過來看看吧2017-05-05
在Pycharm中設(shè)置默認(rèn)自動(dòng)換行的方法
今天小編就為大家分享一篇在Pycharm中設(shè)置默認(rèn)自動(dòng)換行的方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-01-01