一. MovingAverage權(quán)值滑動平均更新

1.1 示例代碼：

def create_target_q_network(self,state_dim,action_dim,net):
  state_input = tf.placeholder("float",[None,state_dim])
  action_input = tf.placeholder("float",[None,action_dim])

  ema = tf.train.ExponentialMovingAverage(decay=1-TAU)
  target_update = ema.apply(net)
  target_net = [ema.average(x) for x in net]

  layer1 = tf.nn.relu(tf.matmul(state_input,target_net[0]) + target_net[1])
  layer2 = tf.nn.relu(tf.matmul(layer1,target_net[2]) + tf.matmul(action_input,target_net[3]) + target_net[4])
  q_value_output = tf.identity(tf.matmul(layer2,target_net[5]) + target_net[6])

  return state_input,action_input,q_value_output,target_update

def update_target(self):
  self.sess.run(self.target_update)
  

其中，TAU=0.001，net是原始網(wǎng)絡(luò)(該示例代碼來自DDPG算法，經(jīng)過滑動更新后的target_net是目標網(wǎng)絡(luò) )

第一句 tf.train.ExponentialMovingAverage，創(chuàng)建一個權(quán)值滑動平均的實例；

第二句 apply創(chuàng)建所訓練模型參數(shù)的一個復(fù)制品(shadow_variable)，并對這個復(fù)制品增加一個保留權(quán)值滑動平均的op，函數(shù)average()或average_name()可以用來獲取最終這個復(fù)制品(平滑后)的值的。

更新公式為：

shadow_variable = decay * shadow_variable + (1 - decay) * variable

在上述代碼段中，target_net是shadow_variable，net是variable

1.2 tf.train.ExponentialMovingAverage.apply(var_list=None)

var_list必須是Variable或Tensor形式的列表。這個方法對var_list中所有元素創(chuàng)建一個復(fù)制，當其是Variable類型時，shadow_variable被初始化為variable的初值，當其是Tensor類型時，初始化為0，無偏。

函數(shù)返回一個進行權(quán)值平滑的op，因此更新目標網(wǎng)絡(luò)時單獨run這個函數(shù)就行。

1.3 tf.train.ExponentialMovingAverage.average(var)

用于獲取var的滑動平均結(jié)果。

二. tf.train.Optimizer更新網(wǎng)絡(luò)權(quán)值

2.1 tf.train.Optimizer

tf.train.Optimizer允許網(wǎng)絡(luò)通過minimize()損失函數(shù)自動進行權(quán)值更新，此時tf.train.Optimizer.minimize()做了兩件事：計算梯度，并把梯度自動更新到權(quán)值上。

此外，tensorflow也允許用戶自己計算梯度，并做處理后應(yīng)用給權(quán)值進行更新，此時分為以下三個步驟：

1.利用tf.train.Optimizer.compute_gradients計算梯度

2.對梯度進行自定義處理

3.利用tf.train.Optimizer.apply_gradients更新權(quán)值

tf.train.Optimizer.compute_gradients(loss, var_list=None, gate_gradients=1, aggregation_method=None, colocate_gradients_with_ops=False, grad_loss=None) 

返回一個(梯度，權(quán)值)的列表對。

tf.train.Optimizer.apply_gradients(grads_and_vars, global_step=None, name=None)

返回一個更新權(quán)值的op，因此可以用它的返回值ret進行sess.run(ret)

2.2 其它

此外，tensorflow還提供了其它計算梯度的方法：

• tf.gradients(ys, xs, grad_ys=None, name='gradients', colocate_gradients_with_ops=False, gate_gradients=False, aggregation_method=None)

該函數(shù)計算ys在xs方向上的梯度，需要注意與train.compute_gradients所不同的地方是，該函數(shù)返回一組dydx dydx的列表，而不是梯度-權(quán)值對。

其中，gate_gradients是在ys方向上的初始梯度，個人理解可以看做是偏微分鏈式求導中所需要的。

• tf.stop_gradient(input, name=None)

該函數(shù)告知整個graph圖中，對input不進行梯度計算，將其偽裝成一個constant常量。比如，可以用在類似于DQN算法中的目標函數(shù)：

cost=|r+Q next −Q current | cost=|r+Qnext−Qcurrent|

可以事先聲明

y=tf.stop_gradient(r+Q next r+Qnext)

以上這篇TensorFlow的權(quán)值更新方法就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。

最新評論