1 自動微分

我們在《數(shù)值分析》課程中已經(jīng)學(xué)過許多經(jīng)典的數(shù)值微分方法。許多經(jīng)典的數(shù)值微分算法非?？?，因為它們只需要計算差商。然而，他們的主要缺點在于他們是數(shù)值的，這意味著有限的算術(shù)精度和不精確的函數(shù)求值，而這些都從根本上限制了求解結(jié)果的質(zhì)量。因此。充滿噪聲的、復(fù)雜多變的函數(shù)很難得到精準的數(shù)值微分。

自動微分技術(shù)（稱為“automatic differentiation, autodiff”）是介于符號微分和數(shù)值微分的一種技術(shù)，它是在計算效率和計算精度之間的一種折衷。自動微分不受任何離散化算法誤差的約束，它充分利用了微分的鏈式法則和其他關(guān)于導(dǎo)數(shù)的性質(zhì)來準確地計算它們。

2 前向自動微分

我們先來計算簡單的前向自動微分。假設(shè)我們有兩個變量u和v，使用浮點數(shù)存儲。我們將變量u′=du/dt和v′=dv/dt和這些變量一起存儲，這里tt是獨立的變量。在一些程序設(shè)計語言(如Python)中，我們可以選擇定義一種新的數(shù)據(jù)類型來存儲[u,u′]和[v,v′]這類數(shù)對。我們可以在這些數(shù)對上定義一種代數(shù)運算，這些代數(shù)運算編碼了一些經(jīng)典的操作：

在進行前向自動微分之前，我們需要先將計算f(t)所產(chǎn)生的操作序列表示為計算圖。接著，采用自底向上的遞推算法的思想，從做為遞推起點的數(shù)對t≡[t0,1](因為dt/dt=1)開始，我們能夠按照我們上述編碼規(guī)則同時對函數(shù)f(t)和它的導(dǎo)數(shù)f′(t)進行求值。我們在編程語言中可以選擇令數(shù)對重載運算符，這樣額外的求導(dǎo)數(shù)運算就可以對用戶透明地執(zhí)行了。

例1 比如，對于函數(shù)f(x)=exp?(x²−x)/x，想要依次計算dy_i/dx（這里y_i為所有計算中間項）。則我們先從x開始將表達式分解為計算圖：

然后前向遞推地按照我們之前所述的編碼規(guī)則來進行求導(dǎo)

注意鏈式法則（chain rule）告訴我們：

(f(g(x)))′=f′(g(x))⋅g′(x)

所以我們對

y_k=g(y_i)

有

y′_k=g′(y_i)⋅y_i′

事實上，我們也能夠處理有多個輸入的函數(shù)g：

k=g(y_i,?,y_j)

多元微分鏈式法則如下：

比如，對于

我們有

下面展示了一個對二元函數(shù)模擬前向自動微分的過程。

例2 設(shè)(x₁,x₂)=x₁⋅exp?(x₂)−x₁，模擬前向微分過程。

接下來我們看如何用Python代碼來實現(xiàn)單變量函數(shù)的前向自動微分過程。為了簡便起見，我們下面只編碼了幾個常用的求導(dǎo)規(guī)則。

import math

class Var:
    def __init__(self, val, deriv=1.0):
        self.val = val
        self.deriv = deriv
    
    def __add__(self, other):
        if isinstance(other, Var):
            val = self.val + other.val
            deriv = self.deriv + other.deriv
        else:
            val = self.val + other
            deriv = self.deriv
        return Var(val, deriv)
    
    def __radd__(self, other):
        return self + other

    def __sub__(self, other):
        if isinstance(other, Var):
            val = self.val - other.val
            deriv = self.deriv - other.deriv
        else:
            val = self.val - other
            deriv = self.deriv
        return Var(val, deriv)
    
    def __rsub__(self, other):
        val = other - self.val
        deriv = - self.deriv
        return Var(val, deriv)

    def __mul__(self, other):
        if isinstance(other, Var):
            val = self.val * other.val
            deriv = self.val * other.deriv + self.deriv * other.val
        else:
            val = self.val * other
            deriv = self.deriv * other
        return Var(val, deriv)
    
    def __rmul__(self, other):
        return self * other

    def __truediv__(self, other):
        if isinstance(other, Var):
            val = self.val / other.val
            deriv = (self.deriv * other.val - self.val * other.deriv)/other.val**2
        else:
            val = self.val / other
            deriv = self.deriv / other
        return Var(val, deriv)

    def __rtruediv__(self, other):
        val = other / self.val
        deriv = other * 1/self.val**2
        return Var(val, deriv)
    
    def __repr__(self):
        return "value: {}\t gradient: {}".format(self.val, self.deriv)
        

def exp(f: Var):
    return Var(math.exp(f.val), math.exp(f.val) * f.deriv)

例如，我們?nèi)魢L試計算函數(shù)f(x)=exp?(x²−x)/x在x=2.0處的導(dǎo)數(shù)f′(2.0)如下：

fx = lambda x: exp(x*x - x)/x
df = fx(Var(2.0))
print(df) 

打印輸出：

value: 3.694528049465325         deriv: 9.236320123663312

可見，前向過程完成計算得到f(2.0)≈3.69, f′(2.0)≈9.24。

3 反向自動微分

我們前面介紹的前向自動微分方法在計算y=f(t)的時候并行地計算f′(t)。接下來我們介紹一種“反向”自動微分方法，相比上一種的方法它僅需要更少的函數(shù)求值，不過需要以更多的內(nèi)存消耗和更復(fù)雜的實現(xiàn)做為代價。

同樣，這個技術(shù)需要先將計算f(t)所產(chǎn)生的操作序列表示為計算圖。不過，與之前的從dt/dt=1開始，然后往dy/dt方向計算不同，反向自動求導(dǎo)算法從dy/dy=1開始并且按與之前同樣的規(guī)則往反方向計算，一步步地將分母替換為dt。反向自動微分可以避免不必要的計算，特別是當y是一個多元函數(shù)的時候。例如，對f(t1,t2)=f1(t1)+f2(t2)，反向自動微分并不需要計算f1關(guān)于t2的微分或f2關(guān)于t1的微分。

例3 設(shè)f(x₁,x₂)=x₁⋅exp(x₂)−x₁，模擬反向自動微分過程。

可見若采用反向自動微分，我們需要存儲計算過程中的所有東西，故內(nèi)存的使用量會和時間成正比。不過，在現(xiàn)有的深度學(xué)習(xí)框架中，對反向自動微分的實現(xiàn)進行了進一步優(yōu)化，我們會在深度學(xué)習(xí)專題文章中再進行詳述。

4 總結(jié)

自動微分被廣泛認為是一種未被充分重視的數(shù)值技術(shù)， 它可以以盡量小的執(zhí)行代價來產(chǎn)生函數(shù)的精確導(dǎo)數(shù)。它在軟件需要計算導(dǎo)數(shù)或Hessian來運行優(yōu)化算法時顯得格外有價值，從而避免每次目標函數(shù)改變時都去重新手動計算導(dǎo)數(shù)。當然，做為其便捷性的代價，自動微分也會帶來計算的效率問題，因為在實際工作中自動微分方法并不會去化簡表達式，而是直接應(yīng)用最顯式的編碼規(guī)則。

到此這篇關(guān)于Python實現(xiàn)前向和反向自動微分的示例代碼的文章就介紹到這了,更多相關(guān)Python自動微分內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論