python人工智能算法之人工神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)
(Artificial Neural Network,ANN)是一種模仿生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和功能的數(shù)學(xué)模型,其目的是通過學(xué)習(xí)和訓(xùn)練,在處理未知的輸入數(shù)據(jù)時(shí)能夠進(jìn)行復(fù)雜的非線性映射關(guān)系,實(shí)現(xiàn)自適應(yīng)的智能決策??梢哉f,ANN是人工智能算法中最基礎(chǔ)、最核心的一種算法。
ANN模型的基本結(jié)構(gòu)包含輸入層、隱藏層和輸出層。輸入層接收輸入數(shù)據(jù),隱藏層負(fù)責(zé)對(duì)數(shù)據(jù)進(jìn)行多層次、高維度的變換和處理,輸出層對(duì)處理后的數(shù)據(jù)進(jìn)行輸出。ANN的訓(xùn)練過程是通過多次迭代,不斷調(diào)整神經(jīng)網(wǎng)絡(luò)中各層的權(quán)重,從而使得神經(jīng)網(wǎng)絡(luò)能夠?qū)斎霐?shù)據(jù)進(jìn)行正確的預(yù)測(cè)和分類。
人工神經(jīng)網(wǎng)絡(luò)算法示例
接下來看看一個(gè)簡(jiǎn)單的人工神經(jīng)網(wǎng)絡(luò)算法示例:
import numpy as np
class NeuralNetwork():
def __init__(self, layers):
"""
layers: 數(shù)組,包含每個(gè)層的神經(jīng)元數(shù)量,例如 [2, 3, 1] 表示 3 層神經(jīng)網(wǎng)絡(luò),第一層 2 個(gè)神經(jīng)元,第二層 3 個(gè)神經(jīng)元,第三層 1 個(gè)神經(jīng)元。
weights: 數(shù)組,包含每個(gè)連接的權(quán)重矩陣,默認(rèn)值隨機(jī)生成。
biases: 數(shù)組,包含每個(gè)層的偏差值,默認(rèn)值為 0。
"""
self.layers = layers
self.weights = [np.random.randn(a, b) for a, b in zip(layers[1:], layers[:-1])]
self.biases = [np.zeros((a, 1)) for a in layers[1:]]
def sigmoid(self, z):
"""Sigmoid 激活函數(shù)."""
return 1 / (1 + np.exp(-z))
def forward_propagation(self, a):
"""前向傳播."""
for w, b in zip(self.weights, self.biases):
z = np.dot(w, a) + b
a = self.sigmoid(z)
return a
def backward_propagation(self, x, y):
"""反向傳播."""
nabla_w = [np.zeros(w.shape) for w in self.weights]
nabla_b = [np.zeros(b.shape) for b in self.biases]
a = x
activations = [x]
zs = []
for w, b in zip(self.weights, self.biases):
z = np.dot(w, a) + b
zs.append(z)
a = self.sigmoid(z)
activations.append(a)
delta = self.cost_derivative(activations[-1], y) * self.sigmoid_prime(zs[-1])
nabla_b[-1] = delta
nabla_w[-1] = np.dot(delta, activations[-2].transpose())
for l in range(2, len(self.layers)):
z = zs[-l]
sp = self.sigmoid_prime(z)
delta = np.dot(self.weights[-l+1].transpose(), delta) * sp
nabla_b[-l] = delta
nabla_w[-l] = np.dot(delta, activations[-l-1].transpose())
return (nabla_w, nabla_b)
def train(self, x_train, y_train, epochs, learning_rate):
"""訓(xùn)練網(wǎng)絡(luò)."""
for epoch in range(epochs):
nabla_w = [np.zeros(w.shape) for w in self.weights]
nabla_b = [np.zeros(b.shape) for b in self.biases]
for x, y in zip(x_train, y_train):
delta_nabla_w, delta_nabla_b = self.backward_propagation(np.array([x]).transpose(), np.array([y]).transpose())
nabla_w = [nw+dnw for nw, dnw in zip(nabla_w, delta_nabla_w)]
nabla_b = [nb+dnb for nb, dnb in zip(nabla_b, delta_nabla_b)]
self.weights = [w-(learning_rate/len(x_train))*nw for w, nw in zip(self.weights, nabla_w)]
self.biases = [b-(learning_rate/len(x_train))*nb for b, nb in zip(self.biases, nabla_b)]
def predict(self, x_test):
"""預(yù)測(cè)."""
y_predictions = []
for x in x_test:
y_predictions.append(self.forward_propagation(np.array([x]).transpose())[0][0])
return y_predictions
def cost_derivative(self, output_activations, y):
"""損失函數(shù)的導(dǎo)數(shù)."""
return output_activations - y
def sigmoid_prime(self, z):
"""Sigmoid 函數(shù)的導(dǎo)數(shù)."""
return self.sigmoid(z) * (1 - self.sigmoid(z))
使用以下代碼示例來實(shí)例化和使用這個(gè)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)類:
x_train = [[0, 0], [1, 0], [0, 1], [1, 1]]
y_train = [0, 1, 1, 0]
# 創(chuàng)建神經(jīng)網(wǎng)絡(luò)
nn = NeuralNetwork([2, 3, 1])
# 訓(xùn)練神經(jīng)網(wǎng)絡(luò)
nn.train(x_train, y_train, 10000, 0.1)
# 測(cè)試神經(jīng)網(wǎng)絡(luò)
x_test = [[0, 0], [1, 0], [0, 1], [1, 1]]
y_test = [0, 1, 1, 0]
y_predictions = nn.predict(x_test)
print("Predictions:", y_predictions)
print("Actual:", y_test)
輸出結(jié)果:
Predictions: [0.011602156431658403, 0.9852717774725432, 0.9839448924887225, 0.020026540429992387]
Actual: [0, 1, 1, 0]
總結(jié):
優(yōu)點(diǎn):
- 非線性能力強(qiáng):ANN能夠處理非線性關(guān)系,能夠識(shí)別和預(yù)測(cè)非線性關(guān)系的數(shù)據(jù),如圖像和語音等數(shù)據(jù)
- 自適應(yīng)性高:ANN能夠自動(dòng)學(xué)習(xí)數(shù)據(jù)特征并進(jìn)行調(diào)整,能夠適應(yīng)環(huán)境的變化
- 學(xué)習(xí)能力強(qiáng):ANN能夠通過對(duì)大量數(shù)據(jù)的學(xué)習(xí),對(duì)未知數(shù)據(jù)進(jìn)行預(yù)測(cè)和分類
- 可并行化處理:ANN的計(jì)算過程可以并行處理,能夠在短時(shí)間內(nèi)處理大量數(shù)據(jù)
- 誤差容忍度高:ANN在計(jì)算中允許存在一定的誤差,可容忍部分?jǐn)?shù)據(jù)的失真和丟失
缺點(diǎn):
- 數(shù)據(jù)需求量大:為了提高預(yù)測(cè)和分類準(zhǔn)確性,ANN需要大量數(shù)據(jù)進(jìn)行學(xué)習(xí)和訓(xùn)練,如果數(shù)據(jù)量不足,預(yù)測(cè)和分類準(zhǔn)確性將下降
- 計(jì)算量大:ANN的計(jì)算量很大,需要強(qiáng)大的計(jì)算設(shè)備進(jìn)行處理
- 參數(shù)設(shè)置難度大:ANN的每個(gè)層級(jí)有多個(gè)參數(shù),根據(jù)不同的數(shù)據(jù)需求,需要設(shè)置不同的參數(shù),選擇最優(yōu)參數(shù)需要進(jìn)行大量的試驗(yàn)和測(cè)試
- 可解釋性差:由于其內(nèi)部結(jié)構(gòu)非常復(fù)雜,ANN的結(jié)果難以解釋,難以知道決策是如何得出的
- 過擬合現(xiàn)象:為了達(dá)到高精度,ANN有可能會(huì)依賴于過于細(xì)節(jié)的特征,導(dǎo)致對(duì)新數(shù)據(jù)的泛化性能降低
目前,人工神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別、語音識(shí)別、自然語言處理、機(jī)器翻譯等領(lǐng)域取得了重要的應(yīng)用成果。作為一種高度靈活、強(qiáng)大的人工智能算法,ANN在未來的發(fā)展中具有廣闊的應(yīng)用前景。好了,關(guān)于人工神經(jīng)網(wǎng)絡(luò)就簡(jiǎn)單介紹到這里,希望對(duì)大家有所幫助!
以上就是python人工智能算法之人工神經(jīng)網(wǎng)絡(luò)的詳細(xì)內(nèi)容,更多關(guān)于python人工智能算法神經(jīng)網(wǎng)絡(luò)的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
- Python使用?TCP協(xié)議實(shí)現(xiàn)智能聊天機(jī)器人功能
- 16行Python代碼實(shí)現(xiàn)微信聊天機(jī)器人并自動(dòng)智能回復(fù)功能
- python實(shí)現(xiàn)AI聊天機(jī)器人詳解流程
- python機(jī)器學(xué)習(xí)創(chuàng)建基于規(guī)則聊天機(jī)器人過程示例詳解
- python人工智能算法之線性回歸實(shí)例
- python人工智能算法之決策樹流程示例詳解
- python人工智能使用RepVgg實(shí)現(xiàn)圖像分類示例詳解
- python人工智能自定義求導(dǎo)tf_diffs詳解
- Python人工智能構(gòu)建簡(jiǎn)單聊天機(jī)器人示例詳解
相關(guān)文章
簡(jiǎn)單介紹Python中的readline()方法的使用
這篇文章主要介紹了簡(jiǎn)單介紹Python中的readline()方法的使用,是Python入門學(xué)習(xí)中的基礎(chǔ)知識(shí),需要的朋友可以參考下2015-05-05
pycharm+django創(chuàng)建一個(gè)搜索網(wǎng)頁實(shí)例代碼
這篇文章主要介紹了pycharm+django創(chuàng)建一個(gè)搜索網(wǎng)頁實(shí)例代碼,分享了相關(guān)代碼示例,小編覺得還是挺不錯(cuò)的,具有一定借鑒價(jià)值,需要的朋友可以參考下2018-01-01
PyCharm Community安裝與配置的詳細(xì)教程
這篇文章主要介紹了PyCharm Community安裝與配置的詳細(xì)教程,本文通過圖文并茂的形式給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-11-11
關(guān)于pytorch多GPU訓(xùn)練實(shí)例與性能對(duì)比分析
今天小編就為大家分享一篇關(guān)于pytorch多GPU訓(xùn)練實(shí)例與性能對(duì)比分析,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-08-08
python 中 .py文件 轉(zhuǎn) .pyd文件的操作
這篇文章主要介紹了python 中 .py文件 轉(zhuǎn) .pyd文件的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-03-03
Python函數(shù)參數(shù)分類使用與新特性詳細(xì)分析講解
在聲明函數(shù)的時(shí)候,一般會(huì)根據(jù)函數(shù)所要實(shí)現(xiàn)的功能來決定函數(shù)是否需要參數(shù)。在多數(shù)情況下,我們聲明的函數(shù)都會(huì)使用到參數(shù),這篇文章主要介紹了Python函數(shù)參數(shù)2023-01-01

