Python利用邏輯回歸分類實(shí)現(xiàn)模板
Logistic Regression Classifier邏輯回歸主要思想就是用最大似然概率方法構(gòu)建出方程,為最大化方程,利用牛頓梯度上升求解方程參數(shù)。
- 優(yōu)點(diǎn):計(jì)算代價(jià)不高,易于理解和實(shí)現(xiàn)。
- 缺點(diǎn):容易欠擬合,分類精度可能不高。
- 使用數(shù)據(jù)類型:數(shù)值型和標(biāo)稱型數(shù)據(jù)。
好了,下面開始正文。
算法的思路我就不說了,我就提供一個(gè)萬能模板,適用于任何緯度數(shù)據(jù)集。
雖然代碼類似于梯度下降,但他是個(gè)分類算法
定義sigmoid函數(shù)
def sigmoid(x): return 1/(1+np.exp(-x))
進(jìn)行邏輯回歸的參數(shù)設(shè)置以及迭代
def weights(x,y,alpha,thershold): #初始化參數(shù) m,n = x_train.shape theta = np.random.rand(n) #參數(shù) cnt = 0 # 迭代次數(shù) max_iter = 50000 #開始迭代 while cnt < max_iter: cnt += 1 diff = np.full(n,0) for i in range(m): diff = (y[i]-sigmoid(theta.T @ x[i]))*x[i] theta = theta + alpha * diff if(abs(diff)<thershold).all(): break return theta
預(yù)測(cè)函數(shù)
def predict(x_test,theta): if sigmoid(theta.T @ x_test)>0.5: return 1 else:return 0
調(diào)用函數(shù)
x_train = np.array([[1,2.697,6.254],
[1,1.872,2.014],
[1,2.312,0.812],
[1,1.983,4.990],
[1,0.932,3.920],
[1,1.321,5.583],
[1,2.215,1.560],
[1,1.659,2.932],
[1,0.865,7.362],
[1,1.685,4.763],
[1,1.786,2.523]])
y_train = np.array([1,0,0,1,0,1,0,0,1,0,1])
alpha = 0.001 # 學(xué)習(xí)率
thershold = 0.01 # 指定一個(gè)閾值,用于檢查兩次誤差
print(weights(x_train,y_train,alpha,thershold))
總結(jié)
以上所述是小編給大家介紹的Python利用邏輯回歸分類實(shí)現(xiàn)模板,希望對(duì)大家有所幫助!
相關(guān)文章
python實(shí)現(xiàn)音樂播放器 python實(shí)現(xiàn)花框音樂盒子
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)音樂播放器,實(shí)現(xiàn)花框音樂盒子,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2020-02-02
Tensorflow分類器項(xiàng)目自定義數(shù)據(jù)讀入的實(shí)現(xiàn)
這篇文章主要介紹了Tensorflow分類器項(xiàng)目自定義數(shù)據(jù)讀入的實(shí)現(xiàn),小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧2019-02-02
Python實(shí)現(xiàn)堡壘機(jī)模式下遠(yuǎn)程命令執(zhí)行操作示例
這篇文章主要介紹了Python實(shí)現(xiàn)堡壘機(jī)模式下遠(yuǎn)程命令執(zhí)行操作,結(jié)合實(shí)例形式分析了Python堡壘機(jī)模式執(zhí)行遠(yuǎn)程命令的原理與相關(guān)操作技巧,需要的朋友可以參考下2019-05-05
python3 簡(jiǎn)單實(shí)現(xiàn)組合設(shè)計(jì)模式
這篇文章主要介紹了python3 簡(jiǎn)單實(shí)現(xiàn)組合設(shè)計(jì)模式的方法,文中示例代碼非常詳細(xì),幫助大家更好的理解和學(xué)習(xí),感興趣的朋友可以了解下2020-07-07
深度學(xué)習(xí)入門之Pytorch 數(shù)據(jù)增強(qiáng)的實(shí)現(xiàn)
探索Python?Furl高性能URL構(gòu)建解析和操作功能實(shí)例
python numpy中mat和matrix的區(qū)別

