最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Python 機(jī)器學(xué)習(xí)之線性回歸詳解分析

 更新時(shí)間:2021年11月09日 15:23:59   作者:路燈下的禿子ꈍ◡ꈍ  
回歸是監(jiān)督學(xué)習(xí)的一個(gè)重要問(wèn)題,回歸用于預(yù)測(cè)輸入變量和輸出變量之間的關(guān)系,特別是當(dāng)輸入變量的值發(fā)生變化時(shí),輸出變量的值也隨之發(fā)生變化。回歸模型正是表示從輸入變量到輸出變量之間映射的函數(shù)

為了檢驗(yàn)自己前期對(duì)機(jī)器學(xué)習(xí)中線性回歸部分的掌握程度并找出自己在學(xué)習(xí)中存在的問(wèn)題,我使用C語(yǔ)言簡(jiǎn)單實(shí)現(xiàn)了單變量簡(jiǎn)單線性回歸。

本文對(duì)自己使用C語(yǔ)言實(shí)現(xiàn)單變量線性回歸過(guò)程中遇到的問(wèn)題和心得做出總結(jié)。

線性回歸

線性回歸是機(jī)器學(xué)習(xí)和統(tǒng)計(jì)學(xué)中最基礎(chǔ)和最廣泛應(yīng)用的模型,是一種對(duì)自變量和因變量之間關(guān)系進(jìn)行建模的回歸分析。

代碼概述

本次實(shí)現(xiàn)的線性回歸為單變量的簡(jiǎn)單線性回歸,模型中含有兩個(gè)參數(shù):變量系數(shù)w、偏置q。

訓(xùn)練數(shù)據(jù)為自己使用隨機(jī)數(shù)生成的100個(gè)隨機(jī)數(shù)據(jù)并將其保存在數(shù)組中。采用批量梯度下降法訓(xùn)練模型,損失函數(shù)使用平方損失函數(shù)。

上圖為整個(gè)程序的函數(shù)調(diào)用關(guān)系。

下面貼代碼:

#include<stdio.h>
#include<stdlib.h>
#include<math.h>
#include<time.h>
 
double w, q;
int m;
//模型
float Model(float x)
{
	float y;
	y = x * w + q;
	return y;
}
 
//損失函數(shù)
double Loss(float *y,float *x)
{
	double L=0;
	//循環(huán)參數(shù)
	int i, j, k;
	for (i = 0; i < m; i++)
	{
		L += (pow((y[i] - Model(x[i])), 2)) / (2 * m);
	}
	return L;
 
}
 
//梯度下降優(yōu)化函數(shù)
void Gradient_Descent_Optimizer(float *x,float *y,float a)
{
	int j, i;
	double Q = 0, W = 0;
	for (i = 0; i < m; i++)
		W += x[i] * (Model(x[i]) - y[i]);
	W = W / m;
	for (j = 0; j < m; j++)
		Q += Model(x[j]) - y[j];
	Q = Q / m;
	printf("W:%f\nQ:%f\n", W, Q);
	w = w - a * W;
	q = q - a * Q;
}
 
//主函數(shù);訓(xùn)練過(guò)程
int main()
{
	//循環(huán)標(biāo)志
	int i, j;
	//訓(xùn)練輪次
	int epoch;
	//損失函數(shù)
	double L;
	//學(xué)習(xí)率
	float a;
	float x[100], y[100];
	//隨機(jī)數(shù)生成
	for (i = 0; i < 100; i++)
	{
		x[i] = 0.1*i;
		y[i] = x[i] * 3 + 5; //+ ((rand() % 11) / 10);
		printf("X:%.2f,Y:%.2f\n", x[i], y[i]);
	}
	//超參數(shù)設(shè)置
	m = 100;
	a = 0.05;
	epoch = 1000;
	//參數(shù)初始化
	w = 2;
	q = 3;
	for (j = 0; j < epoch; j++)
	{
		Gradient_Descent_Optimizer(x, y, a);
		L = Loss(y, x);
		printf("訓(xùn)練輪次:%d,損失:%f,參數(shù)w的值:%lf,參數(shù)q的值:%lf\n", j+1, L, w, q);
	}
	printf("最終值:\nw:%lf\nq:%lf\n", w, q);
	system("pause");
}

問(wèn)題總結(jié)

下面對(duì)在編寫過(guò)程中需要注意的問(wèn)題進(jìn)行總結(jié):

1.參數(shù)更新

模型中的參數(shù)需要同步更新。所有參數(shù)的更新值經(jīng)過(guò)梯度下降法計(jì)算得出后要在最后同時(shí)更新所有參數(shù)。

2.保留損失函數(shù)

在代碼編寫過(guò)程中自己認(rèn)為不用單獨(dú)寫一個(gè)損失函數(shù),只需在梯度下降的過(guò)程中利用求導(dǎo)后的公式進(jìn)行相關(guān)的參數(shù)優(yōu)化操作即可,但在運(yùn)行沒(méi)有算是函數(shù)的程序時(shí),沒(méi)有實(shí)時(shí)的損失函數(shù)結(jié)果評(píng)估模型訓(xùn)練效果可能會(huì)導(dǎo)致模型在錯(cuò)誤的道路上越走越遠(yuǎn)。

3.注意數(shù)據(jù)類型

初次運(yùn)行程序,在訓(xùn)練至十幾輪時(shí)參數(shù)就不再變化,一直到第1000輪參數(shù)都保持不變。后來(lái)在檢查代碼時(shí)發(fā)現(xiàn),在優(yōu)化函數(shù)將一些參數(shù)的數(shù)據(jù)類型錯(cuò)誤設(shè)置為整型。因此當(dāng)參數(shù)值改變程度小于1時(shí),參數(shù)將不再變化。

4.超參數(shù)的設(shè)置及參數(shù)的初始化

學(xué)習(xí)率,訓(xùn)練輪次等的設(shè)置是一個(gè)對(duì)程序編寫者經(jīng)驗(yàn)要求比較高的工作,需要多次嘗試,找到合適的值,參數(shù)的初始化也是這樣。

心得

本次只是實(shí)現(xiàn)了簡(jiǎn)單線性回歸的最基本的功能,同時(shí)也試一下自己剛買的機(jī)械鍵盤(用起來(lái)真的很舒服)。這只是我用來(lái)練手的程序,如果真的要編寫程序?qū)崿F(xiàn)功能還是推薦使用python語(yǔ)言搭配TensorFlow、Pytorch等深度學(xué)習(xí)平臺(tái)實(shí)現(xiàn)自己想要的功能。程序的可完善空間非常大,比如數(shù)據(jù)和模型的可視化,將數(shù)據(jù)和模型的訓(xùn)練效果直觀的展示出來(lái),后面還會(huì)有序的用C語(yǔ)言實(shí)現(xiàn)諸如多元線性回歸,二分類問(wèn)題,多分類問(wèn)題甚至卷積神經(jīng)網(wǎng)絡(luò)等等。我會(huì)在下面貼出使用Python語(yǔ)言編寫的線性回歸的程序,可以兩者結(jié)合起來(lái)比較一下異同。

# -*- coding: utf-8 -*-
"""
Spyder Editor
This is a temporary script file.
"""
import matplotlib.pyplot as plt
import tensorflow as tf
import numpy as np
 
np.random.seed(5)
 
x_data = np.linspace(-1,1,100)
y_data = 2 * x_data + 1.0 + np.random.randn(*x_data.shape) * 0.4
 
np.random.randn(10)
 
#x_data.shape
 
#np.random.randn(*x_data.shape)
#np.random.randn(100)
plt.scatter(x_data,y_data)
plt.plot(x_data, 2 * x_data + 1.0, color = 'red',linewidth=3)
 
x = tf.placeholder("float",name="x")
y = tf.placeholder("float",name="y")
 
def model(x,w,b):
    return tf.multiply(x,w)+b
 
w = tf.Variable(1.0,name="w0")
b = tf.Variable(0.0,name="b0")
 
pred = model(x,w,b)
 
train_epochs = 10
learning_rate = 0.05
 
loss_function = tf.reduce_mean(tf.square(y-pred))
 
optimizer = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss_function)
 
sess = tf.Session()
 
init = tf.global_variables_initializer()
sess.run(init)
 
i_ci=0
 
for epoch in range(train_epochs):
    for xs,ys in zip(x_data,y_data):
        _, loss=sess.run([optimizer,loss_function],feed_dict={x:xs,y:ys})
        b0temp=b.eval(session=sess)
        w0temp=w.eval(session=sess)
    plt.plot(x_data,w0temp*x_data+b0temp)
        
print("w:",sess.run(w))
print("b:",sess.run(b))
 
plt.scatter(x_data,y_data,label='Original data')
plt.plot(x_data,x_data*sess.run(w)+sess.run(b),label='Fitted Line',color='r',linewidth=3)
plt.legend(loc=2)

到此這篇關(guān)于Python 機(jī)器學(xué)習(xí)之線性回歸詳解分析的文章就介紹到這了,更多相關(guān)Python 機(jī)器學(xué)習(xí)內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • 從請(qǐng)求到響應(yīng)過(guò)程中django都做了哪些處理

    從請(qǐng)求到響應(yīng)過(guò)程中django都做了哪些處理

    這篇文章主要給大家介紹了關(guān)于從請(qǐng)求到響應(yīng)過(guò)程中django都做了哪些處理的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2018-08-08
  • python 爬取英雄聯(lián)盟皮膚并下載的示例

    python 爬取英雄聯(lián)盟皮膚并下載的示例

    這篇文章主要介紹了python 爬取英雄聯(lián)盟皮膚并下載的示例,幫助大家更好的理解和學(xué)習(xí)使用python 爬蟲,感興趣的朋友可以聊繼續(xù)
    2020-12-12
  • 新版Pycharm顯示Conda?executable?is?not?found解決辦法

    新版Pycharm顯示Conda?executable?is?not?found解決辦法

    這篇文章主要給大家介紹了關(guān)于新版Pycharm顯示Conda?executable?is?not?found解決辦法,文中通過(guò)圖文介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用Pycharm具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2023-07-07
  • python實(shí)現(xiàn)接口并發(fā)測(cè)試腳本

    python實(shí)現(xiàn)接口并發(fā)測(cè)試腳本

    這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)接口并發(fā)測(cè)試腳本,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2019-06-06
  • 使用Python打造一款間諜程序的流程分析

    使用Python打造一款間諜程序的流程分析

    這篇文章主要介紹了使用Python打造一款間諜程序,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2020-02-02
  • Python求區(qū)間正整數(shù)內(nèi)所有素?cái)?shù)之和的方法實(shí)例

    Python求區(qū)間正整數(shù)內(nèi)所有素?cái)?shù)之和的方法實(shí)例

    這篇文章主要給大家介紹了Python對(duì)區(qū)間正整數(shù)內(nèi)所有素?cái)?shù)之和的相關(guān)資料,文中介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2020-10-10
  • python在線編譯器的簡(jiǎn)單原理及簡(jiǎn)單實(shí)現(xiàn)代碼

    python在線編譯器的簡(jiǎn)單原理及簡(jiǎn)單實(shí)現(xiàn)代碼

    這篇文章主要介紹了python在線編譯器的簡(jiǎn)單原理及簡(jiǎn)單實(shí)現(xiàn)代碼,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧
    2018-02-02
  • Django框架用戶注銷功能實(shí)現(xiàn)方法分析

    Django框架用戶注銷功能實(shí)現(xiàn)方法分析

    這篇文章主要介紹了Django框架用戶注銷功能實(shí)現(xiàn)方法,結(jié)合實(shí)例形式分析了基于Django框架的刪除cookie實(shí)現(xiàn)用戶注銷功能的相關(guān)操作技巧,需要的朋友可以參考下
    2019-05-05
  • 分布式爬蟲scrapy-redis的實(shí)戰(zhàn)踩坑記錄

    分布式爬蟲scrapy-redis的實(shí)戰(zhàn)踩坑記錄

    最近用scrapy-redis嘗試了分布式爬蟲,使用過(guò)程中也遇到了不少問(wèn)題,下面這篇文章主要給大家介紹了關(guān)于分布式爬蟲scrapy-redis的實(shí)戰(zhàn)踩坑記錄,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下
    2022-08-08
  • python去掉空白行的多種實(shí)現(xiàn)代碼

    python去掉空白行的多種實(shí)現(xiàn)代碼

    這篇文章主要介紹了python去掉空白行實(shí)現(xiàn)代碼,需要的朋友可以參考下
    2018-03-03

最新評(píng)論

沅江市| 南木林县| 铁力市| 清流县| 河南省| 胶南市| 确山县| 临泉县| 东乡县| 汤原县| 邳州市| 平度市| 余姚市| 崇义县| 新巴尔虎左旗| 水富县| 专栏| 肃南| 达州市| 永川市| 弋阳县| 探索| 阳曲县| 汤原县| 中卫市| 若尔盖县| 邹城市| 龙江县| 平塘县| 方正县| 辛集市| 公安县| 精河县| 郎溪县| 遵化市| 永兴县| 手机| 安宁市| 汝城县| 玛纳斯县| 郴州市|