(手寫)PCA原理及其Python實現(xiàn)圖文詳解
更新時間:2021年08月17日 09:16:33 作者:Raymond_桐
這篇文章主要介紹了Python來PCA算法,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧,希望能給你帶來幫助
1、背景
為什么需要降維呢?
因為數(shù)據(jù)個數(shù) N 和每個數(shù)據(jù)的維度 p 不滿足 N >> p,造成了模型結果的“過擬合”。有兩種方法解決上述問題:
增加N;減小p。
這里我們講解的 PCA 屬于方法2。
2、樣本均值和樣本方差矩陣


3、PCA


3.1 最大投影方差

3.2 最小重構距離

4、Python實現(xiàn)
"""
-*- coding: utf-8 -*-
@ Time : 2021/8/15 22:19
@ Author : Raymond
@ Email : wanght2316@163.com
@ Editor : Pycharm
"""
from sklearn.datasets import load_digits
from sklearn.decomposition import PCA
import pandas as pd
import matplotlib.pyplot as plt
digits = load_digits()
print(digits.keys())
print("數(shù)據(jù)的形狀為: {}".format(digits['data'].shape))
# 構建模型 - 降到10 d
pca = PCA(n_components=10)
pca.fit(digits.data)
projected=pca.fit_transform(digits.data)
print('降維后主成分的方差值為:',pca.explained_variance_)
print('降維后主成分的方差值占總方差的比例為:',pca.explained_variance_ratio_)
print('降維后最大方差的成分為:',pca.components_)
print('降維后主成分的個數(shù)為:',pca.n_components_)
print('original shape:',digits.data.shape)
print('transformed shape:',projected.shape)
s = pca.explained_variance_
c_s = pd.DataFrame({'b': s,'b_sum': s.cumsum() / s.sum()})
c_s['b_sum'].plot(style= '--ko',figsize= (10, 4))
plt.rcParams['font.sans-serif'] = ['SimHei'] # 指定默認字體
plt.rcParams['axes.unicode_minus'] = False # 解決保存圖像是負號'-'顯示為方塊的問題
plt.axhline(0.85, color= 'r',linestyle= '--')
plt.text(6, c_s['b_sum'].iloc[6]-0.08, '第7個成分累計貢獻率超過85%', color='b')
plt.title('PCA 各成分累計占比')
plt.grid()
plt.savefig('./PCA.jpg')
plt.show()
結果展示:

總結
本篇文章就到這里了,希望能給你帶來幫助,也希望您能夠多多關注腳本之家的更多內容!
相關文章
Pandas_cum累積計算和rolling滾動計算的用法詳解
今天小編就為大家分享一篇Pandas_cum累積計算和rolling滾動計算的用法詳解,具有好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07
python3+selenium實現(xiàn)126郵箱登陸并發(fā)送郵件功能
這篇文章主要為大家詳細介紹了python3+selenium實現(xiàn)126郵箱登陸并發(fā)送郵件功能,具有一定的參考價值,感興趣的小伙伴們可以參考一下2019-01-01
python3安裝pip3(install pip3 for python 3.x)
這篇文章主要為大家詳細介紹了install pip3 for python 3.x,具有一定的參考價值,感興趣的小伙伴們可以參考一下2018-04-04
圖文詳解Django使用Pycharm連接MySQL數(shù)據(jù)庫
這篇文章主要介紹了Django使用Pycharm連接MySQL數(shù)據(jù)庫的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2019-08-08
Python上下文管理器類和上下文管理器裝飾器contextmanager用法實例分析
這篇文章主要介紹了Python上下文管理器類和上下文管理器裝飾器contextmanager用法,結合實例形式分析了上下文管理器類定義、使用、sqlalchemy實現(xiàn)數(shù)據(jù)庫的自動提交和回滾相關操作技巧,需要的朋友可以參考下2019-11-11

