从零开始学习主成分分析

匿名 (未验证) 提交于 2019-12-03 00:22:01

前言

前段时间一个偶然的机会,在一个虫友的问题下留了自己的微信号,从那开始私信我的人络绎不绝,我翻看了网上许多大咖的博文,大家都各有侧重,有的偏向基础概念和实例应用,如:【机器学习】主成分分析详解(https://blog.csdn.net/lyl771857509/article/details/79435402);有的偏向于软件的操作(http://www.360doc.com/content/17/1210/16/37437963_711826540.shtml);还有的内容是错误的。同几位提问者的交流中,我发现往往来问问题的大都是没有什么计算机编程和数理统计基础的人。我想不妨自己做一个从软件安装到数据分析,再到最终结果展示的傻瓜式帖子,希望能对大家有所帮助。

准备工作

软件准备

下载地址:magnet:?xt=urn:btih:8264042A3852F48EFCF836B364A576062ADA5552;

安装方式:https://jingyan.baidu.com/article/dca1fa6fa26202f1a44052e8.html

按照上文安装步骤操作完毕后,还需要根据技术贴(https://blog.csdn.net/wangpengfei666/article/details/78584083?locationNum=1&fps=1)完成对licence文件的修改。

破解完成后,到C:\Program Files\MATLAB\R2013\bin(默认)或者你的自定义目录下找到matlab.exe,右键发送快捷方式到桌面,双击打开,倘若你能看见下图的界面,那么祝贺你,你已经成功安装了matalb。



数据准备

matlab 2013a 自带一个名为hald数据集,软件对于这个数据集的描述如下:




















Hald,A., Statistical Theory with Engineering Applications,

上文大概意思是包括五列数据,它们分别是3CaO.Al2O3,3CaO.SiO2,4CaO.Al2O3.Fe2O3,2CaO.SiO2 在材料中占有的成分(前四列)和180天后的淬火热量(第五列)。

数据内容也非常简单,只有13行5列:

hald数据集
26.006.0060.0078.50
1.0029.0015.0052.0074.30
11.0056.008.0020.00104.30
11.0031.008.0047.0087.60
7.0052.006.0033.0095.90
11.0055.009.0022.00109.20
3.0071.0017.006.00102.70
1.0031.0022.0044.0072.50
2.0054.0018.0022.0093.10
21.0047.004.0026.00115.90
1.0040.0023.0034.0083.80
11.0066.009.0012.00113.30
10.0068.008.0012.00109.40

主成分分析

只是,我们在实际操作中,可能要自己导入数据,在这里我举一个简单的例子,比如我需要做主成分分析的数据储存在一个excel文件中,叫做new.xls,该文件存放在 D:\pca_analysis 目录下:



首先,我们要导入数据到matlab, 将其命名为DATA。在matlab中,DATA此时可以被看做是一个m行n列的自变量矩阵,m代表样本数量,n代表数据的维数:

然后,求协方差矩阵

covx = cov(DATA)

最后,调用pcacov命令作出主成分分析:


运行完这一步之后,我们可以在命令窗口看到以下几个结果:

COEFF =






latent =






explained =





第一项COEFF主成分系数矩阵principal component coefficients),是主成分分析最重要的结果,起到将自变量矩阵转换成主成分矩阵的作用;第二项是主成分方差principal component variances),方差越大,代表这一个主成分的信息约多,越重要;第三项是解释量,其实就是第二项结果中每一个数字除以总和得到的省略百分号的百分比而已。本质上和第二项没有什么区别。


进一步分析

系统自带的命令运行完了,但仅仅把以文得到的结果提交给老板恐怕免不了一顿责骂。

1、主成分矩阵

我们还要根据 主成分矩阵=自变量矩阵×主成分系数矩阵 求出主成分矩阵,matlab命令如下:


2、过滤掉主成分矩阵中解释量低的向量

(1)计算特征值:

(2)看看有多少个特征值大于1

(3)保留解释量高的向量,并重新赋值给new_Pca_Matrix_final

new_Pca_Matrix(:,1:num);

new_Pca_Matrix_final 是你想要的主成分分析输出结果。

主成分分析还包括其他很多方面,比如:碎石图的绘制和解析,将主成分分析结果用于后续的机器学习分类器构建等等。有问题请在下方留言。本人并非数学科班出身,本帖子可能存在一些技术层面的纰漏,如有发现,还请各位指正。


by Doc Z

2018.6.7

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!