方差分析

PCA简介： 从n维数据中提取最能代表这组数据的m个向量，也就是对数据进行降维（n->m），提取特征。 目标： 找到一个向量 \(\mu\) ，使n个点在其上的投影的方差最大（投影后的数据越不集中，就说明每个向量彼此之间包含的相似信息越少，从而实现数据降维） 前提假设： 总的数据： \[A = (x_1, x_2, \cdots , x_n)\] \(X\) 的协方差： \[C = Cov(X) = \frac{1}{n}\sum_{i=1}^n(x_i-\overline{x})(x_i-\overline{x})^T\] 向量 \(\mu\) ： \[|\mu| = 1 \Rightarrow \mu^T\mu = 1\] 证明： 易知 \(x_i\) 在 \(\mu\) 上的投影为 \[(x_i-\overline{x})^T\cdot\mu\] 因为 \((x_i-\overline{x})\) 均值为0， 所以记其方差 \(J\) 为 \[\frac{1}{n}\sum_{i=1}^n(x_i-\overline{x})^T\cdot\mu)^2\] 又因为上式平方项中为标量，故可以将 \(J\) 改写为 \[\frac{1}{n}\sum_{i=1}^n(x_i-\overline{x})^T\cdot\mu)^T\cdot(x_i-\overline{x})^T

1. SAS 程序 数据 data split; input R A B y; cards; 1 4 2 40.0 1 4 1 39.5 1 1 2 37.9 1 1 1 35.4 1 2 1 36.7 1 2 2 38.2 1 3 2 36.4 1 3 1 34.8 2 2 1 42.7 2 2 2 41.6 2 1 2 40.3 2 1 1 41.6 2 4 1 44.5 2 4 2 47.6 2 3 1 43.6 2 3 2 42.8 ; run; ANOVA proc anova data=split; class R A B; model y = R A R*A B A*B; test h=R A e=R*A; means A / duncan e=R*A; means B / duncan; run; GLM proc glm data=split; class R A B; model y = R A R*A B A*B; random R*A / test; means A / duncan e=R*A; means B / duncan; lsmeans A*B / adjust=bon; run; 来源： https://www.cnblogs.com/hjbreg/p/11827348.html

Ŀ¼ 第一部分 　入门 第2章 　创建数据集 第3章 　图形初阶 第4章 　基本数据管理 第5章 　高级数据管理 第二部分 　基本方法 第6章 　基本图形 第7章 　基本统计分析 第三部分 　中级方法 第8章 　回归 第9章 　方差分析 第10章 　功效分析 第11章 　中级绘图 第12章 　重抽样与自助法 第四部分 　高级方法 第13章 　广义线性模型 第14章 　主成分和因子分析 第15章 　处理缺失数据的高级方法 第16章 　高级图形进阶 后记：探索R的世界　　357 附录A 　图形用户界面　　359 附录B 　自定义启动环境　　362 附录C 　从R中导出数据　　364 附录D 　制作出版级品质的输出　　366 附录E 　R中的矩阵运算　　374 附录F 　本书中用到的扩展包　　376 附录G 　处理大数据　　381 附录H 　更新R　　383 原文：https://www.cnblogs.com/LearnFromNow/p/9348355.html

#基本统计值 分析： #方差：各数据与平均数差的平方的和的平均数 #中位数： 排序，然后....奇数找中间1个，偶数找中间2个取平均 #运算符" // "来表示整数除法，返回不大于结果的一个最大的整数，而" / " 则单纯的表示浮点数除法 #sorted() 函数可以对列表进行排序 def median(numbers): n=getnum() m=mean(n) print("平均值：{},方差{:.2},中位数：{}.".format(m,dev(n,m),median(n))) 文章来源: 2018.5.24（python）基本统计值分析

符合方差分析的三个条件： 残差 = 实际值 - 预测值（其实是均值）。 在原假设下，MSA的期望会等于MSE的期望；在备选假设下，MSA的期望会大于MSE 的期望，所以 MSA/MSE 的取值范围在 (1 ，正无穷 ) ，所以是单侧检验。 这张图说明残差随机独立分布。 每组一个数就无法分析交互作用。 R 提高但 adjusted R 没提高则没有实质性的提高。 (Completely randomized design) 同独立样本 t 检验。 (Randomized block design)要人为干预去掉实验体本身的差异，同配对样本更好。 例题： 当认为总体有差异之后，想要看到底是哪些因素造成这些差异： 在 SPSS 中是这样的 : 双因子方差分析只考虑主效应的意思是不考虑交互效应，但是考虑因素 A 及因素 B 。 相同意思的不同版本： 来源： https://www.cnblogs.com/yuanjingnan/p/11722682.html

应用统计学 方差分析的基本假设： 组间组平均与总平均的不同是由 treatment 引发的。单个值与组平均的不同是由组内 error 引发的。 如果没有处理误差 SSA=SSE ，所以右尾假设如果 F>1 则处理效应更强 本质上样本方差，所以是总体方差的无偏估计。 描述强度： 增加 n （维度）， R 变大， adjusted R 变大。但是 n 过大就会出现过拟合的现象，此时 R 虽然变大，但是并不好，并不能反映客观情况，客观情况是变量间差异是本身就很大，而不是因为维度升高导致的。 双因子方差分析除了增加一个因素之外还有两个因素之间的交互作用。 来源： https://www.cnblogs.com/yuanjingnan/p/11715388.html

应用统计学 - 方差分析 数值型数据使用线性回归来研究因素对因变量的影响。类别型数据使用方差分析来研究因素对因变量的影响。方差分析是使用方差比 MSA/MSE 来检验均值是否全相等，即相等是 H0 假设，而不全相等是 H1 假设。 自变量是因素，而因素取值是水平。比如，降水量是因素，降水量大、中和小是因素的三个水平。 看方差是否相等，来判断组间差异是不是很大， 组内组间都有随机误差，但是不是一种随机误差 来源： https://www.cnblogs.com/yuanjingnan/p/11689644.html

生物统计学 - 重复测量的方差分析 之前的方差分析应用条件要求组之间是独立的，即某种因素下相同时段测量的结果数据，但 4 月与 5 月数据是有关系的，所以必须考虑某种因素下不同时段测量的结果数据，即使用重复测量的方差分析，即处理 * 基于时间因素的重复测量 * 同一时间下的重复测量。 这样的好处是克服时间效应，在样本数少的情况下数据量不会太少，但是重复测量使得对象有三种效应。假定测定时间对对象无影响是配对样本 t 检验的前提，否则用重复测量的方差分析。 使用条件是样本个体之间相互独立，即 A 患者与 B 患者没有关系。方差齐性是每种处理方差相同，即所有患者在接受不同处理后的数据，患者 A 的所有数据与患者 B 的所有数据的方差都是相同的；协方差球对称性，即通过球对称检验，否则就是有偏的，这需要调自由度。 总变异 = 个体间（患者在不同处理下的差异） + 个体内（患者不同时间点的差异） 1. 建立假设 2. 检验对称性（不同检验方法） 常见是一致的，如果不一致就选择第一个 多重比对必须经过球对称检验：即 p-value 必须非显著的： Mauchly's Test of Sphericity a Measure: MEASURE_1 Within Subjects Effect Mauchly's W Approx. Chi-Square df Sig. Epsilon b

协方差矩阵 由上，我们已经知道：协方差是衡量两个随机变量的相关程度。且随机变量 之间的协方差可以表示为: 故根据已知的样本值可以得到协方差的估计值如下： 可以进一步地简化为： 如此，便引出了所谓的协方差矩阵： 主成成分分析 尽管从上面看来，协方差矩阵貌似很简单，可它却是很多领域里的非常有力的工具。它能导出一个变换矩阵，这个矩阵能使数据完全去相关(decorrelation)。从不同的角度看，也就是说能够找出一组最佳的基以紧凑的方式来表达数据。这个方法在统计学中被称为主成分分析(principal components analysis，简称PCA)，在图像处理中称为Karhunen-Loève 变换(KL-变换)。 根据wikipedia上的介绍，主成分分析PCA由卡尔·皮尔逊于1901年发明，用于分析数据及建立数理模型。其方法主要是 通过对协方差矩阵进行特征分解，以得出数据的主成分（即特征矢量）与它们的权值（即特征值） 。PCA是最简单的以特征量分析多元统计分布的方法。其结果可以理解为对原数据中的方差做出解释：哪一个方向上的数据值对方差的影响最大。 然为何要使得变换后的数据有着最大的方差呢？我们知道，方差的大小描述的是一个变量的信息量，我们在讲一个东西的稳定性的时候，往往说要减小方差，如果一个模型的方差很大，那就说明模型不稳定了。但是对于我们 用于机器学习的数据（主要是训练数据）

目录 1 前言. 1 1.1 植物的发展史. 1 1.1.1 植物界的类群及多样性. 1 1.1.2 植物的分类等级. 2 1.2植物的识别方法. 3 1.2.1 花与种子的特性. 3 1.2.2 叶子的特征. 3 1.3 什么是数字图像处理. 5 1.3.1 数字图像处理概念及其意义. 5 1.3.2 数字图像处理中的基本图像类型. 6 1.3.3 图像格式分析. 7 1.4 什么是模式识别. 8 1.4.1 模式识别的概念. 8 1.4.2 模式识别研究方向. 9 1.4.3 模式识别在实际中的应用. 10 2 预处理与算法研究. 10 2.1 图像的预处理. 10 2.2 数字图像处理方法. 11 2.2.1 二值处理. 11 2.2.2 模糊模式识别算法. 12 2.2.3 边缘检测与轮廓提取. 12 3.2.4 信息存储. 14 3 算法实现. 14 3.1 分析实际工作过程. 14 3.2 算法实现过程. 15 3.2.1 掏空内部点算法的基本思想. 15 3.2.2 边界跟踪算法的基本思想. 15 3.2.3 部分实现代码. 18 4 小结分析. 25 5 参考文献. 26 6 致谢. 27 1 前言 1.1 植物的发展史 1.1.1 植物界的类群及多样性 植物界的发生和发展经历了漫长的历史，随着地球历史的发展，由原始生物不断演化，其间大约经历了30亿年