参数估计

在计算机视觉领域广泛的使用各种不同的采样一致性参数估计算法用于排除错误的样本，样本不同对应的应用不同，例如剔除错误的配准点对，分割出处在模型上的点集，PCL中以随机采样一致性算法（RANSAC）为核心，同时实现了五种类似与随机采样一致形算法的随机参数估计算法，例如随机采样一致性算法（RANSAC）最大似然一致性算法（MLESAC），最小中值方差一致性算法（LMEDS）等，所有估计参数算法都符合一致性原则。在PCL中设计的采样一致性算法的应用主要就是对点云进行分割，根据设定的不同的几个模型，估计对应的几何参数模型的参数，在一定容许的范围内分割出在模型上的点云。 （1）RANSAC随机采样一致性算法的介绍 RANSAC是“RANdom SAmple Consensus（随机抽样一致）”的缩写。它可以从一组包含“局外点”的观测数据集中，通过迭代方式估计数学模型的参数。它是一种不确定的算法——它有一定的概率得出一个合理的结果；为了提高概率必须提高迭代次数。 数 据分两种：有效数据（inliers）和无效数据（outliers）。偏差不大的数据称为有效数据，偏差大的数据是无效数据。如果有效数据占大多数，无 效数据只是少量时，我们可以通过最小二乘法或类似的方法来确定模型的参数和误差；如果无效数据很多（比如超过了50%的数据都是无效数据），最小二乘法就 失效了，我们需要新的算法

ACM算法分类：http://www.kuqin.com/algorithm/20080229/4071.html;CSDN容易吞图,不过编辑器里面图片还是显示的..... 一: 拟合一个平面：使用SVD分解，代码里面去找吧 空间平面方程的一般表达式为： Ax+By+Cz+D=0; 则有：平面法向量为n=（A,B,C）. 第一种方法： 对于空间中n个点（n3） 空间中的离散点得到拟合平面，其实这就是一个最优化的过程。即求这些点到某个平面距离最小和的问题。由此，我们知道一个先验消息，那就是该平面一定会过众散点的平均值。接着我们需要做的工作就是求这个平面的法向量。 根据协方差矩阵的SVD变换，最小奇异值对应的奇异向量就是平面的方向。 注意：这个方法是直接的计算方法，没办法解决数值计算遇到的病态矩阵问题.在公式转化代码之前必须对空间点坐标进行近似归一化！ 第二种方法：使用法线方法， 对于空间中n个点（n3），若已获得点云法线 使用合适的方法剔除离群点，计算点云的形心P； 若在已经获得法线的点云中，可以对法线进行剔除离散点之后，求取最小方差的均值，直接求得法线方向N( alpha, beta, theta )； 使用点法式描述三维平面；或者根据形心P和法线方向，计算出平面方程的一般式。 使用法线多次聚类：完成场景平面提取 使用法线两次聚类：第一次根据法线方向进行聚类，使用一个欧式距离约束

CONTENTS 点估计 矩估计 区间估计 样本量的确定 点估计 点估计是用样本统计量来估计总体参数，因为样本统计量为数轴上某一点值，估计的结果也以一个点的数值表示，所以称为点估计。点估计和区间估计属于总体参数估计问题。何为总体参数统计，当在研究中从样本获得一组数据后，如何通过这组信息，对总体特征进行估计，也就是如何从局部结果推论总体的情况，称为总体参数估计。 矩估计 矩估计，即矩估计法，也称“矩法估计”，就是利用样本矩来估计总体中相应的参数。首先推导涉及感兴趣的参数的总体矩（即所考虑的随机变量的幂的期望值）的方程。然后取出一个样本并从这个样本估计总体矩。接着使用样本矩取代（未知的）总体矩，解出感兴趣的参数。从而得到那些参数的估计。 区间估计 区间估计是在点估计的基础上，给出总体参数估计的一个区间范围，该区间通常由样本统计量加减估计误差得到。与点估计不同，进行区间估计时，根据样本统计量的抽样分布可以对样本统计量与总体参数的接近程度给出一个概率度量。下面将以总体均值的区间估计为例来说明区间估计的基本原理。 样本量的确定 一、估计总体均值时样本容量的确定 1.重复抽样 一旦确定了置信水平（1-α），Zα/2的值就确定了，对于给定的的值和总体标准差σ，就可以确定任一希望的允许误差所需要的样本容量。令E代表所希望达到的允许误差，即： 由此可以推到出确定样本容量的公式如下： 2.不重复抽样

梳理大纲： 参数估计 1 点估计：矩估计法 2 区间估计：总体均值的区间估计、总体比例的区间估计、总体方差的区间估计、两个总体均值之差的区间估计、两个总体比例之差的区间估计、两个总体方差比的区间估计 3 样本量的确定：估计总体均值时样本量的确定、估计总体比例时样本量的确定 参考资料: 【木东居士】【数据科学家学习小组】公众号 From 统计学Statistics 学习小组：由【木东居士】公众号 定期发起 对数据感兴趣的伙伴们 可一同在此交流学习 参数估计：用样本统计量去估计总体的参数 参数估计是推断统计的重要内容之一，它是在抽样及抽样分布的基础上，根据样本统计量来推断所关心的总体参数 参股估计的方法有： 点估计 和 区间估计 两种 1 点估计 点估计：用样本统计量θ的某个取值直接作为总体参数的θ的估计值 矩估计法 ：即矩估计，也称“矩法估计”，就是利用样本矩来估计总体中相应的参数 如：用样本平均值估计总体的平均值，用样本的方差来估计总体的方差 2 区间估计 区间估计： 在点估计的基础上，给出总体参数估计的一个区间范围，该范围通常由样本统计量加减估计误差得到。 置信区间： 在区间估计中，由样本统计量所构造的总体参数的估计区间称为置信区间，其中区间的最小值称为置信下限，最大值称为置信上线。 置信水平/置信度/置信系数： 如果将构造置信区间的步骤重复多次

统计学：参数估计 概念 1.利用总体统计不方便甚至是无法完成的现实状况，采用抽样的方式，利用样本提供的信息来推断总体的特征。 2.点估计：point estimate, 用样本统计量的某个取值直接作为总体参数的估值。 但一个点估计值的可靠性是由它的抽样标准误差来衡量的，这表明一个具体的点估计值无法给出估计的可靠性的度量。 当围绕点估计值构造总体参数的一个区间，这就是区间估计。 3.区间估计：interval estimate ,在点估计的基础上，给出总体参数估计的一个区间范围，该区间通常由样本统计量加减估计误差得到。 根据样本统计量的抽样分布可以对样本统计量与总体参数的接近程度给出一个概率度量。 在区间估计中，由样本统计量所构成的总体参数的估计区间称为置信区间，其中区间的最小值称为置信下限，最大值称为置信上限。 置信水平：将构造置信区间的步骤重复多次，置信区间中包含总体参数真值的次数所占的比例，称为置信水平 confidence level ，也称为置信度或置信系数。 如果用某种方法构造的所有区间中有95%的区间包含总体参数的真值，5%的区间不包括总体参数的真值，那么用该方法构造的区间称为置信水平位95%的置信区间。 评价估计量的标准 🔽无偏性：指估计量抽样分布的数学期望等于被估计的总体参数。 设 总 体 参 数 位 θ , 所 选 择 的 估 计 量 为 θ ⃗ , 如 果 E

参数估计(parameter estimation)：用样本统计量去估计总体的参数。【用样本估计量θ ̂作为总体参数θ】 估计量：在参数估计中，用来估计总体参数的统计量称为估计量（estimator）。 如样本均值、样本比例、样本方差等都可以是一个统计量。 估计值：根据一个具体的样本计算出来的估计量的数值称为估计值 （estimated value）。 点估计：用样本统计量的某个取值直接作为总体参数的估计值θ。 由于样本是随机的，抽出一个具体的样本得到的估计值很可能不同于总体真值。再用点估计值代表总体参数值的同时，还必须给出点估计值的可靠性。也就是说必须能说出点估计值与总体参数的真实值接近的程度。但是一个点估计值的可靠性是由它的抽样标准误差来衡量的，这表明一个具体的点估计值无法给出估计的可靠性的度量，因此就不能完全依赖于一个点估计值，而是围绕点估计值构造总体参数的一个区间，这就是区间估计。 区间估计：是在点估计的基础上，给出总体参数估计的一个区间范围，该区间通常由样本统计量加减估计误差得到。 置信区间：在区间估计中，由样本统计量所构造的总体参数的估计区间称为置信区间。 其中区间的最小值称为置信下限，最大值称为置信上限。 置信水平(又称 置信度|置信系数)： 一般地，如果将构造置信区间的步骤重复多次，置信区间中包含总体参数真值的次数所占的比例。 评价估计量的标准： 1、无偏性

1、点估计：矩估计法 2、区间估计：总体均值的区间估计、总体比例的区间估计、总体方差的区间估计、两个总体均值之差的区间估计、两个总体比例之差的区间估计、两个总体方差比的区间估计 3、样本量的确定：估计总体均值时样本量的确定、估计总体比例时样本量的确定 点估计和区间估计属于总体参数估计问题。 ##一、点估计 ####定义： 是用样本统计量来估计总体参数，因为样本统计量为数轴上某一点值，估计的结果也以一个点的数值表示，所以称为点估计。 ####估计量：统计量的样本的（不含未知总体参数的）函数，用于估计的统计量 ####估计值：若得到一组观察值，代入估计量得到具体的数值 例如，若总体分布服从正态分布： ，其中μ是总体均值， 是总体方差，未知参数可记为θ=(μ，σ)。σ/μ（μ≠0）称为变异系数，它是总体的一阶原点矩（即均值）μ与二阶中心矩（即方差） 的函数。设有样本X=(X1、X2…Xi)，其一阶样本原点矩为，二阶样本中心矩为，而用估计 σ/μ，就是一个典型的矩估计方法。 ###（1）最大似然估计法 此法作为一种重要而普遍的点估计法，由英国统计学家R.A.费希尔在1912年提出。后来在他1921年和1925年的工作中又加以发展。设样本X=(X1,X2,…,Xn)的分布密度为L(X，θ)，若固定X而将L视为θ的函数，则称为似然函数，当X是简单随机样本时，它等于ƒ(X1，θ）ƒ(X2，θ）

在计算机视觉领域广泛的使用各种不同的采样一致性参数估计算法用于排除错误的样本，样本不同对应的应用不同，例如剔除错误的配准点对，分割出处在模型上的点集，PCL中以随机采样一致性算法（RANSAC）为核心，同时实现了五种类似与随机采样一致形算法的随机参数估计算法，例如随机采样一致性算法（RANSAC）最大似然一致性算法（MLESAC），最小中值方差一致性算法（LMEDS）等，所有估计参数算法都符合一致性原则。在PCL中设计的采样一致性算法的应用主要就是对点云进行分割，根据设定的不同的几个模型，估计对应的几何参数模型的参数，在一定容许的范围内分割出在模型上的点云。 （1）RANSAC随机采样一致性算法的介绍 RANSAC是“RANdom SAmple Consensus（随机抽样一致）”的缩写。它可以从一组包含“局外点”的观测数据集中，通过迭代方式估计数学模型的参数。它是一种不确定的 算法 ——它有一定的概率得出一个合理的结果；为了提高概率必须提高迭代次数。 数 据分两种：有效数据（inliers）和无效数据（outliers）。偏差不大的数据称为有效数据，偏差大的数据是无效数据。如果有效数据占大多数，无 效数据只是少量时，我们可以通过最小二乘法或类似的方法来确定模型的参数和误差；如果无效数据很多（比如超过了50%的数据都是无效数据），最小二乘法就 失效了，我们需要新的算法

在英语语境里，likelihood 和 probability 的日常使用是可以互换的，都表示对机会 (chance) 的同义替代。但在数学中，probability 这一指代是有严格的定义的，即符合柯尔莫果洛夫公理 (Kolmogorov axioms) 的一种数学对象（换句话说，不是所有的可以用0到1之间的数所表示的对象都能称为概率）。而 likelihood (function) 这一概念是由Fisher提出，他采用这个词，也是为了凸显他所要表述的数学对象既和 probability 有千丝万缕的联系，但又不完全一样的这一感觉。 中文把它们一个翻译为概率（probability），一个翻译为似然（likelihood）也是独具匠心。 似然函数的定义： 上式中，小 x 指的是联合样本随机变量 X 取到的值，即 X = x ；这里的 θ 是指未知参数，它属于参数空间；而 是一个密度函数，特别地，它表示(给定) θ 下关于联合样本值 x 的联合密度函数。 从定义上，似然函数和密度函数是完全不同的两个数学对象：前者是关于 θ 的函数，后者是关于 x 的函数。所以这里的等号= 理解为函数值形式的相等，而不是两个函数本身是同一函数（根据函数相等的定义，函数相等当且仅当定义域相等并且对应关系相等）。 两者的联系： 如果X是离散随机变量，那么其概率密度函数 可改写为： 即代表了在参数为 θ

估计理论 估计的分类 矩估计：直接对观测样本的统计特征作出估计。 参数估计：对观测样本中的信号的未知参数作出估计。待定参数可以是未知的确定量，也可以是随机量。 点估计：对待定参量只给出单个估计值。 区间估计：给出待定参数的可能取值范围及置信度。 (置信度、置信区间) 波形估计：根据观测样本对被噪声污染的信号波形进行估计。预测、滤波、平滑三种基本方式。  已知分布的估计  分布未知或不需要分布的估计。  估计方法取决于采用的估计准则。 估计器的性能评价  无偏性：估计的统计均值等于真值。  渐进无偏性：随着样本量的增大估计值收敛于真值。  有效性：最小方差与实际估计方差的比值。  有效估计：最小方差无偏估计。达到方差下限。  渐进有效估计：样本量趋近于无穷大时方差趋近于最小方差的无偏估计。  一致性：随着样本量的增大依概率收敛于真值。  Cramer-Rao界： 来源： CSDN 作者： weixin_43659636 链接： https://blog.csdn.net/weixin_43659636/article/details/103455947