不等式公式

什么是凸函数及如何判断一个函数是否是凸函数

こ雲淡風輕ζ 提交于 2019-11-30 16:01:56
什么是凸函数及如何判断一个函数是否是凸函数 t元j 一、什么是凸函数   对于一元函数 f ( x f(x),如果对于任意 t ϵ [ 0 , 1 ] tϵ[0,1]均满足: f ( t x 1 + ( 1 − t ) x 2 ) ≤ t f ( x 1 ) + ( 1 − t ) f ( x 2 ) f(tx1+(1−t)x2)≤tf(x1)+(1−t)f(x2),则称 f ( x ) f(x)为凸函数 (convex function)  如果对于任意 t ϵ ( 0 , 1 ) tϵ(0,1)均满足: f ( t x 1 + ( 1 − t ) x 2 ) < t f ( x 1 ) + ( 1 − t ) f ( x 2 ) f(tx1+(1−t)x2)<tf(x1)+(1−t)f(x2),则称 f ( x ) f(x)为严格凸函数 (convex function)   我们可以从几何上直观地理解凸函数的特点,凸函数的割线在函数曲线的上方,如图1所示:  上面的公式,完全可以推广到多元函数。在数据科学的模型求解中,如果优化的目标函数是凸函数,则局部极小值就是全局最小值。这也意味着我们求得的模型是全局最优的,不会陷入到局部最优值。例如支持向量机的目标函数 | | w | | 2 / 2 ||w||2/2就是一个凸函数。 二、如何来判断一个函数是否是凸函数呢?  

5.6算法-分类-svm-支持向量机

血红的双手。 提交于 2019-11-26 22:37:51
https://blog.csdn.net/u011630575/article/details/78916747 SVM SVM:Support Vector Machine 中文名:支持向量机 学习模型 有监督学习:需要事先对数据打上分类标签,这样机器就知道数据属于哪一类。 无监督学习:数据没有打上分类标签,有可能因为不具备先验知识,或打标签的成本很高,需要机器代替我们部分完成改工作,比如将数据进行聚类,方便后人工对每个类进行分析。 SVM 是有监督的学习模型:可以进行模式识别、分类以及回归分析。 SVM工作原理 示例: 桌面上有两种颜色混乱的小球,我们将这两种小球来区分开,我们猛拍桌子小球会腾起,在腾空的那一刹那,会出现一个水平切面,将两种颜色的球分开来。 原因: 二维平面无法找出一条直线来区分小球颜色,但是在三位空间。我们可以找到一个平面来区分小球颜色,该平面我们叫做超平面。 SVM计算过程: 就是帮我们找到一个超平面的过程,该超平面就是 SVM分类器。 分类间隔 我们在示例中,会找到一个决策面来将小球颜色分离,在保证决策面C不变,且分类不产生错误的情况下,我们可以移动决策面,来产生两个极限位置:决策面A和决策面B,分界线C就是最优决策面,极限位置到最优决策面的距离就是 分类间隔 。 我们可以转动最优决策面,会发现存在多个最优决策面,它们都能把数据集正确分开