支持向量机(二)——数值优化
在上一篇博客中,较为详细的介绍了在数据完全线性可分的情况下,构建SVM模型的目标,并将构建目标转化为最大化几何距离的优化过程,本篇就将介绍具体优化时的计算过程。还是一样的,先推荐几篇不错的博文,大家也可以参考链接中的文章学习。 关于凸优化问题 http://www.360doc.com/content/18/0522/09/32196507_756021531.shtml 关于拉格朗日乘子法及对偶优化问题 https://www.cnblogs.com/xinchen1111/p/8804858.html https://www.cnblogs.com/ooon/p/5721119.html https://www.cnblogs.com/mashiqi/p/3719101.html 1.凸优化问题 在一般的优化问题中求最大值或最小值,通常的做法是找出那些梯度为0的点(有的情况下还需要求出边界点的值),然后比较这些点的函数值,最后找出最大值或最小值。这个过程中有两个问题需要注意,一个是当存在多个极值点时,计算量会比较大;另外一个问题就是鞍点(比较常见的是 函数在 处)的问题。所以,如果优化问题能够在附加一些限制条件时能到简化,那将非常利于最大值或最小值的求解,凸优化问题正是这样一种简化后的优化问题。 1.1 凸集 对于 维空间中点的集合 ,如果对集合中任意两个点 、 ,以及实数 ,