切线

牛顿迭代法 一、何为牛顿迭代法 牛顿迭代法又称为牛顿-拉弗森方法，是牛顿在17世纪提出的一种在实数和复数域上近似求解方程的方法。 牛顿迭代法的操作简单来说就是通过不断取切线，然后通过切线再不断逼近相应的解，废话不多说，我们来看图。 例如如下曲线 \(y=x^2-1\) 我们在其上面任取一点，不妨取(2，3)，以该点做切线，切线方程为 \(y=4x-5\) ，在图中将该切线加上可如下图： 来源： https://www.cnblogs.com/southernEast/p/12422623.html

之前一直错误的认为了切向量就是梯度，由于最近在看拉格朗日的方法，正好遇到这个问题，结果搞清楚了切向量和梯度的关系。 简单的来说切向量和梯度都是求导数，但是要看的是对谁求导数。举个例子： y=x^2吧，简单点的。 求在点(a,b)处的切向量。 此时需要写成参数式x=x 并且 y=x^2，分别对x求导数得到(1, 2x)把(a,b)带入即可。 求点(a,b)处的梯度。 此时需要写成f(x,y)=x^2-y，分别对x和y求偏导得到(2x, -1)。 此时明白了梯度和切向量不是一样的，并且还是垂直的，由于和切向量垂直的只有法向量，所以梯度就是法向量。。也许和法向量最大的不同只是方向不一样吧。。 看一下下面这附图的效果，分别示意出来了切向量和梯度在点(1,1)处 有一个问题需要明白的是： 在很多梯度下降的方法中我们看到的只是给出的一个曲线，就是求得偏导，我们总是认为这个是切线方向，其实我们只是把梯度中的一个分量来做了，这个时候这个分量的确是在x处的切线方向，但是梯度最终求得是N个分量所共同决定的向量。这个最终共同决定的向量是和切线垂直的。 之前一直错误的认为了切向量就是梯度，由于最近在看拉格朗日的方法，正好遇到这个问题，结果搞清楚了切向量和梯度的关系。 简单的来说切向量和梯度都是求导数，但是要看的是对谁求导数。举个例子： y=x^2吧，简单点的。 求在点(a,b)处的切向量。