之前一直错误的认为了切向量就是梯度，由于最近在看拉格朗日的方法，正好遇到这个问题，结果搞清楚了切向量和梯度的关系。
简单的来说切向量和梯度都是求导数，但是要看的是对谁求导数。举个例子：
y=x^2吧，简单点的。
求在点(a,b)处的切向量。
此时需要写成参数式x=x 并且 y=x^2，分别对x求导数得到(1, 2x)把(a,b)带入即可。
求点(a,b)处的梯度。
此时需要写成f(x,y)=x^2-y，分别对x和y求偏导得到(2x, -1)。
此时明白了梯度和切向量不是一样的，并且还是垂直的，由于和切向量垂直的只有法向量，所以梯度就是法向量。。也许和法向量最大的不同只是方向不一样吧。。
看一下下面这附图的效果，分别示意出来了切向量和梯度在点(1,1)处
有一个问题需要明白的是：
在很多梯度下降的方法中我们看到的只是给出的一个曲线，就是求得偏导，我们总是认为这个是切线方向，其实我们只是把梯度中的一个分量来做了，这个时候这个分量的确是在x处的切线方向，但是梯度最终求得是N个分量所共同决定的向量。这个最终共同决定的向量是和切线垂直的。
之前一直错误的认为了切向量就是梯度，由于最近在看拉格朗日的方法，正好遇到这个问题，结果搞清楚了切向量和梯度的关系。
简单的来说切向量和梯度都是求导数，但是要看的是对谁求导数。举个例子：
y=x^2吧，简单点的。
求在点(a,b)处的切向量。
此时需要写成参数式x=x 并且 y=x^2，分别对x求导数得到(1, 2x)把(a,b)带入即可。
求点(a,b)处的梯度。
此时需要写成f(x,y)=x^2-y，分别对x和y求偏导得到(2x, -1)。
此时明白了梯度和切向量不是一样的，并且还是垂直的，由于和切向量垂直的只有法向量，所以梯度就是法向量。。也许和法向量最大的不同只是方向不一样吧。。
看一下下面这附图的效果，分别示意出来了切向量和梯度在点(1,1)处
有一个问题需要明白的是：
在很多梯度下降的方法中我们看到的只是给出的一个曲线，就是求得偏导，我们总是认为这个是切线方向，其实我们只是把梯度中的一个分量来做了，这个时候这个分量的确是在x处的切线方向，但是梯度最终求得是N个分量所共同决定的向量。这个最终共同决定的向量是和切线垂直的。