数值最优化—优化问题的解(二)
一、定理 局部最小值点一阶必要条件： ∇ f ( x ∗ ) = 0 \nabla f(x^*)=0 ∇ f ( x ∗ ) = 0 局部最小值点二阶必要条件： ∇ f ( x ∗ ) = 0 且 ∇ 2 f ( x ∗ ) \nabla f(x^*)=0 且 \nabla^2 f(x^*) ∇ f ( x ∗ ) = 0 且 ∇ 2 f ( x ∗ ) 正定。 局部最小值点二阶充分条件： ∇ 2 f ( x ) \nabla^2 f(x) ∇ 2 f ( x ) 在 x ∗ x^* x ∗ 的开邻域内连续， ∇ f ( x ∗ ) = 0 \nabla f(x^*)=0 ∇ f ( x ∗ ) = 0 并且 ∇ 2 f ( x ∗ ) \nabla^2 f(x^*) ∇ 2 f ( x ∗ ) 正定，那么 x ∗ x^* x ∗ 是 f ( x ) f(x) f ( x ) 的严格局部最小值点。 二、证明 Proof 1 反证法 假设当 x ∗ x^* x ∗ 为局部最小值时 ∇ f ( x ∗ ) ≠ 0 \nabla f(x^*)\neq0 ∇ f ( x ∗ ) = 0 ，那么定义 p = − ∇ f ( x ∗ ) p = -\nabla f(x^*) p = − ∇ f ( x ∗ ) 。这样我们可以得到： p T ∇ f ( x ∗ ) = − ∇ f ( x