Newton's method

一元函数 牛顿法

一元函数,**函数连续二阶可微:$x^{(k)}$处的$f(x),f^\prime(x),f^{\prime\prime}(x)$**均可求


最小二乘法→

逼近方法:泰勒逼近,傅里叶逼近(以取代之)

牛顿法使用(二阶)泰勒逼近(抛物线逼近),泰勒逼近式的一阶必要条件做递推公式。

牛顿法求解的是$g(x)=0=f^\prime(x)$的解。

$$ x^{(k+1)}=x^{(k)}-\frac{g(x^{(k)})}{g^\prime(x^{(k)})}. $$


牛顿迭代公式:

$$ x^{(k+1)}=x^{(k)}-\frac{f^{\prime}(x^{(k)})}{f^{\prime\prime}(x^{(k)})} $$

结束点的判定:二阶必要条件。


收敛性:第九章


改进:

  1. 导数差分化:割线法割线法

割线法

多元函数 牛顿法

简记多元函数梯度为函数$g$:

$$ \boldsymbol g^{(k)}=\nabla f(x^{(k)})\in\mathbb P^n. $$