一元函数,**函数连续二阶可微:$x^{(k)}$处的$f(x),f^\prime(x),f^{\prime\prime}(x)$**均可求
最小二乘法→
逼近方法:泰勒逼近https://en.wikipedia.org/wiki/Taylor_series,傅里叶逼近(以取代之)
$$ f(x)\Big|{x_0}= \sum{i=0}^{\infty} \frac {f^{(i)}(x_0)}{i!}(x-x_0)^i $$
牛顿法使用(二阶)泰勒逼近(抛物线逼近),泰勒逼近式的一阶必要条件做递推公式。
$$ f(x)\Big|_{x_0}= f(x_0)+f^\prime(x_0)(x-x_0)+\frac 12f^{\prime\prime}(x_0)(x-x_0)^2+o(x^3) $$
这个关于$x$的二次函数极值点为
$$ -\frac{-2\cdot\frac 12f^{\prime\prime}(x_0)x_0 + f^\prime(x_0) }{ 2\times\frac12 f^{\prime\prime}(x_0) }= -\frac{ f^\prime(x_0)- f^{\prime\prime}(x_0)x_0 }{ f^{\prime\prime}(x_0) } =x_{\text{new}} $$
牛顿法求解的是$g(x)=0=f^\prime(x)$的解。
$$ \begin{aligned} x^{(k+1)}&= x^{(k)}-\frac{f^\prime(x^{(k)})}{f^{\prime\prime}(x^{(k)})} \\&= x^{(k)}-\frac{g(x^{(k)})}{g^\prime(x^{(k)})}. \end{aligned} $$
牛顿迭代公式:
$$ x^{(k+1)}=x^{(k)}-\frac{f^{\prime}(x^{(k)})}{f^{\prime\prime}(x^{(k)})} $$
结束点的判定:二阶必要条件。
收敛性:第九章
改进: