¿No puedes entender el método de iteración de Newton?

Muchas iteraciones se basan en aproximaciones de la expansión lineal de funciones de Taylor, y las iteraciones de Newton no son una excepción. No hay mucho que decir sobre la iteración unidimensional, muchas de las cuales se basan en aproximaciones de tangencia de primer orden. Existen varios métodos de iteración clásicos para la iteración unidimensional: método heurístico, método de la sección áurea, método de Fibonacci (prefiero este método, bueno, tal vez hice demasiados problemas de secuencia de Fibonacci en la escuela secundaria, por lo que existe una afinidad natural por este método). ) y el método de dicotomía, además, algunos métodos de interpolación también se utilizan ampliamente en programación, y algunos métodos de búsqueda precisos también son buenos, como Goldstein, Armijo y Wolfe-Powell.

En cuanto a la iteración de Newton, personalmente prefiero su aplicación en iteraciones multidimensionales, ya que las ventajas son obvias. Una vez que la iteración converge, su tasa de convergencia es de segundo orden y tiene un segundo punto de terminación. Las deficiencias del método de Newton también son obvias. Durante una iteración, el valor de la función puede aumentar, afectando la velocidad de la iteración. Además, la selección del valor inicial es más importante, ya que a menudo converge al punto de silla o no converge. Para la programación, la iteración multidimensional de Newton requiere calcular la matriz de Hesse, lo que requiere una gran cantidad de cálculos.

En vista de las deficiencias anteriores, también hay muchas mejoras en la iteración de Newton. La iteración de Gauss-Newton ignora el término cuadrado del gradiente restante al calcular la segunda derivada, eliminando el paso de calcular la matriz de Hesse. Solo se puede usar un paso para calcular el segundo paso y solo se puede calcular la matriz jacobiana. Además, el método Levenberg-Marquardt mejora enormemente la solución de matrices singulares o mal condicionadas en un proceso iterativo.