Cómo elegir algoritmos SVM, regresión logística y redes neuronales
El diseño de redes neuronales requiere el uso de algoritmos genéticos. La aplicación de algoritmos genéticos en redes neuronales se refleja principalmente en tres aspectos: aprendizaje de redes, diseño estructural de redes y análisis de redes.
1． Aplicación del algoritmo genético en el aprendizaje en red
En las redes neuronales, los algoritmos genéticos se pueden utilizar para el aprendizaje en red. En este momento, funciona en dos aspectos
(1) Optimización de las reglas de aprendizaje
Utilice un algoritmo genético para optimizar automáticamente las reglas de aprendizaje de la red neuronal, aumentando así la tasa de aprendizaje.
(2) Optimización de los coeficientes de peso de la red
Utilice la optimización global y las características de paralelismo implícito de los algoritmos genéticos para mejorar la velocidad de optimización del coeficiente de peso.
2． Aplicación del algoritmo genético en el diseño de redes
Para utilizar el algoritmo genético para diseñar una estructura de red neuronal excelente, primero debe resolver el problema de codificación de la estructura de la red y luego puede obtener la estructura óptima mediante selección, cruce, y operaciones de mutación. Hay tres métodos de codificación principales:
(1) Método de codificación directa
Esto consiste en representar directamente la estructura de la red neuronal como una cadena binaria en el algoritmo genético, el "cromosoma". Es esencialmente una relación de mapeo con una red neuronal. Mediante la optimización de los "cromosomas" se consigue la optimización de la red.
(2) Método de codificación paramétrica
La codificación utilizada en la codificación paramétrica es relativamente abstracta. La codificación incluye información como el número de capas de red, el número de neuronas en cada capa. y el método de interconexión de cada capa. Generalmente, se analiza el "cromosoma" optimizado después de la evolución y luego se genera la estructura de la red.
(3) Método de reproducción y crecimiento
Este método no codifica directamente la estructura de la red neuronal en el "cromosoma", pero codifica algunas reglas gramaticales de crecimiento simples en el "cromosoma". " Luego, el algoritmo genético cambia continuamente estas crecientes reglas gramaticales y finalmente genera una red neuronal adecuada para el problema que se está resolviendo. Este método es consistente con el crecimiento biológico y la evolución de la naturaleza.
3． Aplicación de algoritmos genéticos en el análisis de redes
Los algoritmos genéticos se pueden utilizar para analizar redes neuronales. Debido al almacenamiento distribuido y otras características de las redes neuronales, generalmente es difícil comprender directamente sus funciones a partir de su estructura topológica. Los algoritmos genéticos pueden realizar análisis funcionales, análisis de propiedades y análisis de estado en redes neuronales.
Aunque los algoritmos genéticos pueden tener aplicaciones prácticas en una variedad de campos y han demostrado su potencial y amplias perspectivas, los algoritmos genéticos todavía tienen una gran cantidad de problemas que deben estudiarse, y todavía hay varios; deficiencias en la actualidad. En primer lugar, cuando hay muchas variables y un rango de valores grande o ningún rango determinado, la velocidad de convergencia disminuye; en segundo lugar, se puede encontrar la proximidad de la solución óptima, pero finalmente no se puede determinar con precisión la posición de la solución más perturbadora; No existe un método cuantitativo para la selección de parámetros de algoritmos genéticos. Para los algoritmos genéticos, es necesario estudiar más a fondo su teoría matemática básica; también es necesario probar teóricamente sus ventajas y desventajas y otras técnicas de optimización y las razones; programación general y forma de algoritmos genéticos, etc.