Al diseñar una red neuronal bp, los pasos de diseño generalmente son ( ) (1) Determinar el número de capas ocultas y neuronas en la capa oculta (2
Al diseñar una red neuronal bp, los pasos de diseño son generalmente (determinación del número de capas ocultas y neuronas de capa oculta, configuración de pesos iniciales, preprocesamiento y posprocesamiento de datos de entrenamiento).
(1) Determinación del número de capas ocultas y neuronas de capa oculta: actualmente no existe una guía teórica.
(2) Configuración del peso inicial: Generalmente, el peso inicial de la red se establece con una distribución aleatoria con un valor medio de 0.
(3) Preprocesamiento de datos de entrenamiento: transformación de proporción de características lineales, transforma todas las características en el intervalo de 0, 1 o 1, 1, de modo que en cada conjunto de entrenamiento, el valor medio de cada característica sea 0 y tiene la misma varianza.
(4) Proceso de posprocesamiento: cuando se aplican redes neuronales para operaciones de clasificación, los valores de salida generalmente se codifican en las llamadas variables nominales y los valores específicos corresponden a las etiquetas de categoría.
Red BP: red directa multicapa (capa de entrada, capa oculta, capa de salida). Pesos de conexión: modificados mediante algoritmo de aprendizaje Delta. Función de transferencia neuronal: Función sigmoidea. Algoritmo de aprendizaje: propagación hacia adelante, propagación hacia atrás. La conexión entre capas es unidireccional y la propagación de información es bidireccional.
Dos preguntas
(1) ¿Existe una red neuronal de BP que pueda aproximarse a una muestra o función determinada? Teorema de BP: dado cualquiera, para cualquier función continua, existe una red neuronal directa de tres capas, que puede aproximarse a la función continua dentro de cualquier precisión de error cuadrático
(2) Cómo ajustar las conexiones de BP red neuronal El peso hace que la entrada y salida de la red sean las mismas que la muestra dada. En 1986, Rumelhardt et al. propusieron el algoritmo de aprendizaje de BP.
Las principales ventajas y desventajas de la red BP:
(1) Ventajas: Muy buenas características de aproximación. Tiene una fuerte capacidad de generalización. Tiene buena tolerancia a fallos
(2) Desventajas: velocidad de convergencia lenta. extremos locales. Es difícil determinar el número de nodos de capa ocultos y ocultos.