Red de conocimiento informático - Conocimiento informático - Cómo entrenar una red neuronal para eliminar la influencia de los valores iniciales

Cómo entrenar una red neuronal para eliminar la influencia de los valores iniciales

Generalmente el valor inicial tiene poco efecto. Puede inicializarlo usando la función rands. Esta función se utiliza especialmente para inicializar los pesos y umbrales de la red neuronal, y el efecto es mucho mejor que las funciones randn y rand.

Si desea acelerar la convergencia de la red, primero puede usar algoritmos de optimización como el algoritmo genético o el algoritmo de enjambre de partículas para el entrenamiento, y luego usar este conocimiento previo para inicializar la matriz de peso. La literatura existente muestra que el efecto del entrenamiento es mejor.

El proceso de operación básico del algoritmo genético es el siguiente (si se entrena una red neuronal, es mejor usar codificación de números reales):

a) Inicialización: establece el álgebra evolutiva contador t = 0, y establece el álgebra evolutiva máxima t, genera aleatoriamente m individuos como población inicial P (0).

b) Evaluación individual: Calcular el fitness P(t) de cada individuo del grupo.

c) Operación de selección: El operador de selección se aplica a la población. El propósito de la selección es pasar individuos optimizados directamente a la siguiente generación, o generar nuevos individuos mediante emparejamiento y cruce, y luego pasarlos a la siguiente generación. La operación de selección se basa en la evaluación de la aptitud de los individuos de la población.

d) Operación cruzada: El operador cruzado se aplica a la población. El operador de cruce es el núcleo del algoritmo genético.

e) Operación de mutación: Se aplica el operador de mutación a la población. Es decir, cambiar el valor genético de ciertos loci de una sola cadena en la población.

Después de las operaciones de selección, cruce y mutación de la población P(t), se obtiene la población P(t 1) de próxima generación.

f) Juicio de las condiciones de terminación: Si t=T, el individuo con mayor aptitud obtenida durante el proceso de evolución se considera la solución óptima y se finaliza el cálculo.

Sube un código fuente clásico para ti. Existe un caso en el que se utiliza GA para optimizar el peso inicial de NN.