¿Por qué los pesos y umbrales iniciales de las redes neuronales están normalizados entre 0 y 1 o

No necesariamente, también se puede configurar entre [-1, 1]. De hecho, el valor del peso debe ser negativo; de lo contrario, solo podrá activar neuronas y no tendrá ningún efecto inhibidor. En cuanto a por qué es suficiente estar entre [-1, 1], se debe a las limitaciones de la normalización y el intervalo de salida de la función sigmoidea. En programación general, establezca una matriz como Límites = Unos (s, 1) * [-1, 1]; los límites superior e inferior del porcentaje de peso.

En MATLAB, puede usar directamente net = init(net); Podemos inicializar una red determinada configurando los parámetros de red net.initFcn y net.layer{i}. initFcn Net.initFcn se utiliza para determinar la función de inicialización de toda la red. El valor predeterminado para las redes feedforward es initlay, que permite que cada capa use una función de inicialización separada. Net.initFcn, luego el parámetro net.layer{i}. InitFcn también debe configurarse para determinar la función de inicialización de cada capa. Para las redes feedforward, a menudo se utilizan dos métodos de inicialización diferentes: initwb e initnw. La función Initwb inicializa la matriz de peso y la compensa de acuerdo con los parámetros de inicialización propios de cada capa (net.inputWeights{i, j}). initFcn). Los pesos de inicialización de las redes feedforward generalmente se establecen en rands, de modo que los pesos toman valores aleatorios entre -1 y 1. Este método se suele utilizar cuando la función de transformación es lineal. Initnw se utiliza a menudo para convertir funciones en funciones de curva. Según Nguyen y Widrow [NgWi90], genera pesos iniciales y valores de compensación para cada capa, de modo que las áreas activas de las neuronas en cada capa se distribuyan aproximadamente uniformemente en el espacio de entrada.