¿Qué algoritmos se deben diseñar para escribir redes neuronales en aprendizaje profundo?

Hay muchos algoritmos involucrados, como el algoritmo de propagación hacia atrás, la propagación hacia adelante, el algoritmo de convolución, el algoritmo de matriz de punto lejano, el algoritmo de optimización de gradiente, el algoritmo de evaluación, etc. Usar simplemente algoritmos para describir es demasiado general. Generalmente, los principios y fórmulas matemáticos correspondientes se utilizan directamente para describir el proceso de escritura de las redes neuronales. Primero, defina la estructura de la red, como la cantidad de neuronas, la cantidad de capas ocultas, pesos, sesgos, etc., luego realice la propagación hacia adelante en función del descenso del gradiente, luego propague hacia atrás para actualizar el gradiente y finalmente itere hasta que la red es óptimo.