La diferencia entre word2vector y svm
《Clasificación de redes de imágenes mediante redes neuronales convolucionales profundas》, Alex Krizhevsky, Ilya Sutskever, Geoffrey E Hinton, NIPS 2012.
《 Característica jerárquica Learning for Scene Labels", Clement Farabet, Camille Couprie, Laurent Najman y Yann LeCun, IEEE Transactions on Pattern Analysis and Machine Intelligence, 2013.
Aprendizaje de jerarquías de funciones convolucionales para el reconocimiento visual (para el reconocimiento visual Jerarquía de funciones convolucionales para el reconocimiento), Koray Kavukcuoglu, Pierre Sermanet, Y-Lan Boureau, Karol Gregor, Michaël Mathieu y Yann LeCun, Advances in Neural Information Processing Systems (NIPS 2010), 23, 2010.
2. Reconocimiento de voz
Los investigadores de Microsoft colaboraron con Hintion para introducir RBM y DBN en el entrenamiento del modelo acústico de reconocimiento de voz por primera vez y lograron el éxito en el reconocimiento de voz de amplio vocabulario. Systems fue un gran éxito, reduciendo la tasa de error del reconocimiento de voz en un 30%. Sin embargo, actualmente no existe un algoritmo rápido paralelo eficaz para DNN, y muchas instituciones de investigación están utilizando corpus de datos a gran escala para mejorar la eficiencia del entrenamiento de los modelos acústicos DNN a través de plataformas GPU.
A nivel internacional, empresas como IBM y Google han realizado rápidamente investigaciones sobre el reconocimiento de voz DNN, y la velocidad es muy rápida.
A nivel nacional, empresas o unidades de investigación como Alibaba, iFlytek, Baidu y el Instituto de Automatización de la Academia de Ciencias de China también están realizando investigaciones sobre el aprendizaje profundo en el reconocimiento de voz.
3. Procesamiento del lenguaje natural y otros campos
Muchas instituciones están realizando investigaciones. En 2013, Tomas Mikolov, Kai Chen, Greg Corrado y Jeffrey Dean publicaron el artículo Efficient Estimation of Word. Representaciones en Vector Space construye un modelo word2vector En comparación con el modelo tradicional de bolsa de palabras, word2vector puede expresar mejor información gramatical. El aprendizaje profundo se utiliza principalmente en la traducción automática y la minería semántica en campos como el procesamiento del lenguaje natural.