Future of Neural Network Technology | By @OpenEXO


Deep neural networks, or more broadly, learning models with deep embeddings, enable a wide range of applications on various levels: from biomedical data to language modeling.  

Futuro de la tecnología de redes neuronales

Las redes neuronales profundas, o más ampliamente, los modelos de aprendizaje con incrustaciones profundas, permiten una amplia gama de aplicaciones en varios niveles: desde datos biomédicos hasta modelado de lenguaje.

En la era digital actual, podemos ser los primeros en lograr una mejor comprensión del mundo natural y la evolución del cerebro humano, pero todavía tenemos un largo camino por recorrer. En este artículo, abordamos este desafío estudiando la evolución de forma biológica. Primero estudiamos la evolución biológica en la forma en que hemos desarrollado una sola neurona durante millones de años. Luego, estudiamos la evolución del cerebro humano mediante el uso de neuronas. Finalmente, este artículo cubrirá los diferentes cambios y desarrollos del cerebro humano en el mismo entorno, que también se pueden utilizar para comprender la evolución biológicamente.

La complejidad de las redes neuronales ha crecido exponencialmente durante las últimas décadas, lo que nos permite realizar inferencias y razonamientos complejos y no lineales en modelos grandes. Este trabajo explora el uso de un algoritmo de optimización para una gran tarea de clasificación de redes basada en clasificadores. Evalúa el rendimiento de algunas otras redes, a saber, Deep Conv Nets y SVM. Específicamente, mostramos que nuestro algoritmo supera a otros de última generación (es decir, CNN) en la precisión de la clasificación, lo que demuestra que es el CNN mejor capacitado para la tarea. Luego presentamos un nuevo algoritmo de optimización para resolver el problema de clasificación que abordamos utilizando un algoritmo optimizado. Finalmente, aplicamos la optimización a dos modelos estándar de redes neuronales: Image Net. Esto produce un algoritmo que es mucho más rápido y más robusto que algunos modelos basados ​​en CNN de última generación.

El aprendizaje automático ha recibido un interés creciente en los últimos años, ya que tiene muchas aplicaciones tanto en informática como en medicina. Este documento presenta un nuevo método para un enfoque de aprendizaje automático para aprender representaciones de estado latente basadas en una red neuronal profunda. Específicamente, proponemos un nuevo método llamado modelo de red neuronal profunda para aprender una representación de estado latente de un vector en un modelo de red neuronal recurrente. Además, presentamos una nueva forma de aprender un enfoque basado en redes neuronales profundas para el aprendizaje de representación de estado latente utilizando un algoritmo de aprendizaje de refuerzo profundo (LSRL). El modelo está entrenado para minimizar el arrepentimiento de la representación aprendida y predice la salida si es mejor.

Los experimentos con datos reales demuestran la eficacia del enfoque propuesto y demuestran que el modelo supera a los métodos de vanguardia anteriores para la tarea. Las redes neuronales profundas, o más ampliamente, los modelos de aprendizaje con incrustaciones profundas, permiten una amplia gama de aplicaciones en varios niveles: desde datos biomédicos hasta modelado de lenguaje. En este trabajo, estudiamos la viabilidad y el rendimiento de modelos de aprendizaje sobre datos estructurados y modelos de lenguaje no estructurado y comparamos su rendimiento con un modelo novedoso llamado modelo generalizado con incrustaciones profundas. Este enfoque se basa en el uso de una incrustación profunda que codifica y actualiza las capas de datos, y mostramos que las incrustaciones profundas pueden ser un componente clave del proceso de aprendizaje.

Las arquitecturas de redes neuronales profundas (CNN) son herramientas prometedoras en el análisis del lenguaje humano, tanto en inglés como en otros idiomas extranjeros. Sin embargo, se limitan en gran medida al caso de características de nivel de palabra en inglés que no están en inglés y solo se limitan al caso de información de palabra basada en inglés. Varias publicaciones han explorado el uso de representaciones de características a nivel de palabra que no están en inglés para artículos de Wikipedia en inglés.

Sin embargo, aún es posible usar la representación de características a nivel de palabra para este propósito, ya que recientemente hemos visto el éxito del uso de características a nivel de palabra en inglés en el modelado de lenguaje para artículos de Wikipedia en inglés. Proponemos una nueva forma de aprender de una representación de características a nivel de palabra utilizando las características de Wikipedia en inglés.

Nuestro enfoque se basa en el hecho de que las correspondencias de características de las palabras no tienen la forma de una palabra, mientras que los espacios incrustados de las palabras sí lo son. La idea es incrustar palabras usando un espacio de incrustación de palabras y luego aprender de ellas. Demostramos el método en una tarea de traducción automática que utilizó texto en japonés para la extracción de información. Hay muchas posibilidades y desarrollos que aparecerán en la tecnología neuronal en el futuro próximo.


Full article in Insight OpenEXO


No hay comentarios.

Imágenes del tema de enot-poloskun. Con tecnología de Blogger.