Técnicas de fusión de información en procesos de Deep Learning.
Enlaces de interés:
Artículos científicos
Congresos:
En la actualidad, las redes neuronales profundas son la principal herramienta utilizada en Inteligencia Artificial para tratar problemas complejos, por su versatilidad y potencia. Estas redes dependen de disponer de una cantidad suficiente de datos que utilizan para aprender a identificar patrones de los mismos por medio de un proceso matemático que fija una serie de parámetros. Por ejemplo, en el caso de imágenes, las reducen a datos más simples para poder detectar objetos, texturas, elementos extraños, etc. A este proceso se le denomina entrenamiento. De esta manera, cuando se le presentan imágenes nuevas a una red entrenada, las compara con las características de las que ha utilizado para entrenarse para poder identificar a cuáles se parecen más o qué diferencias existen.
El funcionamiento de las redes neuronales profundas depende, por tanto, de su capacidad de fusionar datos de forma adecuada para la identificación de las características más relevantes. En el caso de las denominadas redes neuronales convolucionales, esta fusión se ha llevado a cabo habitualmente por medio de dos procesos estándar: la convolución y el pooling. Estos procesos utilizan siempre los mismos mecanismos de fusión de información. Para mejorar los resultados obtenidos con la red, tradicionalmente se incrementa el número de parámetros, lo que hace más lento y costoso el uso de estas redes.
Por ello, en este proyecto nos hemos planteado la mejora de los procesos de fusión de información dentro de la red, de forma que pueda mejorarse su rendimiento con un coste menor. Para ello, hemos estudiado nuevos mecanismos de fusión de información, de tal manera que se cree un conjunto de funciones más allá de las habituales que puedan ser adaptadas a problemas concretos, dependiendo de las necesidades de los usuarios, intentando que esto no suponga un incremento de coste. En otras palabras, hemos tratado de sustituir la aproximación por “fuerza bruta” para mejorar los resultados por otra más “fina” que tenga en cuenta cuáles son las datos a fusionar. En concreto, las redes neuronales desarrolladas quieren ser la respuesta a nuevos desafíos en el sector industrial. En particular, la predicción de lo “desconocido”, es decir las anomalías. Una anomalía es un evento que no forma parte del pasado del sistema, un evento que no se puede encontrar en los datos históricos del sistema. En el marco industrial la detección temprana de problemas que provocan por ejemplo la indisponibilidad de equipos tiene un alto impacto sobre la producción, y por otro lado supone un ahorro importante de los costes de mantenimiento. Mediante la identificación de eventos anómalos se persigue el objetivo de predecirlos a futuro con suficiente antelación y confianza, para planificar las intervenciones incurriendo a costes económicos más reducidos.
Por ello, los objetivos principales del proyecto han sido:
– Mejorar la aplicabilidad e interpretabilidad de las redes neuronales profundas mediante el desarrollo teórico de nuevos mecanismos de fusión de información para ser aplicados en las fases de convolución y pooling.
– Analizar el potencial de las redes neuronales profundas para su uso en la detección de anomalías en series temporales univariantes, así como su adaptación para funciones de inferencia de IA en dispositivos perimetrales.
Los resultados obtenidos han sido positivos. En particular, se ha comprobado que los procesos de pooling pueden ser en efecto mejorados si se utilizan funciones que son capaces de tener en cuenta las relaciones entre los datos por medio de medidas adecuadas. Esto ha abierto la puerta al desarrollo de modelos de redes neuronales que puedan adaptarse específicamente al tipo de anomalías a estudiar, así como a otros problemas de procesamiento de imagen.
En cuanto a la convolución, esta depende fuertemente de la forma en que está diseñado el hardware (los procesadores) en los ordenadores actuales. Aunque teóricamente sí es posible mejorar los resultados si se consideran funciones de fusión de información más generales, en la práctica no es posible implementar estos cambios a menos que se produzca un cambio en las características físicas de las máquinas. Este tipo de modificación está fuera del alcance de las empresas, por lo que no es factible.
Sin embrago, es importante destacar que se ha mostrado que los nuevos mecanismos de fusión de información pueden extenderse más allá de las redes neuronales convolucionales inicialmente consideradas, para mejorar cualquier tipo de arquitectura. Este es un aspecto de gran relevancia, ya que las redes neuronales evolucionan a una gran velocidad, y la aparición de nuevas y más potentes arquitecturas es muy rápida. Los resultados de nuestro estudio permiten que las empresas los apliquen a estos nuevos modelos.
Por otro lado, con el objetivo de definir un producto de detección valido para diferentes tipos de señales en términos de complejidad (periódicas, casi periódicas, aperiódicas) se ha analizado el desempeño de varias arquitecturas, así como la forma de embeber dichas arquitecturas en diferentes hardwares. Dicho análisis ha permitido demostrar que redes más sencillas son capaces de detectar las características de series temporales univariantes más complejas cuales por ejemplo el precio de la electricidad del mercado diario español. Esto implica poder considerar hardwares de menor capacidad de procesamiento, y consecuentemente definir dispositivos de detección de menor coste, para llevar a cabo la inferencia.
