Sensitivity analysis of the CNN learning process using synthetic images

Abstract

Incrementar la interpretabilidad de las CNN es uno de los principales retos en el campo de Deep Learning actualmente y en general, se ha abordado desde enfoques muy complejos. Este proyecto presenta una nueva metodología más sencilla para entender el proceso que sigue una CNN para aprender a clasificar imágenes con niveles tan altos de precisión. Varios modelos compuestos por una capa convolucional con un único filtro se han entrenado con conjuntos de datos generados sintéticamente de tal forma que se centran en resolver un problema específico. Se ha comprobado que obtienen buenos resultados, así como que facilitan la interpretación de las características y los filtros, incluso permitiendo aplicar técnicas de Machine Learning para realizar los análisis, debido a la baja cantidad de parámetros a estudiar. El proyecto demuestra que los modelos entrenados están enfocados a extraer detalles muy específicos como características de la imagen, las cuales no son intuitivas para los seres humanos. Además, es esencial agregar ruido a los conjuntos de datos para evitar sesgos.

Increasing CNN interpretability is one of the fundamental challenges in the Deep Learning field nowadays and generally, it has been addressed from very complex approaches. A new and simpler methodology to understand the process a CNN follows to learn to classify images with such high levels of accuracy is presented in this thesis. Several models comprised of one convolutional layer with a single filter have been trained with datasets generated synthetically so they focus on solving a specific problem. They have been proved to obtain good results as well as ease feature and filter interpretation, even enable to apply ML techniques to perform the analyses, due to the the lower amount of parameters to study. The thesis demonstrates that the trained models are focused on extracting very specific details as image features which are counter-intuivite for human beings. Moreover, it is essential to add noise to the datasets in order to avoid bias.