NeuralSens: sensitivity analysis of neural networks

Abstract

Este artículo presenta el paquete NeuralSens, que puede utilizarse para realizar análisis de sensibilidad de redes neuronales utilizando el método de las derivadas parciales. La función principal del paquete calcula las derivadas parciales de la salida con respecto a las variables de entrada de un modelo perceptrón multicapa, que puede utilizarse para evaluar la importancia de las variables basándose en medidas de sensibilidad y caracterizar las relaciones entre las variables de entrada y salida. Se proporcionan métodos para calcular derivadas parciales para modelos entrenados utilizando paquetes de redes neuronales comunes en R, y se proporciona un método de cálculo «numérico» para modelos de paquetes no incluidos. El paquete también incluye funciones para trazar la información obtenida del análisis de sensibilidad.

El artículo contiene una visión general de las técnicas para obtener información a partir de modelos de redes neuronales, un fundamento teórico de cómo se calculan las derivadas parciales, una descripción de las funciones del paquete y ejemplos aplicados para comparar las funciones de NeuralSens con funciones análogas de otros paquetes de R disponibles.

This article presents the NeuralSens package that can be used to perform sensitivity analysis of neural networks using the partial derivatives method. The main function of the package calculates the partial derivatives of the output with regard to the input variables of a multi-layer perceptron model, which can be used to evaluate variable importance based on sensitivity measures and characterize relationships between input and output variables. Methods to calculate partial derivatives are provided for objects trained using common neural network packages in R, and a 'numeric' method is provided for objects from packages which are not included. The package also includes functions to plot the information obtained from the sensitivity analysis. The article contains an overview of techniques for obtaining information from neural network models, a theoretical foundation of how partial derivatives are calculated, a description of the package functions, and applied examples to compare NeuralSens functions with analogous functions from other available R packages.