Bayesian optimization of the PC algorithm for learning Gaussian Bayesian networks

Abstract

El algoritmo de PC es un método popular para aprender la estructura de las redes gaussianas bayesianas. Realiza pruebas estadísticas para determinar aristas ausentes en la red. Por lo tanto, se rige por dos parámetros: (i) el tipo de prueba, y (ii) su nivel de significación. Estos parámetros suelen establecerse en valores recomendados por un experto. Sin embargo, tal enfoque puede sufrir de sesgo humano, lo que lleva a resultados de reconstrucción subóptimos. En este documento consideramos un enfoque más basado en principios para elegir estos parámetros de forma automática. Para ello optimizamos una puntuación de reconstrucción evaluada sobre un conjunto de diferentes redes gaussianas bayesianas. Este objetivo es costoso de evaluar y carece de una expresión de forma cerrada, lo que significa que la optimización bayesiana (BO) es una elección natural. Los métodos BO utilizan un modelo para guiar la búsqueda y, por lo tanto, pueden explotar las propiedades de suavidad de la superficie objetivo. Mostramos que los parámetros encontrados por un método BO superan a los encontrados por una estrategia de búsqueda aleatoria y la recomendación de expertos. Es importante destacar que hemos descubierto que una prueba estadística que a menudo se pasa por alto proporciona los mejores resultados generales de reconstrucción.

The PC algorithm is a popular method for learning the structure of Gaussian Bayesian networks. It carries out statistical tests to determine absent edges in the network. It is hence governed by two parameters: (i) The type of test, and (ii) its significance level. These parameters are usually set to values recommended by an expert. Nevertheless, such an approach can suffer from human bias, leading to suboptimal reconstruction results. In this paper we consider a more principled approach for choosing these parameters in an automatic way. For this we optimize a reconstruction score evaluated on a set of different Gaussian Bayesian networks. This objective is expensive to evaluate and lacks a closed-form expression, which means that Bayesian optimization (BO) is a natural choice. BO methods use a model to guide the search and are hence able to exploit smoothness properties of the objective surface. We show that the parameters found by a BO method outperform those found by a random search strategy and the expert recommendation. Importantly, we have found that an often overlooked statistical test provides the best over-all reconstruction results.