Dealing with categorical and integer-valued variables in Bayesian optimization with Gaussian processes

Abstract

Algunos problemas de optimización se caracterizan por un objetivo que es muy costoso, que carece de una expresión analítica y cuyas evaluaciones pueden estar contaminadas por el ruido. Los métodos de optimización bayesiana (BO) se pueden utilizar para resolver estos problemas de manera eficiente. BO se basa en un modelo probabilístico del objetivo, que es típicamente un proceso gaussiano (GP). Este modelo se utiliza para calcular una función de adquisición que estima la utilidad esperada (para resolver el problema de optimización) de evaluar el objetivo en cada nuevo punto potencial. Sin embargo, un problema con los GP es que asumen variables de entrada de valor real y no pueden lidiar fácilmente con valores categóricos o de valores enteros. Los métodos comunes para dar cuenta de estas variables, antes de evaluar el objetivo, incluyen asumir que son reales y luego usar una sola codificación, para variables categóricas, o redondear al entero más cercano, para variables con valor entero. Mostramos que esto conduce a resultados subóptimos e introducimos un enfoque novedoso para abordar variables de entrada categóricas o de valor entero dentro del contexto de BO con GP. Apoyamos con múltiples experimentos que nuestro método resuelve el escenario propuesto.

Some optimization problems are characterized by an objective that is very expensive, that lacks an analytical expression, and whose evaluations can be contaminated by noise. Bayesian Optimization (BO) methods can be used to solve these problems efficiently. BO relies on a probabilistic model of the objective, which is typically a Gaussian process (GP). This model is used to compute an acquisition function that estimates the expected utility (for solving the optimization problem) of evaluating the objective at each potential new point. A problem with GPs is, however, that they assume real-valued input variables and cannot easily deal with categorical or integer-valued values. Common methods to account for these variables, before evaluating the objective, include assuming they are real and then using a one-hot encoding, for categorical variables, or rounding to the closest integer, for integer-valued variables. We show that this leads to suboptimal results and introduce a novel approach to tackle categorical or integer-valued input variables within the context of BO with GPs. Several synthetic and real-world experiments support our hypotheses and show that our approach outperforms the results of standard BO using GPs on problems with categorical or integer-valued input variables.