A comparison of optimisation algorithms for high-dimensional particle and astrophysics applications

Abstract

Los problemas de optimización son omnipresentes en partículas y astrofísica, e implican localizar el óptimo de una función complicada de muchos parámetros que pueden ser computacionalmente costosos de evaluar. Describimos una serie de algoritmos de optimización global que aún no se utilizan ampliamente en astrofísica de partículas, los comparamos con el muestreo aleatorio y las técnicas existentes, y realizamos una comparación detallada de su desempeño en una variedad de funciones de prueba. Estos incluyen cuatro funciones de prueba analíticas de dimensionalidad variable y un ejemplo realista derivado de un ajuste global reciente de supersimetría de escala débil. Aunque el mejor algoritmo a utilizar depende de la función que se esté investigando, podemos presentar conclusiones generales sobre los méritos relativos del muestreo aleatorio, la evolución diferencial, la optimización del enjambre de partículas, la estrategia de evolución de la adaptación de la matriz de covarianza, la optimización bayesiana, la optimización del lobo gris y la colonia de abejas artificial PyGMO, el filtro de partículas gaussianas y la programación de memoria adaptativa para algoritmos de optimización global.

Optimisation problems are ubiquitous in particle and astrophysics, and involve locating the optimum of a complicated function of many parameters that may be computationally expensive to evaluate. We describe a number of global optimisation algorithms that are not yet widely used in particle astrophysics, benchmark them against random sampling and existing techniques, and perform a detailed comparison of their performance on a range of test functions. These include four analytic test functions of varying dimensionality, and a realistic example derived from a recent global fit of weak-scale supersymmetry. Although the best algorithm to use depends on the function being investigated, we are able to present general conclusions about the relative merits of random sampling, Differential Evolution, Particle Swarm Optimisation, the Covariance Matrix Adaptation Evolution Strategy, Bayesian Optimisation, Grey Wolf Optimisation, and the PyGMO Artificial Bee Colony, Gaussian Particle Filter and Adaptive Memory Programming for Global Optimisation algorithms.