Redes neuronales bayesianas

Abstract

Las redes neuronales modernas son una herramienta que permite resolver una gran variedad de problemas y retos en el ámbito de la inteligencia artificial. Sin embargo debido a que operan como cajas negras, la incertidumbre de sus predicciones es difícil de cuantificar. El paradigma bayesiano ofrece herramientas para cuantificar la incertidumbre asociada a las predicciones de una red neuronal. La principal diferencia del enfoque bayesiano es la marginalización, en vez de seleccionar una única configuración de parámetros. La marginalización, que consiste en tener en cuenta varias configuraciones de parámetros que se ajustan a los datos de entrenamiento puede mejorar la precisión de la red neuronal, pero sobre todo permite aproximar mejor la incertidumbre de la predicción. En este trabajo explicamos una visión general de cómo funciona y se implementa una red bayesiana y las principales ventajas que estas presentan.

Modern neural networks are a tool for solving a wide variety of problems and challenges in the field of artificial intelligence. However, because they operate as black boxes, the uncertainty of their predictions is difficult to quantify. The Bayesian paradigm offers insights to quantify the uncertainty associated with the predictions of a neural network. The main difference of the Bayesian approach is marginalization, rather than selecting a single parameter configuration. Marginalization, which consists in taking into account several parameter configurations that fit the training data, can improve the accuracy of the neural network, but above all it allows to better approximate the uncertainty of the prediction. In this work we present an overview of how Bayesian deep learning works and how is implemented and the main advantages it offers.