Programación probabilística: lenguajes y métodos de inferencia

Abstract

Este trabajo ofrece una visión integral de los modelos probabilísticos y su implementación práctica en Pyro, un marco de programación probabilística basado en PyTorch. Comienza con una introducción a conceptos fundamentales como la inferencia bayesiana, inferencia variacional y métodos de Montecarlo, abordando también el método del descenso del gradiente estocástico. Luego, se presentan las herramientas clave de Pyro, incluyendo primitivas de modelaje, guías para la inferencia variacional, clases como SVI y PyroOptim, y estrategias de optimización. Finalmente, se exploran aplicaciones en dos áreas fundamentales: los modelos generativos, con un enfoque en los autocodificadores variacionales, y las redes neuronales bayesianas. En ambos casos, se discuten diferencias clave con los métodos clásicos, su implementación en Pyro y los resultados obtenidos a través de experimentos prácticos. Este trabajo enfatiza la flexibilidad y precisión que Pyro aporta a la modelización probabilística en aprendizaje automático.This document provides a comprehensive overview of probabilistic models and their practical implementation in Pyro, a probabilistic programming framework built on PyTorch. It begins by introducing fundamental concepts such as Bayesian inference, variational inference, Monte Carlo methods and stochastic gradient descent. Next, it explores Pyro’s key tools, including modeling primitives, guides for variational inference, classes like SVI and PyroOptim, and optimization strategies. Finally, applications in two fundamental areas are explored: generative models, focusing on variational autoencoders, and Bayesian neural networks. For both cases, key differences from classical methods, their implementation in Pyro, and experimental results are discussed. This work highlights the flexibility and precision Pyro brings to probabilistic modeling in machine learning.