Lexicon Redes Neuronales

Definición breve

Los autoencoders variacionales son modelos generativos probabilísticos que aprenden una representación latente de los datos y permiten generar nuevas muestras similares a las originales.

Explicación del concepto

Los autoencoders variacionales (VAE) son una extensión de los autoencoders tradicionales, diseñados no solo para comprimir datos, sino también para generar nuevos datos.

A diferencia de un autoencoder estándar, que aprende una representación fija, un VAE aprende una distribución probabilística en el espacio latente.

Esto permite:

• generar nuevas muestras
• interpolar entre datos
• modelar incertidumbre

El modelo está compuesto por dos partes:

• Encoder → convierte datos en una distribución latente
• Decoder → genera datos a partir de esa distribución

Cómo funciona

El proceso de un VAE incluye:

1. Codificación
   El encoder transforma la entrada en dos vectores:
   • media ($\mu$μ)
   • varianza ($\sigma^2$σ2)
2. Muestreo (reparameterization trick)
   Se genera un vector latente a partir de la distribución.
3. Decodificación
   El decoder reconstruye los datos a partir del vector latente.
4. Optimización
   Se minimiza una función de pérdida que combina:
   • error de reconstrucción
   • divergencia KL

Función de pérdida

$\mathcal{L} = \mathbb{E}_{q(z|x)}[\log p(x|z)] – D_{KL}(q(z|x) \parallel p(z))$

Por qué es importante

Los VAE son fundamentales en el campo de los modelos generativos.

Beneficios:

• permiten generación de datos coherentes
• crean espacios latentes continuos
• facilitan interpolación entre ejemplos
• modelan incertidumbre de forma explícita

Ejemplo conceptual

Un VAE entrenado con imágenes de rostros puede:

• generar nuevas caras realistas
• interpolar entre dos rostros diferentes
• explorar variaciones en el espacio latente

Ejemplo en PyTorch

Un ejemplo simplificado de VAE:

import torch.nn as nn
class VAE(nn.Module):
    def __init__(self):
        super().__init__()
        self.encoder = nn.Linear(784, 128)
        self.mu = nn.Linear(128, 20)
        self.logvar = nn.Linear(128, 20)
        self.decoder = nn.Linear(20, 784)
    def forward(self, x):
        h = self.encoder(x)
        mu = self.mu(h)
        logvar = self.logvar(h)
        z = mu  # simplificado
        return self.decoder(z)

Conceptos relacionados

• Autoencoders
• Modelos generativos
• Representaciones latentes
• Modelos de difusión
• Redes generativas adversariales

Resumen

Los autoencoders variacionales (VAE) son modelos generativos probabilísticos que aprenden representaciones latentes continuas de los datos. Permiten generar nuevas muestras, modelar incertidumbre y explorar el espacio de datos, siendo una herramienta clave en la inteligencia artificial moderna.