Saltar al contenido principal
Zubnet AI › Aprender › Wiki › PyTorch
Herramientas

PyTorch

También conocido como: Torch
El framework de deep learning de código abierto con el que se construyen la mayor parte de la investigación en IA y la mayoría de los modelos abiertos.

Por qué importa

PyTorch es el idioma por defecto de la IA moderna. La inmensa mayoría de los artículos de investigación publican código en PyTorch, y los modelos que descargas de Hugging Face, como Llama, Qwen, Mistral y DeepSeek, suelen estar definidos en PyTorch. La biblioteca Transformers de Hugging Face, vLLM, SGLang y la mayoría de las herramientas de fine-tuning están construidas sobre él.

Aunque nunca escribas un bucle de entrenamiento, PyTorch está debajo de buena parte de lo que ejecutas. Cuando ves un error CUDA out of memory, un archivo .pt o un paso de instalación que pide una versión concreta de PyTorch y CUDA, eso es PyTorch.

En profundidad

PyTorch es una biblioteca de Python para construir y entrenar redes neuronales. Te da tensores (arreglos multidimensionales que pueden vivir en una GPU), diferenciación automática (calcula los gradientes por ti, así que la retropropagación es una línea de código) y piezas para capas, optimizadores y carga de datos. Lo publicó a principios de 2017 el laboratorio de investigación en IA de Facebook (hoy parte de Meta), sobre la base de la antigua biblioteca Torch, escrita en Lua.

Desde 2022, PyTorch está gobernado por la PyTorch Foundation, dentro de la Linux Foundation, con miembros como Meta, Microsoft, Google, NVIDIA, AMD y AWS.

Por qué ganó

Cuando llegó PyTorch, el framework líder era TensorFlow, de Google, que por entonces te obligaba a definir primero todo un grafo de cómputo y ejecutarlo después. PyTorch ejecutaba el código de inmediato: cada línea corría al instante, como Python normal. Podías imprimir un tensor en mitad del modelo, usar sentencias if y bucles normales y depurar con las herramientas de siempre. A los investigadores les encantó, y hacia 2019-2020 dominaba la investigación nueva. La industria lo siguió, porque los modelos de investigación estaban en PyTorch.

Piezas clave

  • torch.Tensor: el tipo de dato central, en CPU o GPU (.to("cuda")).
  • Autograd: registra las operaciones sobre tensores y calcula los gradientes con loss.backward().
  • torch.nn: capas, funciones de activación y funciones de pérdida para componer modelos.
  • torch.optim: optimizadores como SGD y AdamW.
  • torch.compile: añadido en PyTorch 2.0 (2023), compila los modelos en kernels más rápidos sin que reescribas tu código.
  • Herramientas distribuidas: DDP y FSDP para entrenar en muchas GPU.

Soporte de hardware

PyTorch funciona mejor en GPU NVIDIA a través de CUDA, que es el camino más probado. También admite GPU AMD mediante ROCm, Apple Silicon mediante el backend MPS, GPU Intel y las TPU de Google (vía PyTorch/XLA). El soporte fuera de NVIDIA ha mejorado mucho, pero todavía puede ir por detrás en funciones nuevas y kernels a medida.

El ecosistema a su alrededor

  • Hugging Face Transformers, Diffusers, PEFT, TRL: bibliotecas de modelos y herramientas de fine-tuning.
  • PyTorch Lightning: estructura para el código de entrenamiento.
  • vLLM y SGLang: servidores de inferencia de alto rendimiento.
  • ExecuTorch: para ejecutar modelos de PyTorch en teléfonos y dispositivos de borde.

Su principal alternativa hoy es JAX, de Google, usado para entrenar Gemini y popular en algunos laboratorios de investigación. En Mac, MLX, de Apple, es una opción más ligera para el trabajo local.

← Todos los términos
ESC