Saltar al contenido principal
Zubnet AI › Aprender › Wiki › Apple Silicon
Infraestructura

Apple Silicon

También conocido como: Memoria unificada, Chips serie M
Los chips propios de Apple para Mac, cuya «memoria unificada» compartida les permite ejecutar en local modelos de IA sorprendentemente grandes.

Por qué importa

La memoria unificada convirtió a los Mac en una de las formas más populares de ejecutar modelos grandes en local. Un MacBook Pro con 128 GB de memoria puede cargar un modelo cuantizado de 70 mil millones de parámetros, que en un PC necesitaría varias tarjetas NVIDIA de gama alta. Los Mac Studio con mucha memoria se volvieron una opción habitual para ejecutar modelos abiertos muy grandes en casa o en oficinas pequeñas, en silencio y con poco consumo.

Apple Silicon es también el hardware detrás de los modelos en el dispositivo de Apple Intelligence, y un objetivo clave de la ruta de IA local: herramientas como Ollama, LM Studio, llama.cpp y MLX tienen soporte de primera para Mac.

En profundidad

En 2020, Apple empezó a sustituir los procesadores Intel de los Mac por sus propios chips, comenzando por el M1. Cada chip combina núcleos de CPU, una GPU y un Neural Engine en una sola pieza de silicio, salvo los chips Ultra y los M5 Pro y Max, que son dos dados de silicio unidos. La característica clave para la IA es la memoria unificada: en lugar de que la GPU tenga su propia memoria separada (VRAM), todas las partes del chip comparten una gran reserva de memoria rápida.

En un PC típico, un modelo tiene que caber en la VRAM de la tarjeta gráfica, que va de 8 a 32 GB en las tarjetas de consumo. En un Mac, la GPU puede usar la mayor parte de la memoria del sistema, que puede ser de 64 GB, 128 GB o incluso hasta 512 GB en la gama más alta.

Tamaño de memoria frente a velocidad de memoria

Hay dos números que importan para los LLM en local. La capacidad de memoria decide qué tan grande es el modelo que puedes cargar. El ancho de banda de memoria decide qué tan rápido genera texto, porque producir cada token implica recorrer los pesos del modelo. El ancho de banda varía mucho según la gama del chip: los chips base ofrecen unos 100 a 150 GB/s, los Pro cerca del doble, los Max hasta 614 GB/s en el M5 Max y los Ultra más de 800 GB/s. Una GPU NVIDIA dedicada de gama alta sigue teniendo más, a menudo de 1.000 a 1.800 GB/s, pero su memoria es mucho menor.

Una regla aproximada: tokens por segundo ≈ ancho de banda ÷ tamaño del modelo en memoria. Un modelo de 40 GB en un chip de 400 GB/s tiene su techo cerca de 10 tokens por segundo.

Dónde se quedan atrás los Mac

Los Mac son buenos generando tokens para su precio y su consumo, pero más lentos en el procesamiento del prompt (leer una entrada larga antes de responder), que depende de la potencia de cómputo bruta. Los documentos largos o las bases de código grandes pueden tardar un rato apreciable en «leerse». Entrenar y ajustar modelos grandes también es mucho más lento que en hardware NVIDIA. La generación M5 de Apple (2025) añadió unidades matriciales dedicadas dentro de la GPU, que apuntan justo a esa brecha.

Software

  • MLX: el framework de machine learning propio de Apple, diseñado en torno a la memoria unificada.
  • llama.cpp / Ollama / LM Studio: ejecutan modelos GGUF usando Metal, el framework de GPU de Apple. LM Studio también puede ejecutar modelos MLX.
  • PyTorch: admite las GPU de los Mac mediante su backend MPS, útil para experimentar.
  • Core ML: el framework de Apple para incluir modelos dentro de aplicaciones.

Consejos prácticos

Por defecto, macOS limita cuánta memoria puede usar la GPU (aproximadamente entre dos tercios y tres cuartos del total), y ese límite se puede subir con un ajuste del sistema en máquinas dedicadas a la IA. Deja espacio para la caché KV, porque los contextos largos necesitan varios gigabytes extra. Al comprar, la capacidad de memoria es la especificación que no puedes ampliar después.

← Todos los términos
ESC