Aller au contenu principal
Zubnet AI › Apprendre › Wiki › Apple Silicon
Infrastructure

Apple Silicon

Aussi appelé : Mémoire unifiée, Puces M
Les puces conçues par Apple pour les Mac, dont la « mémoire unifiée » partagée permet de faire tourner en local des modèles d'IA étonnamment grands.

Pourquoi c'est important

La mémoire unifiée a fait du Mac l'un des moyens les plus populaires de faire tourner de grands modèles en local. Un MacBook Pro doté de 128 Go de mémoire peut charger un modèle quantifié de 70 milliards de paramètres, qui demanderait plusieurs cartes NVIDIA haut de gamme sur un PC. Les Mac Studio à forte mémoire sont devenus un choix courant pour faire tourner de très grands modèles ouverts à la maison ou dans de petits bureaux, en silence et avec peu d'électricité.

Apple Silicon est aussi le matériel derrière les modèles embarqués d'Apple Intelligence, et une cible clé du parcours IA locale : des outils comme Ollama, LM Studio, llama.cpp et MLX offrent tous une prise en charge de premier plan sur Mac.

En profondeur

En 2020, Apple a commencé à remplacer les processeurs Intel des Mac par ses propres puces, à commencer par la M1. Chaque puce réunit des cœurs CPU, un GPU et un Neural Engine sur un même morceau de silicium, sauf les puces Ultra et les M5 Pro et Max, qui assemblent deux puces de silicium. La caractéristique clé pour l'IA est la mémoire unifiée : au lieu que le GPU ait sa propre mémoire séparée (VRAM), toutes les parties de la puce partagent un grand réservoir de mémoire rapide.

Sur un PC classique, un modèle doit tenir dans la VRAM de la carte graphique, soit 8 à 32 Go sur les cartes grand public. Sur un Mac, le GPU peut utiliser l'essentiel de la mémoire du système, qui peut atteindre 64 Go, 128 Go, voire jusqu'à 512 Go au sommet de la gamme.

Taille de la mémoire et vitesse de la mémoire

Deux chiffres comptent pour les LLM en local. La capacité mémoire décide de la taille du modèle que l'on peut charger. La bande passante mémoire décide de la vitesse de génération du texte, car produire chaque token revient à parcourir les poids du modèle. La bande passante varie beaucoup selon la gamme de puce : les puces de base offrent environ 100 à 150 Go/s, les puces Pro à peu près le double, les puces Max jusqu'à 614 Go/s sur la M5 Max, et les puces Ultra plus de 800 Go/s. Un GPU NVIDIA haut de gamme dédié en a encore davantage, souvent 1 000 à 1 800 Go/s, mais sa mémoire est bien plus petite.

Une règle approximative : tokens par seconde ≈ bande passante ÷ taille du modèle en mémoire. Un modèle de 40 Go sur une puce à 400 Go/s plafonne près de 10 tokens par seconde.

Là où les Mac sont en retrait

Les Mac sont bons pour générer des tokens au regard de leur prix et de leur consommation, mais plus lents pour le traitement du prompt (lire une longue entrée avant de répondre), qui dépend de la puissance de calcul brute. De longs documents ou de grosses bases de code peuvent prendre un temps sensible à « lire ». L'entraînement et le fine-tuning de grands modèles sont aussi bien plus lents que sur du matériel NVIDIA. La génération M5 d'Apple (2025) a ajouté des unités matricielles dédiées dans le GPU, ce qui vise précisément cet écart.

Logiciels

  • MLX : le framework de machine learning d'Apple, conçu autour de la mémoire unifiée.
  • llama.cpp / Ollama / LM Studio : font tourner des modèles GGUF avec Metal, le framework GPU d'Apple. LM Studio peut aussi faire tourner des modèles MLX.
  • PyTorch : prend en charge les GPU des Mac via son backend MPS, utile pour expérimenter.
  • Core ML : le framework d'Apple pour intégrer des modèles dans des applications.

Conseils pratiques

Par défaut, macOS limite la mémoire que le GPU peut utiliser (environ deux tiers à trois quarts du total), et un réglage système permet de relever cette limite sur les machines dédiées à l'IA. Gardez de la place pour le cache KV, car les longs contextes demandent plusieurs gigaoctets de plus. À l'achat, la capacité mémoire est la caractéristique que l'on ne peut pas augmenter après coup.

← Tous les termes
ESC