Vous pouvez maintenant faire tourner un modele d'IA de mille milliards de parametres sans toucher a l'infonuagique, sur une grappe de Mac poses sur un bureau. LM Studio a indique avoir travaille avec Apple pour faire tourner Kimi K2.6, le modele a poids ouverts de Moonshot comptant environ mille milliards de parametres, sur quatre Mac Studio relies ensemble, avec acces distant securise, au moyen d'une version preliminaire de son logiciel. La demonstration, presentee autour de la WWDC 2026 d'Apple, marque le chemin parcouru par l'inference locale et sur site des modeles de taille frontiere.
Le montage s'appuie sur deux choses vers lesquelles Apple progresse discretement. La premiere, c'est la memoire: quatre Mac Studio reunis par Thunderbolt 5 mettent en commun environ 1,5 teraoctets de memoire unifiee, assez pour contenir les poids d'un modele de mille milliards de parametres qui exigeraient autrement une baie entiere de GPU de centre de donnees. La seconde, c'est une nouvelle capacite, le RDMA par Thunderbolt 5 dans macOS, qui permet aux machines de deplacer les donnees entre elles assez vite pour se comporter comme une seule. Le debit rapporte pour Kimi K2 sur une telle grappe se situe autour de 25 jetons par seconde, utilisable pour du vrai travail, a un cout de materiel d'environ 40 000 $, ce qui est beaucoup pour un particulier et tres peu a cote du serveur GPU equivalent.
Pour Apple, c'est un geste de positionnement. A la WWDC 2026, elle a presente le Mac Studio comme un serieux poste de travail d'IA locale, en citant d'importants gains de generation de jetons sur ses puces les plus recentes faisant tourner des modeles avec LM Studio. Pour le monde des poids ouverts, c'est quelque chose de plus grand: le fait qu'un modele de taille frontiere comme Kimi K2.6 soit livre avec des poids ouverts est precisement ce qui rend possible de le faire tourner sur votre propre materiel. Les modeles fermes des grands laboratoires ne peuvent pas etre telecharges sur un bureau, les ouverts le peuvent, et cette difference est desormais celle qui separe la location de l'intelligence et la possession de la machine qui la fait tourner.
L'importance de la chose rejoint la question des couts qui se joue partout ailleurs en IA. L'inference infonuagique est facturee au compteur, et la facture grimpe avec l'usage; un modele qui tourne localement a un cout initial fixe et aucun compteur au jeton. Pour le travail sensible a la confidentialite ou a fort volume, ce calcul commence a favoriser le bureau. Les reserves honnetes: 25 jetons par seconde conviennent a un seul utilisateur, mais pas pour en servir plusieurs, 40 000 $ constituent un obstacle reel, et les affirmations de debit des fournisseurs devraient se lire avec le scepticisme habituel. Mais la direction est difficile a manquer. La frontiere vivait autrefois uniquement dans les centres de donnees, et mille milliards de parametres tiennent desormais, lentement mais reellement, sur une grappe d'ordinateurs que vous pouvez acheter et debrancher.