Agora e possível rodar um modelo de IA de um trilhao de parâmetros sem tocar na nuvem, em um cluster de Macs em cima de uma mesa. A LM Studio disse que trabalhou com a Apple para rodar o Kimi K2.6, modelo de pesos abertos da Moonshot com cerca de um trilhao de parâmetros, em quatro Mac Studios ligados entre si, com acesso remoto seguro, usando uma versão preview de seu software. A demonstração, apresentada em torno da WWDC 2026 da Apple, e um março de quao longe chegou a inferência local, no próprio ambiente, de modelos em escala de fronteira.
A montagem se apoia em duas coisas que a Apple vinha construindo silenciosamente. A primeira e a memória: quatro Mac Studios unidos por Thunderbolt 5 somam cerca de 1,5 terabytes de memória unificada, o suficiente para acomodar os pesos de um modelo de um trilhao de parâmetros que de outra forma exigiria um rack de GPUs de datacenter. A segunda e um novo recurso, o RDMA sobre Thunderbolt 5 no macOS, que permite que as maquinas movam dados entre si rápido o bastante para se comportarem como uma so. A taxa de processamento relatada para o Kimi K2 em um cluster desses fica em torno de 25 tokens por segundo, utilizavel para trabalho real, a um custo de hardware de cerca de US$ 40.000, que e muito para um individuo e muito pouco diante do servidor GPU equivalente.
Para a Apple, isso e um movimento de posicionamento. Na WWDC 2026 ela posicionou o Mac Studio como uma estacao de trabalho seria de IA local, citando grandes ganhos na geração de tokens em seus chips mais novos rodando modelos pela LM Studio. Para o mundo dos pesos abertos, e algo maior: o fato de um modelo do tamanho da fronteira como o Kimi K2.6 ser distribuído com pesos abertos e o que torna possível roda-lo no seu próprio hardware. Modelos fechados dos grandes laboratórios não podem ser baixados para uma mesa, os abertos podem, e essa diferença e agora a diferença entre alugar inteligência e ser dono da máquina que a executa.
O significado se conecta a discussao de custos que acontece em todo o resto da IA. A inferência na nuvem e tarifada, e a conta cresce conforme o uso; um modelo rodando localmente tem um custo fixo, inicial, e nenhuma cobrança por token. Para trabalho sensível a privacidade ou de alto volume, essa conta comeca a favorecer a mesa. As ressalvas honestas: 25 tokens por segundo está bom para um único usuário, mas não para atender a muitos, US$ 40.000 e uma barreira real e as alegações de desempenho dos fornecedores devem ser lidas com o ceticismo de sempre. Mas a direção e dificil de ignorar. A fronteira costumava viver apenas em datacenters, e um trilhao de parâmetros agora cabe, devagar mas de verdade, em um cluster de computadores que você pode comprar e desligar da tomada.
