Agora e possivel rodar um modelo de IA de um trilhao de parametros sem tocar na nuvem, em um cluster de Macs em cima de uma mesa. A LM Studio disse que trabalhou com a Apple para rodar o Kimi K2.6, modelo de pesos abertos da Moonshot com cerca de um trilhao de parametros, em quatro Mac Studios ligados entre si, com acesso remoto seguro, usando uma versao preview de seu software. A demonstracao, apresentada em torno da WWDC 2026 da Apple, e um marco de quao longe chegou a inferencia local, no proprio ambiente, de modelos em escala de fronteira.
A montagem se apoia em duas coisas que a Apple vinha construindo silenciosamente. A primeira e a memoria: quatro Mac Studios unidos por Thunderbolt 5 somam cerca de 1,5 terabytes de memoria unificada, o suficiente para acomodar os pesos de um modelo de um trilhao de parametros que de outra forma exigiria um rack de GPUs de datacenter. A segunda e um novo recurso, o RDMA sobre Thunderbolt 5 no macOS, que permite que as maquinas movam dados entre si rapido o bastante para se comportarem como uma so. A taxa de processamento relatada para o Kimi K2 em um cluster desses fica em torno de 25 tokens por segundo, utilizavel para trabalho real, a um custo de hardware de cerca de US$ 40.000, que e muito para um individuo e muito pouco diante do servidor GPU equivalente.
Para a Apple, isso e um movimento de posicionamento. Na WWDC 2026 ela posicionou o Mac Studio como uma estacao de trabalho seria de IA local, citando grandes ganhos na geracao de tokens em seus chips mais novos rodando modelos pela LM Studio. Para o mundo dos pesos abertos, e algo maior: o fato de um modelo do tamanho da fronteira como o Kimi K2.6 ser distribuido com pesos abertos e o que torna possivel roda-lo no seu proprio hardware. Modelos fechados dos grandes laboratorios nao podem ser baixados para uma mesa, os abertos podem, e essa diferenca e agora a diferenca entre alugar inteligencia e ser dono da maquina que a executa.
O significado se conecta a discussao de custos que acontece em todo o resto da IA. A inferencia na nuvem e tarifada, e a conta cresce conforme o uso; um modelo rodando localmente tem um custo fixo, inicial, e nenhuma cobranca por token. Para trabalho sensivel a privacidade ou de alto volume, essa conta comeca a favorecer a mesa. As ressalvas honestas: 25 tokens por segundo esta bom para um unico usuario, mas nao para atender a muitos, US$ 40.000 e uma barreira real e as alegacoes de desempenho dos fornecedores devem ser lidas com o ceticismo de sempre. Mas a direcao e dificil de ignorar. A fronteira costumava viver apenas em datacenters, e um trilhao de parametros agora cabe, devagar mas de verdade, em um cluster de computadores que voce pode comprar e desligar da tomada.