A xAI abriu o codigo do Grok Build, seu agente de programacao de terminal, liberando cerca de 844.530 linhas de Rust no GitHub sob a licenca Apache 2.0, um movimento feito para reconstruir a confianca depois que a mesma ferramenta foi flagrada enviando em silencio os repositorios de codigo inteiros dos usuarios para os servidores da xAI. A reviravolta esta no que a abertura do codigo revelou, e nao no que removeu. Pesquisadores de seguranca dizem que o codigo que fazia esses envios ainda esta no software liberado, desligado por um sinalizador do lado do servidor em vez de retirado.
O comportamento veio a tona quando um pesquisador rastreou o que o Grok Build enviava de volta durante uma sessao normal. Ao lado do trafego de modelo esperado, de cerca de 192 kilobytes, a ferramenta abriu um segundo canal que enviava cerca de 5,10 gigabytes de dados em 73 blocos de aproximadamente 75 megabytes cada, perto de 27.800 vezes mais do que a tarefa de programacao exigia. Ela nao estava enviando apenas os arquivos que precisava ler, estava despachando repositorios Git inteiros, com todo o historico de commits incluido, para um bucket do Google Cloud Storage operado pela xAI. Em um teste, um arquivo .env monitorado subiu sem censura, chaves de API isca e senhas de banco de dados e tudo mais, e usuarios relataram que chaves SSH, bancos de dados de senhas, documentos e fotos eram varridos junto com o codigo.
A xAI agiu rapido assim que a descoberta se espalhou. Elon Musk disse que todos os dados de usuario enviados seriam apagados, a empresa desativou o recurso de upload, que segundo ela esta desligado por padrao desde 12 de julho, e entao publicou o codigo-fonte completo, apresentando a abertura como uma forma de permitir que qualquer um audite a ferramenta e a execute inteiramente de forma local. A primeira vista, e a resposta de manual para uma quebra de confianca, mostrar o codigo, matar o recurso, apagar os dados.
O problema esta nos detalhes que os pesquisadores apontaram depois de ler esse codigo. A maquinaria de upload nao foi removida, ela ainda esta presente no binario e e contida apenas por um sinalizador de configuracao do lado do servidor, o que significa que a xAI poderia religa-la sem enviar uma unica atualizacao ou pedir permissao a ninguem. Abrir o codigo tornou o mecanismo visivel, nao o fez desaparecer, e um interruptor que o fornecedor controla e um tipo de garantia diferente de um codigo que simplesmente nao esta la.
O episodio e uma licao afiada sobre a nova classe de agentes de programacao que vivem no seu terminal com acesso profundo ao seu sistema de arquivos, suas chaves e seus segredos. A conveniencia de uma ferramenta que pode ler o seu projeto inteiro e inseparavel do risco de uma ferramenta que pode enviar o seu projeto inteiro para outro lugar, e a linha entre as duas coisas pode ser um valor de configuracao que voce nunca ve. Abrir o codigo ajuda, porque milhares de olhos sobre 844.530 linhas foi justamente como o sinalizador foi encontrado. Mas a licao real e que confiar em um agente com o seu codigo-fonte agora significa confiar em quem quer que possa acionar seus interruptores, e desta vez o interruptor ainda esta la.