O Grok Build, a ferramenta de programação em linha de comando da SpaceXAI, de Elon Musk, enviava em silêncio os repositórios de código inteiros dos desenvolvedores para a nuvem sem consentimento claro, segundo um pesquisador de segurança cuja análise chegou à primeira página do Hacker News e provocou uma resposta do próprio Musk. O que poderia ter sido uma reclamação de nicho sobre ferramentas de desenvolvimento virou uma das histórias mais incisivas sobre privacidade e IA da semana, tanto pelo que a ferramenta fez quanto pelo quanto ela foi além do que a tarefa exigia.
A análise em nível de rede, publicada em 12 de julho, constatou que o Grok Build não estava simplesmente lendo os arquivos necessários para concluir uma tarefa. Ele empacotava repositórios Git rastreados inteiros, incluindo todo o histórico de commits e quaisquer segredos que tivessem sido registrados ao longo do caminho, e os enviava para um bucket do Google Cloud Storage. O pesquisador mediu o volume de dados que saíam de uma máquina em cerca de 27.800 vezes mais do que o trabalho de programação de fato pedia, com um envio relatado em vários gigabytes. A constatação mais incômoda foi que o botão de privacidade no qual um usuário poderia ter confiado para evitar exatamente isso não fez nada para impedir os envios.
Esse detalhe é o que transforma uma história sobre tratamento de dados em um problema ativo de segurança. Segredos registrados nos commits não são hipotéticos, eles costumam incluir chaves de API reais, senhas de banco de dados e tokens de acesso a nuvem que os desenvolvedores acabaram enviando por engano para um repositório em algum momento. A orientação prática dos pesquisadores é direta, qualquer pessoa que executou o Grok Build em uma base de código que continha credenciais deve tratar essas credenciais como potencialmente expostas e fazer a rotação delas, independentemente do que as configurações de privacidade pareciam prometer na época.
A reação foi rápida assim que a análise chegou ao Hacker News. Musk publicou que, como medida de precaução, todos os dados de usuários que tinham sido enviados à SpaceXAI até então seriam total e completamente apagados. Funcionários da empresa acrescentaram que o Grok Build tinha suporte a zero data retention desde o lançamento e que os usuários podiam executar um comando de privacidade para não participar e acionar a exclusão dos dados sincronizados anteriormente. O pesquisador rebateu essa versão, argumentando que o comando de privacidade era apenas um botão de retenção por sessão, e não aquilo que de fato fechava a brecha. A correção real, segundo esse relato, foi uma flag silenciosa do lado do servidor, disable codebase upload definida como true, aplicada globalmente, e não algo que os usuários tinham de encontrar e ativar por conta própria.
A importância do caso vai além de uma única ferramenta e de uma única empresa. Os assistentes de programação com IA funcionam ingerindo o seu código, o que torna a questão do que acontece com esse código depois algo central, e não uma nota de rodapé. Este caso é um exemplo contundente da distância entre o que os controles de privacidade de uma ferramenta parecem prometer e o que o software de fato faz na rede, e de como segredos registrados em um repositório podem rapidamente parar em algum lugar para onde você nunca pretendeu enviá-los. À medida que mais desenvolvedores integram ferramentas de programação agentica ao seu trabalho diário, saber para onde vai o seu código-fonte, e se você consegue realmente desligar isso, está rapidamente se tornando uma das primeiras coisas que vale a pena verificar antes de executar uma delas.