Grok Build, la herramienta de programacion por linea de comandos de SpaceXAI, la empresa de Elon Musk, estaba subiendo de forma silenciosa los repositorios de codigo completos de los desarrolladores a la nube sin un consentimiento claro, segun un investigador de seguridad cuyo analisis llego a la portada de Hacker News y provoco una respuesta del propio Musk. Lo que podria haber sido una queja de nicho sobre herramientas para desarrolladores se ha convertido en una de las historias de privacidad en IA mas contundentes de la semana, tanto por lo que hacia la herramienta como por lo mucho que fue mas alla de lo que la tarea exigia.
El analisis a nivel de red, publicado el 12 de julio, descubrio que Grok Build no se limitaba a leer los archivos que necesitaba para completar una tarea. Empaquetaba repositorios de Git rastreados enteros, incluido todo el historial de commits y cualquier secreto que se hubiera incluido por el camino, y los enviaba a un bucket de Google Cloud Storage. El investigador midio que el volumen de datos que salia de una maquina era de aproximadamente 27.800 veces mas de lo que el trabajo de programacion realmente requeria, con una subida que segun se informo alcanzaba varios gigabytes. El hallazgo mas incomodo fue que el interruptor de privacidad en el que un usuario podria haber confiado para evitar exactamente esto no hacia nada por detener las subidas.
Ese detalle es lo que convierte una historia sobre manejo de datos en un problema de seguridad activo. Los secretos incluidos en los commits no son hipoteticos, suelen contener claves de API reales, contrasenas de bases de datos y tokens de acceso a la nube que los desarrolladores subieron por accidente a un repositorio en algun momento. La recomendacion practica de los investigadores es directa, cualquiera que haya ejecutado Grok Build sobre una base de codigo que contenga credenciales deberia tratar esas credenciales como potencialmente expuestas y rotarlas, sin importar lo que los ajustes de privacidad parecieran prometer en su momento.
La reaccion fue rapida una vez que el analisis llego a Hacker News. Musk publico que, como medida de precaucion, todos los datos de usuario que se hubieran subido a SpaceXAI hasta ahora serian completa y absolutamente eliminados. Personal de la empresa anadio que Grok Build habia admitido la retencion cero de datos desde su lanzamiento, y que los usuarios podian ejecutar un comando de privacidad para no participar y desencadenar la eliminacion de los datos sincronizados previamente. El investigador rebatio esa version, argumentando que el comando de privacidad era solo un interruptor de retencion por sesion y no lo que realmente cerraba el agujero. La solucion real, segun esa version, fue un indicador silencioso del lado del servidor, disable codebase upload puesto en true, aplicado de forma global en lugar de algo que los usuarios tuvieran que encontrar y activar por su cuenta.
Por que importa va mas alla de una sola herramienta y una sola empresa. Los asistentes de programacion con IA funcionan ingiriendo tu codigo, lo que convierte la pregunta de que ocurre despues con ese codigo en algo central y no en una nota al pie. Este caso es un ejemplo crudo de la brecha entre lo que los controles de privacidad de una herramienta parecen prometer y lo que el software esta haciendo realmente a nivel de red, y de lo rapido que los secretos incluidos en un repositorio pueden acabar en un lugar al que nunca quisiste enviarlos. A medida que mas desarrolladores integran herramientas de programacion agentica en su trabajo diario, saber adonde va tu codigo fuente, y si realmente puedes desactivar eso, se esta convirtiendo rapidamente en una de las primeras cosas que vale la pena comprobar antes de ejecutar una.