Grok Build, la herramienta de programación por línea de comandos de SpaceXAI, la empresa de Elon Musk, estaba subiendo de forma silenciosa los repositorios de código completos de los desarrolladores a la nube sin un consentimiento claro, según un investigador de seguridad cuyo análisis llegó a la portada de Hacker News y provocó una respuesta del propio Musk. Lo que podría haber sido una queja de nicho sobre herramientas para desarrolladores se ha convertido en una de las historias de privacidad en IA más contundentes de la semana, tanto por lo que hacía la herramienta como por lo mucho que fue más allá de lo que la tarea exigía.
El análisis a nivel de red, publicado el 12 de julio, descubrió que Grok Build no se limitaba a leer los archivos que necesitaba para completar una tarea. Empaquetaba repositorios de Git rastreados enteros, incluido todo el historial de commits y cualquier secreto que se hubiera incluido por el camino, y los enviaba a un bucket de Google Cloud Storage. El investigador midió que el volumen de datos que salía de una máquina era de aproximadamente 27.800 veces más de lo que el trabajo de programación realmente requería, con una subida que según se informó alcanzaba varios gigabytes. El hallazgo más incómodo fue que el interruptor de privacidad en el que un usuario podría haber confiado para evitar exactamente esto no hacía nada por detener las subidas.
Ese detalle es lo que convierte una historia sobre manejo de datos en un problema de seguridad activo. Los secretos incluidos en los commits no son hipotéticos, suelen contener claves de API reales, contraseñas de bases de datos y tokens de acceso a la nube que los desarrolladores subieron por accidente a un repositorio en algún momento. La recomendación práctica de los investigadores es directa, cualquiera que haya ejecutado Grok Build sobre una base de código que contenga credenciales debería tratar esas credenciales como potencialmente expuestas y rotarlas, sin importar lo que los ajustes de privacidad parecieran prometer en su momento.
La reacción fue rápida una vez que el análisis llegó a Hacker News. Musk publicó que, como medida de precaución, todos los datos de usuario que se hubieran subido a SpaceXAI hasta ahora serían completa y absolutamente eliminados. Personal de la empresa añadió que Grok Build había admitido la retención cero de datos desde su lanzamiento, y que los usuarios podían ejecutar un comando de privacidad para no participar y desencadenar la eliminación de los datos sincronizados previamente. El investigador rebatió esa versión, argumentando que el comando de privacidad era solo un interruptor de retención por sesión y no lo que realmente cerraba el agujero. La solución real, según esa versión, fue un indicador silencioso del lado del servidor, disable codebase upload puesto en true, aplicado de forma global en lugar de algo que los usuarios tuvieran que encontrar y activar por su cuenta.
Por qué importa va más allá de una sola herramienta y una sola empresa. Los asistentes de programación con IA funcionan ingiriendo tu código, lo que convierte la pregunta de qué ocurre después con ese código en algo central y no en una nota al pie. Este caso es un ejemplo crudo de la brecha entre lo que los controles de privacidad de una herramienta parecen prometer y lo que el software está haciendo realmente a nivel de red, y de lo rápido que los secretos incluidos en un repositorio pueden acabar en un lugar al que nunca quisiste enviarlos. A medida que más desarrolladores integran herramientas de programación agéntica en su trabajo diario, saber adónde va tu código fuente, y si realmente puedes desactivar eso, se está convirtiendo rápidamente en una de las primeras cosas que vale la pena comprobar antes de ejecutar una.