xAI ha liberado el codigo de Grok Build, su agente de programacion de terminal, publicando cerca de 844.530 lineas de Rust en GitHub bajo la licencia Apache 2.0, un movimiento hecho para reconstruir la confianza despues de que la misma herramienta fuera descubierta subiendo en silencio los repositorios de codigo completos de los usuarios a los servidores de xAI. El giro esta en lo que la apertura del codigo revelo en lugar de eliminar. Los investigadores de seguridad dicen que el codigo que realizaba esas subidas sigue en el software publicado, desactivado por un indicador del lado del servidor en lugar de retirado.
El comportamiento salio a la luz cuando un investigador rastreo lo que Grok Build enviaba a casa durante una sesion normal. Junto al trafico de modelo esperado de cerca de 192 kilobytes, la herramienta abria un segundo canal que subia cerca de 5,10 gigabytes de datos en 73 fragmentos de cerca de 75 megabytes cada uno, casi 27.800 veces mas de lo que la tarea de programacion requeria. No enviaba solo los archivos que necesitaba leer, enviaba repositorios Git completos, con todo el historial de commits incluido, a un bucket de Google Cloud Storage gestionado por xAI. En una prueba un archivo .env rastreado subio sin censurar, con claves API canary y contrasenas de base de datos incluidas, y los usuarios reportaron que claves SSH, bases de datos de contrasenas, documentos y fotos eran arrastrados junto con el codigo.
xAI actuo rapido una vez que el hallazgo se difundio. Elon Musk dijo que todos los datos de usuario subidos serian eliminados, la empresa desactivo la funcion de subida, que segun dice ha estado desactivada por defecto desde el 12 de julio, y luego publico el codigo fuente completo, presentando la publicacion abierta como una forma de permitir que cualquiera audite la herramienta y la ejecute enteramente en local. A primera vista es la respuesta de manual ante una brecha de confianza, mostrar el codigo, eliminar la funcion, borrar los datos.
La trampa esta en los detalles que los investigadores senalaron despues de leer ese codigo. La maquinaria de subida no ha sido eliminada, sigue presente en el binario y solo esta contenida por un indicador de configuracion del lado del servidor, lo que significa que xAI podria volver a activarla sin lanzar una sola actualizacion ni preguntarle a nadie. La apertura del codigo hizo visible el mecanismo, no lo hizo desaparecer, y un interruptor que el proveedor controla es un tipo de garantia distinto al de un codigo que no esta ahi en absoluto.
El episodio es una leccion afilada sobre la nueva clase de agentes de programacion que viven en tu terminal con acceso profundo a tu sistema de archivos, tus claves y tus secretos. La comodidad de una herramienta que puede leer todo tu proyecto es inseparable del riesgo de una herramienta que puede enviar todo tu proyecto a otra parte, y la linea entre ambas puede ser un valor de configuracion que nunca ves. La apertura del codigo ayuda, porque miles de ojos sobre 844.530 lineas es como se encontro el indicador en primer lugar. Pero la conclusion real es que confiar tu base de codigo a un agente ahora significa confiar en quien pueda accionar sus interruptores, y esta vez el interruptor sigue ahi.