xAI a ouvert le code source de Grok Build, son agent de codage en terminal, en publiant environ 844 530 lignes de Rust sur GitHub sous la licence Apache 2.0, une demarche entreprise pour retablir la confiance apres que le meme outil a ete pris a televerser discretement l'integralite des depots de code des utilisateurs vers les serveurs de xAI. Le retournement tient a ce que l'ouverture du code a revele plutot qu'a ce qu'elle a retire. Les chercheurs en securite affirment que le code qui effectuait ces televersements se trouve toujours dans le logiciel publie, desactive par un drapeau cote serveur plutot que supprime.

Le comportement a ete mis au jour lorsqu'un chercheur a retrace ce que Grok Build renvoyait durant une session normale. En plus du trafic de modele attendu, d'environ 192 kilooctets, l'outil ouvrait un second canal qui televersait environ 5,10 gigaoctets de donnees en 73 blocs d'a peu pres 75 megaoctets chacun, pres de 27 800 fois plus que ne l'exigeait la tache de codage. Il n'envoyait pas seulement les fichiers qu'il devait lire, il expediait des depots Git entiers, historique complet des commits inclus, vers un bucket Google Cloud Storage exploite par xAI. Lors d'un test, un fichier .env suivi est monte sans caviardage, avec ses cles API canari et ses mots de passe de base de donnees, et des utilisateurs ont signale que des cles SSH, des bases de donnees de mots de passe, des documents et des photos etaient emportes avec le code.

xAI a agi vite une fois la decouverte ebruitee. Elon Musk a declare que toutes les donnees d'utilisateurs televersees seraient supprimees, l'entreprise a desactive la fonction de televersement, qui selon elle est desactivee par defaut depuis le 12 juillet, puis elle a publie l'integralite du code source, presentant cette ouverture comme un moyen de permettre a quiconque d'auditer l'outil et de l'executer entierement en local. A premiere vue, c'est la reponse type a une atteinte a la confiance, montrer le code, supprimer la fonction, effacer les donnees.

Le hic reside dans les details que les chercheurs ont signales apres avoir lu ce code. La machinerie de televersement n'a pas ete retiree, elle est toujours presente dans le binaire et n'est retenue que par un drapeau de configuration cote serveur, ce qui signifie que xAI pourrait la reactiver sans livrer la moindre mise a jour ni demander l'avis de personne. L'ouverture du code a rendu le mecanisme visible, elle ne l'a pas fait disparaitre, et un interrupteur que controle le fournisseur est une garantie d'une tout autre nature qu'un code qui n'est tout simplement pas la.

L'episode est une lecon cinglante sur cette nouvelle categorie d'agents de codage qui vivent dans votre terminal avec un acces profond a votre systeme de fichiers, a vos cles et a vos secrets. La commodite d'un outil capable de lire l'ensemble de votre projet est indissociable du risque d'un outil capable d'envoyer l'ensemble de votre projet ailleurs, et la frontiere entre les deux peut tenir a une valeur de configuration que vous ne voyez jamais. L'ouverture du code aide, car ce sont des milliers d'yeux poses sur 844 530 lignes qui ont permis de reperer le drapeau au depart. Mais la vraie lecon, c'est que confier son code a un agent revient desormais a faire confiance a quiconque peut actionner ses interrupteurs, et cette fois l'interrupteur est toujours la.