Apple a discrètement menacé de retirer l'app Grok de xAI de son App Store en janvier à cause de deepfakes sexuels non consensuels généralisés, selon une lettre obtenue par NBC News. Le géant technologique a dit aux sénateurs qu'il avait « contacté les équipes derrière X et Grok » après avoir reçu des plaintes concernant des utilisateurs générant facilement des images sexualisées de vraies personnes, incluant des mineurs apparents. Apple a déterminé que X avait « substantiellement résolu ses violations » mais a averti les développeurs de Grok que « des changements additionnels pour remédier à la violation seraient requis, ou l'app pourrait être retirée ». C'est seulement après des échanges prolongés qu'Apple a approuvé la présence continue de Grok.
Ce drame en coulisses expose la faiblesse fondamentale dans la modération de contenu des app stores. Apple — qui profite d'avoir ces apps dans son jardin fermé — a choisi la pression privée plutôt que la responsabilité publique, permettant aux deux apps de rester en ligne pendant tout le processus d'application. La compagnie qui flexe régulièrement son autorité d'App Store avec un « poing de fer » est soudainement devenue douce face aux propriétés de Musk. Entre-temps, les « corrections » déployées en temps réel étaient largement performatives : limiter Grok aux abonnés payants et ajouter des fonctionnalités de blocage de photos facilement contournées.
Ce qui est le plus révélateur, c'est le silence d'Apple. Malgré des violations claires et flagrantes de ses propres directives — le genre qui résulte typiquement en retraits d'apps rapides — Apple a géré ceci avec des gants blancs. Les négociations privées prolongées aident à expliquer pourquoi les changements de modération de Grok semblaient si hasardeux et inefficaces. Google Play, qui profite aussi d'héberger ces apps, est resté également silencieux sur la question.
Pour les développeurs construisant des outils AI, ceci établit un précédent dangereux : si vous êtes assez gros et assez connecté, l'application de l'App Store devient négociable plutôt qu'absolue. Le message est clair — les règles de plateforme s'appliquent différemment selon qui vous êtes et combien de revenus vous générez.