A Apple silenciosamente ameaçou remover o app Grok da xAI de sua App Store em janeiro por deepfakes sexuais não consensuais desenfreados, segundo uma carta obtida pela NBC News. A gigante de tecnologia disse aos senadores que "contatou as equipes por trás do X e do Grok" após receber reclamações sobre usuários gerando facilmente imagens sexualizadas de pessoas reais, incluindo aparentes menores. A Apple determinou que o X havia "substancialmente resolvido suas violações" mas avisou os desenvolvedores do Grok que "mudanças adicionais para remediar a violação seriam necessárias, ou o app poderia ser removido". Apenas após trocas prolongadas a Apple aprovou a presença contínua do Grok.
Esse drama por trás das cortinas expõe a fraqueza fundamental na moderação de conteúdo das app stores. A Apple — que lucra tendo esses apps em seu jardim murado — escolheu pressão privada sobre responsabilidade pública, permitindo que ambos os apps permanecessem ativos durante todo o processo de aplicação. A empresa que regularmente flexiona sua autoridade da App Store com "punho de ferro" de repente ficou mole ao enfrentar as propriedades do Musk. Enquanto isso, as "correções" implementadas em tempo real foram em grande parte performáticas: limitar o Grok a assinantes pagantes e adicionar recursos de bloqueio de fotos facilmente contornáveis.
O mais revelador é o silêncio da Apple. Apesar de violações claras e flagrantes de suas próprias diretrizes — o tipo que tipicamente resulta em remoções rápidas de apps — a Apple lidou com isso com luvas de pelica. As negociações privadas prolongadas ajudam a explicar por que as mudanças de moderação do Grok pareciam tão improvisadas e ineficazes. O Google Play, que também lucra hospedando esses apps, permaneceu igualmente silencioso sobre a questão.
Para desenvolvedores construindo ferramentas AI, isso estabelece um precedente perigoso: se você é grande o suficiente e conectado o suficiente, a aplicação da App Store se torna negociável em vez de absoluta. A mensagem é clara — regras de plataforma se aplicam diferentemente dependendo de quem você é e quanta receita você gera.