Apple amenazó silenciosamente con remover la app Grok de xAI de su App Store en enero por deepfakes sexuales no consensuales desenfrenados, según una carta obtenida por NBC News. El gigante tecnológico les dijo a los senadores que "contactó a los equipos detrás de X y Grok" después de recibir quejas sobre usuarios generando fácilmente imágenes sexualizadas de personas reales, incluyendo aparentes menores. Apple determinó que X había "resuelto sustancialmente sus violaciones" pero advirtió a los desarrolladores de Grok que "cambios adicionales para remediar la violación serían requeridos, o la app podría ser removida". Solo después de intercambios prolongados Apple aprobó la presencia continua de Grok.
Este drama tras bambalinas expone la debilidad fundamental en la moderación de contenido de las app stores. Apple — que lucra de tener estas apps en su jardín amurallado — eligió presión privada sobre responsabilidad pública, permitiendo que ambas apps permanecieran activas durante todo el proceso de aplicación. La compañía que regularmente flexiona su autoridad de App Store con "puño de hierro" de repente se ablandó al enfrentar las propiedades de Musk. Mientras tanto, las "correcciones" implementadas en tiempo real fueron en gran parte performativas: limitar Grok a suscriptores de pago y agregar funciones de bloqueo de fotos fácilmente eludibles.
Lo más revelador es el silencio de Apple. A pesar de violaciones claras y flagrantes de sus propias directrices — el tipo que típicamente resulta en remociones rápidas de apps — Apple manejó esto con guantes de seda. Las negociaciones privadas prolongadas ayudan a explicar por qué los cambios de moderación de Grok parecían tan improvisados e inefectivos. Google Play, que también lucra hospedando estas apps, permaneció igualmente silencioso sobre el asunto.
Para desarrolladores construyendo herramientas AI, esto establece un precedente peligroso: si eres lo suficientemente grande y conectado, la aplicación de App Store se vuelve negociable en lugar de absoluta. El mensaje es claro — las reglas de plataforma se aplican diferente dependiendo de quién eres y cuántos ingresos generas.