Varios pacientes de California presentaron una demanda colectiva contra Sutter Health y MemorialCare esta semana, alegando que los sistemas de salud usaron la herramienta de transcripción Abridge AI para grabar conversaciones médicas sin el consentimiento apropiado. La denuncia, presentada en el tribunal federal de San Francisco, afirma que los pacientes no fueron claramente informados de que sus conversaciones serían "grabadas por una plataforma de inteligencia artificial, transmitidas fuera del entorno clínico, o procesadas a través de sistemas de terceros". Abridge, valorada en $5.3 mil millones en junio de 2025, ha sido rápidamente implementada en los principales sistemas de salud incluyendo Kaiser Permanente y Mayo Clinic.
Esta demanda expone una brecha crítica en cómo la IA de salud está siendo implementada a gran escala. Mientras que los escribas de IA prometen reducir el agotamiento de los médicos al automatizar la documentación clínica — y casi un tercio de las prácticas ahora los usan — el proceso de consentimiento parece estar rezagándose detrás del despliegue tecnológico. El hecho de que Abridge procese datos médicos sensibles "fuera del entorno clínico" plantea preguntas sobre la soberanía de datos que van más allá de simples avisos de privacidad.
Lo que es particularmente revelador es el contraste entre la adopción institucional y la conciencia del paciente. Un médico en Cleveland Clinic describió cómo los escribas de IA le permiten enfocarse en la "medicina de la vieja escuela" sin teclear, y la tecnología claramente entrega valor para médicos sobrecargados. Pero si los pacientes no entienden que sus conversaciones están siendo procesadas por sistemas de IA de terceros, potencialmente almacenadas en servidores externos, ese es un problema fundamental de consentimiento que ninguna cantidad de eficiencia clínica puede justificar.
Para los desarrolladores de IA de salud, este caso es una llamada de atención: la capacidad técnica no excusa las malas prácticas de consentimiento. Si tu IA procesa información de salud protegida, especialmente a través de APIs externos, necesitas divulgación cristalina sobre el flujo, almacenamiento y procesamiento de datos. La alternativa es litigación costosa y confianza dañada en la IA médica.