Vários pacientes da Califórnia entraram com uma ação coletiva contra Sutter Health e MemorialCare esta semana, alegando que os sistemas de saúde usaram a ferramenta de transcrição Abridge AI para gravar conversas médicas sem o consentimento adequado. A denúncia, protocolada no tribunal federal de São Francisco, afirma que os pacientes não foram claramente informados de que suas conversas seriam "gravadas por uma plataforma de inteligência artificial, transmitidas fora do ambiente clínico, ou processadas através de sistemas de terceiros". A Abridge, avaliada em US$ 5,3 bilhões em junho de 2025, foi rapidamente implantada nos principais sistemas de saúde incluindo Kaiser Permanente e Mayo Clinic.
Esta ação expõe uma lacuna crítica em como a IA de saúde está sendo implantada em larga escala. Embora os escribas de IA prometam reduzir o esgotamento dos médicos automatizando a documentação clínica — e quase um terço das práticas agora os usam — o processo de consentimento parece estar atrasado em relação ao lançamento da tecnologia. O fato de que a Abridge processa dados médicos sensíveis "fora do ambiente clínico" levanta questões sobre soberania de dados que vão além de simples avisos de privacidade.
O que é particularmente revelador é o contraste entre a adoção institucional e a consciência do paciente. Um médico da Cleveland Clinic descreveu como os escribas de IA permitem que ele se concentre na "medicina tradicional" sem digitar, e a tecnologia claramente entrega valor para médicos sobrecarregados. Mas se os pacientes não entendem que suas conversas estão sendo processadas por sistemas de IA de terceiros, potencialmente armazenadas em servidores externos, esse é um problema fundamental de consentimento que nenhuma quantidade de eficiência clínica pode justificar.
Para os desenvolvedores de IA de saúde, este caso é um alerta: capacidade técnica não desculpa práticas ruins de consentimento. Se sua IA processa informações de saúde protegidas, especialmente através de APIs externos, você precisa de divulgação cristalina sobre fluxo, armazenamento e processamento de dados. A alternativa é litígio caro e confiança danificada na IA médica.