Una herramienta de IA clínica en rápido crecimiento enfrenta una prueba legal

Una nueva demanda en California está sometiendo una de las aplicaciones de inteligencia artificial más veloces del sector sanitario a un escrutinio legal y ético más intenso. Varios residentes de California han demandado a Sutter Health y MemorialCare, alegando que un sistema de transcripción con IA grabó sus consultas médicas sin su consentimiento. La demanda colectiva propuesta, presentada ante un tribunal federal en San Francisco, sostiene que los pacientes no recibieron un aviso claro de que sus conversaciones médico-paciente serían capturadas, enviadas fuera del entorno clínico o procesadas mediante sistemas de terceros.

En el centro del caso está Abridge AI, una plataforma de documentación médica que los sistemas de salud usan para capturar, transcribir, resumir y convertir conversaciones entre clínicos y pacientes en notas clínicas. La herramienta forma parte de una ola más amplia de los llamados escribas con IA que prometen reducir la carga administrativa de los médicos y mejorar la eficiencia del trabajo. Hospitales y clínicas de todo Estados Unidos han adoptado esa propuesta mientras las cargas administrativas siguen presionando a los profesionales.

La demanda no cuestiona la idea de la toma automática de notas en abstracto. En cambio, plantea una pregunta más concreta y de mayor consecuencias: ¿qué nivel de divulgación y consentimiento se requiere cuando una conversación médica profundamente sensible es procesada por una plataforma de inteligencia artificial y no solo por el equipo de atención presente en la sala?

Lo que alegan los demandantes

Según la demanda descrita en el reportaje proporcionado, los demandantes recibieron atención en distintos centros de Sutter y MemorialCare en los últimos seis meses. Durante esas visitas, el personal médico habría utilizado Abridge AI, que, según la demanda, capturó y procesó comunicaciones confidenciales entre médico y paciente. Los demandantes sostienen que no recibieron un aviso claro de que sus conversaciones serían grabadas y procesadas externamente.

Las acusaciones van más allá de la información incidental. La demanda afirma que las grabaciones incluían información médica individualmente identificable, como historiales médicos, síntomas, diagnósticos, medicamentos, conversaciones sobre tratamiento y otras revelaciones de salud sensibles realizadas durante consultas confidenciales. En la práctica, la demanda presenta el uso del sistema no solo como una decisión interna de flujo de trabajo, sino como un evento de manejo de datos que involucra algunas de las categorías de información personal más protegidas.

Esa distinción probablemente será importante a medida que avance el caso. La privacidad médica está regida no solo por las expectativas del paciente, sino también por deberes legales superpuestos. Cuando los sistemas de IA trasladan el habla de una sala de examen a una cadena de transcripción, resumen y procesamiento por terceros, pueden aumentar el número de puntos técnicos y contractuales en los que se maneja información sensible. La postura de los demandantes, tal como resume el reportaje, es que a los pacientes se les debió informar claramente que esto estaba ocurriendo.

Los hospitales y los proveedores avanzan con rapidez

El desafío legal llega en un momento en que los escribas con IA se están extendiendo rápidamente por los grandes sistemas de salud. El reportaje señala que el software de Abridge ha sido desplegado por organizaciones como Kaiser Permanente, Mayo Clinic y Duke Health, entre muchas otras. Esa escala es parte de lo que hace que el caso tenga relevancia más allá de los dos sistemas de salud nombrados. Una sentencia o acuerdo que aclare las expectativas sobre aviso o consentimiento podría afectar a un mercado mucho más amplio que el de los demandados.

Sutter Health dijo que conoce la demanda. En una declaración citada en el texto de origen, la portavoz Liz Madison afirmó que la organización toma muy en serio la privacidad del paciente y está comprometida con proteger la información de los pacientes, añadiendo que la tecnología utilizada en sus entornos clínicos se evalúa e implementa cuidadosamente de conformidad con las leyes y regulaciones aplicables. MemorialCare dijo que no comenta sobre litigios pendientes.

El reportaje también señala que el periodista que escribió el artículo consintió personalmente el uso de Abridge durante múltiples visitas médicas en instalaciones de Kaiser en el norte de California durante los últimos dos años. Ese detalle importa porque sugiere que las prácticas de divulgación pueden variar según la institución o las circunstancias. La cuestión emergente, entonces, puede no ser simplemente si los escribas con IA pueden usarse legalmente, sino si cada sistema de salud que los despliega ha construido un proceso de consentimiento y comunicación que los pacientes realmente puedan entender.

La tensión más amplia en la IA sanitaria

Este caso se sitúa en la intersección de dos fuerzas fuertes y opuestas en la medicina. Por un lado está el atractivo de la automatización. Los clínicos dedican mucho tiempo a documentar las visitas, y las herramientas de IA que convierten conversaciones en notas estructuradas prometen aliviar esa carga. Sus defensores sostienen que reducir el papeleo puede permitir que los médicos se concentren más directamente en la atención al paciente.

Por otro lado está la expectativa arraigada de que las conversaciones médicas son unas de las interacciones más privadas que tienen las personas. Los pacientes a menudo revelan en la consulta información que no compartirían en otro lugar. Aunque una herramienta mejore la eficiencia, muchos pacientes pueden ver la introducción de un sistema de IA de terceros como un cambio importante en cómo funciona esa relación de confianza. Eso es especialmente cierto cuando el sistema graba el habla, procesa detalles de salud identificables y los convierte en resultados generados por máquina.

La demanda captura esa brecha entre la conveniencia operativa y la comprensión informada del paciente. Los hospitales pueden ver a los escribas con IA como infraestructura administrativa. Los pacientes pueden experimentarlos como un nuevo oyente en la sala. Si la tecnología se normaliza antes de que maduren las prácticas de divulgación, es probable que siga el conflicto legal.

Por qué este caso podría tener un impacto desproporcionado

  • Apunta a una categoría de IA que ya se está extendiendo por grandes redes sanitarias.
  • Se centra en el consentimiento y el aviso, cuestiones que pueden aplicarse de forma amplia incluso si el software subyacente es distinto.
  • Plantea preguntas sobre cómo se transmite y procesa el habla médica confidencial una vez que se activan las herramientas de IA.
  • Podría obligar a los proveedores a estandarizar explicaciones más claras para los pacientes antes de usar sistemas de documentación ambiental.

Para la industria sanitaria, el mensaje es claro. La documentación con IA puede ser eficiente, pero la eficiencia por sí sola no es una respuesta suficiente cuando hay información sanitaria protegida de por medio. Si se espera que los pacientes acepten la grabación y el procesamiento automatizado en entornos clínicos, los proveedores tendrán que demostrar que el consentimiento no se asumió, no se ocultó ni se dio por implícito. Fue obtenido de forma clara. Ese estándar podría convertirse en una de las condiciones definitorias de la próxima etapa de adopción de IA en medicina.

Este artículo se basa en la cobertura de Ars Technica. Lea el artículo original.