IA en salud: quién es responsable si el sistema comete errores

El Ministerio de Sanidad ha publicado la primera guía oficial sobre inteligencia artificial dirigida a profesionales sanitarios, un documento que aborda directamente la pregunta de quién responde si la inteligencia artificial se equivoca en consulta. El texto, titulado 'Orientaciones para profesionales sanitarios en el uso de la IA', establece que la responsabilidad recae en el médico o la institución sanitaria, no en la máquina. La guía llega en un momento en que la IA ya procesa diagnósticos, analiza pruebas y sugiere tratamientos en centros de salud de todo el país.

La guía de Sanidad: supervisión humana y responsabilidad clínica

El documento, elaborado bajo la dirección de Mónica García al frente del Ministerio, fija cuatro ejes fundamentales: supervisión humana, protección de datos del paciente, validación de herramientas y formación de profesionales. Estos pilares responden a una realidad que ya no es futurible: la IA opera en consultas, quirófanos y servicios de urgencia.

La guía es explícita sobre la jerarquía de responsabilidades. Al carecer la inteligencia artificial de personalidad jurídica, la decisión clínica sigue siendo del profesional o de la institución. Sin embargo, el fabricante o proveedor del sistema no queda exento: si existe un defecto en la herramienta, también puede responder. Se trata de un reparto de responsabilidades que obliga a repensar los contratos de adquisición de software médico y las pólizas de responsabilidad civil.

Ruth Cuscó, directora gerente de ASHO (Asesoramiento de Servicios Hospitalarios), empresa especializada en codificación clínica e información sanitaria, ha colaborado en la elaboración de las orientaciones. «La incorporación de la inteligencia artificial a la práctica sanitaria abre nuevas posibilidades para mejorar y agilizar determinados procesos, pero también plantea la necesidad de establecer criterios claros sobre cómo y cuándo deben utilizarse estas herramientas», señala Cuscó. Para ella, la guía supone «un paso importante para avanzar hacia una integración de la IA que combine innovación, seguridad y responsabilidad profesional».

El criterio médico prevalece sobre el algoritmo

Uno de los puntos más contundentes del documento es la obligación de priorizar la seguridad del paciente cuando la IA contradiga el juicio clínico o la evidencia disponible. El profesional debe documentar la discrepancia y no basar su decisión exclusivamente en el resultado del algoritmo. Esta exigencia introduce una carga documental nueva: el médico no solo debe saber cuándo desobedecer a la máquina, sino dejar constancia de por qué lo hace.

La recomendación tiene implicaciones prácticas inmediatas. Los sistemas de información sanitaria deberán incorporar funcionalidades que permitan registrar estas divergencias. Los departamentos de calidad de los hospitales tendrán que auditar no solo los errores médicos, sino también los casos en que el profesional haya desestimado una sugerencia algorítmica. Y los servicios jurídicos de las comunidades autónomas deberán actualizar sus protocolos de reclamación para distinguir entre negligencia humana, fallo de sistema y decisión informada de rechazo.

Cuscó insiste en que la herramienta es auxiliar, no sustitutiva: «La IA puede ayudar a procesar información y agilizar determinados procesos sanitarios, pero el profesional debe mantener en todo momento la capacidad de revisar, cuestionar y, cuando sea necesario, rechazar el resultado generado por la herramienta». Esta afirmación cierra la puerta a cualquier interpretación que pretenda delegar la responsabilidad clínica en el software.

Responsabilidad civil, penal y administrativa: un mapa sin completar

La guía de Sanidad aclara la responsabilidad ética y profesional, pero deja abierta la articulación con los ordenamientos civil, penal y administrativo. En el ámbito civil, la Ley 41/2002, de 14 de noviembre, reguladora de la autonomía del paciente, sigue siendo la referencia para las reclamaciones por daño sanitario. La pregunta es si los juzgados valorarán de forma diferente una negligencia con intervención de IA frente a una negligencia puramente humana.

En el ordenamiento penal, el artículo 159 del Código Penal castiga las lesiones por imprudencia grave en el ejercicio de una profesión. La dificultad radica en demostrar que el profesional actuó con la diligencia exigible cuando decidió seguir o ignorar una recomendación algorítmica. La formación específica en IA, que la guía reclama, podría convertirse en un elemento probatorio clave: el médico que no haya recibido esa formación tendrá más difícil justificar su conducta.

El ordenamiento administrativo añade complejidad. Las comunidades autónomas son competentes en sanidad, pero la guía es estatal. Esto genera un escenario de mínimos comunes con posibles desarrollos autonómicos divergentes. Además, la contratación pública de sistemas de IA por parte de hospitales públicos deberá ajustarse a la Ley 9/2017, de 8 de noviembre, de Contratos del Sector Público, con cláusulas de garantía que aún no están estandarizadas para este tipo de tecnología.

Formación, validación y protección de datos: los tres frentes pendientes

La guía identifica tres áreas que requieren atención inmediata. La formación de profesionales no puede quedar en cursos genéricos de competencias digitales: se necesita alfabetización específica en limitaciones algorítmicas, sesgos de datos y metodología de validación de resultados. La validación de herramientas exige que los hospitales verifiquen el rendimiento de los sistemas de IA en sus propias poblaciones de pacientes, no solo en los ensayos del fabricante. Y la protección de datos enfrenta el tratamiento masivo de información de salud, categoría especial bajo el Reglamento General de Protección de Datos, con garantías reforzadas que muchos sistemas actuales no cumplen de forma verificable.

ASHO, la empresa de Ruth Cuscó, opera en este intersticio entre tecnología y regulación. Su especialización en codificación clínica e información sanitaria la sitúa como actor relevante en la implementación práctica de estas orientaciones. La codificación, proceso de traducción de diagnósticos y procedimientos a códigos estandarizados, es precisamente uno de los campos donde la IA ya muestra utilidad y donde los errores algorítmicos pueden propagarse con velocidad.

La publicación de la guía coincide con la expansión de iniciativas similares en otros países europeos. Francia y Alemania han desarrollado marcos de evaluación de sistemas de IA en sanidad; el Reino Unido cuenta con el NHS AI Lab. España se suma con un enfoque que privilegia la responsabilidad profesional sobre la regulación tecnológica pura, una apuesta que diferencia su modelo del de países con mayor intervención estatal en la homologación de algoritmos.

El próximo paso: de las orientaciones a la práctica clínica cotidiana

El reto inmediato es la adopción. La guía no tiene carácter vinculante: son orientaciones, no una norma con sanción. Esto plantea la pregunta de cómo las comunidades autónomas, las sociedades científicas y los consejos de colegios médicos la convertirán en estándar de práctica. Los hospitales privados, por su parte, deberán valorar si incorporan estas pautas en sus acreditaciones de calidad como Joint Commission International.

En el horizonte legislativo, cabe esperar que el Ministerio de Sanidad desarrolle una normativa de rango inferior que concrete estos principios, o que el Ministerio de Justicia incorpore doctrina sobre la prueba en procesos con intervención de IA. Mientras tanto, los profesionales sanitarios cuentan con un documento de referencia para navegar una realidad que ya está aquí: la máquina sugiere, pero el médico responde, y debe saber cuándo y cómo rechazar una recomendación para no responder ante un juez.

¿Tu centro sanitario ya ha incorporado sistemas de IA en consulta? ¿Existe protocolo documentado para cuando el algoritmo y el médico discrepan?

Información publicada originalmente por Confilegal.