Ep. 17 El Hospital Inteligente · Criterio
La fluidez no es evidencia: cómo comprobar lo que responde una IA clínica
Una respuesta rápida, bien estructurada y con tono seguro hace que verifiquemos menos. Ese es el problema, y tiene protocolo.
Madrid · 22 de octubre de 2026 · 6 min de lectura
Cuando una respuesta es rápida, está bien estructurada y usa un tono seguro, dedicamos menos esfuerzo a verificarla. Por eso la fluidez no puede usarse como sustituto de la evidencia. La frase es de José de los Santos Suárez Negrete, médico residente de Medicina Interna e ingeniero de sistemas, y de ella sale el protocolo más concreto que he visto para usar IA en la práctica clínica.
Los datos
- 3 elementoslo que exige una prueba: el texto, la página y la fecha de donde sale la respuesta
- 3 puntos de fallode un sistema de recuperación: recuperación incompleta, contexto omitido y respuesta desde el preentrenamiento
- 5 verbosel protocolo de cierre: delimitar, recuperar, abrir las citas, comprobar y responsabilizarse
- UEdónde deben alojarse los servidores que traten datos de pacientes en IA sanitaria
El problema no es el modelo, es nuestra reacción
Hay una confusión muy extendida, y conviene nombrarla: que un modelo describa algo con naturalidad no significa que haya comprobado la afirmación. La forma de la respuesta y su fundamento son cosas distintas, y nuestro cerebro las trata como si fueran la misma.
La fluidez no puede usarse como sustituto de la evidencia.
Qué es una prueba
El esquema que propone tiene tres elementos: documentos, una pregunta y pruebas. Y la prueba debe decir el texto exacto, la página y la fecha de donde procede.
Una respuesta sin eso no es una prueba, por bien redactada que esté. Un sistema puede ayudar a sintetizar, proponer estructuras y orientar la búsqueda, pero nada de eso garantiza que las citas existan ni que el texto recuperado sostenga una afirmación clínica.
Dónde falla un sistema de recuperación
Conectar un modelo a una biblioteca de documentos mejora la calidad de las respuestas, pero introduce sus propios errores. Hay tres puntos de fallo.
La recuperación puede ser incompleta. Puede omitirse contexto porque los documentos se trocearon mal. Y el modelo puede responder con lo que aprendió en su preentrenamiento en lugar de con la biblioteca que se le ha dado.
Hay un matiz que casi nadie señala sobre las herramientas de búsqueda bibliográfica asistida: ofrecen una biblioteca documental troceada, pero esos fragmentos no han sido revisados por pares. No dicen si el texto recuperado constituye evidencia suficiente para sostener una afirmación.
De ahí la línea de trabajo más interesante que se presentó: validar los fragmentos uno a uno con especialistas antes de incorporarlos al sistema, para construir corpus bibliográficos certificados por expertos. Es un experimento en marcha en un hospital español, en enfermedades autoinmunes sistémicas.
La capa legal que casi nadie cuenta
Muchos artículos científicos no permiten minería de texto. Está en la letra pequeña de cada publicación y casi nadie la lee. Si no lo permiten, no pueden subirse a herramientas de análisis documental, y hacerlo tiene consecuencias legales y perjudica a quienes producen la investigación.
Para inteligencia artificial aplicada al entorno sanitario con datos de pacientes, los servidores deben estar en la Unión Europea. No es una recomendación: es el marco que resulta de aplicar conjuntamente el Reglamento de Inteligencia Artificial, la directiva NIS2, el Esquema Nacional de Seguridad y el Reglamento General de Protección de Datos.
Y la seudonimización no basta. Una analítica, unos síntomas, una fecha y un lugar pueden reidentificar a una persona. En medicina los datos casi nunca están anonimizados del todo.
No conocer la normativa no exime de cumplirla.
El protocolo, en cinco verbos
Delimitar la pregunta todo lo que se pueda. Recuperar con fuentes cuyo uso esté permitido. Abrir todas las citas que devuelva la herramienta y comprobar que existen y dicen lo que se afirma. Comprobar que el resultado es aplicable a la población y al momento del paciente que se tiene delante. Y responsabilizarse.
Quien acaba ante un tribunal si algo sale mal es el profesional que está delante del paciente, no el proveedor de la herramienta.
Qué significa para tu organización
- Exija que toda respuesta que vaya a usarse clínicamente venga con texto, página y fecha. Si la herramienta no los da, no es apta para esa tarea.
- Compruebe los derechos de minería de texto de los documentos que su equipo sube a herramientas de análisis. Es un riesgo legal real y hoy invisible en casi todas las organizaciones.
- Verifique dónde están los servidores de cualquier herramienta en la que se introduzcan datos de pacientes, aunque estén seudonimizados.
Preguntas frecuentes
¿Qué significa que la fluidez no es evidencia?
Que la forma de una respuesta no dice nada sobre su fundamento. Un texto rápido, ordenado y escrito con seguridad reduce nuestra disposición a verificarlo, aunque su contenido no esté respaldado por ninguna fuente.
¿Puedo subir cualquier artículo científico a una herramienta de IA?
No. Muchas publicaciones reservan los derechos de minería de texto, lo que impide procesarlas con herramientas de análisis documental. La condición figura en la información de cada artículo y conviene comprobarla antes.
¿Basta con seudonimizar los datos del paciente?
No. Una combinación de analítica, síntomas, fecha y lugar puede permitir reidentificar a una persona. En medicina los datos casi nunca están anonimizados por completo, de modo que siguen siendo datos personales de categoría especial.
Referencias
Normas APA, 7.ª edición. Ordenadas alfabéticamente por autor.
- Directiva (UE) 2022/2555, relativa a medidas destinadas a garantizar un elevado nivel común de ciberseguridad en toda la Unión (NIS2).
- Real Decreto 311/2022, por el que se regula el Esquema Nacional de Seguridad.
- Reglamento (UE) 2016/679, General de Protección de Datos.
- Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial.
- Suárez Negrete, J. de los S. (20 de octubre de 2026). La IA ya está en sanidad. ¿Estamos preparados para utilizarla? Del uso individual a una inteligencia artificial segura, basada en la evidencia y gobernada [Seminario web]. VitaDigital. https://www.youtube.com/watch?v=Xv2MWco93bU
Ficha para medios
- Titular
- La fluidez no es evidencia: cómo comprobar lo que responde una IA clínica
- Autoría
- Mariela Méndez, directora de IA Scholarium (Madrid)
- Serie
- El Hospital Inteligente, entrega n.º 17 · Sección: Criterio
- Fecha
- 22 de octubre de 2026
- Extensión
- 547 palabras aproximadas · 6 min de lectura
- Referencias
- 5, en normas APA 7.ª edición, con enlace a la fuente primaria
- Contacto
- info@iascholarium.com
Este texto puede reproducirse, total o parcialmente, en medios digitales e impresos, citando a la autora y enlazando al original. Para una versión adaptada a la extensión de su medio, una tribuna original o declaraciones sobre este tema, escriba a la dirección de contacto. Sin patrocinio de proveedores tecnológicos ni contenido pagado sobre los casos analizados.
Mariela Méndez
Divulgadora de casos de IA en salud · Directora de IA Scholarium
Mariela Méndez divulga casos reales de aplicación de inteligencia artificial y tecnología sanitaria, y dirige IA Scholarium, plataforma de formación en IA para profesionales sanitarios con base en Madrid. Escribe para el sistema sanitario español y mantiene acceso directo a programas y responsables de Latinoamérica, un puente poco frecuente en el sector. Rastrea casos reales de transformación digital en sistemas de salud y los analiza con un método poco frecuente en el sector: evidencia citada, normativa europea aplicada y mención explícita de lo que todavía no está demostrado. Edita El Hospital Inteligente, serie de análisis sobre inteligencia artificial, salud y datos, y habla en congresos sobre salud digital, gobernanza del dato y cumplimiento del AI Act.
Para medios
Este artículo puede reproducirse total o parcialmente citando a la autora y enlazando a la fuente original.
Mariela Méndez está disponible para entrevistas, artículos de opinión, conferencias y mesas redondas sobre inteligencia artificial en salud, cumplimiento del AI Act, interoperabilidad y gobernanza del dato clínico.
Contacto: info@iascholarium.com