Ep. 13 El Hospital Inteligente · Criterio
La respuesta que suena bien: el sesgo que la IA activa en quien decide
Un problema de aritmética de dos líneas explica por qué quince años de experiencia clínica no protegen frente a una sugerencia equivocada.
Madrid · 30 de septiembre de 2026 · 5 min de lectura
Un bate y una pelota cuestan 1,10 euros. El bate cuesta 1 euro más que la pelota. ¿Cuánto cuesta la pelota? Si ha pensado diez céntimos, ha respondido como la mayoría, y es incorrecta. La respuesta es cinco. Este ejercicio de dos líneas explica algo que un experimento con radiólogos convierte en un problema de seguridad del paciente.
Los datos
- 5 céntimosla respuesta correcta al problema del bate y la pelota; la mayoría contesta diez
- 82 % → 45,5 %acierto de radiólogos con más de quince años cuando la IA sugirió la categoría equivocada
- 80 % → 20 %el mismo experimento, en radiólogos con menos experiencia
- 12 de 50mamografías en las que la sugerencia del sistema era incorrecta a propósito
Cinco céntimos
Si la pelota costara diez céntimos, el bate costaría 1,10 y el total sería 1,20. La respuesta es cinco céntimos.
Es el ejercicio más citado del Test de Reflexión Cognitiva de Shane Frederick, el que Daniel Kahneman usó para explicar los dos sistemas con los que pensamos. El Sistema 1 es rápido y automático. El Sistema 2 es lento y cuesta esfuerzo.
El Sistema 1 no se equivoca por ignorancia. Se equivoca porque la respuesta le pareció suficientemente buena y el Sistema 2 no llegó a comprobarla.
Esto no va de aritmética. Va de qué hacemos cuando una respuesta suena bien.
El mismo problema, con una mamografía delante
En 2023, la revista Radiology publicó un experimento con 27 radiólogos que evaluaron 50 mamografías asistidos por un sistema de inteligencia artificial. En doce de los casos, la sugerencia era deliberadamente incorrecta.
Los radiólogos con menos experiencia acertaban en torno al 80 % cuando la IA sugeriía bien. Cuando la IA se equivocaba, su acierto cayó por debajo del 20 %. Los que llevaban más de quince años pasaron del 82 % al 45,5 %.
Quince años de experiencia no protegieron. Amortiguaron.
Este fenómeno tiene nombre en la literatura: sesgo de automatización. No consiste en confiar demasiado en la máquina por ingenuidad. Consiste en que una respuesta plausible, presentada con seguridad, desactiva la comprobación que se habría hecho sin ella.
Por qué esto no se arregla con formación clínica
El reflejo habitual ante estos datos es pedir más formación. Pero los profesionales del experimento sabían interpretar una mamografía: por eso acertaban cuando el sistema no les llevaba la contraria.
Lo que falló no fue el conocimiento. Fue el procedimiento. Nadie había definido qué hacer cuando el criterio propio y la sugerencia del sistema no coinciden, ni quién registra esa discrepancia, ni qué se hace con ella después.
Una organización que no mide cuántas veces sus profesionales discrepan del sistema no sabe si la herramienta ayuda o sustituye.
Qué significa para tu organización
- Mida la tasa de discrepancia entre el criterio profesional y la sugerencia del sistema. Si es prácticamente cero, el problema no es que la IA acierte siempre: es que nadie la está contrastando.
- Defina por escrito qué ocurre cuando hay desacuerdo: quién decide, quién lo registra y quién revisa esos casos de forma periódica.
- Al evaluar un proveedor, pregunte por los estudios con sugerencias erróneas, no solo por la exactitud del modelo. La pregunta útil no es cuánto acierta, sino qué pasa en su servicio cuando falla.
Preguntas frecuentes
¿Qué es el sesgo de automatización?
La tendencia a aceptar la recomendación de un sistema automatizado sin someterla a la comprobación que se aplicaría a cualquier otra fuente. No nace de la ingenuidad: una respuesta plausible y bien presentada desactiva la verificación.
¿La experiencia profesional protege frente a este sesgo?
Lo amortigua, pero no lo evita. En el experimento de Radiology, los radiólogos con más de quince años pasaron del 82 % al 45,5 % de acierto cuando la sugerencia era incorrecta. La caída fue menor que en los menos experimentados, pero fue grande.
¿Cómo se mide esto en una organización?
Registrando la discrepancia entre la decisión profesional y la sugerencia del sistema, y revisando periódicamente esos casos. Es un indicador de calidad, no un control del profesional: una tasa de discrepancia casi nula suele indicar que la herramienta ha dejado de contrastarse.
Referencias
Normas APA, 7.ª edición. Ordenadas alfabéticamente por autor.
- Dratsch, T., Chen, X., Rezazade Mehrizi, M., Kloeckner, R., Mähringer-Kunz, A., Püsken, M., Baeßler, B., Sauer, S., Maintz, D. y Pinto dos Santos, D. (2023). Automation bias in mammography: The impact of artificial intelligence BI-RADS suggestions on reader performance. Radiology, 307(4). https://doi.org/10.1148/radiol.222176
- Frederick, S. (2005). Cognitive reflection and decision making. Journal of Economic Perspectives, 19(4), 25-42.
- Kahneman, D. (2011). Pensar rápido, pensar despacio. Debate.
- Radiological Society of North America. (2023). AI bias may impair radiologist accuracy on mammograms [Nota de prensa]. https://www.rsna.org/media/press/i/2432
Ficha para medios
- Titular
- La respuesta que suena bien: el sesgo que la IA activa en quien decide
- Autoría
- Mariela Méndez, directora de IA Scholarium (Madrid)
- Serie
- El Hospital Inteligente, entrega n.º 13 · Sección: Criterio
- Fecha
- 30 de septiembre de 2026
- Extensión
- 367 palabras aproximadas · 5 min de lectura
- Referencias
- 4, en normas APA 7.ª edición, con enlace a la fuente primaria
- Contacto
- info@iascholarium.com
Este texto puede reproducirse, total o parcialmente, en medios digitales e impresos, citando a la autora y enlazando al original. Para una versión adaptada a la extensión de su medio, una tribuna original o declaraciones sobre este tema, escriba a la dirección de contacto. Sin patrocinio de proveedores tecnológicos ni contenido pagado sobre los casos analizados.
Mariela Méndez
Divulgadora de casos de IA en salud · Directora de IA Scholarium
Mariela Méndez divulga casos reales de aplicación de inteligencia artificial y tecnología sanitaria, y dirige IA Scholarium, plataforma de formación en IA para profesionales sanitarios con base en Madrid. Escribe para el sistema sanitario español y mantiene acceso directo a programas y responsables de Latinoamérica, un puente poco frecuente en el sector. Rastrea casos reales de transformación digital en sistemas de salud y los analiza con un método poco frecuente en el sector: evidencia citada, normativa europea aplicada y mención explícita de lo que todavía no está demostrado. Edita El Hospital Inteligente, serie de análisis sobre inteligencia artificial, salud y datos, y habla en congresos sobre salud digital, gobernanza del dato y cumplimiento del AI Act.
Para medios
Este artículo puede reproducirse total o parcialmente citando a la autora y enlazando a la fuente original.
Mariela Méndez está disponible para entrevistas, artículos de opinión, conferencias y mesas redondas sobre inteligencia artificial en salud, cumplimiento del AI Act, interoperabilidad y gobernanza del dato clínico.
Contacto: info@iascholarium.com