Ep. 14 El Hospital Inteligente · Criterio
Adenosina y cafeína: por qué fallan los guardarraíles de una IA
Un ingeniero explicó con una taza de café por qué una restricción aprendida deja de funcionar sin llegar a romperse.
Madrid · 30 de septiembre de 2026 · 4 min de lectura
En una sesión sobre inteligencia artificial y desarrollo, alguien preguntó lo que se pregunta siempre: si a un modelo se le pueden poner límites de verdad. David Carrascosa no contestó con arquitectura. Contestó con café. Y de esa taza sale la mejor explicación que he oído de por qué fallan los guardarraíles.
Los datos
- A1 y A2Alos receptores de adenosina que bloquea la cafeína: no aporta energía, impide la señal de sueño
- 82 % → 45,5 %acierto de radiólogos con más de quince años de experiencia cuando la IA sugirió la categoría equivocada
- 80 % → 20 %el mismo experimento, en radiólogos con menos experiencia
- 27radiólogos participantes; en doce casos la sugerencia del sistema era incorrecta a propósito
La pregunta que se hace siempre
Lo que dijo, en mis palabras: poner un guardarraíl es bloquear neuronas. Le cierras al modelo el camino por donde pasaría la respuesta que no quieres. Hasta ahí, todo bien.
Entonces cambió de tema. Hablemos del café.
La taza de café
Cuando llevas horas despierto se acumula en tu cerebro una molécula que avisa de que es hora de dormir: la adenosina. La cafeína no da energía. Se sienta en el sitio donde esa molécula tendría que entregar el mensaje, los receptores A1 y A2A, y lo tapona. La señal sigue llegando. Nadie la recibe.
¿Y qué hace tu cerebro? Fabricar más sitios donde recibirla.
Por eso una taza deja de hacer efecto y necesitas dos. Y por eso, cuando dejas el café, el sueño no es mucho: es infinito. Tienes más receptores que nunca y nada que los bloquee.
El bloqueo no se rompió. El cerebro aprendió a rodearlo.
Con la inteligencia artificial pasa lo mismo
Un guardarraíl no es un muro de hormigón. Es una restricción aprendida. Y todo lo aprendido se puede rodear: reformulando la pregunta, escondiendo la instrucción en un documento que el modelo va a leer, o reentrenando el sistema hasta que el límite se diluya.
Lo inquietante no es que se rompa. Es que no se rompe. Sigue ahí, en el acta de la implantación, firmado por todos. Lo que caducó fue el supuesto de que funcionaba.
Conviene decir dónde termina la analogía. En un modelo no aparecen neuronas nuevas: el mecanismo es otro. Lo que se comparte es el principio, que dos sistemas distintos se adaptan para rodear un bloqueo aprendido, y que en los dos casos el bloqueo deja de cumplir su función sin avisar a nadie.
Lo que ocurre cuando nadie comprueba
En 2023, la revista Radiology publicó un experimento con 27 radiólogos que evaluaron mamografías asistidos por un sistema de inteligencia artificial. En doce de los casos, la sugerencia era deliberadamente incorrecta.
Los radiólogos con menos experiencia acertaban en torno al 80 % cuando la IA sugería bien. Cuando la IA se equivocaba, su acierto cayó por debajo del 20 %. Los que llevaban más de quince años pasaron del 82 % al 45,5 %.
Quince años de experiencia no protegieron. Amortiguaron.
Nadie había hecho nada mal. El sistema tampoco se había roto. Solo faltaba alguien comprobando si el control seguía en pie.
Tres preguntas sin respuesta escrita
De aquí salen las tres preguntas que llevo a toda organización que está implantando inteligencia artificial, y que casi nunca tienen respuesta escrita. ¿Sabe cómo controlar la IA que está implementando? ¿Tiene claros los riesgos, y quién responde de cada uno? ¿Cómo la contiene si se equivoca?
Si no están documentadas, con un nombre al lado y una fecha de revisión, no hay gobernanza. Hay confianza.
Qué significa para tu organización
- Ponga fecha de caducidad a cada control que implante. Un guardarraíl verificado el día de la instalación no es un guardarraíl verificado hoy.
- Asigne un nombre propio a cada riesgo identificado. Un riesgo sin responsable es un riesgo que nadie vigila.
- Escriba el procedimiento de contención antes de necesitarlo: quién detecta el error, quién detiene el sistema, a quién se avisa y en cuánto tiempo.
Preguntas frecuentes
¿Qué es exactamente un guardarraíl en una inteligencia artificial?
Es una restricción que impide al sistema producir cierto tipo de respuestas. Se implementa con entrenamiento, filtros y reglas de sistema, no desactivando partes de la red. Por eso no es una barrera física: es un comportamiento aprendido, y lo aprendido se puede rodear.
¿La comparación con la cafeína es literal?
No. En un modelo de inteligencia artificial no se generan neuronas nuevas. La analogía funciona en el plano conceptual: dos sistemas que se adaptan para rodear un bloqueo aprendido. El mecanismo físico es distinto.
¿Cómo se comprueba que un guardarraíl sigue funcionando?
Con pruebas periódicas y documentadas, repitiendo los casos que motivaron el control y añadiendo los nuevos que aparezcan. La clave es la periodicidad: un control se verifica con fecha, responsable y resultado registrado, igual que cualquier otro requisito de calidad.
Referencias
Normas APA, 7.ª edición. Ordenadas alfabéticamente por autor.
- Dratsch, T., Chen, X., Rezazade Mehrizi, M., Kloeckner, R., Mähringer-Kunz, A., Püsken, M., Baeßler, B., Sauer, S., Maintz, D. y Pinto dos Santos, D. (2023). Automation bias in mammography: The impact of artificial intelligence BI-RADS suggestions on reader performance. Radiology, 307(4). https://doi.org/10.1148/radiol.222176
- Radiological Society of North America. (19 de abril de 2023). AI bias may impair radiologist accuracy on mammograms [Nota de prensa]. https://www.rsna.org/media/press/i/2432
- Reichert, C. F., Deboer, T. y Landolt, H.-P. (2022). Adenosine, caffeine, and sleep-wake regulation: State of the science and perspectives. Journal of Sleep Research, 31(4), e13597. https://doi.org/10.1111/jsr.13597
Ficha para medios
- Titular
- Adenosina y cafeína: por qué fallan los guardarraíles de una IA
- Autoría
- Mariela Méndez, directora de IA Scholarium (Madrid)
- Serie
- El Hospital Inteligente, entrega n.º 14 · Sección: Criterio
- Fecha
- 30 de septiembre de 2026
- Extensión
- 494 palabras aproximadas · 4 min de lectura
- Referencias
- 3, en normas APA 7.ª edición, con enlace a la fuente primaria
- Contacto
- info@iascholarium.com
Este texto puede reproducirse, total o parcialmente, en medios digitales e impresos, citando a la autora y enlazando al original. Para una versión adaptada a la extensión de su medio, una tribuna original o declaraciones sobre este tema, escriba a la dirección de contacto. Sin patrocinio de proveedores tecnológicos ni contenido pagado sobre los casos analizados.
Mariela Méndez
Divulgadora de casos de IA en salud · Directora de IA Scholarium
Mariela Méndez divulga casos reales de aplicación de inteligencia artificial y tecnología sanitaria, y dirige IA Scholarium, plataforma de formación en IA para profesionales sanitarios con base en Madrid. Escribe para el sistema sanitario español y mantiene acceso directo a programas y responsables de Latinoamérica, un puente poco frecuente en el sector. Rastrea casos reales de transformación digital en sistemas de salud y los analiza con un método poco frecuente en el sector: evidencia citada, normativa europea aplicada y mención explícita de lo que todavía no está demostrado. Edita El Hospital Inteligente, serie de análisis sobre inteligencia artificial, salud y datos, y habla en congresos sobre salud digital, gobernanza del dato y cumplimiento del AI Act.
Para medios
Este artículo puede reproducirse total o parcialmente citando a la autora y enlazando a la fuente original.
Mariela Méndez está disponible para entrevistas, artículos de opinión, conferencias y mesas redondas sobre inteligencia artificial en salud, cumplimiento del AI Act, interoperabilidad y gobernanza del dato clínico.
Contacto: info@iascholarium.com