IA generativa en salud: expertos buscan estándares de validación consensuados

El auge de la inteligencia artificial generativa en medicina #

En los últimos años, los modelos de inteligencia artificial generativa (IAG) han pasado de ser una curiosidad tecnológica a convertirse en herramientas con aplicaciones concretas dentro de los sistemas de salud. Según el artículo publicado en Nature Medicine por Huo, Chartash, Tsang y colaboradores, existe un interés creciente en integrar estos modelos en la práctica clínica cotidiana.

Los modelos de lenguaje de gran escala (conocidos por sus siglas en inglés como LLMs) han dominado este campo, pero otras tecnologías de IAG, como los modelos multimodales de gran escala —capaces de procesar texto, imágenes y otros tipos de datos simultáneamente—, ganan terreno rápidamente. Esta diversificación tecnológica amplía el potencial de aplicación, pero también multiplica los desafíos de supervisión y control de calidad.

Qué se propone y por qué ahora #

El artículo, firmado por investigadores de instituciones como la Universidad McMaster (Canadá), la Universidad Yale (Estados Unidos), la Universidad de Birmingham (Reino Unido), la Universidad del Sur de California y el Hospital Clínico San Carlos de Madrid (España), entre otras, no presenta resultados de un ensayo clínico, sino que formula un llamado formal a la comunidad científica para construir lo que denominan los Validation Accords: un marco de consenso internacional para validar modelos de IAG antes de su implementación en entornos clínicos.

Según los autores, los investigadores ya están aplicando modelos de IAG para tareas tan diversas como la redacción de notas clínicas y la generación de orientación para pacientes en áreas de prevención, tamizaje, diagnóstico, pronóstico, triaje, vigilancia epidemiológica y tratamiento. La amplitud de estos usos hace que la ausencia de estándares de validación claros sea, a juicio de los autores, un problema urgente.

El riesgo de las alucinaciones y la información médica incorrecta #

Uno de los problemas más serios que señala el artículo es el fenómeno conocido como alucinación: la tendencia de los modelos de IAG a generar información que suena plausible pero que es factualmente incorrecta. Este riesgo se deriva de la naturaleza estocástica —es decir, basada en probabilidades— de estos sistemas.

En un contexto médico, una alucinación no es un error menor: según los autores, estos modelos pueden generar notas clínicas inexactas o guías de orientación engañosas que afecten negativamente la atención al paciente. Esta posibilidad convierte la validación rigurosa en un requisito de seguridad, no en un trámite opcional.

Cómo se valida actualmente un modelo de IA en salud #

El artículo describe el enfoque de validación más extendido en la actualidad, que consta de tres etapas: primero, evaluar el modelo con un conjunto de datos local o interno; luego, probarlo con datos externos provenientes de una población diferente; y finalmente, someterlo a validación en un entorno clínico real.

Sin embargo, los autores señalan que la validación en el mundo real se omite con frecuencia, y que la validación externa suele considerarse erróneamente como la prueba definitiva de seguridad y confiabilidad. Algunos investigadores argumentan que incluso este proceso no garantiza que el modelo sea generalizable o útil en contextos distintos al de su desarrollo. Otros han propuesto marcos de validación escalonados que incluyen etapas generales, específicas por tarea y de validación propiamente dicha. Hay incluso voces que cuestionan si la validación verdadera de estos modelos es alcanzable en absoluto.

Esta diversidad de posturas refleja la falta de consenso que motiva precisamente la iniciativa descrita en el artículo.

Qué significa para América Latina #

La región latinoamericana enfrenta una combinación particular de desafíos: sistemas de salud con recursos heterogéneos, brechas en el acceso a especialistas y una creciente presión por adoptar tecnologías que prometan eficiencia. En ese contexto, la tentación de incorporar herramientas de IAG sin validación suficiente puede ser mayor que en entornos con mayor capacidad regulatoria.

La ausencia de un marco de validación consensuado a nivel internacional deja a los sistemas de salud latinoamericanos sin una referencia clara para evaluar si una herramienta de IA es segura antes de usarla. La iniciativa descrita en Nature Medicine podría, si logra consolidarse, ofrecer precisamente ese punto de referencia. No obstante, es importante señalar que el artículo no aporta datos específicos sobre la situación de la IA en salud en América Latina, por lo que cualquier proyección regional debe tomarse como reflexión general y no como conclusión del estudio.

Limitaciones y lo que falta por confirmar #

El artículo publicado en Nature Medicine es, en su naturaleza, un llamado a la acción y una propuesta de marco conceptual, no un estudio con resultados empíricos. Por tanto, no presenta datos sobre eficacia, seguridad demostrada ni comparaciones entre modelos. El texto completo está disponible solo mediante suscripción institucional, lo que limita el acceso a los detalles metodológicos de la propuesta.

Lo que queda por confirmar es sustancial: si la comunidad científica internacional responderá al llamado de colaboración, cómo se estructurarán los Validation Accords en la práctica, qué organismos regularán su cumplimiento y si los estándares resultantes serán aplicables en contextos de bajos y medianos ingresos. Estas preguntas abiertas son, precisamente, las que justifican el llamado a colaboradores que hace el artículo.

Consulta siempre con un profesional de salud #

La inteligencia artificial generativa en medicina es un campo en rápida evolución y con enorme potencial, pero también con riesgos reales si se aplica sin la validación adecuada. Cualquier herramienta tecnológica utilizada en un contexto clínico —ya sea para orientación diagnóstica, redacción de notas o apoyo en decisiones terapéuticas— debe ser evaluada por profesionales de la salud capacitados antes de influir en decisiones médicas. Si tienes dudas sobre tu salud o sobre el uso de herramientas digitales en tu atención médica, consulta siempre con un médico o especialista calificado.

Fuente original: Huo, B., Chartash, D., Tsang, L. et al. “Consensus framework for the validation of generative AI: call for collaborators on the Validation Accords.” Nature Medicine (2026). https://doi.org/10.1038/s41591-026-04647-5