El desarrollo de herramientas de
IA en salud avanza, pero su implementación aún enfrenta grandes desafíos. ¿Qué
frameworks y guías existen hoy para guiar este proceso? ¿Qué aspectos de la
práctica clínica abordan, y cuáles siguen sin respuesta?
Introducción
La llegada de la Inteligencia
Artificial al campo de la salud constituye una potencial transformación de la
práctica médica, particularmente a través de su integración en sistemas de
apoyo a la toma de decisiones clínicas (CDSS). Estas herramientas prometen
mejorar la precisión diagnóstica, personalizar tratamientos y optimizar flujos
de trabajo.
La investigación y el desarrollo
de este tipo de herramientas ha aumentado exponencialmente en los últimos años
pero su implementación en la práctica clínica (escenarios reales) no ha sido
proporcional. Esta brecha entre desarrollo e implementación probablemente
responda a desafíos técnicos, éticos, culturales y organizacionales que se
plantean durante este proceso. Existe una falta de enfoques sistemáticos que
exploren exhaustivamente los múltiples y complejos pasos involucrados para
garantizar una implementación óptima. Dicho en otras palabras, son bien
conocidas las dificultades para implementar la IA en entornos clínicos, con
escasa orientación sobre qué debe hacerse para sortearlas y cómo llevarla a
cabo en la práctica.
En este contexto, en el siguiente
ateneo bibliográfico se aborda la implementación de IA desde la perspectiva de
los frameworks, y guías actuales a través del análisis de dos artículos sobre
el tema.
Conceptos y
definiciones
Ciclo de vida de los
sistemas basados en IA
Las etapas involucradas durante
estos procesos tienen puntos en común con los ciclos de vida de los sistemas de
software (especialmente durante el desarrollo) y otros dispositivos médicos. La
naturaleza más compleja de la IA en salud respecto a otros dominios responde a
la necesidad de que los sistemas no solo sean técnicamente robustos y
clínicamente seguros, sino también éticamente sólidos y transparentes.
Podríamos resumir el ciclo de
vida de los sistemas de salud basados en IA en tres procesos fundamentales:
desarrollo, evaluación e implementación. Es importante destacar que no son
etapas estrictamente lineales, sino que muchas veces se retrocede a fases
anteriores si se identifican fallas o se requieren mejoras.
Figura
1. Ciclo de vida de sistemas basados en IA en salud y principales actores
intervinientes
El proceso de
desarrollo es la fase en la que se diseña, entrena y valida
técnicamente el modelo, antes de ser evaluado (la IA aún no interactúa con el
entorno clínico real). Durante la evaluación se busca determinar si la
herramienta es segura, útil y aplicable en condiciones reales o cuasi reales.
La implementación por
su parte es un proceso “multifase” que incluye, en rasgos generales, las
siguientes etapas:
- Adquisición:
exploración previa a la integración de una herramienta de IA, incluyendo
la decisión de comprarla/ contratarla
- Integración:
incorporación a los flujos de trabajo clínicos existentes y a los sistemas
de información existentes
- Monitorización:
seguimiento de las métricas de rendimiento de la herramienta
- Evaluación:
determinación del impacto de la integración y modificaciones necesarias
para garantizar que siga funcionando a su nivel de rendimiento previsto.
¿Qué es un framework
en este contexto?
Se entiende como framework
o marco a un conjunto estructurado de principios, directrices y
estándares que guían las diferentes decisiones técnicas, clínicas y
organizativas durante los procesos de desarrollo, evaluación e implementación
de los sistemas de IA, asegurando que estas herramientas se utilicen de manera
segura, ética y efectiva.
Estos pueden tener diferentes
enfoques o responder a diferentes preguntas, dando lugar a frameworks de tipo
ético, técnico, regulatorio y operacional. A modo de ejemplo, un framework de
tipo técnico ofrece una estructura de estándares para la validación científica
de las herramientas de IA, pudiendo utilizarse tanto durante el desarrollo como
para la evaluación de las mismas, y respondiendo a preguntas como ¿qué
se debería tener en cuenta al diseñar una herramienta? o ¿es determinada
herramienta válida o eficaz?
Diferencias entre
frameworks y guías metodológicas (Guidelines)
Mientras que los frameworks son
estructuras amplias, las guías son recomendaciones específicas y detalladas
(paso por paso) sobre cómo implementar ciertas prácticas; un framework orienta
hacia qué debería hacerse (ej. asegurar transparencia o
reproducibilidad) y una guía hacia cómo hacerlo en la práctica (ej.
cómo documentar la trazabilidad de un modelo, cómo diseñar un estudio clínico o
reportar resultados). Así, un framework puede contener o basarse en guías pero
una guía no necesariamente constituye un framework completo. A pesar de estas
diferencias, debe destacarse que muchas veces frameworks y guidelines son
utilizados como conceptos equivalentes en las diferentes publicaciones.
Según una revisión sistemática
publicada este año por Shiferaw et al., diseñada para evaluar la calidad de las
guías para la integración de la IA en entornos clínicos, existe una
variabilidad significativa en la aplicabilidad y el rigor en su desarrollo.
Además, las guías que demostraron la mayor calidad (TRIPODþAI, DECIDE-AI,
SPIRIT-AI y CONSORT-AI) fueron desarrolladas para utilizarse en los procesos de
desarrollo y evaluación, profundizando el déficit en lineamientos claros para
la implementación de las herramientas en la práctica clínica.
Entonces, cuando pensamos en la
implementación de herramientas de IA en salud, ¿por donde se empieza? Si hay un
framework y una guía para implementarlas, ¿cual uso? ¿en qué orden o con qué
fin? ¿Uso primero un framework, para tener un marco general del proceso, y
después una guía para ir al “cómo hacerlo”?
Reflexiones
finales
Aunque el desarrollo de
herramientas de IA en salud avanza rápidamente, la implementación práctica aún
enfrenta múltiples desafíos. Las directrices deben enfocarse no solo en la
adquisición tecnológica y los aspectos técnicos de las herramientas, sino también
su adaptación a los flujos de trabajo existentes y el monitoreo continuo para
poder establecer su impacto real en la práctica clínica y así fortalecer la
credibilidad y la confianza en estas tecnologías.
Los frameworks existentes ofrecen
una estructura inicial para guiar el proceso de implementación, pero su enfoque
suele ser parcial y con limitaciones, especialmente en las etapas de
integración y evaluación. Esto genera incertidumbre sobre qué aspectos de la
práctica clínica se ven realmente contemplados y cuáles permanecen sin una guía
clara.
Además, la mayoría de las guías
reconocidas suelen centrarse en los procesos de desarrollo y evaluación de las
herramientas, profundizando las dificultades para encarar el proceso de
implementación en forma práctica.
Por todo esto, resulta
imprescindible continuar investigando y perfeccionando estos marcos y guías a
través de una colaboración activa entre los distintos actores involucrados para
garantizar una implementación más integral que responda a las necesidades
reales del entorno clínico.
También es necesario elaborar
marcos y guías para países de bajos y medianos ingresos que se adapten a
contextos con recursos limitados y diferentes realidades culturales,
socioeconómicas y regulatorias.
Para ver la presentación
completa, hacé clic en este enlace.
Por Julieta Caridi
Fuente: Hospital
Italiano
