La inteligencia artificial (IA) está revolucionando la atención médica, pero sus deficiencias presentan riesgos significativos. En 2021, el mercado de IA en salud alcanzó los $6,6 mil millones, mostrando su rápida adopción y expansión.
Un avance prometedor es la Plataforma de Monitoreo de Impacto para la IA en la Atención Clínica (IMPACC) desarrollada por la División de Informática Clínica y Transformación Digital de la Universidad de California en San Francisco (UCSF) junto con UCSF Health. Esta herramienta de monitoreo continuo y en tiempo real permite a los profesionales de la salud evaluar la eficacia, seguridad y equidad de las tecnologías de IA en relación con los pacientes.
IMPACC tiene la capacidad de verificar si las tecnologías de IA están cumpliendo con su propósito previsto y detectar cualquier herramienta que pueda ser insegura o que aumente las disparidades en salud.
Con los resultados de este monitoreo, los líderes del sector pueden tomar decisiones informadas sobre la continuidad o eliminación de determinadas herramientas tecnológicas.
Es fundamental asegurarse de que cualquier nueva tecnología esté cumpliendo con nuestras expectativas y objetivos. Con la IA, es esencial realizar este seguimiento de manera detallada y en tiempo real, ya que sabemos que el rendimiento de los modelos puede variar con el tiempo y que muchos de nuestros médicos están interactuando con estas tecnologías por primera vez
La implementación de herramientas como IMPACC no solo garantiza la seguridad y eficacia de la IA en la atención médica, sino que también promueve una mayor equidad en el acceso y los resultados de salud. A medida que la IA sigue avanzando, la vigilancia continua y rigurosa será clave para maximizar sus beneficios y minimizar sus riesgos.
por: Jose A Cisneros, MD,PhD