Reacción a "Dos modelos de IA muestran su utilidad para el manejo de pacientes con simulaciones y datos reales"

Estos dos estudios independientes presentan sistemas de IA para la gestión clínica de pacientes. Ambos trabajos representan avances técnicos significativos, que deben interpretarse en contexto, y no sistemas implementados en hospitales reales. 

MIRA es un agente autónomo que opera en un entorno simulado de historia clínica electrónica capaz de realizar entrevistas, solicitar pruebas diagnósticas y proponer tratamientos. Evaluado en centenares de casos reales de urgencias, alcanzó o superó el rendimiento de los médicos en muchas de las patologías evaluadas, pero no en todas. El segundo sistema, AMIE, es un sistema conversacional optimizado para el razonamiento clínico a lo largo de múltiples visitas. Este también resultó tan efectivo como un panel de médicos de atención primaria estando más alineado con las recomendaciones y guías clínicas, una ortodoxia que puede, o no, ser positiva en entornos reales donde la adaptación a casos específicos y la flexibilidad son tan importantes. 

Estos desarrollos pueden verse como un avance técnico con potencial para mejorar los procesos en hospitales, pero no son aún sistemas instalados en el mundo real.  

Desde el punto de vista técnico, ante sistemas tan complejos debemos esperar de la utilización de estos sistemas por otros investigadores para estar seguros de la validez de los resultados (por ejemplo, posibles contaminaciones entre datos de entrenamiento y aplicación, un problema típico y grave en sistemas que usan datos tan masivos que hace muy difícil evaluar su calidad y origen), más allá de la evaluación previa a su publicación.  En este sentido, que los sistemas sean abiertos (se puedan usar por otros) es esencial. Mientras que MIRA es abierto, AMIE no lo es, lo que hace imposible evaluarlo independientemente y, por tanto, no es algo de lo que nos podamos fiar en última instancia. 

En cualquier caso, es importante resaltar que nos movemos en el mundo de los desarrollos y todavía no en el de la implementación en sistemas complejos y regulados como son los hospitales. En este sentido las limitaciones son sustanciales. No son sistemas listos para interaccionar con la complejidad de los pacientes, médicos y sistemas reales, incluyendo las muchas interacciones que no son puramente texto y que son determinantes en la práctica real. 

En resumen, estas son publicaciones científicas relevantes que dejan claro que las aplicaciones de IA en entornos de decisión médica avanzan a gran velocidad, en buena medida de la mano de grandes compañías, pero no solo (afortunadamente). Para llegar a implementarse en sistemas reales aún faltan estudios prospectivos con pacientes reales y supervisión ética, siguiendo el proceso usual –y requerido legalmente– para cualquier aplicación en medicina.