Agentes clínicos de IA: por qué saber medicina no equivale a actuar con seguridad

La IA en salud está desplazando el foco desde modelos que responden preguntas hacia agentes capaces de consultar expedientes, usar herramientas, ejecutar pasos y sostener conversaciones prolongadas. Esto aumenta utilidad potencial, pero transforma el riesgo: un modelo puede contestar bien y fallar al priorizar urgencias, seleccionar herramientas, verificar acciones o mantener coherencia.

PatientAgentBench, MedCTA y PhysicianBench documentan esta brecha desde ángulos complementarios. Los tres trabajos son preprints y no equivalen a validación clínica prospectiva.

Los agentes clínicos requieren planificación, recuperación de datos, interpretación contextual, manejo de permisos, uso de herramientas, verificación de resultados y capacidad de detenerse. El error puede convertirse en acción incorrecta, omisión, falsa confirmación o secuencia insegura.

PatientAgentBench evalúa 1.200 escenarios y seis dimensiones. La calidad del triage fue altamente discriminante: sistemas más débiles aprobaron alrededor del 32% de los casos y los más fuertes aproximadamente 88%. Algunos agentes actuaron sobre solicitudes administrativas sin cribado clínico necesario, afirmaron acciones no ejecutadas o no ofrecieron recursos de crisis cuando correspondía.

MedCTA utiliza 107 tareas clínicas multimodales y trayectorias verificadas por clínicos a través de cinco herramientas. Incluso modelos avanzados mostraron selección incorrecta de herramientas, finalización prematura y fallos de protocolo.

PhysicianBench incluye 100 tareas revisadas por médicos, 21 especialidades y flujos largos en EHR. El mejor agente evaluado alcanzó aproximadamente 46% de éxito pass@1. No es una medida universal de “capacidad médica”, pero evidencia la dificultad de tareas compuestas.

Hecho confirmado: benchmarks recientes encuentran una brecha sustancial entre responder preguntas y ejecutar flujos clínicos complejos de manera fiable. Inferencia: los sistemas agénticos requerirán validación, permisos, supervisión, registro de acciones, límites de autonomía y mecanismos de recuperación.

Hipótesis no demostrada: un agente con resultados altos en benchmarks podrá operar de manera autónoma y segura en población real. Esa extrapolación requiere estudios prospectivos, validación externa, evaluación regulatoria y vigilancia posterior.

Una arquitectura responsable debe aplicar mínimo privilegio, confirmación de acciones de alto impacto, trazabilidad, verificación de outputs, detección de urgencias y separación entre recomendación y ejecución. La autonomía debe graduarse según riesgo.

Los resultados dependen de modelo, configuración, herramientas y método de evaluación; no son certificación regulatoria ni sustituyen ensayos clínicos o estudios de implementación.

La pregunta correcta ya no es si un modelo “sabe medicina”, sino si puede actuar dentro de un sistema real con control, trazabilidad, verificación y seguridad sostenida. La evidencia de 2026 sugiere que esa frontera todavía no está resuelta.