Tres modelos de Inteligencia Artificial evaluados para apoyar el triaje (clasificación de pacientes por urgencia) redujeron la prioridad de pacientes, reproduciendo los sesgos humanos al respecto. esto se produjo porque las fichas de varios pacientes incorporaron información estigmatizante.
Investigadores de UT Southwestern, centro médico universitario de Texas, encontraron que algunas de esas personas sufrieron después un deterioro clínico, pese a recibir menor prioridad en las pruebas de triaje.
El estudio, publicado en Digital Medicine, comparó pares de registros de Stanford Medicine y Beth Israel Deaconess con gravedad inicial similar. En cada pareja, una persona empeoró dentro de seis horas y otra no.
Philip Jarrett, profesor de Medicina de Urgencias y primer autor del trabajo, destacó el papel de la documentación. “La redacción importa”, afirmó en el comunicado de UT Southwestern. El análisis examinó cómo cambiaron las respuestas al añadir datos demográficos, sociales o asociados al estigma clínico.
El triaje cambió con las referencias a visitas frecuentes y antecedentes psiquiátricos
El equipo probó Gemma, Qwen y DeepSeek, tres familias de modelos de lenguaje, en 221.556 comparaciones. Evaluó 18 condiciones con formulaciones neutrales y estigmatizantes, midiendo la prioridad antes y después de incorporar un atributo.
Las referencias estigmatizantes a visitas frecuentes produjeron cambios perjudiciales en las seis combinaciones de modelo y datos, con un máximo de 9,4%. Frente a la formulación neutral, la diferencia fue de 1,4 a 7,1 puntos porcentuales.
Los antecedentes psiquiátricos provocaron cambios perjudiciales de hasta 9,5%. La diferencia entre su redacción neutral y estigmatizante alcanzó significación estadística en un solo modelo. El efecto de añadir el antecedente fue distinto del efecto específico de su redacción.
La gravedad inicial y la evolución real permitieron evaluar las prioridades
Para emparejar a los pacientes, el equipo utilizó el ESI (Emergency Severity Index, Índice de Gravedad de Emergencias). Es una escala de cinco niveles que clasifica según urgencia clínica y recursos previstos. El nivel uno corresponde a mayor urgencia y el cinco a menor urgencia, según la AHRQ (Agency for Healthcare Research and Quality, Agencia para la Investigación y la Calidad de la Atención Médica) de EEUU.
En las pruebas, describir a alguien por su uso frecuente de urgencias podía desplazar la atención desde su cuadro médico hacia su historial de consultas. El equipo comparó, por ejemplo, una descripción de una persona con varias enfermedades crónicas con una referencia al número de visitas que acumuló durante un año.
La raza, el idioma y el seguro de salud no produjeron cambios perjudiciales consistentes. Los sesgos de la IA variaron según el atributo y el modelo, vinculando el diseño de entrada con la seguridad de la priorización.
Jarrett planteó que cada herramienta debe contrastarse con la evolución real de pacientes antes de utilizarse. El próximo paso del programa será desarrollar modelos que combinen datos estructurados, como mediciones clínicas, y texto de las fichas para predecir el deterioro de personas atendidas en urgencias.
