Pacientes de Rotherham, en Inglaterra, reportaron problemas para usar Emma, una recepcionista telefónica con Inteligencia Artificial instalada en varios consultorios de atención primaria del NHS.
Healthwatch Rotherham dice que algunas llamadas terminaron en frustración porque el sistema no interpretó bien acentos locales ni ciertos impedimentos del habla, y parte de los usuarios colgó o fue en persona al consultorio.
Emma funciona en consultas de GP, el nivel de atención primaria del sistema británico. Su función es recoger el motivo del contacto y dirigir la solicitud al equipo adecuado.
Según QuantumLoopAI, la empresa proveedora, el sistema no toma decisiones clínicas y cualquier persona puede pedir atención humana durante la llamada.
La empresa sostiene que Emma fue diseñada para distintos dialectos, admite 17 idiomas además del inglés y transfiere la llamada cuando no puede resolverla. En la práctica, el episodio vuelve a poner bajo examen cómo se prueban los agentes de voz cuando pasan de una demostración técnica a un servicio público con acentos regionales y usuarios vulnerables.
Qué hace Emma en los consultorios y dónde aparecen los fallos
Healthwatch Rotherham, una organización independiente que recoge experiencias de usuarios de salud y asistencia social, informó que ha recibido relatos de residentes con dificultades para comunicarse con Emma.
Entre ellos aparece el caso de una persona que dijo que el sistema no lograba entenderle y que terminó colgando sin volver a intentar reservar una cita.
Kym Gleeson, responsable de la organización, explicó a la BBC, que los acentos varían bastante dentro de South Yorkshire y que el sistema no siempre identifica bien el motivo de la consulta. Algunas personas terminaron viajando al consultorio porque la llamada dejó de ser un canal cómodo para pedir ayuda.
Healthwatch también menciona barreras para personas con impedimentos del habla y para quienes necesitan ajustes razonables por discapacidad. La organización recuerda que los consultorios siguen obligados a ofrecer alternativas cuando una vía de acceso no funciona bien para un paciente concreto.
Los centros que usan Emma la presentan como una capa inicial para ordenar solicitudes y reducir el tiempo en espera. En páginas informativas para pacientes, los consultorios explican que el sistema recoge la consulta y la envía al equipo correspondiente, mientras el personal humano mantiene la revisión de casos y los médicos siguen a cargo del triaje clínico.
Qué promete QuantumLoopAI y qué obligación sigue teniendo cada GP
Como se mencionó, Emma fue entrenada para entender una amplia variedad de acentos y dialectos y que soporta 17 idiomas además del inglés. La empresa sostiene que, si el sistema no entiende o no puede tramitar una solicitud, la llamada se transfiere al equipo de recepción y la persona puede pedir hablar con un miembro del personal en cualquier momento.
En su información pública para pacientes, la compañía añade que Emma no da consejo clínico ni decide tratamientos. Su papel es atender la llamada, recoger datos básicos y derivar. Esa distinción es central en este caso: la crítica recogida en Rotherham no apunta a decisiones médicas erróneas, sino a una barrera de acceso en la primera conversación telefónica.
El contraste entre los testimonios locales y la promesa comercial del proveedor deja un problema muy concreto para los consultorios que están ampliando este tipo de sistemas: no basta con responder rápido si parte de los usuarios no logra hacerse entender.
En atención primaria, donde una llamada suele ser el primer paso para pedir hora, renovar una receta o describir síntomas, una fricción pequeña puede terminar desplazando la carga otra vez al mostrador presencial.
