Cuando la IA empeora el trabajo y la atención

La promesa de la IA en el trabajo suele venderse con una frase simple: más velocidad, menos errores, menos carga operativa. Pero cuando esa tecnología entra en procesos críticos sin contexto humano, sin métricas de calidad y con vigilancia laboral encima, el resultado puede ser el contrario: más fricción, más ansiedad y peor servicio.

Eso es justo lo que denuncian enfermeras de Kaiser en California, según el reporte de Local News Matters. Su queja no es que la tecnología exista, sino que se está usando para apretar tiempos, medir actividad y empujar decisiones que no siempre encajan con la realidad del paciente. En salud, donde cada minuto puede cambiar un diagnóstico o una intervención, automatizar sin criterio no acelera: puede degradar la atención.

Qué está pasando con la IA en Kaiser

El caso que detonó esta conversación gira alrededor de dos piezas que, juntas, son delicadas: herramientas de IA para apoyar tareas clínicas y sistemas de vigilancia laboral para monitorear productividad. Las enfermeras sostienen que esa combinación está empeorando su trabajo y la atención al paciente, no mejorándolo.

La crítica tiene sentido si piensas en cómo se mide el trabajo de enfermería. No todo lo valioso se ve en un dashboard. Una enfermera puede pasar varios minutos conteniendo a un paciente ansioso, detectando un cambio sutil en su respiración o coordinando con otro profesional para evitar un error. Si el sistema solo mira clics, tiempos de respuesta o volumen de tareas cerradas, esa parte invisible desaparece.

En otras palabras: si la IA y la vigilancia laboral se diseñan para optimizar actividad, pero no calidad, terminan premiando lo que es fácil de contar y castigando lo que realmente importa.

Cuando medir más no significa cuidar mejor

Este es uno de los errores más comunes en implementación tecnológica: confundir medición con mejora. Medir más variables no garantiza mejores decisiones. Si tu sistema registra cada interacción, pero no entiende el contexto clínico, puedes terminar con una foto muy precisa de algo irrelevante.

Un ejemplo simple: si una enfermera tarda más en cerrar un caso porque el paciente tuvo una crisis, el software puede leer eso como ineficiencia. Pero para atención médica, ese tiempo extra puede ser exactamente lo correcto. La métrica no captura el valor real de la intervención.

Por eso, en entornos críticos, la pregunta no es solo “¿puede la IA hacer esto más rápido?”. La pregunta correcta es “¿qué comportamiento va a incentivar este sistema y qué costo humano trae ese incentivo?”.

Dónde falla la automatización sin contexto

La IA funciona bien cuando el problema está bien definido, los datos son consistentes y el margen de error es manejable. En salud, especialmente en enfermería, muchas tareas no cumplen esas condiciones. El trabajo cambia por turno, por paciente, por carga emocional y por urgencia clínica.

Cuando una herramienta se mete en ese flujo sin entender esas variaciones, aparecen tres fallas típicas: decisiones rígidas, presión por métricas y pérdida de criterio profesional. No hace falta que el sistema “se equivoque” de forma dramática para causar daño; basta con que empuje a la gente a trabajar peor.

Además, la vigilancia laboral cambia el comportamiento. Si tú sabes que cada pausa será interpretada como baja productividad, dejas de tomar pausas. Si sabes que cada conversación con un paciente cuenta menos que una tarea cerrada, priorizas cerrar tareas. Y si eso pasa en salud, el costo no es solo estrés: también puede ser seguridad del paciente.

El problema de optimizar lo que se ve

Los sistemas de monitoreo suelen capturar lo que deja rastro digital: clics, tickets, tiempos de respuesta, notas completadas, pantallas abiertas. Pero gran parte del valor del trabajo clínico ocurre fuera de ese rastro.

Piensa en una ronda de enfermería. Hay observación, escucha, coordinación con médicos, educación al paciente y revisión de cambios sutiles. Si el software solo reconoce una parte de ese proceso, la organización empieza a premiar la parte equivocada.

Esto no es exclusivo de hospitales. También pasa en call centers, logística, atención al cliente y oficinas administrativas. La diferencia es que en salud, una mala métrica no solo baja la moral: puede afectar diagnósticos, tiempos de respuesta y seguridad.

La vigilancia también cambia la calidad del dato

Hay otro efecto menos visible: cuando las personas saben que están siendo vigiladas, ajustan su conducta para pasar el control, no para hacer mejor el trabajo. Eso contamina los datos que luego alimentan la IA.

Si el equipo empieza a registrar tareas de forma mecánica para cumplir con auditorías, la plataforma recibe señales menos útiles. En vez de aprender cómo se trabaja realmente, aprende cómo la gente sobrevive al sistema de vigilancia.

Ese ciclo es malo por partida doble. Primero, porque castiga al personal. Segundo, porque hace que la IA se entrene con datos sesgados por el miedo. Y luego la organización usa esos mismos datos para justificar más control.

Qué señales deberías vigilar si tu empresa usa IA

Si tú trabajas en una empresa que está metiendo IA en procesos sensibles, no basta con preguntar si el modelo es preciso. También tienes que mirar qué incentivos crea, qué tareas invisibiliza y cómo afecta la autonomía de quienes hacen el trabajo.

Hay señales bastante concretas de que algo está mal encaminado. No necesitas un laboratorio para detectarlas. Basta con escuchar al equipo y revisar si el sistema está mejorando resultados reales o solo indicadores internos.

1. El personal tarda más en resolver casos complejos, aunque el dashboard diga que hay más productividad.
2. Aumentan los retrabajos, correcciones o escalaciones manuales.
3. Se reporta más estrés porque el sistema penaliza pausas, contexto o criterio profesional.
4. Los usuarios finales, como pacientes o clientes, reciben respuestas más rápidas pero menos útiles.
5. El equipo empieza a trabajar para la métrica y no para el objetivo.

Métricas que sí importan en procesos críticos

Si vas a evaluar una implementación de IA en salud, no te quedes solo con métricas de eficiencia. Necesitas indicadores de calidad y seguridad. Por ejemplo: errores evitados, tiempo de resolución en casos complejos, satisfacción del paciente, número de escalaciones clínicas correctas y carga cognitiva del personal.

También conviene separar productividad de resultado. Un sistema puede reducir minutos por tarea y aun así empeorar el servicio. Esa diferencia se nota cuando mides el resultado final, no solo la velocidad de ejecución.

Aquí va una tabla simple para aterrizar la idea:

Qué debe cambiar antes de desplegar IA en salud

La lección aquí no es “no uses IA”. La lección es que no puedes implantarla como si todo problema fuera un problema de velocidad. En salud, la IA debería apoyar decisiones, no reemplazar contexto humano ni convertir el trabajo en una carrera de métricas.

Si una organización quiere usar IA de forma seria, necesita rediseñar procesos con participación del personal que hace el trabajo real. Eso incluye enfermeras, médicos, técnicos, personal administrativo y, cuando aplique, pacientes. Sin esa conversación, el sistema termina optimizando una versión imaginaria del trabajo.

También hace falta una gobernanza clara. No basta con comprar software y pedir “adopción”. Debe existir un marco para revisar sesgos, medir impacto clínico, auditar efectos secundarios y corregir rápido cuando la herramienta empeora el servicio.

Tres preguntas antes de aprobar un sistema

Antes de aceptar una nueva herramienta de IA o de vigilancia laboral, conviene hacer preguntas concretas. No son preguntas filosóficas; son preguntas operativas.

1. ¿Qué problema exacto resuelve y cómo se medirá ese resultado en el mundo real?
2. ¿Qué tareas humanas podría distorsionar o castigar el sistema?
3. ¿Quién revisa los errores, con qué frecuencia y con qué poder para cambiar el proceso?

Si no puedes responder esas tres, probablemente no estás frente a una implementación madura. Estás frente a una compra tecnológica con narrativa bonita.

El rol de los equipos y sindicatos

En el caso de Kaiser, la protesta también muestra algo importante: cuando el personal organiza su voz, aparecen los efectos secundarios que el vendor no puso en el demo. Esa retroalimentación es valiosa, sobre todo en sectores donde el costo de un error es alto.

Los sindicatos y comités laborales no frenan la innovación por deporte. Muchas veces son quienes detectan primero que una herramienta está desplazando el criterio profesional o elevando la carga mental. Ignorar esas señales puede salir caro en rotación, burnout y calidad de atención.

Si trabajas en una empresa latinoamericana, esto aplica igual. En Ecuador, México, Colombia o Perú, cualquier despliegue de IA en salud, banca o atención al cliente debería pasar por revisión humana real, no solo por aprobación de TI y compras.

Qué puede aprender LatAm de este caso

En Latinoamérica suele repetirse el mismo patrón: se compra tecnología para resolver un problema de eficiencia, pero se implementa sobre procesos débiles. Después se culpa al equipo por no adaptarse. El caso de las enfermeras de Kaiser sirve para ver ese error con claridad.

La región tiene un reto adicional: muchas organizaciones quieren resultados rápidos con presupuestos ajustados. Eso empuja a elegir herramientas que prometen automatización y control, porque parecen reducir costos. Pero si la solución degrada la atención o aumenta el desgaste, el costo real aparece después en rotación, errores y mala experiencia del usuario.

La salida no es frenar toda adopción. La salida es exigir diseño responsable. Si la IA va a entrar en un proceso crítico, debe probarse con pilotos pequeños, métricas de calidad, revisión del personal y una ruta de salida si el sistema empeora el trabajo.

Un checklist práctico para equipos de producto y operaciones

Si tú lideras producto, operaciones o tecnología, puedes usar este checklist antes de escalar una herramienta:

• Define el resultado de negocio y el resultado humano por separado.
• Mide calidad, no solo volumen.
• Revisa casos complejos, no solo promedios.
• Incluye al personal operativo en el diseño y la validación.
• Documenta qué decisiones toma la IA y cuáles siguen siendo humanas.
• Revisa si la vigilancia laboral está cambiando el comportamiento del equipo.
• Establece un mecanismo para apagar o ajustar el sistema si empeora el servicio.

Documentación útil para no improvisar

Si quieres montar una evaluación más seria, puedes apoyarte en referencias oficiales y marcos conocidos. La documentación de la NIST AI Risk Management Framework ayuda a pensar riesgos de IA más allá de la precisión. También vale revisar la guía de la OMS sobre ética y gobernanza de IA en salud, y las recomendaciones de la OCDE sobre IA responsable.

• NIST AI Risk Management Framework: https://www.nist.gov/itl/ai-risk-management-framework
• OMS, Ethics and governance of artificial intelligence for health: https://www.who.int/publications/i/item/9789240029200
• OECD AI Principles: https://oecd.ai/en/ai-principles

Tabla resumen

La discusión sobre IA en el trabajo no debería centrarse solo en si la herramienta es “inteligente”. La pregunta útil es si ayuda a la gente a trabajar mejor o si la obliga a trabajar bajo más presión, con menos criterio y con peores resultados.

En salud, esa diferencia no es un matiz. Es la línea entre una mejora real y una capa extra de control que termina dañando al personal y al paciente.