Chez Kaiser, des infirmières affirment que la surveillance par l’IA dégrade leur travail et la prise en charge des patients
(localnewsmatters.org)- Des infirmières de conseil et de triage de Kaiser Permanente affirment qu’une gestion de la performance suivant les appels de plus de 15 minutes, l’intervalle entre les appels et le respect des consignes bride leur jugement professionnel et nuit aux soins aux patients
- Une IA testée en 2024 évaluait même l’empathie et le ton de la voix des infirmières ; celles-ci ont critiqué des notes erronées attribuées sans compréhension du contexte de leur travail
- Même lorsque de longues conversations sont inévitables — patients à risque suicidaire, symptômes complexes, besoin d’interprétation — elles disent devoir penser à leur score mensuel et aux entretiens d’évaluation, tandis qu’aux heures de pointe le temps de notes et de récupération après appel tombe à moins de 30 secondes
- Kaiser a rétorqué qu’il n’évalue pas la performance selon le temps moyen de traitement et que tous les outils font l’objet d’un examen et d’une supervision humains, sans toutefois divulguer la liste précise de ses systèmes internes ni leur fonctionnement
- Le syndicat fait de l’IA un sujet majeur des négociations contractuelles couvrant 25 000 personnes, tandis que le Parlement de Californie examine aussi des projets de loi sur la protection des soignants refusant des recommandations automatisées et sur la limitation de l’IA de prédiction des émotions
La pression de performance créée par le seuil des 15 minutes
- Sept infirmières de conseil et de triage de Kaiser disent subir de façon répétée des critiques de la direction ou être convoquées à des entretiens d’évaluation lorsqu’elles restent plus de 15 minutes au téléphone avec un patient
- La durée des appels est prise en compte dans le score de performance qu’elles reçoivent chaque mois
- Le logiciel tente aussi de prédire chaque jour si une infirmière est improductive ou ne répond pas assez vite aux appels
- Raquel Alvarez Sanchez, en poste à Vallejo depuis 2010, raconte être restée plus d’une heure au téléphone avec un patient à risque suicidaire jusqu’à l’arrivée de la police
- Elle n’a pas raccroché, tout en sachant qu’un long appel pouvait dégrader pendant des semaines son temps moyen d’appel et entraîner des questions de la direction
- En tant que responsable syndicale, elle a assisté à des entretiens d’évaluation avec des collègues et a vu des cas où la gestion de l’appel était appropriée, mais où le seul fait d’avoir dépassé 15 minutes devenait un problème
- Elle dit n’avoir vu aucune infirmière licenciée pour cela, mais craint qu’une pression durable ne pousse à la démission ou à une retraite anticipée
- Les infirmières disent recevoir pour consigne de suivre des protocoles prédéfinis pendant les appels et de limiter leurs conseils à deux ou trois éléments au maximum
- Elles peuvent ainsi se retrouver à devoir choisir entre retenir un conseil nécessaire ou subir une mauvaise évaluation
Un impact incertain sur la prise en charge des patients
- L’effet réel de la gestion algorithmique et des limites de durée d’appel sur les résultats cliniques reste flou
- Les infirmières de conseil ne suivent pas les patients après l’appel, ce qui rend difficile de savoir si des conséquences négatives se sont produites
- Quand CalMatters a demandé en 2024 des documents publics au California Department of Managed Health Care, aucune plainte de patient liée à la durée des appels chez Kaiser n’a été trouvée
- Les infirmières disent que les situations suivantes exigent souvent plus de 15 minutes
- les patients présentant plusieurs symptômes ou des maladies chroniques à évaluer ensemble
- les nouveaux parents ayant besoin de conseils et d’être rassurés
- les patients souhaitant davantage d’éducation à la santé
- les patients bouleversés ou anxieux après un diagnostic qui change leur vie
- les appels nécessitant un interprète, qui peuvent généralement durer plus de 30 minutes
- Environ 4 habitants de Californie sur 10 parlent une langue autre que l’anglais, et parmi eux la moitié ne maîtrisent pas bien l’anglais
- Une infirmière raconte qu’elle pensait au départ qu’un patient âgé en phase terminale risquait de se suicider, avant de comprendre qu’il avait surtout besoin de parler à quelqu’un dans son état de choc
- Elle aurait voulu offrir davantage d’empathie et de réconfort, mais a parlé moins qu’elle ne l’aurait souhaité par crainte d’une baisse de son score mensuel et d’un reproche d’un responsable
- Elle dit avoir dû se demander elle-même si sortir du protocole ou parler plus que nécessaire pouvait entraîner une sanction
- Pour Michele Ramos, de Consumer Watchdog, beaucoup de patients de Kaiser commencent leur parcours de soins par un appel de conseil, de sorte que les limites imposées à ce stade peuvent devenir l’origine de problèmes ultérieurs
- Kaiser a déjà conclu un accord incluant une amende record de 50 millions de dollars après des conclusions d’enquête selon lesquelles il retardait des rendez-vous en santé mentale au-delà des délais légaux et recourait excessivement aux thérapies de groupe au lieu des soins individuels
- En 2002, Kaiser avait été critiqué pour avoir versé des bonus à des téléopérateurs non infirmiers en échange d’appels courts, mais les infirmières disent ne pas vivre aujourd’hui la même pratique
Une IA qui notait l’empathie et le ton de la voix
- Kaiser a testé à l’été 2024 un outil d’IA visant à évaluer l’empathie et le ton dans la voix des infirmières et des patients
- Les infirmières ont signé une pétition réclamant des garanties sur la confidentialité des patients, la transparence, le respect du jugement professionnel et la participation des infirmières au déploiement de la technologie
- Elles ont aussi repris dans leur campagne le slogan « Trust nurses, not AI », utilisé lors d’une manifestation devant l’hôpital la même année
- Le test s’est achevé en novembre 2024, mais des responsables syndicaux disent que la direction a laissé entendre qu’un tel programme pourrait être réintroduit à l’avenir
- Sanchez affirme que la surveillance existante faisait déjà ressentir du harcèlement aux infirmières, et que le projet d’IA évaluant et notant les appels a aggravé ce sentiment
- Selon une infirmière restée anonyme, l’IA notait de façon constamment erronée faute de comprendre le travail infirmier
- Kaiser n’a pas répondu aux questions sur cet outil, sur les systèmes automatisés utilisés pour l’évaluation des infirmières, ni sur le fait de savoir si les patients étaient informés de ces évaluations de l’empathie et du ton
30 secondes entre deux appels et l’épuisement émotionnel
- Les infirmières disent qu’autrefois elles disposaient d’environ 10 minutes après un appel pour mettre à jour le dossier du patient ou se remettre d’une conversation difficile
- Aujourd’hui, lorsque le volume d’appels est élevé, elles disposent généralement de moins de 30 secondes avant l’appel suivant
- Ce délai peut être plus long aux heures creuses, par exemple tard le soir
- Après un appel particulièrement difficile, il est parfois possible d’obtenir du temps supplémentaire avec l’autorisation d’un responsable
- Elles disent qu’après des appels avec des personnes suicidaires, en crise de santé mentale ou en fin de vie, elles n’ont presque pas de temps de récupération, et craignent qu’un tel rythme n’entraîne des erreurs ou des indices importants manqués sur l’état des patients
- Une étude de 2023 sur des centres d’appels dans quatre pays développés a constaté que les salariés soumis à une gestion et une surveillance fondées sur l’IA disposaient de moins de temps entre les appels et souffraient davantage d’épuisement émotionnel
- Près de la moitié des répondants ont dit que les outils d’IA augmentaient leur stress au travail
- Une étude antérieure de la même équipe avait mis en évidence un lien entre la surveillance de la performance et des niveaux élevés d’épuisement émotionnel
- Virginia Dolleghast, de Cornell University, estime que le cas Kaiser s’inscrit dans une tendance plus large à surveiller en permanence des travailleurs chargés de résoudre des problèmes complexes et émotionnellement lourds
- Dans la santé, le risque est encore plus élevé, car les erreurs liées au stress et au burnout touchent directement à la vie et à la santé des personnes
- Les travailleurs qui disposent d’une large marge de manœuvre pour décider du rythme et du moment de leur travail affichent en général une plus grande satisfaction professionnelle et moins d’absentéisme
Algorithmes et jugement professionnel des soignants
- Une enquête menée en 2024 par National Nurses United auprès de plus de 2 000 infirmières montre que la moitié disent que leur employeur utilise des systèmes algorithmiques analysant les dossiers de santé
- Ces systèmes peuvent prédire la vulnérabilité des patients ou le temps de soins nécessaire
- Deux tiers des répondants disent que leur jugement a déjà divergé des prédictions informatiques
- 6 répondants sur 10 ne font pas confiance à leur employeur pour donner la priorité à la sécurité des patients lorsqu’il utilise l’IA
- Pa Vue, infirmière chez Kaiser, dit échanger régulièrement avec sa hiérarchie sur l’efficacité de ses appels et recevoir un score d’évaluation chaque mois
- Son score a déjà baissé après qu’elle eut répété ses conseils à une patiente en raison de symptômes inhabituels et d’un possible problème cardiaque
- Elle dit aussi avoir vu des cas où le score baissait lorsqu’une infirmière refusait une recommandation logicielle au nom de son jugement professionnel ou fixait un rendez-vous sans consulter un médecin
- Vue ne s’oppose pas à l’IA en soi lorsqu’elle bénéficie aux patients, mais juge que la surveillance de l’empathie et du ton vise surtout à améliorer la productivité et réduire les coûts
- Alors que l’usage de l’IA progresse à l’échelle nationale, les syndicats demandent de plus en plus aux employeurs de traiter ces enjeux dans les négociations de nouveaux contrats
- Les 2 400 travailleurs de la santé mentale de Kaiser en Californie du Nord sont eux aussi en négociation contractuelle
- Ils s’inquiètent notamment de l’utilisation des enregistrements de séances de thérapie pour entraîner des modèles d’IA et de la possibilité que l’IA remplace des emplois
L’IA introduite par Kaiser dans le parcours de soins
- Au-delà des centres de conseil, Kaiser utilise ou teste l’IA dans plusieurs autres domaines du parcours de soins
- analyse des dossiers médicaux électroniques pour identifier le risque d’événements indésirables chez les patients hospitalisés
- utilisation de Preventus pour déterminer le moment de sortie d’un patient
- médecins et thérapeutes utilisent Abridge pour enregistrer des consultations en présentiel et convertir la voix en texte
- dans des établissements de la Bay Area, test de surveillance à distance par IA pour les patients ayant besoin de soins supplémentaires
- Cathy Kennedy, de National Nurses United et de la CNA, considère que l’IA de détection de l’empathie s’inscrit dans une suite de mesures visant à limiter l’autonomie des infirmières et à accroître l’efficacité
- Elle demande que les entreprises développant et déployant ces systèmes prouvent leur efficacité et leur équité avant leur mise en service, car l’IA peut automatiser et fragmenter le travail infirmier
- Le contrat entre Kaiser et le syndicat des infirmières prévoit une notification en cas d’introduction de nouvelles technologies, mais selon la CNA cette notification n’est pas toujours faite
- Les dirigeants syndicaux demandent à leurs membres de signaler toute nouvelle technologie repérée et suivent le nombre de modèles d’IA utilisés chez Kaiser
- C’est ainsi qu’ils ont réagi à l’IA d’empathie et de ton, et ont aussi fait interrompre un test qui visait à remplacer par des caméras les infirmières au chevet de patients désorientés
- La Coalition of Kaiser Permanente Unions mène elle aussi une campagne « see something, say something » pour que les travailleurs de terrain signalent les déploiements d’IA
- Côté syndical, on estime que la direction intègre trop souvent l’IA dans les flux de travail sans notification ni consultation préalables des salariés
- Debru Carthan, manipulateur radio, craint que les détecteurs de ton de voix ne discriminent les infirmières issues de contextes culturels différents
La réponse de Kaiser et les négociations sociales
- Kaiser affirme ne pas évaluer la performance des équipes de conseil à partir du temps moyen de traitement (Average Handle Time) ni imposer de seuil de durée d’appel
- Il dit que ses outils de centre d’appels soutiennent l’assurance qualité et font l’objet d’un examen et d’une supervision humains
- Il affirme aussi donner la priorité à la sécurité des patients, à la confidentialité et à l’équité dans l’usage de l’IA, mais ne divulgue pas de détails précis sur ses systèmes technologiques internes pour des raisons de sécurité et d’exploitation
- Kaiser est le plus grand employeur privé de Californie et fournit des soins à 9 millions de personnes dans l’État ainsi qu’à 3 millions d’autres Américains ailleurs
- La California Nurses Association doit ouvrir en juillet 2026 de nouvelles négociations contractuelles avec Kaiser pour 25 000 personnes, dont 1 000 infirmières de centres d’appels
- Les infirmières ont observé en mars une grève d’une journée contre l’IA
- Elles avaient aussi organisé à l’automne précédent des piquets de protestation contre l’usage de l’IA
- La CNA n’a pas rendu publiques avant les négociations ses revendications détaillées sur l’IA
La régulation de l’IA au travail en Californie
- Les textes AB 1018 et SB 7, soutenus par la CNA, auraient obligé les employeurs à informer les salariés avant d’utiliser des systèmes automatisés pour les promotions, sanctions, évaluations de performance et autres décisions
- Le gouverneur Gavin Newsom a opposé son veto au SB 7
- L’AB 1018 n’a pas été adopté pour la troisième année consécutive face à la forte opposition d’entreprises, dont Kaiser
- Les élus ont redéposé SB 947, nouvelle version du SB 7
- D’autres projets de loi distincts visent à
- interdire aux employeurs de prédire l’état émotionnel des salariés au moyen de l’IA
- protéger les médecins et infirmières contre toute représaille lorsqu’ils ignorent les recommandations d’un système automatisé
- obliger les prestataires de soins à fournir chaque année à leur personnel une liste des systèmes automatisés utilisés
- La CNA et la California Labor Federation soutiennent environ six projets de loi visant à encadrer l’usage de l’IA au travail
- Les infirmières craignent que la surveillance et la notation ne transforment les soignants en machines automatiques à cocher des cases
- Le fait que les appels soient enregistrés rend plus difficile d’exprimer de l’humour ou une empathie personnelle envers les patients
- Elles estiment que la diminution des échanges humains non prévus dans les protocoles abîme l’essence même du métier infirmier et le soin attendu par les patients
1 commentaires
Avis sur Hacker News
À la lecture de l’article, la plupart des griefs portent sur les indicateurs de performance de centre d’appels et sur la pression exercée pour limiter les soins, ce qui relève d’un mauvais usage des métriques plutôt que d’un problème propre à l’IA. L’évaluation de l’empathie par l’IA était un pilote lancé en 2024, déjà abandonné.
Ma femme utilise chez Kaiser un LLM médical : elle dit gagner du temps et fournir de meilleurs soins grâce à l’interprétation en temps réel, au résumé des dossiers médicaux et à la recherche de réponses complètes. Les patients âgés apportent souvent des alertes d’Apple Watch ayant détecté des anomalies cardiaques.
Plutôt que de regrouper sous un même terme des technologies aux effets et aux risques très différents, il faut les évaluer usage par usage.
Comme les directions et les analystes profitent de l’engouement autour de « l’IA » pour pousser l’automatisation, l’informatisation ordinaires, voire les licenciements, il est naturel que leurs opposants utilisent le même terme.
Ce langage imprécis brouille le débat et rend plus difficile de concentrer la colère et l’énergie sur les enjeux essentiels que sont la dissimulation de la responsabilité humaine, l’érosion de l’autonomie, la perte de flexibilité des organisations et la déprofessionnalisation, mais la responsabilité n’en incombe pas d’abord aux critiques de l’IA.
Si l’on pense que faire évaluer par une machine le degré d’empathie d’un humain est une bonne idée, on ne devrait pas exercer le pouvoir.
La rémunération et l’évaluation sont nécessaires, mais on peut douter que la gestion par des métriques calculées par algorithme soit la meilleure solution ; au passage, l’empathie et le bon sens disparaissent.
Mon médecin traitant dit que les outils de prise de notes par IA ont été un grand soulagement. Avant, il fallait tout taper en écoutant le patient ; désormais, il peut se concentrer sur ce que dit le patient et ne noter précisément que ce qui est nécessaire, ce qui a fortement réduit son stress.
En revanche, dès que des règles opérationnelles imposent la manière de soigner et dictent comment traiter les patients, cela suscite une forte opposition ; l’idée de remplacer le jugement clinique par l’IA est absurde.
Les indicateurs et la surveillance au travail produisent facilement des effets pervers, mais le travail infirmier a lui aussi besoin d’un certain contrôle de sécurité, comme d’autres métiers.
Plusieurs femmes médecins m’ont conseillé de faire attention à mes interactions avec les infirmières en cas d’hospitalisation ; toutes les infirmières ne sont pas dévouées, et certaines peuvent être négligentes ou trouver des prétextes qui nuisent aux patients.
La médecine n’est pas seulement une vocation sacrée, c’est aussi un métier, donc une supervision est nécessaire ; mais si les indicateurs sont imposés par l’entreprise, ils risquent fort d’être gravement déformés selon la loi de Goodhart.
Comme cette étude sort à l’approche des négociations contractuelles du syndicat des infirmières, elle ressemble à du raisonnement motivé. Les problèmes réels sont nombreux, mais l’étude ne les traite pas correctement ; il faudrait une critique plus efficace.
L’IA pourrait servir à identifier les patients qui surutilisent sélectivement les services médicaux et à traiter les causes profondes pour réduire cette utilisation. Cela améliorerait la qualité des soins et la qualité de vie des soignants, tout en libérant du temps pour contacter les sous-utilisateurs qui ont besoin de soins préventifs.
Je me demande si Manna de Marshall Brain ressemble encore à de la science-fiction.
https://marshallbrain.com/manna
Le problème de l’intervention d’une IA d’entreprise dans l’accomplissement par les infirmières de leurs obligations médicales envers les patients ne se limite pas à Kaiser ; UHC a aussi adopté et utilise des outils de surveillance par IA similaires.
La plupart des infirmières s’occupent de personnes qui vivent le pire jour de leur vie.
L’article mentionne l’usage de l’IA, mais présente très peu de dommages concrets causés par l’IA. En revanche, il donne des exemples précis de Kaiser optimisant les appels pour réduire les coûts plutôt que pour améliorer la qualité des soins.
Traiter les longs appels comme un problème, ou pénaliser une infirmière qui donne plus de trois conseils, risque fort de dégrader la qualité des soins.
Dans un hôpital rural local, on équipe les infirmières de dispositifs de suivi qui enregistrent tous leurs déplacements dans l’hôpital, et le temps passé à chaque endroit entre même dans leur évaluation.
Il y a quelques années, elles restaient 15 à 20 minutes dans chaque chambre ; aujourd’hui elles entrent et sortent rapidement. Le nombre de patients n’a pas augmenté et celui des infirmières a même progressé, donc je pense que de mauvais indicateurs d’évaluation ont fait baisser le niveau des soins.
La gigantesque surutilisation des soins aux États-Unis fait grimper les coûts, mais on refuse de l’admettre franchement.
Les services de Kaiser étaient déjà plutôt médiocres, donc ce changement est d’autant plus préoccupant