Un juge estime qu’un système algorithmique à 400 millions de dollars a illégalement refusé des prestations Medicaid

Un système algorithmique a illégalement privé des milliers de personnes de prestations Medicaid

• Des milliers d’habitants du Tennessee ont été illégalement privés de Medicaid et d’autres prestations

  • Dans le Tennessee, des milliers de personnes ont été illégalement privées de Medicaid et d’autres aides en raison d’erreurs de programmation et de données dans un système algorithmique chargé de déterminer l’éligibilité aux prestations pour les personnes à faibles revenus et les personnes handicapées
  • Il s’agit du système TennCare Connect, construit par Deloitte et d’autres sous-traitants pour plus de 400 millions de dollars

• Les problèmes du système TennCare Connect

  • Le système était censé analyser les revenus et les informations de santé afin de déterminer automatiquement l’éligibilité des demandeurs aux programmes d’aide, mais en pratique il ne chargeait pas correctement les données, assignait des bénéficiaires aux mauvais foyers et prenait des décisions d’éligibilité erronées
  • Le juge Waverly Crenshaw Jr., du tribunal fédéral du district central du Tennessee, a déclaré que « si une personne est éligible à Medicaid, géré par l’État, elle ne devrait pas avoir besoin de chance, de patience et d’un représentant juridique déterminé pour obtenir ces prestations »

• Le résultat du recours collectif

  • Cette décision fait suite à un recours collectif déposé en 2020 au nom de 35 adultes et enfants
  • Michele Johnson, du Tennessee Justice Center, a déclaré : « C’est une grande victoire pour les plaignants comme pour les membres de TennCare, et nous sommes fiers de nous être tenus aux côtés de familles courageuses pour protéger la couverture santé de nombreux voisins qui ont perdu une assurance maladie essentielle à cause des politiques et pratiques illégales de TennCare »

• Le contexte du système TennCare Connect

  • Le système TennCare Connect a été lancé en 2019, à l’issue d’un effort pluriannuel visant à moderniser le système Medicaid de l’État et à se conformer à de nouveaux critères d’éligibilité ainsi qu’à des exigences d’inscription simplifiées
  • En vertu des nouvelles règles, l’État devait fournir une procédure de demande unique pour recueillir les informations des habitants et déterminer à quels programmes complexes de santé et de prestations liées au handicap ils étaient éligibles
  • Le juge Crenshaw a estimé que TennCare Connect mettait fin aux prestations sans examiner si les demandeurs étaient éligibles à l’ensemble des programmes disponibles

• Le rôle de Deloitte

  • Deloitte a été l’un des principaux bénéficiaires des efforts de modernisation à l’échelle nationale, en signant des contrats pour construire des systèmes automatisés de détermination de l’éligibilité dans plus de 20 États, dont le Tennessee et le Texas
  • Des groupes de défense ont également demandé à la Federal Trade Commission d’enquêter sur les pratiques de Deloitte, affirmant qu’au Texas aussi, des milliers de résidents étaient indûment privés de prestations vitales à cause du système défaillant de l’entreprise

Le résumé de GN⁺

• Cet article traite des problèmes posés par un système algorithmique qui a illégalement privé des habitants du Tennessee de prestations Medicaid
• Les défaillances du système TennCare Connect ont entraîné la perte de prestations de santé essentielles pour des milliers de résidents
• Deloitte a construit des systèmes automatisés similaires dans plusieurs États, et des problèmes comparables apparaissent ailleurs
• L’article soulève des questions importantes sur la fiabilité et la précision des systèmes algorithmiques et souligne la nécessité de les améliorer

[GN⁺]

Commentaires sur Hacker News

• Il a fallu 4 ans pour être admis à TennCare, et c’était un délai moyen. Ce système a contribué à une hausse des suicides.

  • Des décisions erronées et la pauvreté ont provoqué des tragédies.
  • Dans certains cas, la cause du suicide était dissimulée pour obtenir l’indemnisation d’assurance.
  • Les frais médicaux des personnes refusées ont augmenté, et le système hospitalier en supporte le coût.

• Dans le cas du "robodebt" australien, les prestations sociales ont été évaluées de manière inexacte, et de nombreuses personnes ont reçu à tort des demandes de remboursement.

  • Des suicides ont eu lieu.
  • L’enquête de la commission royale a conclu que ce système de recouvrement de dettes était illégal, et toutes les dettes ont été annulées.
  • De nombreux responsables ont fait l’objet de recommandations de poursuites, mais la commission anticorruption a décidé de ne pas engager de poursuites.

• Il est peu probable que Deloitte ait fait cela sans directives ni approbation directes du gouvernement de l’État.

  • Le système de chômage de la Floride a lui aussi été conçu pour être difficile à utiliser.
  • Si les responsables publics ne sont pas sanctionnés, cela se reproduira avec d’autres cabinets de conseil.

• Recommandation de lire Recoding America de Jennifer Pahlka.

  • L’ouvrage aborde diverses raisons expliquant pourquoi les logiciels gouvernementaux posent autant de problèmes.

• Le système TennCare Connect a été construit par Deloitte et d’autres prestataires pour plus de 400 millions de dollars.

  • Les logiciels gouvernementaux devraient être développés en open source.
    • C’est nécessaire pour pouvoir demander des comptes aux agents publics.
    • Il devient plus facile de renvoyer des prestataires incompétents et de les remplacer.
  • Deloitte a été l’un des principaux bénéficiaires des efforts de modernisation à l’échelle nationale, en remportant des contrats pour mettre en place des systèmes automatisés d’éligibilité dans plus de 20 États.
  • Beaucoup d’argent public a été gaspillé.

• Pour 400 millions de dollars, le logiciel analyse les revenus et les informations de santé afin de déterminer automatiquement l’éligibilité.

  • Il faudrait comparer cela à la précision, à l’absence de corruption et à la rapidité qu’on obtiendrait en embauchant des personnes avec 400 millions de dollars.
  • Si Code for America avait disposé de ressources à hauteur de 400 millions de dollars, l’organisation aurait probablement pu fournir un meilleur logiciel.

• En réunissant une bonne équipe de développeurs pour construire un logiciel pour l’État, il serait possible d’achever le projet en un an avec 10 millions de dollars.

  • En versant environ 50 % des salaires de la FAANG, on pourrait écarter les personnes motivées uniquement par l’argent.
  • Il faut maintenir des critères de recrutement élevés et conserver une formule qui fonctionne.

• Dans les banques, il existe des équipes qui valident les modèles et rapportent les résultats à la Réserve fédérale.

  • Les organismes publics auraient eux aussi besoin d’un système similaire.

• Cela montre la nécessité d’introduire un revenu de base universel (UBI).

  • Il est honteux qu’il faille attendre des années pour obtenir des prestations.

• S’il s’agit d’un système algorithmique, on peut se demander pourquoi les décisions de refus prennent plusieurs mois.