Le bug de Fujitsu Horizon qui a envoyé des innocents en prison était connu « dès le début »
(arstechnica.com)- Les défauts du système comptable Horizon de la poste britannique étaient connus dès les premiers déploiements, et ces erreurs ont influé sur les poursuites et condamnations de responsables de bureaux de poste innocents
- Entre 1999 et 2015, des données comptables défectueuses ont fait croire à des disparitions d’argent, entraînant les poursuites et condamnations de plus de 900
sub-postmasteretpostmistresspour vol ou fraude - Les tribunaux n’avaient pas connaissance de 29 bugs identifiés dès 1999, et des témoignages ainsi que des articles indiquent que la Post Office a maintenu que le système fonctionnait correctement tout en intervenant dans la modification de déclarations écrites d’employés de Fujitsu destinées à la justice
- À ce jour, seules 93 condamnations ont été annulées ; certaines victimes ont été emprisonnées, d’autres ont versé de l’argent à la Post Office pour combler des déficits inexistants, et des milliers attendent encore une indemnisation
- Fujitsu a reconnu une obligation morale de contribuer à l’indemnisation des victimes, tandis que le gouvernement britannique prépare une nouvelle loi pour innocenter rapidement et indemniser les personnes condamnées à tort
Les défauts de Horizon étaient connus dès les premiers déploiements
- Paul Patterson, co-CEO de la division Europe de Fujitsu, a déclaré lors de l’enquête publique que les bugs du logiciel Horizon étaient connus « dès le début du déploiement »
- Patterson a affirmé que « les bugs et erreurs étaient connus à plusieurs niveaux depuis très longtemps », ajoutant qu’il existait des bugs, erreurs et défauts dès les premières phases de déploiement du système et que les parties concernées en avaient connaissance
- Horizon était un logiciel de comptabilité installé en 1999 à la poste britannique par International Computers Limited, une filiale de Fujitsu
L’ampleur des poursuites et des préjudices entre 1999 et 2015
- Les données comptables défectueuses de Horizon ont laissé croire à des disparitions d’argent dans les agences, et entre 1999 et 2015, plus de 900
sub-postmasteretpostmistressont été poursuivis et condamnés pour vol ou fraude - Certaines personnes innocentes ont été emprisonnées, tandis que d’autres ont payé la UK Post Office pour combler des déficits qui n’existaient pas réellement
- Selon la BBC, seules 93 condamnations ont été annulées jusqu’à présent, et des milliers de personnes attendent encore un accord d’indemnisation
Des bugs ignorés par les tribunaux et des déclarations modifiées
- Selon The Guardian, les tribunaux ayant jugé les affaires impliquant des employés de la poste n’ont jamais été informés de 29 bugs identifiés dans le système Fujitsu depuis 1999
- Même lorsque des bugs étaient reconnus, les déclarations écrites destinées aux témoignages en justice d’employés de Fujitsu étaient modifiées par la Post Office, qui cherchait à maintenir que le système fonctionnait correctement tout en traduisant des innocents devant les tribunaux
- Patterson a dit avoir été surpris de l’absence de ces détails dans les déclarations remises par des employés de Fujitsu à la Post Office, et a affirmé avoir vu des preuves montrant que d’autres personnes avaient modifié ces déclarations
- Lorsque Jason Beer KC, avocat principal de l’enquête publique, lui a demandé s’il considérait cela comme « honteux », Patterson a répondu : « shameful and appalling »
- Patterson a ajouté que, selon sa compréhension du droit britannique, toutes les preuves sur lesquelles la Post Office s’appuyait pour engager des poursuites auraient dû être présentées aux
subpostmaster
Le droit de poursuite privée et la possibilité d’une réforme du système
- Le Financial Times rapporte que l’enquête publique a appris en décembre 2023 que des avocats de la Post Office avaient réécrit des déclarations de Fujitsu
- La Post Office a obtenu 700 condamnations sur 900 en utilisant le droit de poursuite privée, accessible aux entreprises privées au Royaume-Uni
- Les autres condamnations proviennent d’affaires poursuivies par le ministère public écossais
- Ce scandale pourrait déboucher sur une réforme du système de poursuites privées, qui permet à des organisations de traduire des personnes en justice
Les excuses de Fujitsu et sa responsabilité dans l’indemnisation
- Patterson a déclaré plus tôt dans la même semaine aux parlementaires britanniques que Fujitsu voulait présenter ses excuses pour son rôle dans cette « terrible erreur judiciaire »
- Il a reconnu que Fujitsu était impliqué depuis le début, que le système comportait des bugs et des erreurs, et que l’entreprise avait aidé la Post Office dans les poursuites contre les
sub-postmaster - Patterson a affirmé que Fujitsu avait une obligation morale de contribuer à l’indemnisation des victimes
Une conscience du problème remontant à 1999 et la réponse du gouvernement
- Flora Page, avocate des victimes, a demandé à Patterson si personne n’avait auparavant clairement perçu le lien entre un code de très mauvaise qualité mis en production et des données tout aussi mauvaises ayant alimenté les services de soutien aux contentieux
- Patterson a répondu que cette compréhension du lien, ainsi que de ce qui se passait et où cela se passait, existait à la fois chez Fujitsu et à la Post Office depuis 1999
- Kevin Hollinrake, ministre chargé de la Post Office, a déclaré à la BBC que l’obtention de réponses et d’indemnisations était sa « priorité absolue »
- Hollinrake a affirmé que cette affaire avait eu des effets terribles sur la vie des gens, notamment des mariages brisés et des suicides, et que, là où c’est possible, les responsables devaient rendre des comptes au pénal
- Le gouvernement britannique prévoit une nouvelle loi afin de blanchir rapidement et indemniser les personnes condamnées à tort
1 commentaires
Avis sur Hacker News
Le passage où Paul Patterson, co-CEO de Fujitsu Europe, déclare qu’il est « surprenant que cet élément ait été omis des témoignages fournis par les employés de Fujitsu au Post Office, et j’ai aussi vu certains éléments prouvant que des témoignages ont été modifiés par d’autres personnes » est saisissant
S’il ne s’était agi que de dissimuler un contrat logiciel mal rédigé, il serait difficile de comprendre comment ce scandale pourrait continuer à empirer autant
On en vient maintenant à soupçonner l’existence d’irrégularités fondamentales encore non révélées
Fujitsu porte aussi une responsabilité, mais si le Post Office a modifié des témoignages, il n’est pas clair de savoir qui était censé les relire
Lorsque je remets une déclaration écrite à la police, ce ne devrait pas être à moi de vérifier jusqu’au bout que la police n’a pas modifié ma déposition
Bien sûr, si je l’apprends, je dois le signaler, mais on devrait pouvoir partir du principe qu’un organisme lié à la justice ne falsifiera pas des preuves
Cela arrive quand un échelon subalterne cherche à couvrir sa propre responsabilité et expose toute une organisation à un risque bien plus coûteux, ou quand une personne ou une organisation se croit dans son bon droit et continue d’escalader sa réponse, ou encore quand le pouvoir leur fait croire qu’ils peuvent éviter le prix de leur faute initiale et faire passer une faute plus grave
Même à petite échelle, ce n’est pas rare, et dans les entreprises dépourvues d’une culture de la confiance et de l’intégrité, il arrive souvent qu’on étouffe en interne les informations sur les échecs, ce qui mène à des comportements encore pires et plus nuisibles
En plus, Fujitsu fournit aussi des logiciels à de nombreux organismes publics britanniques comme le NHS, donc il n’était pas seulement question de très gros contrats, mais aussi de dissimuler qu’ils avaient menti et que, par conséquent, des gens avaient été emprisonnés et s’étaient même suicidés
Cela devait forcément susciter une immense colère politique, avec des responsabilités pénales et civiles, et un examen embarrassant des modalités d’attribution des contrats
En réalité, des personnes se sont suicidées à cause de la honte, des dettes et de la destruction de leur carrière, et cette affaire a causé des morts
À chaque fois, cela semble stupéfiant, absurde et impossible, et pourtant cela se répète
Comme dans une comédie ou un mauvais film à suspense, le crime semble continuer à s’amplifier
En regardant l’article Wikipedia de Paula Vennells, on voit que le Post Office a poursuivi 700 directeurs de bureau de poste entre 1999 et 2015 [0]
Cela fait environ une personne tous les 8 jours, et même si j’ignore quel serait le taux normal de fraude ou de poursuites chez les directeurs de bureau de poste, ce chiffre paraît excessivement élevé
Le Post Office aurait dû ouvrir une enquête interne au moment où la fréquence des poursuites est devenue aussi forte
[0] https://en.wikipedia.org/wiki/Paula_Vennells
C’est indéfendable
C’était pourtant une période assez centrale, au moment où tout cela se produisait
S’il est particulièrement cité, c’est aussi parce qu’après avoir laissé sa place à Vennells, il est parti plusieurs années chez ITV
Or c’est précisément ITV qui a produit le drame ayant remis cette affaire sous les yeux du grand public
Cela dit, il a quitté ITV bien avant le début de la production de la série, donc cela relevait peut-être davantage d’un choix créatif que d’une influence extérieure
https://en.wikipedia.org/wiki/Adam_Crozier
Ce serait peut-être un cas extrême de dirigeants cupides et amoraux projetant leurs propres travers sur les autres
Plus sérieusement, si l’on était criminel, choisirait-on vraiment la voie compliquée consistant à gérer un bureau de poste pendant des années ?
S’il y en avait plusieurs millions, 700 pourrait être un chiffre impressionnant
Certaines choses continuent encore aujourd’hui
Les poursuites sont toujours en cours, mais elles sont désormais menées non par le Post Office, mais par le Crown Prosecution Service
Fujitsu continue de fournir des données au CPS et au Post Office, comme elle le fait depuis des années, et on ne sait pas si elle fournit encore aussi des témoignages
Les directeurs de bureau de poste continuent de se plaindre que des bugs du logiciel Horizon provoquent des erreurs de solde
Ils doivent toujours payer des pénalités et verser de l’argent au Post Office lorsqu’un manque apparaît, et ces montants sont automatiquement déduits de leur salaire
J’ai essayé de rassembler les fils HN sur ce sujet
Je me demande s’il manque d’autres posts importants
Il y a eu une soumission en 2012 avec un seul commentaire, et il est intéressant de voir qu’ensuite, pendant 7 ans, il ne semble presque rien y avoir eu
Fujitsu CEO Deposition – Post Office Horizon IT Inquiry - https://news.ycombinator.com/item?id=39059302 - janv. 2024 (1 commentaire)
Fixing Horizon bugs would have been too costly, Post Office inquiry told - https://news.ycombinator.com/item?id=39039712 - janv. 2024 (59 commentaires)
Fujitsu says it will pay compensation in UK Post Office scandal - https://news.ycombinator.com/item?id=39023695 - janv. 2024 (26 commentaires)
How a software glitch at the UK Post Office ruined lives - https://news.ycombinator.com/item?id=39010070 - janv. 2024 (326 commentaires)
Post Office Horizon scandal explained: Everything you need to know - https://news.ycombinator.com/item?id=38983144 - janv. 2024 (8 commentaires)
A TV Show Forced Britain's Devastating Post Office Scandal into the Light - https://news.ycombinator.com/item?id=38951802 - janv. 2024 (168 commentaires)
British Post Office Scandal - https://news.ycombinator.com/item?id=38937705 - janv. 2024 (149 commentaires)
How the Post Office's Horizon system failed: a technical breakdown - https://news.ycombinator.com/item?id=38931792 - janv. 2024 (4 commentaires)
Ex Post Office CEO hands back award after IT failures lead to false convictions - https://news.ycombinator.com/item?id=38930011 - janv. 2024 (127 commentaires)
Post Office Horizon Enquiry – Fujitsu Report on Eposs PinICL Task Force (1998) - https://news.ycombinator.com/item?id=38926582 - janv. 2024 (1 commentaire)
Fujitsu bosses knew about Post Office Horizon IT flaws, says insider (2021) - https://news.ycombinator.com/item?id=38890468 - janv. 2024 (8 commentaires)
Mr Bates vs. the Post Office - https://news.ycombinator.com/item?id=38869011 - janv. 2024 (3 commentaires)
What went wrong with Horizon: learning from the Post Office Trial - https://news.ycombinator.com/item?id=38867712 - janv. 2024 (19 commentaires)
UK Post Office: 700 Horizon software scandal victims to receive £600k each - https://news.ycombinator.com/item?id=37561428 - sept. 2023 (40 commentaires)
After 20 years, the Post Office scandal cover-up is happening in plain sight - https://news.ycombinator.com/item?id=36778486 - juil. 2023 (1 commentaire)
The UK post office database scandal – “can't see the bug = user is a thief” - https://news.ycombinator.com/item?id=35837576 - mai 2023 (2 commentaires)
Hundreds of lives ruined by faulty UK Post Office computer system - https://news.ycombinator.com/item?id=35792896 - mai 2023 (4 commentaires)
Ex-employés de la Poste britannique racontent à l’enquête le stress du scandale informatique - https://news.ycombinator.com/item?id=30394685 - fév. 2022 (2 commentaires)
Scandale de la Poste : une enquête publique examinera les condamnations injustifiées - https://news.ycombinator.com/item?id=30329668 - fév. 2022 (149 commentaires)
Scandale de la Poste : « Je veux que quelqu’un d’autre soit inculpé et emprisonné comme je l’ai été » - https://news.ycombinator.com/item?id=30329510 - fév. 2022 (2 commentaires)
Un mauvais logiciel a envoyé des postiers en prison - https://news.ycombinator.com/item?id=26973583 - avril 2021 (1 commentaire)
Des agents condamnés de la Poste voient leur nom blanchi - https://news.ycombinator.com/item?id=26924882 - avril 2021 (187 commentaires)
Un tribunal britannique innocente des employés de la Poste condamnés à cause de « données corrompues » - https://news.ycombinator.com/item?id=26913037 - avril 2021 (284 commentaires)
Le système juridique britannique part du principe que les ordinateurs n’ont pas de bugs - https://news.ycombinator.com/item?id=25518936 - déc. 2020 (24 commentaires)
Scandale de la Poste : des postmasters célèbrent leur victoire contre les condamnations - https://news.ycombinator.com/item?id=24661321 - oct. 2020 (2 commentaires)
Faillite, prison, vies brisées : plongée dans le scandale de la Poste - https://news.ycombinator.com/item?id=24440476 - sept. 2020 (1 commentaire)
Des postmasters ont été poursuivis sur la base de preuves peu fiables - https://news.ycombinator.com/item?id=23454606 - juin 2020 (2 commentaires)
Des défauts dans le système comptable de la Poste ont conduit à la condamnation d’employés pour vol - https://news.ycombinator.com/item?id=21795219 - déc. 2019 (104 commentaires)
La Poste fait appel à des comptables pour examiner les déclarations des sous-postmasters au sujet du système informatique - https://news.ycombinator.com/item?id=4143107 - juin 2012 (1 commentaire)
Une mini-série télévisée récente semble avoir suscité l’intérêt du grand public, ce qui a poussé les médias généralistes à s’en emparer largement
Cette liste pourrait faire un bon sujet de devoir de fin de semestre en informatique ou en technologies, ou donner lieu à un bon article ou une bonne série sur Medium/Substack
Pour les professeurs, ce serait aussi un bon cas d’étude en éthique informatique, mais il vaut peut-être mieux attendre encore un peu pour que davantage de détails émergent
Private Eye a continué à couvrir cette affaire après les premières révélations de Computer Weekly
Pour mémoire, il y a aussi un article que j’ai soumis et un commentaire
Computer Says 'Guilty' - https://news.ycombinator.com/item?id=27392724 - juin 2021 (1 commentaire)
En Angleterre et au pays de Galles, l’entrave à la justice est un crime passible de la perpétuité
Personnellement, je pense que ce serait une sanction appropriée pour les avocats qui ont réécrit ces déclarations de témoins
La collaboration ou l’édition en soi n’est pas forcément un crime ; le crime consiste à signer en sachant qu’il s’agit de déclarations fausses ou trompeuses
La partie disant que « les déclarations de témoins des employés de Fujitsu destinées à être examinées au tribunal ont ensuite été modifiées par le Post Office » est sidérante
Les responsables de cela devraient encourir de lourdes peines de prison et amendes
Si un nouveau système logiciel détecte des fraudes qui n’étaient pas visibles auparavant, il y a la responsabilité de vérifier les résultats, puis de les revérifier, puis de les vérifier une troisième fois avant de détruire la vie des gens
Ceux qui construisent aujourd’hui des classificateurs d’IA devraient aussi bien s’en souvenir
De tels systèmes sont déjà utilisés, ou risquent fort de l’être bientôt, pour la sélection des personnes à surveiller, l’appariement de visages et les logiciels juridiques fondés sur l’IA
Nous ne sommes plus très loin de la situation où « l’ordinateur dit que vous êtes coupable », et même sans que l’ordinateur le dise explicitement, il suffit souvent de fournir au mauvais type de personne assez de justification pour qu’elle se persuade d’agir correctement
Il s’est passé quelque chose de très similaire avec l’administration fiscale néerlandaise, et si l’IND d’ici est entièrement mis au jour, je pense qu’on verra ressortir bien plus de cas de ce genre
Dans une certaine mesure, c’est aussi quelque chose d’assez courant dans la plupart des projets logiciels
On sait qu’il y a des bugs et des problèmes, mais on ne les considère souvent pas comme suffisamment bloquants pour retarder la date de sortie, et dans des domaines à faible risque comme le développement de jeux, ça peut plus ou moins passer
Mais cela ne passe pas pour des logiciels dont dépendent la vie et les finances des gens
Et il est encore plus inacceptable d’accuser des gens de crimes alors qu’on sait parfaitement que le problème peut venir d’un bug du système
On peut déjà se demander si l’approche « aller vite, casser des choses, et ignorer les bugs qui ne semblent pas justifier un arrêt complet du déploiement » est juste en soi, mais la réponse apportée au niveau commercial et juridique était clairement mauvaise, et l’essentiel du problème vient des agissements douteux des dirigeants et responsables métier qui ont cherché à l’étouffer
Quiconque a fait porter la faute à quelqu’un d’autre devrait subir les mêmes sanctions que pour le crime lui-même
Il y a d’autres articles liés
Fixing Horizon bugs would have been too costly, Post Office inquiry told
https://news.ycombinator.com/item?id=39039712
Fujitsu is sorry that its software helped send innocent people to prison
https://news.ycombinator.com/item?id=39038263