Tout le monde se défausse de ses responsabilités et ne blâme que l’IA [Article traduit]

1. Qu’est-ce qu’une structure d’évitement des responsabilités ?

   • Il s’agit d’un système conçu de telle sorte que, lorsque quelque chose tourne mal, personne ne puisse assumer le problème ni le résoudre.
   • (Texte original : le système a déjà pris la décision, et ce système ne donne aucune explication sur lui-même.)

2. Exemple : le service client d’une compagnie aérienne

   • Employés, managers et supérieurs affirment tous qu’ils ne peuvent pas aider parce que « l’ordinateur ne l’autorise pas », sans assumer la moindre responsabilité.
   • Au final, personne ne peut résoudre directement le problème.

3. L’interprétation de Dan Davies

   • Dans The Unaccountability Machine, ce type de système est défini comme un « accountability sink » (puits de déresponsabilisation).
   • Cela décrit une situation où, en s’appuyant sur des procédures et des règles, il devient impossible d’identifier l’origine d’une erreur.

4. À l’ère de l’IA, l’aggravation du problème de la déresponsabilisation

   • « À l’avenir, il faudra s’habituer à entendre, et à prendre au pied de la lettre, l’expression “c’est la faute du système”. »
   • Les critiques des décisions prises par l’IA et les transferts de responsabilité se multiplient, rendant de plus en plus floue la question de savoir qui doit réellement répondre des conséquences.

5. Le contraste avec le Founder Mode

   • Il s’agit d’une structure où toute la responsabilité se concentre sur le fondateur, à l’opposé d’une structure d’évitement des responsabilités.
   • « Le degré auquel on peut modifier une décision est précisément le degré auquel on peut en être responsable. »
   • L’intervention et la décision directes des personnes sont au cœur du renforcement de la responsabilité au sein d’une organisation.

6. Boucles de feedback et skip-level meetings

   • Des dispositifs de communication comme le « feedback remontant du bas vers le haut » et les « skip-level meetings » sont proposés pour renforcer la responsabilité réelle dans l’organisation.

7. Pistes de solution

   • Derrière un système d’IA, il doit impérativement y avoir une personne responsable, et la possibilité de revoir rapidement une décision.
   • Il est important de repenser les rôles et les systèmes de manière à permettre une intervention humaine.