« Hey numéro 17 »

• Le « système d’IA de suivi des performances pour les ouvriers d’usine » financé par YC propose un système qui suit, dans les usines, les mouvements des mains des travailleurs et leur volume de production via la vision par machine, puis affiche l’efficacité sous forme de graphiques
• Les fondateurs d’Optifye.ai ont publié une vidéo satirique montrant un exemple d’utilisation du produit
• La vidéo comprend une scène où des responsables d’usine regardent le tableau de bord du système et critiquent l’efficacité d’un travailleur

  Responsable : « Euh, le poste 17 pose problème. C’est ici le goulet d’étranglement, et les performances sont les pires. »
  (en regardant la vidéo d’un ouvrier fabriquant des vêtements dans l’usine)
  Responsable : « Hé, numéro 17 ! Qu’est-ce qui se passe ? Tu es en “rouge” en ce moment. »
  Ouvrier : « J’ai travaillé toute la journée. »
  Responsable : « Toute la journée ? Et pourtant, aujourd’hui tu n’as pas atteint une seule fois l’objectif horaire. Une efficacité de 11,4 % ? C’est vraiment grave. »
  Ouvrier : « C’était juste une journée un peu difficile aujourd’hui… »
  Responsable : « Une journée difficile ? (en regardant un calendrier rempli de rouge)
  Ce n’est pas une “journée difficile”, c’est presque “un mois difficile”, non ? »

• Contexte d’Optifye.ai
  • Optifye.ai a été fondée par Baid et Mohta, étudiants en informatique à Duke University, et bénéficie du soutien de Y Combinator.
  • Les deux fondateurs expliquent avoir été exposés dès l’enfance à l’environnement des usines, leurs familles exploitant plusieurs sites de production.
  • Leur objectif est de vendre des caméras aux propriétaires d’usines afin qu’ils puissent vérifier en temps réel l’état du travail des ouvriers.
• Réaction de Y Combinator
  • Y Combinator a récemment supprimé une publication célébrant le lancement d’Optifye.ai
  • D’après le profil Y Combinator d’Optifye.ai, le système de surveillance par IA installé fournit aux propriétaires d’usine des indicateurs de productivité en temps réel, et aux responsables de production des indicateurs par ligne et par travailleur
  • Il attribue aux travailleurs la « responsabilité des bonnes ou mauvaises performances »
• État de la surveillance des travailleurs
  • Avec la hausse du télétravail, les entreprises ont commencé à suivre la productivité des salariés à partir des mouvements de souris
  • Dans les entrepôts d’Amazon, les travailleurs sont sanctionnés s’ils ne respectent pas des attentes strictes, et même les pauses toilettes sont limitées
  • L’approche d’Optifye.ai pose problème, car elle semble accepter une forme de brutalité envers les travailleurs au nom de la productivité
  • Les fondateurs d’Optifye et YC n’ont fait aucun commentaire

[roxie]

Après avoir vu la vidéo... je me dis aussi qu’avec les mêmes données, si la mise en scène (ou le jeu d’acteur) avait été différente, les avis auraient peut-être été différents. Et si, de cette façon, on obtenait d’autres avis, est-ce qu’on pourrait alors considérer que c’est acceptable ?

[chowin21]

Merci pour ce bon contenu.

[nemorize]

waouh;

[GN⁺]

Réactions sur Hacker News

• Il est surprenant que certaines personnes ne comprennent pas pourquoi cette technologie fait polémique. La démo se déroule dans une usine de confection où l’on identifie un employé lent, on l’appelle par son numéro et on l’humilie

  • Il y avait pourtant des usages plus positifs possibles. Par exemple, utiliser cette technologie pour repérer un employé utilisant une machine défectueuse ou identifier les goulets d’étranglement sur une chaîne d’assemblage
  • Mais cela montre une vision glaçante de la manière dont les travailleurs sont perçus

• Optifye.ai est une entreprise lancée par des étudiants en informatique de Duke University, soutenue par Y Combinator

  • Les fondateurs ont été exposés à l’environnement du travail en usine depuis leur enfance
  • Mais ils n’ont jamais eux-mêmes travaillé en usine. À leur tour maintenant de travailler à l’usine sous surveillance de l’IA

• Je crois à un avenir lumineux où le logiciel améliore notre humanité

  • Mais cette technologie doit disparaître. Si ses créateurs lisent ceci, ils doivent comprendre qu’ils sont en train d’inventer les chaînes qui serviront à les entraver eux-mêmes

• Je connais des personnes qui travaillent dans des usines où la main-d’œuvre bon marché coûte moins cher que l’automatisation

  • Ces usines ont un fort turnover et des supérieurs qui pratiquent le micro-management
  • Si ces supérieurs sont la cible visée, alors la publicité est peut-être bien faite. Mais j’espère que ce projet échouera

• Il faut une réglementation pour interdire ce type de technologie. La réglementation de l’UE traite déjà partiellement ce sujet

  • L’emploi fait partie des catégories à haut risque pour les systèmes d’IA

• On nous a dit que les machines nous libéreraient des tâches répétitives ou dangereuses

  • Mais je me demande si elles ne deviendront pas plutôt des outils pour nous asservir

• Cela ressemble au tweet célèbre et à une tentative de recréer l’usine de Modern Times de Charlie Chaplin

• La surveillance des travailleurs par l’IA ne s’arrêtera pas aux employés des usines de confection

• Quand on considère l’effort relatif fourni par les équipes et joueurs de sport professionnel, il n’y a presque jamais d’alignement parfait entre objectif et résultat

  • Pourtant, même les athlètes les plus performants ne donnent pas toujours 100 % de leurs efforts, afin d’éviter le burn-out
  • Dans le monde de l’entreprise, il existe une obsession pour les équipes efficaces, mais dans le sport, on ne recherche pas l’« efficacité »

• En lisant le titre, j’ai cru à une référence à The Prisoner

  • Après avoir lu l’article, j’ai compris que ce n’était pas le cas
  • En y repensant, c’était finalement une référence involontaire