Y Combinator supprime des publications après la viralité de la démo d’une startup de surveillance des travailleurs

 (techcrunch.com)
1 points par GN⁺ 2025-02-28 | 2 commentaires | Partager sur WhatsApp
  • Y Combinator a publié sur X et LinkedIn une démo de surveillance des ouvriers d’usine de la startup Optifye.ai, actuellement dans sa cohorte, puis a supprimé les publications après la montée des critiques
  • Optifye.ai développe un logiciel permettant aux propriétaires d’usine de voir « en temps réel » qui travaille et qui ne travaille pas grâce à des caméras de sécurité IA installées sur les lignes d’assemblage
  • La vidéo de démonstration montre, dans une usine de vêtements, une scène où les faibles performances du travailleur « Number 17 » sont pointées du doigt sur la base de sa production et de ses relevés sur 15 jours, ce qui a ravivé la controverse autour de la surveillance et de la pression à la productivité
  • Sur X et Hacker News, des critiques ont parlé de « sweatshops-as-a-service » et de « computer vision sweatshop software », tandis que le CEO d’Intercom, Eoghan McCabe, a répliqué qu’il fallait alors cesser d’acheter des produits fabriqués en Chine et en Inde
  • Une étude Pew de 2023 montre que la plupart des Américains s’opposent à l’usage de l’IA pour suivre le temps passé au bureau, les déplacements et l’usage de l’ordinateur, confirmant le rejet de la surveillance IA au travail

Démo d’Optifye.ai et suppression des publications

  • Optifye.ai est une startup de la cohorte actuelle de Y Combinator qui, selon son profil YC, développe un logiciel utilisant des caméras de sécurité basées sur l’IA installées sur les lignes d’assemblage d’usine pour suivre l’état des travailleurs « en temps réel »
  • YC a publié lundi la vidéo de démonstration d’Optifye sur X et LinkedIn, et ces publications figurent encore dans des captures conservées par TechCrunch
  • La vidéo de démonstration met en scène le cofondateur d’Optifye, Kushal Mohta, dans le rôle du patron d’une usine de vêtements, et le cofondateur Vivaan Baid dans celui du superviseur
    • Le patron contacte le superviseur au sujet de « Number 17 », identifié comme un travailleur peu performant
    • Le superviseur consulte sur le tableau de bord d’Optifye la production de « Number 17 » sur 15 jours, puis conclut que le travailleur est peu performant
    • Quand le travailleur répond avoir travaillé toute la journée, le superviseur rétorque qu’il n’a jamais atteint son objectif horaire et que son efficacité était de 11,4 %
  • La vidéo a suscité une forte réaction négative sur X, et les critiques se sont également multipliées sur Hacker News, le site de partage de liens de YC
    • @VCBrags a qualifié cela de « sweatshops-as-a-service »
    • Un autre utilisateur a dénoncé un « computer vision sweatshop software »
  • YC a finalement supprimé la vidéo de démonstration de ses comptes sociaux, mais plusieurs comptes l’avaient déjà enregistrée et repartagée
  • YC et Optifye.ai n’ont pas répondu aux demandes de commentaire

Réactions autour de l’IA de surveillance au travail

  • Le CEO de la startup de support client Intercom, Eoghan McCabe, a publié que ceux qui se plaignaient devraient cesser d’acheter des produits fabriqués en Chine et en Inde, montrant que les réactions n’étaient pas uniquement critiques
  • Certaines entreprises technologiques chinoises font la promotion de caméras de « détection du sommeil » capables de repérer, via computer vision, les travailleurs qui s’endorment
  • La diffusion inattendue de cette vidéo a relancé le débat sur les limites acceptables entre gestion de la productivité et surveillance dans l’adoption de l’IA au travail
  • Selon une étude Pew de 2023, la plupart des Américains s’opposent à l’usage de l’IA pour suivre le temps passé au bureau, les déplacements et l’usage de l’ordinateur des travailleurs
  • Cette catégorie de produits de surveillance est parfois appelée « bossware »
  • Les investissements VC se poursuivent : Invisible AI a levé 15 millions de dollars en 2022 pour installer des caméras de surveillance des ouvriers d’usine

À lire aussi

2 commentaires

 
GN⁺ 2025-02-28
Réactions sur Hacker News

  • Articles récents liés :
    'Hey Number 17 ' - https://news.ycombinator.com/item?id=43175023 - février 2025, 122 commentaires
    Tell HN: Y Combinator backing AI company to abuse factory workers - https://news.ycombinator.com/item?id=43170850 - février 2025, 160 commentaires

    • Le simple fait que dang soit ici suffit à démonter la théorie du complot selon laquelle YC essaierait d’étouffer l’affaire
      Je me demande quel était le pitch initial présenté à YC par cette société. Les boîtes YC changent souvent de cap, donc le pitch de départ n’avait peut-être rien à voir avec ça

  • YC ne donne absolument pas l’impression de se soucier des conditions de travail
    Ça ne veut pas dire qu’ils soutiennent ce produit, et la démo a l’air d’un comportement terriblement dénué d’âme, mais ce n’est pas surprenant

  • Après avoir vu cette vidéo, je me suis demandé si le simple fait de venir sur HN restait quelque chose de confortable

    • Je ne pense pas que HN leur construise réellement quoi que ce soit
    • Bien sûr que ce n’est pas confortable. HN exerce une forte influence de plusieurs façons
    • Au moins, la participation de Slashdot au capitalisme tardif moderne se limitait à vendre des bannières publicitaires RedHat et des mugs et T-shirts
      YC joue dans une tout autre catégorie
    • Ce genre de doute n’est qu’une réaction viscérale aux dégâts que toute technologie peut causer
      Comme la plupart des intuitions, il sera oublié dès qu’on annoncera un nouveau produit cool à 599 $

  • Si une boîte comme ça passe, je ne vois pas du tout à quoi sert la sélection du capital-risque

    • Tu crois que le but de la sélection du capital-risque est quoi ? C’est dans le nom. Le capital. Ce qu’ils optimisent, c’est le capital
    • Gagner encore plus d’argent ?
    • YC ne sélectionne pas. C’est un atelier clandestin pour startups. Il leur faut du volume
      C’est pour ça que les promos YC ont toujours été pleines de frimeurs, pardon, de « fondateurs en devenir »
    • Tu crois que les VC sélectionnent selon quoi ? Indice : le potentiel de revenu, pas l’éthique

  • Même le taylorisme n’était pas aussi mauvais que ça. Au moins, il essayait d’analyser les conditions qui limitaient la productivité des travailleurs
    Là, on se contente de gérer le rendement à coups de pression et d’humiliation

    • Ils ne mesurent même pas vraiment le rendement. Mesurer la production, à la rigueur, ça se comprend
      Là, ils mesurent juste si quelqu’un a l’air occupé. Ils se fichent de la production réelle, c’est presque un aveu qu’ils prennent plaisir à harceler les gens
    • Ça ressemblait à mon job d’été chez UPS à charger des camions
      Toutes les 15 minutes, ils notaient combien de colis j’avais scannés et me disaient que j’étais plus lent que la cadence voulue par l’entreprise. C’était vraiment nul

  • Ces gens ont investi beaucoup d’efforts pour très bien implémenter un logiciel d’atelier clandestin. Deux jeunes issus d’un milieu privilégié ont sincèrement cru que c’était une excellente idée, sans jamais sembler se demander ce qui n’allait pas
    D’un point de vue technique, c’est objectivement bien réalisé. Le fait qu’il ne leur ait même pas traversé l’esprit que ce pouvait être une mauvaise idée de lancer ça aux États-Unis montre bien l’écart culturel entre l’Occident et d’autres pays comme l’Inde. Les États-Unis ont aussi énormément de problèmes, mais traiter ouvertement les gens moins privilégiés comme des animaux n’y est pas bien accepté

    • J’imagine que beaucoup d’entreprises américaines font déjà des choses très similaires. Il suffit de regarder les entrepôts Amazon, puis les chauffeurs routiers
    • En observant au travail les interactions entre Indiens de caste supérieure et de caste inférieure, j’ai ressenti quelque chose de ce genre
      Beaucoup d’Indiens de caste supérieure affichent envers les Indiens de caste inférieure un niveau d’arrogance qui mettrait mal à l’aise même un seigneur du système Goa'uld. On dirait qu’ils considèrent comme un droit naturel le fait que ces gens leur obéissent et travaillent pour peu d’argent. Pour trouver chez quelqu’un né et élevé aux États-Unis un sentiment de privilège du même ordre, il faudrait probablement remonter aux propriétaires de plantations esclavagistes du Sud
    • On ne sait pas clairement si ce logiciel fait réellement ce qu’il prétend faire
      Ce n’était pas évident d’après la démo, et une courte démo ne prouve pas grand-chose
    • Si c’est une société soutenue par YC, il n’y avait vraiment personne pour leur donner un conseil sur cette « différence culturelle » ?
    • McDonalds et Amazon sont aussi des entreprises américaines qui microgèrent leurs travailleurs, la seule différence étant que leur logiciel est destiné à un usage interne
      La prochaine fois que vous passez à un drive de fast-food, regardez les écrans. Il y a de fortes chances que vous voyiez des minuteurs et des statistiques sur la vitesse de traitement des clients. Plus largement, les mouse jigglers ont eu leur moment de gloire, et la plupart des magasins de détail aux États-Unis n’autorisent pas les caissiers à s’asseoir. Il n’y a même pas de chaise. Dire que les travailleurs sont traités comme des animaux est parfaitement juste

  • On dirait de l’esclavage imposé par l’IA. Je me souviens avoir lu une fiction où ça commençait comme une aide au travail, puis les travailleurs finissaient par recevoir en permanence des ordres de l’IA
    Je ne me souviens plus des détails

    • Ce ne serait pas “Manna” de Marshall Brain sur howstuffworks.com ?
      https://marshallbrain.com/manna1
    • Il n’y a absolument rien qui mérite le nom d’IA dans cette démo
      C’est juste quelqu’un qui parle au téléphone en regardant un tableau de bord de MVP avec des métriques de productivité basiques. Dans les environnements logistiques ou industriels sérieux, il existe déjà des systèmes meilleurs que ça. Par exemple, cet article sur les pratiques d’Amazon il y a 6 ans :
      https://www.theverge.com/2019/4/25/18516004/amazon-warehouse...
    • Ce n’est pas de l’esclavage. Il existe déjà suffisamment de véritable esclavage, pas besoin d’en inventer

  • Ils auraient aussi bien pu appeler ça Panoptify
    En référence à https://en.m.wikipedia.org/wiki/Panopticon

  • En laissant de côté le ton légèrement malsain de la vidéo, j’ai trouvé intéressant et presque comique que les deux soient nés dans des familles propriétaires d’usines puis soient allés à Duke
    On se dit que c’est donc ça, le monde des gens qui entrent chez YC

  • Honnêtement, le ton du pitch produit donnait l’impression de sortir tout droit d’une pub de jeu mobile
    Tu as travaillé toute la journée ? « Rise of Kingdoms » ? Mais de quoi tu parles, ma puissance de combat dépasse les 500 millions