Meta commence à collecter les mouvements de souris et les frappes clavier de ses employés pour l’entraînement de l’IA

• Meta a installé sur les ordinateurs de ses employés aux États-Unis un logiciel qui suit les mouvements de souris, les clics et les frappes clavier, afin de les utiliser comme données d’entraînement pour ses modèles d’IA, tout en capturant régulièrement des instantanés d’écran dans les applications et sites web professionnels
• Cet outil, appelé Model Capability Initiative (MCI), vise à obtenir des données d’entraînement sur des domaines que l’IA reproduit encore mal dans le comportement humain, comme la sélection dans des menus déroulants ou l’usage de raccourcis clavier
• Le CTO Andrew Bosworth a présenté, via un programme interne de transition vers l’IA rebaptisé Agent Transformation Accelerator (ATA), une vision où « les agents effectuent l’essentiel du travail et les humains donnent des instructions, vérifient et améliorent »
• Meta a commencé le 20 mai à réduire ses effectifs mondiaux de 10 %, tout en encourageant activement ses employés à utiliser des agents d’IA pour des tâches comme le développement logiciel
• Des juristes estiment que cette mesure applique aux employés de bureau un niveau de surveillance en temps réel jusque-là réservé aux livreurs et travailleurs de la gig economy, avec un risque élevé de violation du RGPD en Europe

---

Fonctionnement de l’outil MCI

• MCI fonctionne dans les applications et sites web professionnels des employés et capture les mouvements de souris, les clics et les frappes clavier
• Il inclut aussi une fonction de prise périodique d’instantanés du contenu affiché à l’écran
• Son existence a été révélée par une note interne publiée par un chercheur en IA sur le canal d’équipe de Meta SuperIntelligence Labs
• L’objectif est d’améliorer les domaines où les modèles d’IA ont du mal à reproduire les interactions humaines sur ordinateur, comme la sélection dans des menus déroulants ou l’usage de raccourcis clavier
• Selon la présentation, « tous les employés de Meta peuvent contribuer à l’amélioration des modèles rien qu’en effectuant leur travail quotidien »

Stratégie de transition du travail vers l’IA

• Dans une note distincte, le CTO Andrew Bosworth a indiqué que la collecte de données internes serait renforcée, et a rebaptisé ce programme Agent Transformation Accelerator (ATA)
• Il a présenté une vision dans laquelle « les agents effectuent l’essentiel du travail, tandis que le rôle des humains est de donner des instructions, vérifier et aider à l’amélioration »
• L’objectif est que les agents identifient automatiquement les moments où une intervention humaine a été jugée nécessaire, afin de mieux faire la fois suivante
• Bosworth n’a pas expliqué explicitement comment les agents seraient entraînés, mais a indiqué que Meta serait rigoureux dans l’accumulation de données et d’évaluations sur tous les types d’interactions au cours du travail
• Le porte-parole de Meta, Andy Stone, a reconnu que les données de MCI constituent l’une des entrées utilisées pour l’entraînement des modèles

Réorganisation des effectifs fondée sur l’IA

• Les données de MCI ne sont pas utilisées pour l’évaluation des performances et servent uniquement à l’entraînement des modèles ; des garde-fous sont prévus pour protéger les « contenus sensibles », sans qu’il soit précisé quelles données sont exclues de la collecte
• La capacité des outils d’IA à gérer des tâches complexes avec un minimum de supervision humaine, comme la création d’applications ou le tri de grands volumes de données, fascine la Silicon Valley et se traduit par une baisse des actions des éditeurs logiciels traditionnels ainsi que par des projets de réductions massives d’effectifs
• Meta a commencé le 20 mai à réduire ses effectifs mondiaux de 10 % et envisage d’autres réductions importantes cette année
• Amazon a supprimé ces derniers mois environ 30 000 postes de cols blancs (environ 10 %), tandis que Block a licencié en février près de la moitié de ses employés
• Meta encourage ses employés à utiliser des agents d’IA pour des tâches comme le développement logiciel, même si cela ralentit le travail à court terme
• L’entreprise travaille aussi à faire disparaître certaines distinctions entre postes pour les regrouper sous l’intitulé générique « AI builder »
• Le mois dernier, Meta a créé l’équipe d’ingénierie Applied AI (AAI), dédiée au renforcement des capacités de codage des modèles Meta AI et au développement d’agents d’IA appelés à assurer à terme l’essentiel de la construction de produits et d’infrastructures
• Depuis le début du mois, l’entreprise a commencé à réaffecter vers AAI des ingénieurs logiciels « excellents »

Inquiétudes sur la surveillance des cols blancs

• Selon Ifeoma Ajunwa, professeure de droit à l’université Yale, les technologies de journalisation informatique et de capture d’écran ont historiquement été utilisées pour détecter des fautes professionnelles ou des activités non liées au travail
• La journalisation des frappes clavier pousse la collecte de données encore plus loin et applique aux employés de bureau un niveau de surveillance en temps réel auparavant réservé aux livreurs ou aux travailleurs de la gig economy
• En droit fédéral américain, il n’existe pas de limitation de la surveillance des travailleurs, et les lois des États exigent le plus souvent seulement que l’employeur informe globalement de l’existence d’un suivi
• Pour Valerio De Stefano, professeur de droit à l’université York, ce type de surveillance a de fortes chances d’être interdit par le droit européen
  • En Italie, le suivi de la productivité des employés par surveillance électronique est explicitement illégal
  • Les tribunaux allemands maintiennent une jurisprudence selon laquelle la journalisation des frappes clavier n’est autorisée que dans des circonstances exceptionnelles, comme des soupçons de crime grave
• Ces pratiques sont très susceptibles de constituer une violation du RGPD en Europe
• La perception de la surveillance patronale a pour effet de faire pencher l’équilibre des pouvoirs dans l’entreprise du côté de l’employeur

[unsure4000]

Quelles pensées pouvait bien avoir la personne qui codait ce système de suivi ?

[t7vonn]

L’amélioration du modèle n’est qu’un prétexte, et en réalité on dirait qu’ils accumulent des données pour justifier les licenciements.

[winkagn]

J’ai l’impression qu’on n’est pas si loin de Big Brother, au fond.

[GN⁺]

Réactions sur Hacker News

• Ça ressemble juste à un déchet toxique. J’espère que ça se fera pirater à grande échelle et que quelqu’un créera une contre-mesure pour injecter des données bidon complètement absurdes dans le pipeline de collecte vorace de Meta.
• À mon avis, ça va avoir un énorme effet dissuasif sur les employés. Désormais, même les discussions hors travail ou les bavardages devront se faire sans la moindre attente de vie privée. Il était peut-être déjà possible de consulter les logs avant, mais il y a une différence totale entre les examiner de façon limitée après un incident et une surveillance permanente à grande échelle.
  • Difficile d’imaginer un groupe à qui cela conviendrait mieux. Le niveau d’ironie est tel qu’on a l’impression que le détecteur va exploser.
  • J’ai toujours supposé que sur le matériel de l’entreprise, tout ce que je faisais pouvait être surveillé par l’IT. Donc je n’ai jamais rien fait sur du hardware pro que l’entreprise pourrait ne pas apprécier, et j’ai utilisé à la place mon smartphone et mon ordinateur personnel. À l’époque où il y avait des tensions entre les ingénieurs et la direction dans une startup, les ingénieurs avaient créé sans problème un groupe privé avec leurs comptes Signal personnels pour en parler.
  • Honnêtement, je doute que Meta se soucie de savoir si ses employés sont intimidés. J’ai l’impression qu’ils sont déjà passés à l’étape de l’extraction maximale de valeur et que ce n’est plus vraiment une entreprise qui attire les meilleurs talents.
  • Je comprends l’idée qu’il ne devrait pas y avoir d’attente de vie privée sur une machine professionnelle, puisqu’elle appartient à l’entreprise. Je travaille dans une société tech en Inde, et on nous encourage à créer un skills.md basé sur les spécificités de nos collègues pour réduire le risque de dépendance à des personnes clés. En pratique, le code de plusieurs ingénieurs licenciés lors d’une réorganisation est déjà maintenu par leurs équivalents IA. J’ai l’impression que Meta va dans cette direction.
  • Depuis le début de ma vie active, j’ai toujours considéré que les biens et équipements de l’entreprise pouvaient être surveillés, voire faire l’objet de keylogging, par l’employeur. J’ai même été surpris que, dans la pratique, ce ne soit pas plus fréquent, mais je pense qu’ils en ont le droit. Je ne comprends pas très bien pourquoi les gens pensent avoir le droit de faire des activités non professionnelles pendant leurs heures de travail. Dans toutes les entreprises où j’ai travaillé, les contrats et politiques définissaient clairement ce qui était autorisé. Si vous voulez critiquer votre boîte, faites-le hors de Slack ou Teams, à l’extérieur de l’entreprise ou près du vrai coin café, ou via vos numéros personnels.
• Certains plaisantent en disant que la prochaine génération d’IA sera probablement très douée pour le scroll sur Hacker News.
• Je ne comprends vraiment pas comment cela peut être légal. On a presque l’impression qu’aux États-Unis, Facebook n’a pratiquement aucune exigence de conformité. Des captures d’écran de séries temporelles sur l’écran d’un SRE contiendront forcément des informations sensibles comme des mots de passe, des clés de chiffrement ou des PII ; l’idée qu’un tel aspirateur à données puisse stocker ça paraît absurde. Je me demande aussi si les employés peuvent le désactiver à leur guise, et ce qui se passe si quelqu’un affiche par accident la clé privée root ssh de toute l’entreprise à l’écran sans pouvoir couper le système. Au-delà même de la légalité, cela veut dire que les personnes ayant accès à ces données d’entraînement disposent d’un accès beaucoup trop large à l’ensemble des systèmes de l’entreprise, ce qui ne fait qu’augmenter le risque de piratage.
  • En droit américain, c’est souvent légal pour la plupart des entreprises, surtout sur des appareils de l’entreprise, et ce n’est malheureusement pas rare. En général, la conformité de ces données est gérée comme pour d’autres données sensibles, en limitant par exemple l’accès aux captures d’écran à certains groupes seulement. Je ne soutiens pas cela, mais beaucoup d’entreprises ne l’ignorent pas malgré les inquiétudes de sécurité ; au contraire, elles le font au nom de la résolution de problèmes de sécurité. Cela dit, Meta semble un peu différent, avec la forte impression qu’ils veulent créer un modèle pour remplacer une partie de leurs effectifs.
  • Ces données finiront par fuiter lors d’un incident. Elles seront utilisées contre l’entreprise au tribunal, elles serviront à l’entraînement, et quoi qu’on en dise, si l’IA peut finir par faire le travail, elles serviront aussi aux licenciements. Et malgré tout ça, Meta réussira probablement à échapper aux conséquences. C’est justement pour ça qu’il est urgent d’adopter des lois pour empêcher ce genre de chose.
  • Il y a aussi l’idée que, depuis que les tests A/B sont devenus la norme, toute expérimentation psychologique liée de près ou de loin au web est pratiquement traitée comme automatiquement légale. À l’origine, ce genre de chose ne devrait pas être couvert par un consentement global ; cela devrait relever d’une participation volontaire et de procédures comme un examen indépendant. Le chat est déjà sorti du sac, mais ce n’est pas une raison pour dire qu’il n’y a pas de problème.
• C’est complètement dingue. Avant, on avait l’impression que les ingénieurs étaient de vrais professionnels ; maintenant, on en est au point où les entreprises exigent du spyware à la place de la confiance. Ça revient un peu à dire qu’il faudrait installer des logiciels de surveillance sur les laptops d’un cabinet d’avocats au cas où un avocat ferait des arrangements avec un juge, ou surveiller 24 h/24 tous les gestes d’un médecin. À ce stade, on en vient presque à proposer par satire une surveillance 24 h/24 publiquement auditabile pour les politiciens.
  • Les politiciens seraient évidemment les premiers à s’accorder une exemption au nom de la sécurité ou autre. En théorie, plus on a de pouvoir, plus on devrait avoir de responsabilité et de contrôle ; dans le monde réel, c’est exactement l’inverse.
  • Parmi les exemples que tu cites, les seuls qui sont directement payés par mes impôts et qui travaillent en principe pour moi, ce sont les politiciens. Les avocats et les médecins ne sont pas mes employés et ne travaillent pas sur mes actifs. Ce que cette affaire montre surtout, c’est que dans la relation employeur-salarié aux États-Unis, le masque est presque complètement tombé ; et comme même l’assurance est liée à l’emploi, il ne reste plus beaucoup de marge pour résister.
  • L’idée d’installer ce type de surveillance sur les laptops d’un cabinet d’avocats semble presque être une bonne idée, selon certains.
  • Il m’est réellement arrivé de me faire planter dans le dos par quelques avocats. En pratique, les appels téléphoniques sont plus inquiétants que les emails.
• Est-ce que quelqu’un pense vraiment que les employés de Meta vont croire que les données collectées ne seront utilisées que pour l’entraînement des modèles et pas pour les évaluations de performance ou d’autres usages ?
  • Après tout, ces employés ont déjà volontairement codé l’un des plus grands réseaux de surveillance de la planète ; ils sont peut-être prêts à croire pas mal de choses.
  • Avec quatre années consécutives de licenciements et la perspective d’une nouvelle coupe de 20 %, on peut imaginer que les employés de Meta, même s’ils sont peu nombreux, soient très méfiants.
  • Au final, tout se joue sur la compensation, et les gros salaires pousseront probablement à l’acceptation.
  • La crédibilité de cette promesse semble à peu près au niveau du vieux "It's free and always will be".
• Je suis vraiment heureux de ne jamais avoir entamé le processus d’entretien chez Meta. À l’époque déjà, l’entreprise me paraissait assez ridicule ; maintenant, c’est un autre niveau.
• Ça donne envie d’imaginer à quoi ressemblerait l’exact opposé de Meta : une entreprise petite et centrée sur la vie privée, peut-être un endroit où HN est bloqué au bureau, à moins que je rate quelque chose.
• J’imagine que ce système finira surtout par collecter massivement des scènes où des employés de Meta travaillent avec l’IA. Si Meta redéploie ensuite un modèle entraîné sur ces données, il collectera la fois suivante des employés qui utilisent une IA douée pour utiliser l’IA, et après quelques itérations, on finira par enregistrer les frappes de gens qui tapent furieusement sur leur clavier en se demandant pourquoi le modèle n’arrive à rien. Une vraie comédie noire.
  • Certains soupçonnent que l’entraînement de l’IA n’est qu’un prétexte et que le vrai but est de faire partir des gens discrètement lors de licenciements massifs, tout en réduisant les indemnités de départ.
  • Ces données montreront aussi qui n’utilise pas assez l’IA ; au final, ces employés pourraient se retrouver en PIP ou licenciés.
  • Ça ressemble à un mode d’échec amusant, mais d’un point de vue technique, cela pourrait même être une bonne chose. Les modèles possèdent déjà dans une certaine mesure les compétences que les humains demandaient auparavant à l’IA ; que ce soit via des agents subalternes ou en intégrant directement dans le modèle le travail que l’IA faisait à la place, le fait que les humains aient rapproché la distribution des tâches de la distribution de l’IA rend l’apprentissage plus facile.
  • Flash info : Meta aurait créé le simulateur ultime de "chat assis sur le clavier".
• Cette histoire m’a rappelé Manna de Marshall Brain, et je trouve que cette œuvre, https://marshallbrain.com/manna1, résonne assez fortement avec la situation actuelle.