- Meta a réduit son projet d’utiliser les frappes au clavier et les clics de souris des employés pour entraîner des modèles d’IA, et a ajouté un contrôle permettant d’arrêter la collecte de données jusqu’à 30 minutes à la fois
- Ce nouveau contrôle permet aux employés de suspendre temporairement la collecte de données MCI ou de demander une exemption complète, tandis que Meta a refusé de faire un commentaire officiel
- La contestation interne a duré plusieurs semaines, et une pétition contre l’introduction de ce suivi a recueilli plus de 1 500 signatures
- Meta affirme que, pour créer des agents capables d’aider dans les tâches quotidiennes sur ordinateur, il faut des exemples d’usage réels, que les données ne seront pas utilisées à d’autres fins et que des protections existent pour les contenus sensibles
- Une note interne reconnaît les préoccupations des employés concernant les données personnelles, l’autonomie de la batterie et le contrôle du moment des captures, et indique que l’équipe MCI a mis en place des optimisations pour atténuer l’impact sur la batterie des ordinateurs portables
Meta réduit son projet de suivi de l’activité des employés
Meta a annoncé mardi, dans une note interne, qu’elle réduisait son projet de suivi de l’activité informatique de ses employés. Ce projet concerne un outil qui enregistre les frappes au clavier et les clics de souris des employés afin d’entraîner des modèles d’IA.
Selon Reuters, le nouveau contrôle permet aux employés d’arrêter la collecte de données « jusqu’à 30 minutes à la fois » et de demander également une exemption totale du dispositif. Meta a refusé de faire un commentaire officiel.
Model Capability Initiative et contestation
Le nom de cet outil est Model Capability Initiative (MCI). Lors de son annonce initiale, Meta avait déclaré que, « pour créer des agents capables d’aider à accomplir des tâches quotidiennes sur ordinateur, les modèles ont besoin d’exemples réels montrant comment les gens utilisent réellement leur ordinateur ».
Meta a ajouté que ces données « ne seront pas utilisées à d’autres fins » et que l’outil dispose de « garde-fous pour protéger les contenus sensibles ».
La contestation des employés a duré plusieurs semaines, et certains ont lancé une pétition contre cette mesure. Cette pétition a désormais recueilli plus de 1 500 signatures.
Les inquiétudes soulevées par les employés
Un employé de Meta a déclaré que le fait de voir son comportement utilisé pour entraîner des modèles d’IA lui paraissait « très dystopique ». Les employés s’attendaient déjà à de nouvelles suppressions de postes.
Meta a licencié environ 2 000 personnes cette année. En avril, l’entreprise avait informé ses employés de son intention de réduire ses effectifs de 10 %, soit environ 8 000 personnes.
Une autre personne ayant récemment quitté Meta a qualifié l’outil de suivi de « nouvelle façon de forcer l’IA dans tout pour tout le monde ».
Ajustements mentionnés dans la note interne
La note interne consultée par Reuters aurait été rédigée par Stephane Kasriel, vice-président de la division Meta Superintelligence Labs.
Kasriel a indiqué que l’équipe MCI avait mis en place « plusieurs optimisations » pour réduire l’impact sur l’autonomie de la batterie des ordinateurs portables. Ce changement intervient après que des employés ont signalé que l’outil faisait exploser leur consommation de données et augmentait leur usage d’Internet en télétravail.
Dans la note, Kasriel affirme qu’il reste confiant dans les mesures de protection de la vie privée, qui avaient fait l’objet de plusieurs étapes d’examen des risques au moment du lancement, tout en reconnaissant avoir entendu les inquiétudes sur les données personnelles présentes sur les appareils professionnels, l’autonomie de la batterie et la volonté d’avoir davantage de contrôle sur le moment des captures.
1 commentaires
Commentaires Hacker News
Ça me rappelle un excellent passage de Snow Crash décrivant le travail à « Fed Land »
La mère de Y.T. ouvre une nouvelle note et commence à la lire, avec un temps de lecture estimé à 15,62 minutes. Plus tard, les managers consultent le temps que chaque employé a passé à lire cette note : moins de 10 minutes, entretien sur l’attitude ; 10 à 14 minutes, possible manque de sérieux ; exactement 15,62 minutes, « petit malin prétentieux », donc entretien sur l’attitude ; plus de 18 minutes, vérification des vidéos de sécurité pour soupçonner une pause toilettes non autorisée ou autre
La mère de Y.T. décide donc de la lire en 14 à 15 minutes, en appuyant sur Page Down à intervalles réguliers et en revenant parfois à la page précédente pour faire semblant de relire. L’ordinateur enregistre aussi ce comportement, valorise la relecture, et le texte explique que ces petites habitudes ressortent fortement dans le résumé des habitudes de travail après une dizaine d’années
Comme le dit le commentaire plus bas, impossible de savoir jusqu’à quel niveau la surveillance est réellement exercée. Si un CEO lit ceci, salut
Il a toujours été difficile de savoir à quel point le suivi réel est sévère, et les professionnels de l’IT parlent rarement de ce genre de choses
Aux États-Unis, on part du principe que si vous utilisez un appareil fourni par l’entreprise, toute activité dessus peut être entièrement surveillée et enregistrée, puis utilisée contre l’employé pour n’importe quelle raison. En pratique, beaucoup de gens ne s’inquiètent pas spécialement d’un peu de navigation web, de lire Hacker News, ou de régler des affaires personnelles sur leur ordinateur de travail
Mais avec l’IA, la situation change énormément. Désormais, au nom de « l’entraînement », des robots peuvent classer et examiner dans le détail le moindre petit geste ; on a donc l’impression qu’il faut bientôt se préparer à un niveau de suivi absolument impitoyable
Entre les deux, il y en a aussi beaucoup qui se contentent d’imposer un minimum de sécurité et de garder seulement le droit d’enquêter en cas de problème. Quand on en parle avec des dirigeants d’entreprise, aussi difficile que cela puisse paraître à croire, beaucoup rejettent fortement les formes de suivi les plus intrusives
Cela dit, quelle que soit la surveillance, la montée de l’IA crée une occasion dangereuse de rendre l’observation beaucoup plus ciblée. Plus besoin qu’un humain y consacre du temps : on peut demander à l’IA de surveiller en permanence et de repérer ce qui intéresse
Pour un employé ordinaire qui gère des affaires personnelles sur son ordinateur de travail, l’un des risques les plus réalistes est sans doute la menace interne d’un administrateur IT malveillant pouvant accéder aux appareils de l’entreprise sans supervision suffisante
Étrangement, sur HN, c’est assez controversé. Chaque fois que j’ai suggéré d’apporter son téléphone perso au travail pour ses opérations bancaires ou pour écrire sur HN, comme si c’était un énorme désagrément, j’ai souvent eu des réactions bizarrement vexées. C’est beaucoup plus facile aujourd’hui qu’avant l’ère du smartphone de séparer les deux mondes
Mon employeur n’a aucune raison de savoir quelles affaires personnelles je dois gérer dans la journée, et inversement l’entreprise n’approuverait évidemment pas que je traite du travail confidentiel sur un appareil personnel, donc tout le monde y gagne
En comptabilité, dans la banque, le trading d’actions, etc., on peut théoriquement construire des systèmes empêchant 100 % des fraudes, mais ils deviennent tellement pénibles que plus personne ne les utilise. Si acheter un taco exige 15 scans rétiniens, une prise de sang et l’approbation d’un superviseur bancaire, ça ne fonctionne pas
C’est pareil ici. Avec l’IA et les grands modèles de langage, on peut essayer de mesurer et d’optimiser à la seconde près la quantité de travail fournie par une personne. Amazon fait déjà ce genre de choses dans ses entrepôts, et on continue de voir des cas où un employé est mort sur le sol pendant que les autres devaient continuer à travailler à côté du corps
Pour trouver des gens prêts à travailler dans ce type de système, Amazon doit épuiser les communautés locales les unes après les autres, et ses déclarations à la SEC indiquent que l’épuisement de la population constitue une menace réelle pour sa main-d’œuvre
Donc même pour une mégacorporation malveillante, la quantité optimale de surveillance n’est pas de 100 %. Amazon a déjà dépassé ce point d’équilibre et semble être en train d’être repoussée vers l’optimum. Ce point est peut-être bien plus loin que nous le pensions
Les entreprises qui réussiront dans les dix prochaines années seront probablement celles qui respectent la dignité fondamentale de leurs employés et les traitent comme des professionnels compétents et responsables. J’ai pensé exactement la même chose par le passé quand des amis dans de grands groupes me racontaient avoir installé des bougeurs de souris pour satisfaire des logiciels de surveillance sur laptop quand ils s’absentaient de leur bureau
C’est comparable aux tests antidrogue. Hors administration publique ou postes exigeant une habilitation de sécurité, j’ai toujours vu les tests antidrogue comme un bon indicateur d’une culture qui ne respecte pas ses employés et d’un faible prestige du secteur
Meta a montré très clairement où l’entreprise va, et cela ressemble à accepter un poste chez Cisco en 2012. Bonne chance pour recruter, chez la Gen Z désormais dans la vingtaine, les talents nécessaires à l’IA et aux technologies émergentes
Je comprends que ce soit légalement possible, mais je ne travaillerais jamais dans un endroit comme ça
Je ne travaille pas chez Meta, mais je me demande combien d’années je vais encore pouvoir rester dans la tech. J’ai la quarantaine et mes enfants sont encore jeunes. J’ai déjà ouvert des comptes 529 pour eux, et je suis en plein dans des travaux coûteux sur la maison
Une fois tout ça terminé et un fonds de sécurité constitué, je pourrais peut-être passer les 5 à 10 années restantes de ma vie pro dans un autre secteur. Je me demande si d’autres ont un plan similaire
Je recommande très fortement de quitter la tech. Mon niveau de cortisol a énormément baissé, et je n’ai plus à caler ma vie sur des réunions EMEA et APAC en dehors des heures normales. Je ne travaille plus de 40 heures que quand j’en ai envie, et ça m’arrive parfois. Maintenant, c’est parce que le travail me plaît vraiment
Je peux produire une différence visible pour les gens et travailler sur quelque chose qui me tient à cœur. Au lieu de satisfaire des investisseurs ou des fonds de capital-risque, on se concentre chaque année sur l’impact maximal et l’atteinte du seuil de rentabilité
La rémunération et les avantages ont baissé sur certains points, mais ça ne me dérange pas tant que ça. Mon conjoint a une bonne assurance santé, donc j’en bénéficie, et pendant mes années dans la tech j’ai remboursé mon prêt immobilier et beaucoup épargné. Je ne suis pas riche au sens où l’entendent les gens de la tech, mais si je le voulais je pourrais vendre ce que j’ai, aller vivre très confortablement sur une plage quelque part en Amérique latine et ne plus jamais retravailler
Mon vrai conseil, c’est de prendre le temps de calculer combien il vous faut pour arrêter. J’étais habitué à un salaire à six chiffres, mais dans les faits mon train de vie ne dépassait pas vraiment un niveau à cinq chiffres, donc le montant dont j’avais besoin était bien plus bas que je ne l’imaginais
On devrait aussi pouvoir lier la direction à une forme de charte éthique. Je n’ai pas envie de travailler dans une entreprise qui fabrique des robots tueurs ou qui renie ses engagements climatiques
Le mépris affiché envers les employés, du haut en bas de l’entreprise, devient de plus en plus intense et rien n’indique que ça va s’arrêter. À 50 ans, il faudra compter sur la chance pour ne pas faire partie des seniors éliminés chaque année
Il n’y a plus aucune excuse pour faire semblant de ne pas voir comment fonctionne ce secteur. Le masque est tombé depuis des années
Construire des dumbphones réellement intelligents et utiles, des TV open source, des modèles d’IA locaux, des navigateurs qui ne font pas de surveillance, ce genre de choses
J’adore développer des logiciels, mais travailler dans ce secteur m’est insupportable
C’est une combinaison impie entre mauvaise culture d’entreprise et principes moraux douteux
À quiconque travaille chez Meta et lit ceci, j’ai une question sérieuse : comment pouvez-vous encore travailler dans cette entreprise ?
Je ne comprends vraiment pas pourquoi vous ne quittez pas une boîte aussi toxique pour aller ailleurs ou lancer votre propre activité. Il suffit de laisser Meta mourir
Je suis sidéré par le nombre de personnes qui accordent bien plus de valeur à gagner des sommes folles qu’à faire quelque chose de bien. Tous ceux qui sont prêts à mettre leurs valeurs de côté pour du cash font partie du problème. C’est écœurant
Il y a aussi la réalité de devoir faire vivre sa famille et préparer sa retraite. Rien n’est parfait, mais où trace-t-on la ligne à partir de laquelle une entreprise devient toxique ? Jusqu’où peut-on transiger quand il y a d’autres avantages ? Les réponses à ces questions diffèrent selon les personnes. Certains diront même que travailler dans la tech tout court est déjà mauvais à cause de l’environnement
Personnellement, je travaillerais volontiers chez Meta. Beaucoup de gens utilisent leurs services et les apprécient. Ce n’est peut-être pas ce qu’il y a de mieux pour la société, mais on pourrait en dire autant de Netflix, Amazon ou Apple
En travaillant chez Meta, l’entreprise vous trahit. Elle enregistre publiquement votre écran pour entraîner votre remplaçant IA. Travailler ailleurs revient un peu à trahir Meta
En simplifiant à l’extrême, qu’est-ce qui vaut mieux ? Gagner 400 000 dollars par an pendant 5 ans puis se faire licencier, au risque d’avoir aidé Meta à construire la technologie de remplacement qui fera quasiment disparaître les emplois ? Ou gagner 200 000 dollars par an sur toute sa carrière, avec des opportunités d’emploi qui ne se tarissent pas parce que vous n’avez pas contribué à bâtir cette technologie de remplacement ?
Bien sûr, j’espère que c’est un cas très extrême et très rare, mais il existe largement des situations où l’argent fait une différence considérable. Et cela change aussi beaucoup selon que je suis le seul affecté par la décision ou que d’autres le sont aussi
Quand on choisit ce genre de poste, ces implications très concrètes peuvent donc peser lourd dans la balance
Les entretiens chez Meta sont généralement considérés comme pas très difficiles, et cela alimente encore plus le syndrome de l’imposteur. Comme ils sont entrés assez facilement, ils ont l’impression d’être surpayés. On en vient presque à se demander si ce n’est pas une stratégie délibérée
Les employés qui passaient leur temps à suivre le monde entier se retrouvent maintenant eux-mêmes suivis : difficile de faire plus ironique :)
Ces entreprises suivent déjà massivement le comportement des utilisateurs, et une bonne partie de cela se justifie du point de vue de la sécurité. Je me demande ce qui, au juste, n’est pas encore suivi et pourrait encore avoir de la valeur
J’ai du mal à voir en quoi les frappes clavier individuelles et les mouvements de souris peuvent avoir plus de valeur que les livrables du travail, qui sont déjà pour l’essentiel suivis dans des unités de valeur appropriées
Peut-être qu’ils ne se soucient tout simplement pas du tout de perdre les vrais talents et cherchent plutôt à pousser davantage de gens à partir
L’ensemble des MAG-7 veut déplacer les dépenses de R&D, des salaires vers les dépenses d’investissement dans les data centers IA, et semble prêt à accepter que 90 % des talents, ceux qui créent en réalité 99 % de la valeur, s’en aillent
Ce n’est pas qu’ils soient trop stupides pour savoir ce qui se passe réellement sur le terrain. C’est qu’ils ont une confiance arrogante dans le fait que, grâce à leur position sur le marché, ils peuvent forcer tout le monde à absorber les conséquences, même si leurs décisions sont totalement désastreuses
Si le modèle est médiocre, ils feront pression sur le Congrès pour rendre illégaux les modèles à poids ouverts ; si les prix déplaisent, ils feront payer les produits par l’État ; si la Chine ou l’Europe font mieux, ils interdiront la concurrence au nom de la sécurité nationale
Ça me rappelle l’article satirique de The Onion publié en 2015 : “HR Director Reminds Employees That Any Crying Done At Office Must Be Work-Related”
Mais bien sûr, le simple fait d’opter pour le retrait sera lui aussi suivi. Le faire pourrait remonter dans l’évaluation de performance
Ça rappelle la scène où O’Brien éteint le télécran
« Vous… »
« Oui… nous n’avons pas droit à ce privilège »
Ceux qui ont créé cette politique en seront presque certainement exemptés
Winston pouvait s’asseoir dans le renfoncement du mur et, en se tenant bien en retrait, rester hors du champ du télécran, du moins visuellement. Bien sûr, on pouvait entendre les sons, mais tant qu’il restait là où il était, on ne pouvait pas le voir. C’est d’ailleurs la configuration particulière de la pièce qui lui avait donné l’idée de ce qu’il allait faire maintenant