Meta suspend son programme de suivi des employés après une fuite interne de données

 (wired.com)
1 points par GN⁺ 5 시간 전 | 1 commentaires | Partager sur WhatsApp
  • Meta a suspendu temporairement le programme Model Compatibility Initiative (MCI) après qu’une exposition excessive en interne des données collectées sur les saisies des employés a été constatée
  • Le MCI a été déployé en avril auprès des employés américains et collectait des informations comme les mouvements de souris, positions des clics, frappes clavier et contenu de l’écran, suscitant une contestation en interne
  • La direction estimait que les données des employés étaient nécessaires pour que l’IA apprenne comment les humains utilisent les logiciels, mais les inquiétudes liées à la vie privée et à la sécurité ont débouché sur un véritable problème d’exposition interne
  • Stephane Kasriel a indiqué aux employés que le problème de sécurité découvert le 18 juin avait été traité en quatre heures, mais que le correctif initial n’ayant pas tenu, l’accès aux données avait été davantage restreint
  • Meta a expliqué que le MCI ne reprendrait que lorsqu’elle aurait la certitude de l’efficacité des contrôles de protection des données, ajoutant avoir déjà collecté suffisamment de données pour évaluer sa valeur à long terme

Suspension du MCI et exposition interne des données

  • Meta a suspendu temporairement son programme de suivi des employés, le MCI
  • Cette suspension est intervenue après que des données potentiellement sensibles collectées par le MCI ont été exposées à d’autres employés de l’entreprise
  • La porte-parole de Meta, Tracy Clayton, a expliqué que le programme avait été conçu avec des garde-fous de protection de la vie privée et qu’il n’existait actuellement aucun signe d’un accès inapproprié aux données par des employés de Meta, mais qu’il était suspendu le temps de l’enquête

Données collectées et contestation des employés

  • Le MCI est un outil déployé en avril auprès des employés américains
  • Les données collectées, pointées dans une pétition d’opposition des employés, incluaient :
    • mouvements de souris
    • positions des clics
    • frappes clavier
    • contenu de l’écran
  • Lors de son lancement, les employés ne pouvaient pas se retirer du MCI, mais cela a été modifié de façon limitée après les protestations
  • Les employés craignaient que le MCI ne porte atteinte à la vie privée, à la sécurité et à la liberté individuelle

Pourquoi Meta a lancé le MCI

  • La direction de Meta a défendu à plusieurs reprises la collecte de données du MCI, la jugeant nécessaire à l’entraînement de systèmes d’IA
  • L’objectif était de permettre à l’IA d’apprendre comment les humains manipulent des logiciels sur ordinateur
  • La direction considérait les employés comme les meilleurs exemples à partir desquels l’IA pouvait apprendre

Note de sécurité interne et réaction des employés

  • Lundi, un ingénieur de Meta a signalé dans une note de sécurité interne qu’une base de données contenant des informations collectées par le MCI était exposée à toute personne en interne dans l’entreprise
  • Un ancien employé ayant participé aux actions contre le MCI a qualifié le problème de « a mess » et affirmé que c’était exactement ce que les employés redoutaient
  • Cet ancien employé a critiqué la direction, l’accusant d’avoir imposé le programme malgré les inquiétudes exprimées et de ne pas avoir reconnu les risques pour la sécurité et la vie privée des données des employés comme des clients
  • Lundi, le forum interne s’est rempli de commentaires critiques sur le problème de sécurité, puis Meta a suspendu l’ensemble du MCI, à la surprise de certains employés
  • Plusieurs employés ont dit avoir été déconcertés de voir l’outil continuer à tourner sur leur ordinateur portable jusqu’à l’annonce de la suspension

Annonce de Kasriel et conditions d’une reprise

  • Stephane Kasriel, vice-président supervisant la recherche en IA chez Meta, a informé les employés tard lundi de la suspension du MCI
  • Selon Kasriel, le problème de sécurité a été découvert le 18 juin et traité en quatre heures
  • Toutefois, le correctif initial n’ayant pas tenu, il a fallu renforcer encore les restrictions d’accès aux données
  • Ce problème a rendu « certaines données dérivées du MCI » accessibles à davantage de personnes que prévu, sans plus de précisions
  • Le MCI ne sera réactivé que lorsque Meta sera certaine de l’efficacité de ses contrôles de protection des données
  • Meta a indiqué avoir déjà collecté suffisamment de données pour évaluer la valeur à long terme du MCI et partagera plus tard davantage d’informations sur son avenir

À lire aussi

1 commentaires

 
GN⁺ 5 시간 전
Réactions sur Hacker News

  • Meta reste l’entreprise la plus éhontée qui soit, au point d’en être presque une honte à avoir sur son CV
    Il est difficile de penser à un seul de ses produits qui n’ait pas rendu le monde nettement pire
    Même sa récente incursion dans le hardware semble chercher des usages du type hommes filmant des femmes ivres avec des Ray-Ban, surveillance, bref tout ce qui détruit la confiance dans les interactions du quotidien
    Quelques connaissances dans des laboratoires de recherche de pointe plus « réfléchis » disent écarter d’emblée les candidats venant de Meta rien que pour ça

    • Facebook a quand même fait gagner beaucoup d’argent à ses actionnaires, et nous savons tous que cela revient à rendre le monde meilleur
    • Si l’on parle d’un produit qui n’a pas rendu le monde nettement pire, il y a zstd
      React et PyTorch, c’est plus discutable
    • Meta ressemble à une prison dorée pour ados incapables de grandir, quoi qu’ils fassent. C’est honteux
    • Les produits de Meta sont mauvais pour la société, certes, mais à mon avis une entreprise encore plus honteuse pour y travailler est Palantir
    • Le Facebook de 2004~2005 était vraiment génial
      Ça s’est répandu comme une traînée de poudre, et c’était très amusant à utiliser. C’était l’époque où il n’y avait que moi, mes amis de fac et les amis de mes amis

  • S’ils font déjà ça à des employés qu’ils voulaient payer pour retenir, qu’essaieraient-ils donc de faire avec les données des utilisateurs ?
    Et qu’essaieraient-ils encore de faire avec leurs systèmes connectés aux systèmes des utilisateurs ?
    « Dumb f*cks », c’était donc bien la ligne directrice depuis le premier jour de cette boîte

  • Je suis de plus en plus convaincu que ce genre de fuite est la seule forme de résistance vraiment efficace face à la société de surveillance dans laquelle nous entrons
    Meta continuera, d’autres employeurs suivront probablement, et les gouvernements ajouteront ces données à leurs dossiers via les « procédures légales appropriées »
    L’extension de la vidéosurveillance, le contrôle des discussions, la suppression de l’anonymat : tout cela est en train de se produire en temps réel
    Quand ce type de données fuit, cela rend évident pour tout le monde l’ampleur du risque de responsabilité. Les données des dirigeants de Meta sont elles aussi dans le tas, et des militaires comme des parlementaires figurent dans la base de données de Flock
    Combien de sénateurs PornHub a-t-il avec un profil exact de leurs préférences ?
    Bien sûr, ces fuites causent des dommages. Mais ces dommages sont-ils vraiment pires que d’être surveillé partout et par tout le monde ?

    • Il est possible que les dommages soient plus graves quand il n’y a pas de fuite
      Parce que cela peut servir à faire chanter les puissants. Il n’est même pas nécessaire d’avoir fait quoi que ce soit d’illégal : une simple déclaration controversée ou des préférences sexuelles atypiques peuvent suffire
      Bien sûr, il peut aussi y avoir des éléments illégaux, et même sans aucune illégalité, cela peut suffire à fabriquer une enquête par construction parallèle

  • En lisant l’article lié, on voit que les données divulguées comprenaient des captures d’écran montrant apparemment des conversations privées en clair de certains employés, ainsi que des informations sur leurs performances
    Faire de l’enregistrement intégral d’écran et espérer qu’une anonymisation se passe bien, c’était un pari assez audacieux

  • Ceux qui disent « si vous ne violez pas les règles, vous n’avez rien à craindre » devraient réfléchir au fait que, dans la plupart des entreprises, se contenter de suivre les procédures à la lettre est considéré comme une forme de protestation
    Même si vous ne faites que respecter les règles, cette surveillance servira à vous identifier et à vous sanctionner

  • Ce système a l’air d’être un cauchemar en procédure de communication des preuves

    • Au contraire, ça ressemble presque à une excellente idée
      Je me demande s’ils y ont déjà pensé et s’ils excluent de la surveillance les postes les plus susceptibles de produire des « preuves accablantes »

  • Une entreprise poubelle est en train d’entrer dans une spirale de la mort

    • Malheureusement, avec le cash accumulé et Facebook comme poule aux œufs d’or, elle peut probablement tenir encore un bon moment

  • Ils ont seulement suspendu le programme temporairement, et il est clair qu’ils comptent le relancer
    Je ne comprends pas pourquoi ce commentaire est downvoté. C’est littéralement ce que dit l’article
    « We will only re-enable MCI when we are confident in the effectiveness of our data protection controls, » Kasriel said.

  • Meta doit vraiment très bien payer

  • Ils ont probablement écrit cet utilitaire avec de l’IA. Qu’une IA ne sache pas vraiment garantir la sécurité n’a rien de très surprenant