Meta doit mettre immédiatement fin à son flux AI Discover intrusif
(mozillafoundation.org)- Meta alimente les inquiétudes sur l’atteinte à la vie privée en rendant publics dans le flux Discover des contenus de conversations personnelles générés dans des chats IA, sans le consentement des utilisateurs
- La communauté Mozilla demande l’arrêt du flux Discover, le paramétrage privé par défaut des conversations avec l’IA, la publication d’informations fondée sur le consentement des utilisateurs et davantage de transparence
- Il faut mettre en place un système global d’opt-out facilement accessible à tous, ainsi que le droit à la suppression définitive lorsqu’une conversation privée est rendue publique
- Beaucoup de personnes ne réalisent pas que leurs informations personnelles sont divulguées publiquement
- Cette campagne appelle à garantir qu’aucun contenu de conversation d’utilisateur ne soit publié sans consentement préalable explicite
Résumé du contenu
Inquiétudes liées à l’atteinte à la vie privée
- Meta a discrètement commencé à transformer en contenus publics, via le flux Discover, des conversations personnelles tenues dans son service d’intelligence artificielle (IA)
- De nombreux utilisateurs ne se rendent pas compte que le contenu qu’ils saisissent peut être rendu public
Revendications de la communauté Mozilla
- Arrêt immédiat du flux Discover
- Elle appelle à suspendre le flux Discover jusqu’à la mise en place de véritables garde-fous de protection de la vie privée
- Confidentialité par défaut des conversations avec l’IA
- Elle demande que toutes les interactions avec l’IA restent privées par défaut et qu’aucune fonctionnalité de publication ne soit autorisée sans information suffisante ni consentement
- Exigence de transparence
- Elle demande la publication de chiffres clairs sur le nombre d’utilisateurs ayant partagé des informations personnelles sans en avoir été informés au préalable ou sans y avoir consenti
- Mise en place d’un système d’opt-out universel
- Un système d’opt-out facilement accessible à tous doit être proposé sur l’ensemble des plateformes Meta afin d’empêcher l’utilisation des données personnelles pour l’entraînement de l’IA
- Notifications et droit à l’effacement
- Il faut avertir immédiatement les utilisateurs dont des conversations privées ont été rendues publiques et leur accorder le droit de supprimer définitivement ces contenus s’ils le souhaitent
Une frontière brouillée entre vie privée et espace public
- Les changements de politique de Meta brouillent la frontière entre conversations privées et contenus publics
- Les gens pensent parler dans un espace privé, alors qu’il existe en réalité un risque de diffusion publique de leurs informations
Campagne et appel à signer
- Une campagne est en cours pour mettre fin à la publication de conversations sans consentement individuel et garantir un choix clair aux utilisateurs
- Les personnes qui soutiennent cette campagne peuvent laisser leur nom et participer à une pétition appelant Meta à changer sa politique
1 commentaires
Avis sur Hacker News
Contexte :
Le premier lien indique que les conversations sont privées par défaut, et qu’il est très probable qu’une erreur de l’utilisateur soit en cause[1]. La formulation mise en avant par Mozilla peut, à première vue, se lire comme disant le contraire[2]
[1]: « To be clear, your AI chats are not public by default — you have to choose to share them individually by tapping a share button. Even so, I get the sense that some people don't really understand what they're sharing, or what's going on. »
[2]: À la première lecture, j’avais compris « Make all AI interactions private by default with no public sharing option unless explicitly enabled through informed consent. » de cette façon
Si, lorsqu’on appuie sur le bouton de partage dans les chats IA, Meta active par défaut la possibilité de recherche/découverte — ou pire, ne propose même pas une option proche du standard du secteur —, cela expliquerait la confusion et constituerait un dark pattern très inattendu. Comme le dit le commentaire parent, le simple fait d’appuyer sur l’icône de partage ne constitue pas un consentement suffisamment éclairé
Dans d’autres apps, lorsqu’on appuie sur « partager », une fenêtre modale apparaît pour choisir le canal — WhatsApp, SMS, e-mail, etc. —, et le partage effectif n’a lieu qu’après avoir choisi le canal et les destinataires. Mais si le bouton « partager » publie immédiatement, les personnes qui s’attendaient à choisir à l’étape suivante une personne de confiance précise peuvent tout à fait être surprises
Après avoir essayé l’appli moi-même, il est difficile d’interpréter cet article autrement que comme un mensonge de Mozilla. Le partage dans cette appli fonctionne comme dans les autres applications de réseaux sociaux
Il y a un bouton « Share » en haut à droite de l’appli ; quand on appuie dessus, un écran intermédiaire s’affiche avec un gros bouton « Post » en bas. En appuyant sur ce bouton, le chat est partagé
Les autres voient-ils un autre écran ? Pourquoi Mozilla dit-il cela ? La plupart des exigences sont déjà satisfaites
Le principal problème de Meta en ce moment, comme d’autres l’ont dit, ce sont les dark patterns. Meta déplace, modifie et supprime des éléments d’interface en fonction des actions qu’elle veut pousser les utilisateurs à faire. Il est toujours surprenant de constater que quelque chose a été publié, partagé ou modifié alors qu’on ne l’avait pas voulu, ou qu’on ne se souvient même pas d’avoir fait cette action. Dans les produits Meta, même sur des comptes inactifs, on a l’impression qu’il se passe simplement des choses
Si l’on utilise les produits Meta assez longtemps, on finit par comprendre que deux utilisateurs ne sont pas assurés d’avoir la même expérience. Il n’y a pas d’expérience standard. Elle change selon la région, la langue et, franchement, selon d’autres facteurs inconnus. Ils testent et optimisent en permanence des dark patterns en production. Il suffit d’utiliser Meta Business Suite pendant une heure pour voir que toute la plateforme ressemble davantage à un labyrinthe de dark patterns fait de liens cassés, de fonctionnalités cassées et d’éléments d’interface qui ne mènent nulle part ou vers des fonctionnalités abandonnées. Une équipe veut vous faire faire X et utiliser la fonction Y, une autre veut vous faire faire Z et utiliser la fonction W. Business Suite mélange tout cela. Si l’on gelait le code aujourd’hui et qu’on étudiait Business Suite pendant des mois, on découvrirait que tout, jusqu’au fond, est constitué de dark patterns
Pourquoi Mozilla a-t-il intégré un service tiers arbitraire sans rien demander ?
Pourquoi Mozilla a-t-il envoyé l’historique de navigation à Cliqz ?
Pourquoi Mozilla a-t-il intégré du pistage Google impossible à bloquer ?
Pourquoi Mozilla a-t-il vendu des données ?
Pourquoi Mozilla a-t-il installé un service de télémétrie qui se réactivait après une mise à jour même lorsqu’on l’avait désactivé ?
Pourquoi Mozilla ment-il comme ça ?
Parce que c’est Mozilla
L’article de Mozilla explique assez mal ce qui ne va pas, donc je suis allé voir directement dans l’appli Meta AI :
Les chats ont un bouton « Share »
Quand on appuie dessus, on voit un brouillon du chat et un bouton « Post »
Quand on appuie sur « Post », le chat est publié publiquement et l’on est redirigé vers l’onglet « Discover »
Sur un chat publié, on peut appuyer sur l’icône « send » pour envoyer le lien du chat à quelqu’un
Personnellement, je trouve que c’est effectivement un dark pattern et que cela ne correspond pas à la façon dont les gens comprennent l’action « Share ». Le fait qu’on ne puisse pas partager sans rendre le chat public est également assez mauvais
Par exemple, la publication Discover la plus en vue que je vois actuellement est une image stylisée à partir d’une photo de bébé, et si l’on ouvre la publication, on peut aussi voir la photo originale. Il me semble très probable que la personne qui l’a publiée voulait partager la photo avec des proches ou des amis
En résumé, Meta a agi de la manière la plus typiquement Meta possible : mieux vaut demander pardon après coup que demander la permission
Ça a l’air grave, mais Mozilla ne pourrait-il pas donner plus de détails ?
Il faudrait des exemples ou des captures d’écran. Même après lecture, je ne comprends pas quand ni comment cela se produit.
https://about.fb.com/news/2025/04/introducing-meta-ai-app-ne...
J’ai entendu dire que certaines personnes l’utilisent sans savoir que leurs prompts sont partagés publiquement.
« Meta a intégré des fonctionnalités sociales à son application IA autonome lancée la semaine dernière. Des requêtes discrètes comme “Qu’est-ce que cette éruption gênante ?” ou “Comment dire à ma femme que je ne l’aime plus ?” pourraient bientôt être visibles par toute personne faisant défiler l’onglet Discover de l’application. »
https://www.fastcompany.com/91327812/metas-ai-social-feed-is...
Il manque du contexte et des exemples pour comprendre ce qui est préoccupant.
Le ton est très moralisateur et injonctif, alors que les faits concrets ou les auteurs anonymes ne l’étayent pas.
“Mozilla: Improve your messaging. Now.”
La ponctuation de “Meta: shut down [...]” donne l’impression que c’est Meta qui dit “shut down”. Il faudrait une virgule, comme dans “Meta, shut down your [...]”.
Il faut juste quitter les plateformes de Meta.
Les SMS ne sont pas une option. Encore une fois, parce qu’en dehors des États-Unis, on paie pour chaque SMS envoyé.
Des projets d’interopérabilité WhatsApp existent, mais ils ne s’appliqueront probablement qu’à l’UE.
https://www.wired.com/story/whatsapp-interoperability-messag...
J’ai du mal à croire qu’on se soucie sérieusement du pistage tout en utilisant Facebook/Instagram, surtout leurs applis mobiles qui tournent en permanence.
Facebook exploite-t-il encore un service onion Tor ? Par le passé, cela semblait être la seule manière d’utiliser ces produits tout en évitant le pistage extrême.
C’est pour cela que les pouvoirs publics ont un rôle à jouer dans la réglementation de la protection des données et l’obligation d’interopérabilité entre plateformes. “N’utilisez juste pas ça” n’est pas une demande réaliste.
Pourquoi ce site web ne fonctionne-t-il pas correctement dans Firefox Mobile ? Mozilla, pitié, faites un peu le ménage.
Le viewport n’occupe qu’un quart de l’écran du téléphone, et on peut le faire défiler dans un vide noir.
Une entreprise de réseaux sociaux a créé une appli IA qui permet de partager les résultats sur les réseaux sociaux. Quelle surprise !
Mais si vous écrivez un billet sans aucun détail, avec juste quelques mots à la mode et des appels à l’action, il montera en tête de HN et alimentera le cycle d’indignation du jour. Demain, on reviendra à “Google est méchant”.