Meta doit mettre immédiatement fin à son flux AI Discover intrusif

• Meta alimente les inquiétudes sur l’atteinte à la vie privée en rendant publics dans le flux Discover des contenus de conversations personnelles générés dans des chats IA, sans le consentement des utilisateurs
• La communauté Mozilla demande l’arrêt du flux Discover, le paramétrage privé par défaut des conversations avec l’IA, la publication d’informations fondée sur le consentement des utilisateurs et davantage de transparence
• Il faut mettre en place un système global d’opt-out facilement accessible à tous, ainsi que le droit à la suppression définitive lorsqu’une conversation privée est rendue publique
• Beaucoup de personnes ne réalisent pas que leurs informations personnelles sont divulguées publiquement
• Cette campagne appelle à garantir qu’aucun contenu de conversation d’utilisateur ne soit publié sans consentement préalable explicite

---

Résumé du contenu

Inquiétudes liées à l’atteinte à la vie privée

• Meta a discrètement commencé à transformer en contenus publics, via le flux Discover, des conversations personnelles tenues dans son service d’intelligence artificielle (IA)
• De nombreux utilisateurs ne se rendent pas compte que le contenu qu’ils saisissent peut être rendu public

Revendications de la communauté Mozilla

1. Arrêt immédiat du flux Discover
   • Elle appelle à suspendre le flux Discover jusqu’à la mise en place de véritables garde-fous de protection de la vie privée
2. Confidentialité par défaut des conversations avec l’IA
   • Elle demande que toutes les interactions avec l’IA restent privées par défaut et qu’aucune fonctionnalité de publication ne soit autorisée sans information suffisante ni consentement
3. Exigence de transparence
   • Elle demande la publication de chiffres clairs sur le nombre d’utilisateurs ayant partagé des informations personnelles sans en avoir été informés au préalable ou sans y avoir consenti
4. Mise en place d’un système d’opt-out universel
   • Un système d’opt-out facilement accessible à tous doit être proposé sur l’ensemble des plateformes Meta afin d’empêcher l’utilisation des données personnelles pour l’entraînement de l’IA
5. Notifications et droit à l’effacement
   • Il faut avertir immédiatement les utilisateurs dont des conversations privées ont été rendues publiques et leur accorder le droit de supprimer définitivement ces contenus s’ils le souhaitent

Une frontière brouillée entre vie privée et espace public

• Les changements de politique de Meta brouillent la frontière entre conversations privées et contenus publics
• Les gens pensent parler dans un espace privé, alors qu’il existe en réalité un risque de diffusion publique de leurs informations

Campagne et appel à signer

• Une campagne est en cours pour mettre fin à la publication de conversations sans consentement individuel et garantir un choix clair aux utilisateurs
• Les personnes qui soutiennent cette campagne peuvent laisser leur nom et participer à une pétition appelant Meta à changer sa politique

[GN⁺]

Avis sur Hacker News

• Partage un lien vers un article sur la nouvelle application IA autonome de Meta, tout en soulignant que la publication des conversations semble relever d’une erreur de l’utilisateur. Les conversations sont privées par défaut, et elles ne deviennent publiques qu’en appuyant sur le bouton « Share ». Il estime que le ton très agressif employé par Mozilla peut induire en erreur sur l’expérience utilisateur.

  • Mentionne que divers services comme Google Docs, ChatGPT ou Notion distinguent clairement entre « partager uniquement avec les personnes ayant le lien » et « rendre le contenu publiquement consultable et indexable ». Si Meta rendait le contenu directement indexable via le bouton de partage, ou n’offrait même pas cette distinction, ce serait clairement un dark pattern. Il souligne aussi qu’un clic sur l’icône « Share » ne constitue pas forcément un consentement véritablement éclairé
  • Dit ne pas avoir utilisé l’application lui-même, mais trouve l’article confus car il n’explique pas comment l’utilisateur est amené à consentir au partage. Dans d’autres apps, un bouton de partage ouvre en général une fenêtre permettant de choisir les destinataires et la méthode d’envoi ; si ici appuyer sur « Share » publie immédiatement le contenu au vu du monde entier, n’importe qui pourrait en être déconcerté
  • Regrette que la pétition de Mozilla mentionnée avec l’article n’apporte pratiquement aucun contexte utile
  • Explique qu’il utilise lui-même l’application, mais n’a jamais été incité à partager ni reçu de notification en ce sens
  • Donne comme retour que l’article partagé lui a semblé très vague, sans causes ni enjeux clairement exposés

• Après avoir utilisé l’application directement, estime qu’on ne peut guère l’interpréter autrement que comme de la désinformation diffusée par Mozilla. Le partage dans cette app fonctionne exactement comme dans les autres applications de réseaux sociaux : un bouton « Share » en haut à droite, puis un gros bouton « Post » qui apparaît en bas. En appuyant dessus, la conversation est partagée publiquement.

  • Explique que la plupart des demandes de Mozilla sont déjà satisfaites : toutes les conversations sont privées par défaut, leur caractère public est clairement indiqué, il n’est pas d’accord avec l’idée que Meta doive détailler de façon transparente combien de données personnelles les utilisateurs ont publiées par erreur, une option d’opt-out existe déjà en Europe, et des notifications ainsi qu’une suppression définitive sont déjà proposées aux personnes concernées
    • Souligne toutefois le problème de dark pattern : le bouton « Share » ne sert pas à choisir un destinataire précis mais à publier pour tout le monde, alors que pour la majorité des gens, « partager » évoque plutôt un envoi privé ou un accès limité, pas une publication publique qu’ils n’avaient peut-être jamais l’intention de faire
    • Même sans être utilisateur, note que le cœur du problème est que certains peuvent croire que le contenu partagé ne sera visible que par leurs amis
    • Pose la question : « Est-ce qu’on regarde bien le même écran ? » Selon lui, le vrai problème chez Meta est une UI incohérente et des dark patterns, avec des équipes qui rivalisent pour orienter le comportement des utilisateurs, au point de les pousser à partager involontairement des amis ou des publications. L’expérience varie selon les régions et les langues, et Meta Business Suite est particulièrement rempli de dark patterns au point d’en devenir labyrinthique
    • N’est pas d’accord avec la demande de transparence sur le nombre d’utilisateurs ayant divulgué des informations par erreur. Meta ne peut pas savoir si la publication était accidentelle ou intentionnelle
    • Estime que Mozilla a déjà, par le passé, sapé la confiance avec des installations douteuses de modules complémentaires, des intégrations de services tiers, l’envoi non autorisé des usages, ou encore l’imposition du tracking Google ; il voit les mensonges supposés de Mozilla comme la continuité de cette trajectoire

• Comme le billet de Mozilla n’expliquait pas correctement le problème, il a essayé lui-même l’application Meta AI.

  • Sur l’écran de chat, il y a un bouton « Share » ; en appuyant dessus, un bouton « Post » apparaît en bas de la page de brouillon ; en appuyant sur celui-ci, le chat est publié publiquement dans l’onglet Discover ; ensuite, une icône « envoyer » permet de transmettre le lien individuellement
  • Il considère cette structure comme un dark pattern évident et regrette qu’il n’existe aucun moyen simple de partager un lien juste à un proche ou à une seule personne sans passer par une publication publique
  • Il dit avoir vu tout en haut de l’onglet Discover une publication photo montrant un bébé, avec même la photo originale publiée, ce qui lui fait penser que l’utilisateur voulait probablement seulement l’envoyer à sa famille ou à ses amis
  • En conclusion, il y voit le style caractéristique de Meta : « on lance d’abord, on s’excuse ensuite », avec plus d’importance accordée aux excuses a posteriori qu’au consentement préalable
    • Ajoute que si l’on n’est pas sûr de ce qu’on fait, mieux vaut ne pas le faire du tout. Lorsqu’il clique sur le bouton « submit » sur Hacker News, il sait personnellement qu’il publie cela sur l’Internet public, et considère que tout internaute devrait assumer cette responsabilité

• Demande des exemples plus concrets, des captures d’écran et le moment exact des faits concernant le problème soulevé par Mozilla

  • Dit que l’explication manque beaucoup de détails et rappelle qu’il s’agit de la nouvelle application sociale IA de Meta. Certains utilisateurs rendraient publics les résultats de leurs chats IA sans même s’en rendre compte lien de présentation de Meta AI
  • Ajoute que via l’onglet « Discover » de l’app, n’importe qui peut voir des questions sensibles, sur la maladie, les ruptures, etc., et fournit aussi un article détaillé

• Critique le message de campagne de Mozilla, jugé dépourvu de contexte et formulé sur un ton impératif inconditionnel

• Fait remarquer que la formule « Meta: shut down [...] » peut donner l’impression qu’on dit à Meta de « shut down », et qu’une virgule ou une forme comme « Dear Meta: ... » serait plus claire

  • Précise que dans les anciennes applications de chat, on utilisait souvent les deux-points après un pseudo pour attirer l’attention de l’interlocuteur

• Estime qu’il ne faut tout simplement pas utiliser les plateformes Meta

  • Explique que dans la plupart des pays hors des États-Unis, WhatsApp est le moyen de communication standard, alors que les SMS sont facturés à l’unité. Il ajoute que l’interopérabilité de WhatsApp n’est prévue que dans l’UE, avec un article connexe
  • Rattache aussi cela à un article récent affirmant que Meta suivait secrètement les utilisateurs Android via les web pixels d’Instagram et Facebook. Les services onion de Tor étaient autrefois la seule vraie voie de contournement pour la vie privée, mais aujourd’hui il serait pratiquement impossible d’échapper au tracking
  • Conseille de ne pas supprimer totalement son compte Meta, mais de devenir un simple « parasite » qui consomme sans jamais rien publier ni laisser de signal. Il recommande aussi de supprimer toutes les applications Meta de l’appareil
  • Souligne que beaucoup de gens restent connectés de manière semi-forcée à cause des effets de réseau. Il est difficile de partir quand on veut garder les projets d’amis ou sa communauté ; c’est pourquoi la protection de la vie privée et l’interopérabilité relèvent selon lui du rôle des pouvoirs publics. Le conseil « n’utilisez simplement pas ces services » n’est pas réaliste
  • Ajoute qu’il faut aussi se méfier de l’influence commerciale de Mozilla

• Fait remarquer l’ironie de devoir obligatoirement accepter la politique de confidentialité de Mozilla pour soumettre un formulaire de pétition lié à la vie privée

• Partage un cas où le site concerné ne s’affiche pas correctement dans Firefox Mobile et demande à Mozilla de corriger cela

• Estime au final qu’un article sensationnaliste, rempli de buzzwords et cherchant la polémique, est en train de monter dans le top de HN autour d’un fait finalement banal : une entreprise de réseaux sociaux fait partager des résultats d’IA