L’approche de modération empilable de Bluesky
(bsky.social)- Bluesky mise sur une modération empilable qui superpose, au-dessus de protections de base, les filtres de services indépendants afin de permettre aux utilisateurs d’ajuster leur expérience sociale selon leurs besoins
- Ozone, désormais open source, est un outil collaboratif qui permet à des équipes d’examiner des signalements, de créer des labels et d’inspecter les contenus du réseau atproto
- L’expérience par défaut de l’application repose sur l’équipe de modération de Bluesky, active 24 h/24, ainsi que sur des systèmes automatisés ; les utilisateurs peuvent ensuite y ajouter des filtres supplémentaires de leur choix
- Les filtres de services de modération indépendants seront d’abord proposés dans l’application desktop, puis étendus au mobile, avec un fonctionnement basé sur la recherche et l’abonnement comme pour un compte suivi
- Les labellers et services de modération peuvent fonctionner au-delà de l’application Bluesky, à l’échelle de l’ensemble du réseau atproto, ce qui permet de créer des configurations de modération différentes selon les applications
Une architecture de modération pilotée par l’utilisateur
- Bluesky veut permettre aux utilisateurs de configurer eux-mêmes leur espace social en ligne
- Les réseaux sociaux existants ont relié le monde entier, mais ont aussi concentré le pouvoir entre les mains d’un petit nombre d’entreprises et de dirigeants
- Comme il est difficile pour une seule entreprise de définir parfaitement des règles de sécurité adaptées à tous les pays, toutes les cultures et toutes les communautés, Bluesky met en place un écosystème de modération par communauté
- Sa propre équipe de modération fonctionne 24 h/24 pour faire appliquer les Community Guidelines
- En parallèle, la plateforme fournit des outils de sécurité open source et un écosystème de modération permettant aux communautés de créer des espaces adaptés à leurs propres normes et préférences
Publication d’Ozone et services de modération indépendants
- Bluesky publie en open source son outil de modération collaboratif Ozone
- Ozone permet à des individus et à des équipes d’examiner les contenus à l’échelle du réseau et de leur attribuer des labels
- À partir de plus tard cette semaine, les utilisateurs pourront exploiter eux-mêmes des services de modération indépendants intégrés à l’application Bluesky
- Les utilisateurs pourront créer et souscrire à des services de modération supplémentaires venant s’ajouter à la modération de base exigée par Bluesky
- Le dépôt Ozone est disponible sur GitHub
Trois principes de conception
- La conception des services de modération de Bluesky repose sur trois principes
- Simple and Powerful : conserver une expérience par défaut simple, tout en offrant des options de personnalisation à ceux qui en ont besoin
- User Choice : permettre aux utilisateurs et aux communautés de créer leurs propres systèmes de modération
- Openness : viser un système ouvert pour renforcer la confiance dans la gouvernance des espaces numériques
- Bluesky partage son idée de composable moderation depuis l’époque où la plateforme comptait moins de 20 000 utilisateurs ; elle en sert aujourd’hui plus de 5 millions
Le choix de l’utilisateur par empilement sur la base par défaut
- Les personnes qui s’inscrivent à Bluesky sont, par défaut, abonnées au service de modération intégré de Bluesky
- Ce service de base combine le traitement des signalements utilisateurs par une équipe active 24 h/24 et plusieurs systèmes automatisés de modération
- Les utilisateurs peuvent installer les filtres de services de modération indépendants et empiler ces couches comme des blocs au-dessus de la base fournie par l’application Bluesky
- Lors de la première phase de déploiement, les filtres de services de modération indépendants seront proposés dans la version desktop
- Ils seront ensuite disponibles sur mobile, afin de permettre l’ajustement de l’expérience sociale sur plusieurs plateformes
- L’architecture technique est décrite plus en détail dans la documentation sur l’architecture de modération de l’AT Protocol
Comment cela fonctionne côté utilisateur
- Bluesky donne la priorité à une expérience par défaut intuitive dès l’installation de l’application
- Les utilisateurs qui souhaitent des réglages plus fins pourront rechercher, sélectionner et souscrire à des services de modération indépendants dans l’application Bluesky
- Le mécanisme d’abonnement a été conçu pour être aussi simple que le fait de suivre un autre compte
- L’exemple Spider Shield est un service de modération pouvant être créé pour bloquer les photos d’araignées
- Si un utilisateur installe ce service, les photos d’araignées portant ce label disparaissent de son expérience
- S’il découvre une photo d’araignée non labellisée, il peut demander à Spider Shield de l’examiner via le flux de signalement intégré à l’application
Ce qui change pour les modérateurs
- Les personnes qui veulent proposer une couche distincte au-dessus de la modération de base de l’application Bluesky n’ont pas besoin d’exploiter une grande infrastructure ni de créer leur propre application cliente
- Aujourd’hui, un certain niveau de connaissances techniques reste nécessaire, mais Bluesky estime que le processus deviendra plus simple avec le temps
- Il est déjà possible d’exploiter des listes de mise en sourdine ou des listes de blocage auxquelles d’autres utilisateurs peuvent s’abonner
- Les listes de blocage populaires sont fortement liées à des comptes personnels, ce qui peut devenir lourd à mesure qu’elles grandissent, par exemple lorsque les utilisateurs taguent directement leur gestionnaire dans l’application
- Ozone permet d’exploiter des services plus fins que de simples listes de blocage
- Il permet de poser des labels non seulement sur des comptes, mais aussi sur des publications précises
- Il donne accès à une file d’attente de signalements
- Les utilisateurs peuvent envoyer des signalements via le flux de signalement de l’application
- Il permet de créer des labels personnalisés et de définir l’action associée à chacun
- Le service n’est pas rattaché à un utilisateur unique et peut être géré par plusieurs personnes
- Dans l’exemple de Spider Shield, le tableau de bord Ozone fournit une file d’attente pour les photos d’araignées signalées, ce qui réduit le besoin pour les gens de taguer directement le gestionnaire à chaque fois
- Les labels peuvent être configurés différemment, par exemple pour bloquer de vraies photos d’araignées et flouter des illustrations d’araignées
- Plusieurs personnes peuvent aider à gérer les signalements, ou transmettre le projet à d’autres sans perturber les utilisateurs
Comment les développeurs appliquent des labels
- Pour appliquer des labels à des contenus, les développeurs peuvent utiliser un logiciel Bluesky comme Ozone, ou les appliquer directement via l’API
- Ozone est un outil destiné à aider des humains à examiner des signalements de modération, mais il est aussi possible d’exploiter un service de modération via du labelling automatisé
- Si l’on veut faire de Spider Shield un service automatique basé sur le machine learning pour repérer et labelliser des photos d’araignées, cela peut être mis en œuvre sans Ozone
- Pour adapter Ozone à un objectif spécifique, il est possible d’envoyer une PR ou de forker le projet
- Bluesky fournit des outils de modération open source afin que les applications de l’écosystème AT Protocol n’aient pas à reconstruire de zéro les questions de confiance et de sécurité
Labels et extensibilité du réseau atproto
- Les labels sont conçus pour être génériques et personnalisables
- Les premières fonctions des labellers se concentrent sur le masquage, le blocage ou le floutage de contenus
- Par la suite, ils pourront aussi servir à la curation ou à la vérification
- Par exemple, un label pourrait être utilisé pour « vérifier » des comptes nature qui ne publient pas de photos d’araignées
- Les services de modération ne sont pas limités à l’application Bluesky et peuvent fonctionner sur l’ensemble du réseau atproto
- Si une nouvelle application de partage de photos appelée Skygram apparaît, le service de modération Spider Shield créé pour Bluesky pourra aussi être utilisé dans Skygram
- Cette possibilité de combinaison est au cœur de la composable moderation, qui permet de mélanger des composants entre différentes applications
Des options au-delà de la modération par défaut
- Les utilisateurs de l’application Bluesky utilisent par défaut le service de modération de Bluesky
- Tous les contenus affichés dans l’application Bluesky doivent respecter les Community Guidelines de Bluesky
- Si la modération par défaut de Bluesky ne leur convient pas, ils peuvent créer ou utiliser une application cliente distincte et y connecter leur propre service de modération
- Cette option nécessite une application cliente distincte connectée à l’AT Protocol, mais elle offre la flexibilité de mettre en place son propre système de modération dès le départ
Une relation serveur-modération différente de Mastodon
- La modération de Bluesky n’est pas liée au serveur comme sur Mastodon
- La defederation de Mastodon traite les problèmes de modération en coupant les liens entre serveurs, mais ce mécanisme est moins pertinent dans Bluesky, qui dispose d’autres couches
- Les opérateurs de serveurs peuvent définir les règles applicables aux contenus qu’ils hébergent, tandis que les listes de blocage et les services de modération servent aux communautés pour s’auto-organiser selon leurs préférences
- Les différences de structure fédérée de Bluesky sont détaillées plus en profondeur dans ce billet sur la fédération
- Les services de modération ont de fortes chances de démarrer comme des projets communautaires, à l’image des générateurs de flux
- Bluesky compte plus de 40 000 flux personnalisés, et les services de modération peuvent eux aussi être exploités comme des projets indépendants, par des particuliers ou des organisations
- Des services de modération avec abonnements payants sont également possibles
1 commentaires
Commentaires sur Hacker News
Je fais partie de l’équipe qui a mis en place cette fonctionnalité, donc je peux répondre aux questions. Techniquement, de façon simple, c’est globalement un système qui émet des métadonnées appelées Labels sur les publications
Si le client applicatif indique dans l’en-tête de requête quel service de labellisation il souhaite utiliser, ces labels sont ajoutés à la réponse et le client peut les interpréter
C’est un système ouvert : le client peut choisir quel labeller utiliser, et le client Bluesky intègre en dur la modération de Bluesky, mais d’autres clients peuvent choisir d’autres labellers par défaut. Les utilisateurs peuvent ajouter des labellers communautaires, et l’idée est que la majeure partie de la modération soit gérée à cette couche. Pour les contenus illégaux ou les abus du réseau, il existe aussi des « suppressions au niveau de l’infrastructure », exécutées sur la couche service, c’est-à-dire sur les relais
Dans l’application, cela ressemble à des comptes spéciaux auxquels on peut s’abonner pour recevoir des filtres supplémentaires. Les labels peuvent être neutres ou négatifs, et peuvent donc aussi fonctionner comme une sorte de badge utilisateur. À terme, nous comptons étendre cela pour prendre en charge des métadonnées et des comportements plus riches, afin de pouvoir aussi l’utiliser pour des fonctionnalités comme les notes communautaires ou des restrictions de réponse fondées sur les labels
Je me demande s’il existe des précédents. Le plus proche est peut-être ce site lui-même, sauf qu’ici c’est en opt-out et pas interchangeable. Sinon, on peut éventuellement penser aux filtres anti-spam des e-mails du point de vue des administrateurs serveur
J’aimerais savoir si cela affecte aussi les clients tiers, si c’est un point de centralisation potentiellement ouvert aux abus de modération, ou si Bluesky fonctionne comme un protocole de telle sorte que, même s’ils le voulaient, ils ne pourraient rien supprimer en dehors de leur propre client
En particulier, appliquer un mécanisme de type Steam Curator à la modération de contenu me semble vraiment pertinent, au point de se demander pourquoi personne n’y a pensé plus tôt
Après relecture, je me dis que ce n’est pas vraiment un commentaire utile dans le style HN, donc j’ajoute ceci : l’un des aspects les plus utiles d’Internet, à mes yeux, est d’explorer des lieux et des idées auxquels on ne serait normalement jamais confronté ou auxquels on n’aurait jamais pensé. Il y a des risques non négligeables à naviguer sur Internet, un peu comme prendre un bateau en bois pour aller en Arctique, mais si l’on pense au potentiel de croissance et de transformation personnelle, ces risques peuvent valoir la peine d’être pris
Ce modèle d’Internet est un peu ancien. Aujourd’hui, Internet est surtout un espace de divertissement, et Bluesky existe, comme TikTok ou Instagram, pour garder les yeux rivés à l’écran du téléphone. Bluesky est un peu plus intellectuel, mais seulement un peu
En général, les gens ne prennent pas plaisir à ce qui les frustre, donc on peut comprendre qu’une entreprise de divertissement comme Bluesky soit obsédée par la modération de contenu afin de ne faire parvenir aux utilisateurs que du contenu agréable. Dans ce sens, le système de labels semble utile, un peu comme les classifications des films, pour indiquer au consommateur si quelque chose lui convient
Donc du point de vue de Bluesky, c’est excellent. Mais, pour ma part, je vais poliment passer mon tour et utiliser une plateforme ayant un autre objectif
Je vois beaucoup d’avantages à cette approche, mais il y a un point sur lequel je reste sceptique
Le billet évoque à plusieurs reprises une modération selon les cultures, et je me demande quelle est la culture de référence supposée par la modération à l’échelle de tout le site. Américaine ?
Je me demande aussi si l’équipe de modération financée par Bluesky couvre toutes les langues, ou seulement les publications en anglais. Et cela pose aussi la question de ce que signifie appartenir à une culture qui ne bénéficie pas d’un « soutien officiel »
Cela ressemble beaucoup au système de serveurs de Mastodon. C’est le même principe où l’on s’inscrit sur un serveur conforme à sa propre politique, sauf qu’ici, changer de serveur est bien plus facile. C’est une très bonne idée
Bluesky a une identité via un DID. Si on utilise un web DID, l’identité est liée à un nom de domaine et n’est pas du tout connectée à l’infrastructure de Bluesky. On garde ainsi un contrôle total, mais il n’est pas facile de changer de nom ou de domaine. À l’inverse, si on utilise un plc DID, on passe actuellement par une infrastructure centralisée, mais on peut facilement changer de nom ou de domaine. Dans ce cas, on a un DID par compte
Il y a un PDS, ou « entrepôt de données », qui conserve le contenu des publications. On peut l’héberger soi-même ou utiliser le PDS central de Bsky, et on ne peut en utiliser qu’un seul par compte
Il y a aussi un indexeur qui rassemble les publications de tous les PDS/entrepôts de données, ce qui forme ce que Bluesky appelle le « firehose ». Il existe également des relais qui routent le trafic et assurent la mise en cache
Il y a ensuite les applications réelles, par exemple l’App View qui fournit Bluesky, ainsi que des services de flux qui proposent des « algorithmes » définissant l’apparence des pages. On peut s’abonner à autant de flux de ce type qu’on veut, ou les héberger soi-même
Enfin, il y a les labelers dont il est question ici. Contrairement à Mastodon, on peut suivre plusieurs labelers en même temps. Les labelers peuvent fournir des avertissements de contenu automatiques ou une modération manuelle. Le point important, c’est qu’au final, quoi que fasse le labeler, l’utilisateur contrôle si cela se limite à un avertissement/floutage ou si le contenu est réellement masqué
Sur Mastodon, tout est lié à un seul serveur/une seule instance, et le contrôle sur la modération se résume à « faire tourner soi-même son instance et assumer tout le travail de modération » ou « dépendre d’autres instances sans moyen de contrôle »
Cela ne veut pas dire que l’approche de Mastodon n’avait aucun sens à l’époque, mais comme cela a été dit, l’approche de Bluesky est bien plus solide et il est aussi beaucoup plus facile pour les utilisateurs de passer d’une option à une autre
Comme l’agrégation se fait côté serveur plutôt que côté client comme avec RSS, et que le simple fait de ne pas bloquer certains serveurs peut suffire à faire blacklister son propre serveur, cela ressemble moins à un réseau qu’à un graphe où il faut choisir exclusivement l’un des nombreux réseaux mutuellement isolés
C’est comme ça que ça devrait marcher. Je peux bloquer les gens qui publient des choses que je ne veux pas voir, et je peux aussi bloquer les groupes de ces gens. À l’inverse, je peux identifier les personnes et les groupes que je veux voir et les laisser passer dans ma timeline
Cela dit, en théorie, on pourrait sans doute créer son propre client, mais je ne sais pas bien comment cela fonctionnerait en pratique. J’imagine que les contenus que Bluesky n’aime pas ne seront pas stockés sur les serveurs de BlueSky
Une communauté ne devrait pas être bannie parce qu’elle parle des choses graves qui lui sont arrivées. Je me demande comment ce genre de scénario sera géré
Peut-être qu’ils se contenteront de griser le contenu. Mais dans ce cas, qu’en est-il des utilisateurs ? Je me demande si le contenu de cet utilisateur sera lui aussi grisé
C’est une idée vraiment géniale. J’aime bien l’exemple de Spider Shield. J’espère que cela servira à toutes sortes d’usages proches de la modération, comme les spoilers ou les sujets qu’on n’a pas envie de lire pendant un moment
Franchement, c’est assez excellent. Bloquer les gens de manière récursive, bloquer les utilisateurs de Twitter Blue, bloquer les gens qui ont posté sur certains subreddits, ou proposer une version officielle et extensible de ce que faisaient des extensions de navigateur comme masstagger
Faire des listes de blocage programmables une fonctionnalité de premier plan, c’est vraiment très bien
Cela ne sauvera sans doute pas des dramas comme https://www.techdirt.com/2022/11/02/hey-elon-let-me-help-you..., mais cela reste une fonctionnalité bienvenue. Ce sera intéressant de voir comment réagiront les personnes ajoutées à des listes de blocage tierces populaires
Est-ce que cela aligne vraiment correctement les incitations ?
À mon avis, non. Même si l’utilisateur choisit la modération, il devrait toujours pouvoir la désactiver temporairement et voir un écran sans filtre. Il faut pouvoir enlever ses lunettes à tout moment. Sinon, dans un contexte idéologique, la modération peut se transformer en censure, et BlueSky devient l’allié de ceux qui veulent orienter l’opinion publique
Même si l’utilisateur peut enlever ses lunettes, la modération risque fortement de décourager la production de contenu. Pourquoi parler si personne n’écoute ? Mais si on permet aux utilisateurs d’expérimenter en désactivant la modération, chacun peut toujours juger si elle est utile ou si c’est de la censure. La modération peut alors être facilement observée et mesurée, ce qui crée aussi une pression pour que les modérateurs agissent de manière raisonnable
Je pense que c’est aussi bénéfique pour les groupes. Si les règles de modération du groupe sont définitives et que les utilisateurs ne peuvent pas voir au-delà, la modération devient en elle-même une position de pouvoir, ce qui pousse ceux qui veulent gérer l’opinion à se livrer, comme toujours, à des luttes de pouvoir. À l’inverse, si la modération est toujours affaiblie parce qu’elle repose sur le consentement, les jeux autour du contrôle de l’opinion diminueront
Il vaut mieux que les groupes se gèrent eux-mêmes par l’appartenance à leurs membres. L’entrée peut être difficile, mais une fois dedans, chacun devrait pouvoir faire entendre sa voix à tous, indépendamment de la modération. Une modération faible augmente la valeur de l’appartenance au groupe et facilite la mise en place de conditions d’adhésion qui aident à se faire confiance. Le fait de rendre ces conditions observables et appliquées de manière cohérente est un autre problème
Pour être franc, j’aimais vraiment beaucoup l’idée de BlueSky et j’étais un utilisateur des débuts. Mais la semaine dernière, quand j’ai vu qu’ils avaient annoncé une équipe Trust & Safety, ou au moins recruté un nouveau responsable, j’ai supprimé l’application
Dans mon esprit, et pour beaucoup de gens, Trust and Safety est synonyme de censure
Nous vivons aujourd’hui à une époque où la censure représente un énorme danger pour la liberté. Une société libre doit pouvoir débattre, et toute personne ou organisation qui estime avoir la sagesse de fixer les limites de ce dont les gens peuvent discuter est une menace pour la liberté
J’espérais que BlueSky choisirait une autre voie, mais il semble que ce ne soit plus le cas
Je me demande si le blog de Bluesky a un flux RSS
En revanche, il y a ce flux qui regroupe tous les posts de l’équipe Bluesky (https://bsky.app/profile/did:plc:z72i7hdynmk6r22z27h6tvur/fe...). Malheureusement, il est aussi impossible de consommer un flux bsky comme flux RSS. En revanche, pour les comptes individuels, on peut s’abonner en RSS en ajoutant
/rssà l’URL du profil. Par exemple, le compte qui a publié l’annonce originale est https://bsky.app/profile/safety.bsky.app/rssUne société extrêmement polarisée va donc grandement bénéficier de chambres d’écho configurables
Contrairement au monde physique, il n’y a pas de limite de territoire : le cyberespace est infini. Je ne comprends pas pourquoi des gens qui ne se supportent pas veulent à ce point se mettre mutuellement sous le nez
Toute personne ayant un peu utilisé des forums Internet sait qu’au sens large, une certaine forme de modération est nécessaire. Personnellement, je n’utiliserais pas un réseau social où je suis exposé à une transphobie ordinaire et quotidienne. Ce n’est pas parce que je ne veux pas entendre « les deux points de vue », mais parce que j’ai déjà une position aussi fermement opposée que possible, et que je n’ai pas besoin d’en entendre davantage. Il n’y a peut-être pas de solution générale, mais j’apprécie que Bluesky essaie quelque chose