Facebook est complètement cassé

• Après s’y être reconnecté pour la première fois depuis 8 ans, l’utilisateur constate que le fil d’actualité est submergé de contenus générés par IA et de publications racoleuses
• Les publications provenant de pages non suivies, avec des images de femmes générées par IA et des mèmes/vidéos à clics, occupent l’essentiel du fil
• Certaines publications affichent même une fonction de suggestion de questions sexistes proposée par l’IA de Meta, ce qui provoque un fort malaise
• La qualité des contenus est devenue si confuse qu’il est difficile de distinguer les créations IA des personnes réelles, et les commentaires semblent eux aussi suspects, comme s’ils provenaient de bots
• L’utilisateur a le sentiment d’un effondrement du fil algorithmique de Facebook et d’une perte de confiance dans la plateforme. « Je n’y reviendrai plus. »

---

L’évolution du fil et la première impression

• Connecté pour retrouver un groupe de voisinage après environ 8 ans d’absence, l’utilisateur constate qu’il n’existe plus
• En faisant défiler le fil principal, la première publication vient bien de la page xkcd qu’il suit, mais les 10 publications suivantes proviennent toutes de pages qu’il ne suit pas
• La plupart sont des publications composées de photos de jeunes femmes générées par IA accompagnées de phrases banales, bref du « contenu que Facebook pousse »

Déferlante de contenus générés par IA

• Le fil contenait aussi des vidéos IA, par exemple une scène où la police confisque le vélo d’un garçon avant de lui en offrir un neuf
• De nombreux mèmes et sketches vidéo sur les relations amoureuses apparaissaient également, dont certains montraient une femme qui déclenche volontairement une dispute avec son petit ami pendant ses règles
• Pour ce type de vidéos, l’IA de Meta affichait même une fonction suggérant des questions sexistes ou inappropriées

Qualité et confusion des contenus IA

• Certaines images trahissaient clairement leur origine IA, avec par exemple du faux texte illisible en arrière-plan ou des logos déformés
• En regardant les commentaires, l’utilisateur n’a vu personne signaler qu’il s’agissait d’IA, et il est possible que les commentaires eux-mêmes soient générés par des bots
• Avec les progrès des modèles d’IA, il devient difficile de distinguer une personne réelle d’un contenu généré

L’opacité du fil algorithmique

• L’utilisateur se demande si ce phénomène vient uniquement de son propre algorithme
• Avec un fil basé sur l’algorithme, impossible de savoir si les autres utilisateurs voient les mêmes contenus
• Il est aussi possible que, sur les comptes restés inactifs longtemps, le manque de publications d’amis soit comblé par des contenus IA

Le désenchantement face à la plateforme

• L’utilisateur a été particulièrement mal à l’aise en voyant que certaines images de femmes générées par IA semblaient représenter des mineures
• « Il n’y a plus aucune raison d’utiliser Facebook » ; à l’avenir, il ne s’y connectera plus qu’en cas de nécessité, par exemple pour des annonces de l’école de ses enfants
• Globalement, le fil d’actualité de Facebook apparaît comme contaminé par les contenus IA et l’activité de bots

[xguru]

Facebook, c’est vraiment devenu : tu fais défiler deux posts, puis tu as une pub, puis un post recommandé sorti de nulle part.
On dirait que c’est devenu une plateforme où il n’y a pratiquement plus que des pubs. Il y a tellement de vidéos et de photos bizarres comme celles évoquées dans l’article que j’y vais de moins en moins.

[GN⁺]

Avis sur Hacker News

• Ma mère est hôtesse de l’air sur des vols internationaux, dans la soixantaine.
  J’ai regardé Facebook récemment, et son fil était rempli de photos de voyage de ses amis et collègues, ainsi que de groupes d’organisation d’activités dans les villes qu’elle fréquente souvent.
  Étonnamment, elle publie elle-même souvent des photos de voyage, et les commentaires débordaient de messages chaleureux de la famille et des amis.
  En voyant cela, j’ai compris qu’il existait bien une catégorie d’utilisateurs pour qui Facebook fonctionne parfaitement.
  Mais ce type d’expérience positive semble n’être possible que pour des personnes évoluant dans un environnement privilégié, comme ma mère.

  • L’algorithme donne la priorité absolue à l’« engagement ».
    Les personnes saines et stables ne réagissent pas aux contenus conçus pour provoquer la colère, donc les contenus les plus stimulants sont concentrés sur les personnes seules ou frustrées.
    Cette structure est socialement nuisible, et la plateforme finit par provoquer addiction et dommages psychiques.
    Ce genre de plateforme devrait être fermé, et les gens consciencieux devraient cesser de l’utiliser pour briser les effets de réseau.
  • Si elle est hôtesse de l’air sur des vols internationaux, il est possible que l’algorithme fonctionne de manière totalement différente pour elle, puisqu’elle passe souvent d’un pays à l’autre.
    Il se peut aussi que l’exposition aux contenus négatifs soit réduite pour les personnes ayant une influence politique.
    Cela pourrait faire partie du programme XCheck révélé en 2021.
  • Je suis moi aussi une femme d’âge mûr, et mon fil est plutôt correct.
    Il est rempli de publications de mes amis et de groupes d’intérêt.
    En revanche, si j’ai arrêté Facebook, c’est à cause de Mark Zuckerberg.
    Je n’ai plus voulu utiliser ses produits parce que je ne l’aime pas, mais j’utilise toujours WhatsApp pour rester en contact avec ma famille en Europe, et un peu Instagram pour le travail.
  • J’ai arrêté Facebook il y a quelques années, puis j’ai appris bien plus tard qu’un ami était décédé.
    Tout le monde l’avait su via Facebook, sauf moi.
    Dans certains groupes, Facebook reste encore le hub central.
  • Mon fil ressemble aussi à ça.
    J’ai tout bloqué ce qui était politique ou négatif, donc c’est plutôt paisible.

• Si vous êtes classé comme homme, le fil se remplit presque entièrement de « contenus racoleurs ».
  Même des utilisatrices ayant créé un compte paramétré en homme ont dit obtenir le même résultat.
  De mon côté, je n’ai mis des likes qu’à des vidéos de céramique ou de parentalité, mais une semaine plus tard, c’était revenu comme avant.
  Maintenant, j’ignore et je fais défiler.
  Davantage de gens devraient connaître ce phénomène afin de réduire les malentendus inutiles.

  • Il y a quelques années, j’ai créé un compte pour du commerce local, et le fil s’est progressivement rempli d’images explicites et inappropriées.
    Je prenais des captures d’écran, puis j’ai eu honte en ouvrant ma galerie dans le métro.
    J’ai ensuite reformulé ça de manière un peu plus polie.
  • J’utilise depuis 22 ans un compte défini comme masculin, mais je ne vois presque jamais ce type de contenu.
  • J’ai testé moi-même, et mon fil ne contenait que des synthétiseurs, des infos d’école et des publications d’amis.
    Je pense que c’est parce que je ne regarde jamais les vidéos courtes (Reels).
  • Cela fait plus de 10 ans que je ne publie que des photos de famille, et pourtant mon fil est rempli de publicités et de vidéos en bikini.
    J’ai pourtant cessé de suivre tous les contenus politiques.
  • Mon fil ne contient que des publications d’amis, et presque pas de contenu généré par IA.
    Le phénomène décrit dans l’article n’apparaît pas sur mon compte.

• Je me suis reconnecté à Facebook après plusieurs années et c’était rempli de recommandations poubelle.
  En revanche, le fil de ma conjointe était plutôt normal.
  Les comptes restés inactifs longtemps semblent être laissés dans un état algorithmique par défaut.

  • Je pense que les comptes inactifs sont traités comme des données vendues au plus bas enchérisseur publicitaire,
    parce qu’en l’absence de nouvelles informations, il n’y a pas grand-chose d’autre à monétiser.
  • Je me suis reconnecté à Instagram après 5 ans, et mon fil n’était plus que des images générées par IA et du contenu sexualisé.
  • Moi, je me connecte souvent, mais en ce moment il y a une avalanche de vidéos IA faites pour susciter la colère.
    Avant, c’étaient des publications plausibles, mais au cours de la dernière année, tout a complètement changé.
    Les publications d’amis ont presque disparu.
  • YouTube fonctionne pareil.
    Si on n’est pas connecté, on n’a que des vidéos racoleuses, et il faut accumuler un historique de recherche pour que ça se normalise.
  • Au départ, l’algorithme essaie de vous attirer avec les contenus les plus stimulants.
    Avec le temps, il apprend vos goûts, mais finit quand même par réinjecter des vidéos provocatrices.
    J’y vais parfois pour des vidéos de musique que m’envoient des amis, et j’ai l’impression que c’est une stratégie pour pousser les DAU (utilisateurs actifs quotidiens).

• Je suis parent, dans la cinquantaine.
  À une époque, Facebook était vraiment un espace de partage heureux.
  Les amis et la famille publiaient des photos d’enfants, de voyages, de repas, et s’encourageaient mutuellement.
  Ce n’était pas pour les clics ou les vues, mais pour communiquer sincèrement.
  Puis, à un moment, surtout les maris ont commencé à disparaître.

  • Je ne sais pas si « les maris ont commencé à disparaître » veut dire divorcer, ou simplement perdre tout intérêt.
  • Mais même à cette époque, Meta collectait déjà les données.
    Au final, nous avons été réduits à des profils analysés puis vendus aux annonceurs.
  • Je me demande quelles plateformes utilisent désormais ces groupes.
  • J’aimerais qu’on précise ce que signifie exactement « les maris ont commencé à disparaître ».

• C’est l’illusion du « il n’y a personne comme ça autour de moi ».
  Même si Facebook a reculé aux États-Unis et en Europe, aux Philippines, c’est pratiquement l’internet lui-même.
  Toutes les entreprises y fonctionnent via Facebook, il sert de substitut aux actualités, et Messenger est le moyen de communication par défaut.

  • Le fil de ma tante philippine est rempli de contenus générés par IA.
    On y trouve un mélange de contenus qui provoquent la colère, d’images religieuses et de vidéos d’animaux mignons.
    Elle sait ce qu’est l’IA, mais comme c’est très naturel, elle a du mal à faire la différence.
  • En revanche, au Brésil, en Chine, en Inde et ailleurs, l’usage est plus faible ou la plateforme est bloquée.
    Donc, d’un point de vue global, je pense que la perte de marché est importante.
  • J’ai visité les Philippines plusieurs fois, et vraiment, Facebook était l’unique option.
    Pour référence, les Philippines ont le taux d’usage des réseaux sociaux le plus élevé au monde.
  • J’ai voyagé dans 35 pays d’Afrique, et là-bas aussi, Facebook était l’internet.

• Je vis à l’étranger et j’utilise parfois Facebook, une ou deux fois par mois.
  Mon fil n’est pas parfait, mais avec un peu d’interaction, il s’ajuste sur des contenus de maths, d’échecs et d’ingénierie.
  Si des gens qui se reconnectent après longtemps voient du contenu sexualisé, c’est probablement le reflet des préférences masculines moyennes.
  L’ancien Facebook était vraiment le meilleur réseau social.
  L’époque où l’on échangeait avec ses amis, retrouvait d’anciens camarades de classe et ajoutait de nouveaux amis après une soirée me manque.
  Les réseaux sociaux d’aujourd’hui sont structurés pour nous faire comparer notre vie à celle, apparemment meilleure, des autres, et c’est triste.

  • Mon fils souffre aussi de cette comparaison.
    Pour les jeunes générations, la pression mentale est un vrai problème.

• Moi aussi, au début, je me suis dit : « Pourquoi est-ce que ce genre de choses apparaît dans mes recommandations ? »
  En me connectant, j’ai vu qu’il y avait bien un mélange de contenus racoleurs et de publications conçues pour provoquer la colère.
  Quand je suis revenu un peu plus tard, c’était déjà devenu des publications liées au football, en fonction de ce sur quoi j’avais cliqué.
  On dirait que le simple fait de faire défiler le fil suffit pour que l’algorithme de recommandation réagisse immédiatement.

• Je pense que si la qualité des discussions sur internet a baissé ces 25 dernières années, c’est à cause du changement culturel de la base mondiale d’utilisateurs.
  Jusqu’au début des années 2000, elle était surtout centrée sur les pays développés, mais l’arrivée massive d’utilisateurs issus des pays émergents a ensuite modifié les standards culturels.
  Les plateformes ont fini par refléter les goûts des marchés les plus nombreux, ce qui a entraîné une dégradation qualitative des contenus.

  • Pas besoin de blâmer d’autres pays.
    Même aux États-Unis, plus de la moitié des adultes ont un niveau de littératie inférieur ou égal à celui d’un élève de sixième.
    Voir les statistiques de la Barbara Bush Foundation.
  • Certains ont aussi réagi en disant qu’on pouvait tout simplement nommer directement les pays.

• J’utilise souvent Facebook, mais pas pour le fil social : seulement pour Marketplace et la publicité.
  Les vidéos courtes (Shorts) ne sont que des vidéos très dénudées, donc je n’ouvre jamais l’application dans un lieu public.

  • Facebook Marketplace est sous-estimé comme plateforme de commerce local.
    Dans les régions où Craigslist ou OfferUp ont disparu, c’est pratiquement le seul hub de transaction restant.
    Facebook en tire là aussi ses revenus uniquement par la publicité.
  • On me montre souvent des publicités présentant une vie idéalisée de père divorcé.
    C’est un peu drôle, mais aussi bizarrement inconfortable.
  • Si on regarde volontairement des vidéos courtes sur un autre sujet, l’algorithme se recale.
    Chez moi, il affiche maintenant surtout des vidéos d’expériences.
  • Même dans Marketplace, l’algorithme d’incitation à l’engagement fonctionne, au point que la moitié des propositions sont des photos de mannequins habillés.
  • La section Reels est d’un niveau qu’on ne peut absolument pas ouvrir au travail.
    J’aimerais qu’il existe un réglage pour la masquer définitivement.

• L’interface UI de la version desktop est affreuse.
  Quand on change d’onglet, ça recharge, les longs commentaires obligent à cliquer sur « Voir plus ».
  Si on essaie de regarder une vidéo en plein écran, une fenêtre modale bizarre s’ouvre et le son se coupe.
  C’est devenu une triste coquille vide dont toute la simplicité d’autrefois a disparu.