Pas d’IA* ici — réponse au prochain chapitre de Mozilla

• Waterfox, un fork de Firefox, s’oppose frontalement à l’orientation de Mozilla qui présente une stratégie de navigateur centrée sur l’IA comme l’avenir de la confiance et de la transparence
• Waterfox pointe comme problème central le fait que les grands modèles de langage (LLM) intégrés au navigateur sont des boîtes noires impossibles à auditer et qu’ils affaiblissent le contrôle des utilisateurs
• Le navigateur doit être un agent utilisateur qui interagit avec le Web au nom de l’utilisateur, et non une entité qui pense ou juge à sa place
• Waterfox critique Mozilla pour répéter une stratégie consistant à viser l’utilisateur moyen tout en marginalisant la communauté technique
• Waterfox propose une alternative fondée sur un principe de non-intégration des LLM dans le navigateur et sur une gouvernance responsable

---

Contexte et problématique

• Mozilla a présenté sa vision de devenir « l’entreprise logicielle la plus digne de confiance », avec l’IA au cœur de sa stratégie
• Waterfox mentionne la crise structurelle du marché des navigateurs, avec la montée des navigateurs IA et les mouvements d’Alphabet pour préparer l’après-Chrome
• Waterfox dit comprendre ces pressions, mais juge que la direction prise en réponse est fondamentalement erronée

Le problème du terme « IA »

• Waterfox souligne que le terme IA est employé de manière trop large et masque les différences entre technologies
• Des outils de traduction locale par machine learning comme Bergamot sont présentés comme dignes de confiance, car leur objectif est clair et leur fonctionnement observable
• À l’inverse, les LLM sont décrits comme des boîtes noires dont le fonctionnement interne et le traitement des données ne peuvent pas être vérifiés
• Dans le contexte du navigateur, Waterfox conclut que des modèles limités à une finalité unique sont plus fiables que des modèles généralistes

La nature même du navigateur

• Le navigateur est défini comme un agent utilisateur qui exécute les commandes de l’utilisateur
• Waterfox explique qu’ajouter un LLM au milieu revient à créer un autre agent au-dessus du navigateur
• L’article alerte sur le risque que l’organisation des onglets, la réécriture de l’historique ou la manière dont les informations sont exposées soient déterminées par une logique impossible à vérifier
• Même si l’utilisateur peut désactiver les fonctions IA, il lui reste difficile de suivre leur impact lorsqu’elles sont activées

Le dilemme de Mozilla

• Waterfox reconnaît l’ampleur de la pression stratégique liée à une structure de revenus dépendante de la recherche et à la baisse de part de marché de Firefox
• L’article pointe une contradiction interne : parler de confiance et d’autonomie des utilisateurs tout en introduisant des technologies qui les affaiblissent
• Il estime que la stratégie visant l’utilisateur moyen échoue depuis plus de dix ans
• Waterfox rappelle que la communauté technique et les utilisateurs attachés à la vie privée ont constitué la base historique de Mozilla

Le choix de Waterfox

• Waterfox affirme se concentrer sur la qualité d’exécution des fonctions fondamentales du navigateur
• Le projet considère que l’interface et la personnalisation sont déjà des sujets mûrs et donne la priorité aux performances et aux standards du Web
• Waterfox voit le navigateur comme un environnement de type système d’exploitation et juge que l’IA n’est pas adaptée au rôle d’administrateur de cet environnement
• Le projet applique au présent comme à l’avenir prévisible un principe clair de non-intégration des LLM

Écosystème des forks et gouvernance

• Waterfox souligne que de nombreux forks de Firefox n’ont ni entité juridique, ni politiques, ni structure de responsabilité
• L’article explique qu’un fork open source n’implique pas automatiquement la confiance
• Waterfox affirme maintenir une responsabilité clairement définie au moyen d’une société, d’une politique de confidentialité et de conditions d’utilisation
• Selon le projet, cette gouvernance a permis l’accès à des services de streaming protégés comme Widevine

Position sur l’idée d’inévitabilité

• Waterfox reconnaît que les navigateurs IA pourraient devenir dominants
• Mais le projet estime que le Web, par nature décentralisé, laisse toujours de la place à des alternatives
• L’article cite l’exemple de Waterfox qui, lors des évolutions passées de Firefox, a su préserver des usages demandés par les utilisateurs
• Il réaffirme le principe selon lequel le rôle du navigateur est de servir l’utilisateur, et non de penser à sa place

[GN⁺]

Réactions sur Hacker News

• Certains doutent de l’argument selon lequel les LLM seraient une boîte noire totale, au point qu’on ne puisse pas vérifier comment ils traitent les données
  La traduction neuronale a elle aussi un fonctionnement interne opaque, donc ils ne voient pas pourquoi seuls les LLM seraient considérés comme particulièrement dangereux
  Les fonctions de résumé de Firefox, par exemple, reposent en grande partie sur des modèles locaux, et Chrome fait de même
  Les fonctions LLM dans le navigateur ont un périmètre limité, comme la traduction ou le résumé, donc les craintes d’abus de données semblent exagérées

  • La traduction automatique a peu d’alternatives, et même en cas d’erreur, le préjudice reste limité
    En revanche, les LLM sont appliqués à tous les problèmes, et leur manque de précision peut causer des dommages réels
    Le résumé d’articles en anglais, par exemple, ne paraît pas vraiment nécessaire
  • Certains se demandent si des gens utilisent réellement la fonction de résumé
    En dehors des contenus comme les articles scientifiques, qui ont déjà un résumé (abstract), ils n’ont jamais ressenti ce besoin
  • Avec le recul, l’un d’eux reconnaît avoir été un peu excessif dans sa formulation
    Il dit faire davantage confiance à des systèmes de type modèle à objectif unique, où l’on peut valider clairement l’entrée et la sortie
    Ce qui l’inquiète, c’est que Mozilla semble vouloir aller au-delà de la simple traduction ou du simple résumé pour viser une intégration plus profonde
    Le billet de la CEO est peut-être un test grandeur nature pour prendre la température
  • Firefox devrait devenir comme Librewolf
    Le marketing autour de la vie privée de Mozilla ne vaudrait pas mieux, selon eux, que celui d’Apple
    Toute fonctionnalité qui ne relève pas du traitement local devrait être proposée uniquement sur la base d’un consentement explicite de l’utilisateur (opt-in)
  • Les humains aussi font des erreurs de traduction
    La traduction est par nature un problème non déterministe, donc ce n’est pas un argument suffisant pour dire que les LLM sont mauvais
    En revanche, la recherche et l’exploration d’information fonctionnent bien avec des algorithmes déterministes, donc il n’y a pas de raison que les LLM les remplacent

• Des projets de traduction comme Bergamot ont de la valeur grâce à leur transparence et à leur auditabilité
  Mais les LLM ne seraient pas structurellement si différents
  On peut aussi examiner leur fonctionnement interne, comme le montrent les documents de Marian NMT
  L’idée d’une IA non contrôlée par les grandes entreprises est appréciée, mais rejeter systématiquement les LLM semble être une attitude fermée

  • Le choix de ne pas interagir avec du texte généré mérite lui aussi d’être respecté
    Certains estiment que le langage est influencé par la manière de parler de ce avec quoi on interagit, et évitent donc de converser avec des LLM
    Ils les utilisent pour générer du code, mais réservent la conversation aux humains
    Ils comparent cela à des expériences où, si un humain grandit avec des chimpanzés, c’est l’humain qui serait influencé le plus vite
  • Cette attitude ressemble pour certains à une forme de conservatisme vis-à-vis de l’IA
    Une position intermédiaire, ni totalement pour ni totalement contre, leur paraît tout à fait rationnelle
  • Le rejet des LLM viendrait surtout d’une fatigue de l’IA
    C’est une réaction au fait qu’on impose de l’IA dans tous les produits
  • En reprenant la métaphore du marteau, certains critiquent l’idée de vouloir utiliser des LLM pour tous les problèmes
    Un outil doit être utilisé en fonction de son objectif
  • Si un modèle tourne en local, il existe au moins une certaine capacité de contrôle
    Les outils à usage unique sont plus confortables sur le plan émotionnel, et l’absence de fausse personnalité les rend plus agréables

• Firefox devrait se concentrer sur une API de plugins puissante et sur une sandbox de sécurité
  Ceux qui veulent utiliser de l’IA peuvent le faire via des extensions, et ceux qui n’en veulent pas peuvent s’en passer

  • Certains veulent simplement que leur bloqueur de pub (adblocker) fonctionne bien
    Toutes les autres fonctions sont désactivées
    Ils disent ne pas avoir vu de pub depuis des décennies
  • Pour eux, un bloqueur de pub et des onglets en arborescence suffisent
    Une barre d’onglets qui se cache tant qu’on ne la survole pas leur conviendrait parfaitement
  • Mozilla a déjà par le passé forcé la réactivation de plugins que l’utilisateur avait désactivés
    Certains craignent qu’il en soit de même cette fois avec l’IA
  • L’évolution des produits intégrant l’IA inquiète
    La plupart des utilisateurs ne savent pas comment désactiver une fonctionnalité
    Par exemple, la mère de l’un d’eux n’arrive pas à couper le mode IA de Chrome et en souffre
    Le problème est que ces utilisateurs finissent malgré tout comptés dans les statistiques comme s’ils « préféraient » l’IA
  • Certains voudraient simplement qu’on améliore les performances de rendu

• La réaction hostile à l’arrivée de l’IA dans Firefox semble à certains un peu émotionnelle
  Si le navigateur embarquait des LLM locaux, la plupart des inquiétudes diminueraient
  Des fonctions comme la traduction, le résumé, la recherche dans Wikipédia ou le remplissage automatique de formulaires pourraient être utiles

  • Mais des fonctions IA sont déjà présentes
    Une barre latérale et un bouton de chatbot IA ont été ajoutés de force, ce qui dérange
    Par le passé, même la taille du menu avait été modifiée, provoquant de nombreux clics involontaires
    En interne, Firefox semble déjà s’intégrer à des IA cloud comme ChatGPT, Claude ou Gemini
  • L’expression « AI first browser » sonne comme une formule corporate creuse
    Ce que certains veulent, c’est simplement un navigateur centré sur la vie privée
    Une architecture extensible leur paraît plus importante que des fonctions expérimentales
  • L’un d’eux paie pour Claude Max, mais ne veut pas d’une intégration IA non sollicitée
    Le navigateur ne devrait utiliser l’IA que lorsqu’il le demande
  • Ils ne veulent pas que Firefox embarque par défaut un modèle de 20 Go
    Même local, le poids du modèle serait trop important
  • Firefox dispose déjà de fonctions IA locales
    La traduction et le regroupement d’onglets, par exemple, fonctionnent sans dépendre du cloud

• Waterfox dépend du développement de Firefox
  Certains comprennent que Mozilla ajoute de l’IA pour tenter de préserver sa part de marché
  Mais si cette stratégie échoue, Waterfox aussi pourrait avoir du mal à survivre

  • Malgré tout, des utilisateurs de Waterfox disent ne pas être inquiets
    Si besoin, ils migreront vers un autre navigateur
    Pour l’instant, il répond à leurs besoins, et cela leur suffit

• Certains sont passés à Waterfox à cause d’anciennes machines Linux
  La version Snap de Firefox était trop lente pour être utilisable
  Ils apprécient que Waterfox refuse l’intégration des LLM
  Leur matériel supporte mal les LLM, et les cas d’usage proposés ne les séduisent pas
  Ils trouvent rassurant qu’il reste des espaces de niche que l’IA n’a pas encore envahis

• Les fonctions IA de Firefox peuvent être désactivées par politique
  Documentation associée : policy-templates generativeai, preferences, configuration firefox.js, configuration all.js

  • Dire « on peut les désactiver » revient à une excuse façon Windows 11
    Le produit devrait être conçu de manière à ce que l’utilisateur n’ait pas besoin de les désactiver lui-même
  • Les réglages par politique sont difficiles et peu familiers pour le grand public
    La plupart des gens n’essaieront même pas
  • Il y a déjà eu des cas où Mozilla a réactivé le bouton IA que l’utilisateur avait désactivé
    À force d’ajouter de nouvelles fonctions, le produit devient moins convivial
  • Certains n’aiment pas la fonction d’onglets IA
    Ils aimeraient avoir une simple option non IA

• Waterfox défend une philosophie selon laquelle un navigateur ne doit pas penser à la place de l’utilisateur
  Sa position de ne pas inclure de LLM est claire
  Mais dans d’autres navigateurs aussi, les fonctions IA peuvent être facilement désactivées
  Pour devenir un véritable concurrent, il faudrait surtout identifier ce que les gens veulent réellement et optimiser cela
  Cela dit, il est possible qu’un jour les gens veuillent vraiment qu’une IA pense à leur place

• Quand les gens parlent d’« IA », ils désignent souvent en réalité des LLM
  Certains aimeraient que cette distinction devienne plus systématique

• On peut aussi consulter la déclaration de Vivaldi sur le sujet
  Lien vers l’annonce de Vivaldi

  • Cette feuille de route semble assez séduisante