La Wikimedia Foundation lance « Citation Needed », une extension Chrome expérimentale LLM/RAG

Extension Chrome Wikipedia Citation Needed

• Permet de vérifier une affirmation en sélectionnant un passage de texte précis pendant la navigation sur le Web
• Utilise l’API ChatGPT pour rechercher des articles pertinents sur Wikipedia et en extraire des citations
• Fournit des informations indiquant si l’affirmation sélectionnée est étayée sur Wikipedia, ainsi que des signaux de qualité de l’article comme la date de dernière modification et le nombre de références, afin d’aider l’utilisateur à mieux comprendre le contexte des informations qu’il reçoit, y compris celles provenant de Wikipedia

Demande de retours utilisateurs

• Cette fonctionnalité est une fonction expérimentale utilisant l’IA générative, et l’équipe reconnaît qu’elle peut parfois faire des erreurs
• Afin de comprendre et d’améliorer la qualité des résultats, il est demandé de signaler les problèmes rencontrés via le lien de retour de l’extension
• Les retours généraux ainsi que les idées sur d’autres façons dont Wikipedia pourrait être utile dans la navigation Web au quotidien sont également les bienvenus

Informations pour les développeurs

• Cette extension a été développée par l’équipe Future Audiences de la Wikimedia Foundation, une organisation à but non lucratif qui soutient Wikipedia et ses projets frères

Avis de GN⁺

• Cette extension peut aider les utilisateurs à évaluer la fiabilité des informations qu’ils rencontrent sur le Web. Cependant, la qualité et l’exactitude des articles de Wikipedia peuvent elles-mêmes avoir des limites, ce qui rend difficile d’en faire un critère absolu.
• L’automatisation du résumé et de la vérification à l’aide de grands modèles de langage comme ChatGPT peut améliorer le confort d’usage, mais elle comporte aussi un risque de génération d’informations erronées. Un suivi continu et des efforts d’amélioration semblent donc nécessaires.
• En plus de Wikipedia, l’ajout de sources d’information fiables validées par des experts de chaque domaine pourrait améliorer la précision et l’exhaustivité de la vérification. À plus long terme, la construction d’une base de connaissances décentralisée fondée sur la blockchain pourrait aussi être envisagée.

[GN⁺]

Avis sur Hacker News

• Une application expérimentale de RAG (Retrieval Augmented Generation) propulsée par un LLM vérifie des affirmations sur Internet en les comparant à Wikipédia.
• Certains se demandent si les citations sont hallucinées ou si le système utilise quelque chose comme des « citations déterministes ».
• Le dépôt Git de Wikimedia pour cette extension est fourni. Les instructions de build dans le README sont incomplètes et le hot reload ne semble pas fonctionner. On peut obtenir un build fonctionnel avec npm run build-dev.
• Aucune extension Firefox n’est proposée. Cela pourrait être dû aux différences entre les API sidebar/sidepanel.
• L’idée que le LLM puisse aussi vérifier les faits des articles Wikipédia et les signaler est jugée prometteuse.
• Combiné à un générateur d’articles et à un vérificateur d’articles, cela pourrait produire un trillion de pages. Cela pourrait constituer un contenu d’apprentissage utile pour les LLM, tout en restant utilisable par des humains.
• Cela semble fonctionner uniquement dans Chrome. Cela ne fonctionne pas dans Arc.
• Dans le monde universitaire, les citations de Wikipédia sont généralement interdites. Elles sont considérées comme peu fiables (un auteur cite une source qu’il peut lui-même modifier) et, même si Wikipédia est utile pour trouver des sources primaires, cela reste en soi une source secondaire.
• Lorsqu’on lui pose une question sur lui-même, il renvoie la réponse « Citation Needed est une fonctionnalité expérimentale développée en 2024 ». Pourtant, le paragraphe fourni ne contient aucune information indiquant qu’une fonctionnalité appelée « Citation Needed » a été développée en 2024.