Le véritable superpouvoir de l’IA : consommer, pas créer

• La plupart des gens utilisent l’IA comme un outil de génération de contenu, mais sa véritable force réside dans sa capacité à lire et relier d’immenses volumes d’information
• Le point clé est le processus par lequel l’IA consomme les données accumulées — notes personnelles, comptes rendus de réunion, idées — et y détecte des motifs
• En connectant des notes Obsidian à l’IA, on peut extraire des insights à partir d’archives passées, découvrir des évolutions de réflexion oubliées ou des décisions de conception répétées
• L’IA rend possibles la recherche fondée sur des concepts plutôt que sur des mots-clés, l’exploration de motifs au-delà du temps et les connexions entre idées
• L’avantage compétitif humain réside dans l’expérience, et l’IA aide à la transformer en actif de connaissance interrogeable, pour soutenir l’apprentissage continu et de meilleures décisions

---

Le piège de la création

• La plupart des utilisateurs emploient l’IA comme outil de productivité pour rédiger des e-mails, générer des rapports ou écrire du code
  • C’est présenté comme un gâchis comparable à utiliser un superordinateur comme machine à écrire
• L’auteur stocke dans Obsidian trois années de notes d’ingénierie, plus de 500 comptes rendus de réunion et des milliers d’observations
  • Un volume qu’un humain ne pourrait jamais relire dans toute une vie, mais que l’IA peut absorber en quelques secondes

Le basculement vers la consommation

• Après avoir connecté l’IA à Obsidian, la manière de poser des questions est passée de « écris-moi quelque chose de nouveau » à « qu’ai-je déjà découvert ? »
• Cas concrets
  • L’analyse des motifs dans les 50 derniers entretiens 1:1 a révélé que des problèmes de performance apparaissaient 2 à 3 semaines avant les plaintes sur les outils
  • En suivant l’évolution de la réflexion sur la dette technique, il a été possible d’identifier le moment où la perspective a basculé, vers mars 2023, de « quelque chose à corriger » à « une information sur l’évolution du système »
  • La comparaison entre l’API de Buffer et l’architecture de carpeta.app a mis au jour 12 décisions de conception récurrentes

Accumulation et accessibilité du savoir

• Chaque réunion, pensée ou expérience de débogage apporte un apprentissage, mais cela reste un savoir sans valeur s’il n’est pas interrogeable
• La recherche traditionnelle suppose de se souvenir des mots exacts, alors que la mémoire humaine a ses limites
• L’IA permet de dépasser cela grâce à
  • des requêtes fondées sur des concepts,
  • la recherche de motifs sur plusieurs années,
  • et les connexions entre idées au-delà du temps et du contexte
• La limite humaine n’était pas la création, mais le manque de capacité à consommer, mémoriser et relier

Construire un système de consommation

• Une configuration simple
  • stocker tous les enregistrements dans Obsidian
  • donner à l’IA accès à l’ensemble des données
  • interroger son soi passé comme un assistant de recherche
• L’essentiel n’est pas l’outil, mais le changement d’état d’esprit
  • il faut voir l’IA non comme un créateur, mais comme le lecteur de l’expérience
  • chaque note devient un insight futur, chaque réflexion se transforme en sagesse interrogeable

L’effet de composition

• Résultats de deux mois d’expérimentation
  • résolution de problèmes plus rapide grâce à la recherche de cas similaires dans le passé
  • meilleure qualité des décisions par la restauration de contextes oubliés
  • capacité à repérer des motifs auparavant invisibles, dispersés dans le temps
• La plupart des gens possèdent déjà une mine d’insights enfouie dans leurs notes, leurs fichiers et leurs souvenirs
  • l’IA peut la transformer en base de connaissances personnelle interrogeable

La véritable révolution

• Beaucoup continuent à voir l’IA uniquement comme un outil d’écriture ou de génération de code
• La vraie révolution réside dans le fait que l’IA agit comme un lecteur capable de parcourir toutes les pensées humaines
• Ainsi, consigner ses connaissances aujourd’hui devrait devenir un acte de documentation pour soi-même dans le futur et pour l’IA
  • pour une IA qui aide à se souvenir de ce qu’on a oublié, il faut adopter une habitude de documentation continue

[choijaekyu]

Au final, c’est une régression effectuée sur du texte

[crawler]

Pris isolément, le modèle n’est qu’un lecteur ordinaire. Il passe facilement à côté des points importants, mais combiné à des outils comme les tests, les compilateurs et les linters, il se transforme en un outil de création doté d’une boucle de feedback rapide.

Ça me parle bien. Je n’ai jamais essayé comme ça, mais je vais le faire.

[GN⁺]

Réactions sur Hacker News

• Je pense que la capacité de consommation d’information de l’IA est l’un de ses aspects les plus inquiétants
  La NSA et les grandes entreprises collectent déjà nos habitudes de navigation depuis des années, et il est préoccupant que l’IA puisse analyser ces données bien plus vite que les humains pour les utiliser dans la prédiction des comportements, la manipulation, le profilage psychologique ou l’identification de vulnérabilités
  Et pourtant, il est ironique de voir certaines personnes critiquer l’IA comme une technologie inutile

  • Même si l’IA était inutile, elle serait quand même utilisée à ces fins
    Parce qu’elle donne à ceux qui font ce genre de choses une illusion de confiance
  • Le terme « worthless » est ambigu
    L’IA peut être sans valeur (valueless), mais pas inutile (useless)
    De la même manière qu’une mine antipersonnel peut avoir une utilité sans avoir de valeur, l’IA générative suscite un débat similaire du point de vue des externalités
  • En réalité, ce type d’analyse de données était déjà possible avec les technologies de ML d’il y a 10 ans
    L’IA générative n’est pas indispensable
  • Plus que les discussions sur la superintelligence ou la créativité, ce qui m’inquiète, c’est la transformation en société de surveillance
    Les villes sont déjà couvertes de caméras, et le fait qu’aucun humain ne puisse surveiller toutes les vidéos joue aujourd’hui une sorte de rôle de garde-fou, mais l’IA pourrait faire tomber cette barrière
    Il semble probable que, dans un futur proche, apparaissent des systèmes de surveillance en langage naturel du type « préviens-moi si une Nissan rouge passe »
  • Les humains sont si complexes que, même avec les données de la NSA ou des entreprises, la précision de la prédiction comportementale restera probablement faible

• Un modèle, pris seul, est au niveau d’un lecteur ordinaire
  Il passe facilement à côté de l’essentiel, mais combiné à des outils comme les tests, les compilateurs ou les linters, il devient un outil de création avec une boucle de rétroaction rapide
  La vraie difficulté reste de décider « quoi affirmer »
  Ce contenu sera aussi repris dans la newsletter HackerNewsAI

  • Des garde-fous sont appliqués à l’IA sans que nous les connaissions
    Par exemple, il m’est déjà arrivé qu’une discussion sur l’énergie solaire soit bloquée parce qu’elle avait été prise à tort pour un sujet politique
  • Google lit et indexe depuis longtemps déjà des brevets et des documents de la SEC
    Dans certains domaines, il existe déjà des systèmes qui lisent des documents plus vite que des avocats

• Même si l’IA lit mes données en quelques secondes, vérifier l’exactitude reste impossible
  Certaines études disent qu’il ne s’agit pas de synthèse, mais simplement d’abréviation (abbreviation)
  Même un résultat comme « j’ai trouvé un motif à travers 50 entretiens individuels » peut en réalité ne concerner qu’une partie des données

  • J’aimerais connaître la méthodologie des recherches associées
    C’est surtout dangereux quand il s’agit d’un problème difficile à vérifier
    Il faut utiliser les LLM comme outil d’exploration, et laisser les humains produire les conclusions
  • Les humains non plus ne sont pas parfaits
    Si l’IA est ne serait-ce qu’un peu meilleure que l’humain, cela a déjà de la valeur
  • La vérification est souvent plus rapide que la résolution elle-même
    Il suffit de confirmer les éléments proposés par l’IA avec une recherche textuelle
  • L’IA est un outil de traitement de masse
    La gestion du contexte est essentielle, et même sans déterminisme complet, elle peut être utile
  • Si on demande au modèle de citer ses sources, on peut l’utiliser sans lui faire une confiance aveugle

• Je suis réticent à mettre des documents personnels dans le cloud
  Le risque pour la vie privée est trop élevé, donc j’attends que les LLM locaux progressent

  • Moi aussi, pour la même raison, j’utilise des modèles locaux
    Un modèle de l’ordre de 30B peut déjà résumer des documents sur un MacBook, mais l’ergonomie reste insuffisante
  • Je ne téléverse que des documents qui ne me dérangent pas si jamais ils fuitent
    Pour une activité couverte par des NDA, il est difficile de recommander autre chose que des modèles locaux
    Le matériel coûte cher, mais je pense qu’on reviendra un jour à un environnement d’exécution de modèles centré sur le PC
  • J’analyse des notes Obsidian avec mlx_lm d’Apple
    J’ai essayé le modèle Qwen 3, mais il y a beaucoup d’hallucinations et ce n’est pas vraiment pratique
    Même les modèles SOTA auront probablement une qualité de résumé comparable
  • J’utilise les LLM comme hobby
    J’ai acheté trois GPU pour faire tourner des modèles locaux, mais le ROI n’a absolument aucun sens
    C’est simplement parce que je trouve ça amusant
    S’il n’y a pas de clés sensibles, une petite location de GPU cloud peut aussi être une bonne option

• L’idée centrale du texte semble être de déléguer la réflexion à une machine
  J’utilise mes notes surtout autour de la mémoire et des associations, donc les confier à l’IA me donne l’impression d’un abandon de la pensée

  • À l’inverse, l’IA est un dispositif de mémoire capable de réactiver instantanément nos pensées, nos notes et nos expériences
    Le fait de pouvoir faire remonter des connaissances enfouies dans des e-mails ou d’anciens rapports est utile

• La moitié des « superpouvoirs » de l’IA vient déjà du fait que toutes les données sont bien organisées dans Obsidian
  Avec cette base, n’importe quel outil devient puissant

  • La plupart des gens ne consignent pas les choses avec une telle régularité
    C’est impressionnant qu’il récolte les fruits de ses efforts

• Le vrai talent de l’IA, c’est de dire ce qu’on a envie d’entendre
  Cette tendance est particulièrement forte depuis le RLHF
  Ses capacités de synthèse restent faibles, et dans la plupart des cas il s’agit d’abréviation plutôt que de résumé
  Les LLM excellent pour prolonger un texte, mais restent faibles sur la compréhension d’ensemble
  Si le « progrès exponentiel » dont on parlait en 2023 avait été réel, ce débat n’existerait même pas

• Pendant une conférence de maths, j’ai cherché un terme que je ne connaissais pas, et le résumé IA était plutôt bon
  Il ne faisait que reconstruire l’original, mais c’était exactement la fonction que je voulais

  • Mais la vérifiabilité du résumé est importante
    La plupart des gens privilégient une consommation rapide et n’acquièrent pas une compréhension profonde
  • Je pense qu’un résumé de faible qualité peut suffire s’il permet de saisir rapidement les grandes lignes
  • En cherchant un terme médical, Gemini m’a fourni un mélange de fausses informations et d’informations correctes
    Ça m’a fait peur de voir que même des experts le croyaient tel quel
    Et en plus, j’étais mal à l’aise à l’idée que Google ait peut-être associé cette maladie à mon profil

• Il m’est arrivé de croire l’IA quand elle disait que Set en JS est plus rapide qu’un Array, avant de me rendre compte que c’était faux à cause d’un contexte omis
  Malgré cela, l’IA est excellente pour synthétiser de vastes volumes de documents sur des sujets peu familiers
  Par exemple, en traduisant des poèmes de Lorca et de Cavafy, l’IA m’a bien expliqué le texte original et les difficultés de traduction
  J’ai obtenu de bien meilleurs résultats en l’utilisant comme outil d’assistance plutôt qu’en lui confiant directement la traduction
  J’ai détaillé cette expérience dans mon billet de blog