Réflexion sur la vallée dérangeante de l’IA générative

• L’IA générative a, contrairement à d’autres technologies, le pouvoir de susciter l’émerveillement
  • C’est parfois une bonne chose, mais pas toujours
  • Au cœur de cette expérience technologique se trouvent les questions que l’on se pose
    • "Est-ce vraiment ce que j’attendais ? Le résultat est-il suffisamment bon ? Ou bien est-ce qu’on me trompe ?"
• En théorie, à mesure que l’IA générative progresse, ce problème devrait devenir moins important, mais dans la réalité, plus elle devient « humaine », plus elle peut sembler inquiétante et dérangeante
  • Cela nous fait tomber dans une situation depuis longtemps décrite en robotique comme la "vallée dérangeante (uncanny valley)"
• On pourrait être tenté de balayer cela d’un revers de main en disant que de plus grands jeux de données ou un meilleur entraînement corrigeront le problème, mais tant qu’il s’agit de la confusion de notre modèle mental face à la technologie, c’est un "problème qu’il faut reconnaître et résoudre"

Modèles mentaux et anti-patterns

• Les modèles mentaux sont un concept important en UX et en design produit, mais ils devraient aussi être adoptés plus activement par la communauté IA
  • Dans la vie quotidienne, cela apparaît souvent peu : faire des hypothèses sur les systèmes d’IA relève d’un schéma devenu ordinaire
• Avec la popularité croissante des assistants de code IA, l’auteur pointe deux pratiques à éviter : la "complaisance envers le code généré par l’IA" et le "remplacement du pair programming par l’IA générative"
  • Toutes deux découlent d’un mauvais modèle mental sur "la manière dont cette technologie fonctionne réellement" et de l’incapacité à en reconnaître les limites
  • Plus ces outils deviennent convaincants et « humains », plus il devient difficile de reconnaître comment la technologie fonctionne réellement et les limites des « solutions » qu’elle fournit
• Pour celles et ceux qui déploient l’IA générative dans le monde réel, le risque peut être similaire, voire plus marqué
  • L’intention est généralement de créer quelque chose de convaincant et d’utilisable, mais si cela induit les utilisateurs en erreur, les trompe ou les met mal à l’aise, la valeur disparaît
  • Il n’est pas surprenant de voir apparaître des lois comme l’EU AI Act, qui impose d’étiqueter les contenus générés par l’IA pour les créateurs de deepfakes
• Des problèmes similaires existent non seulement en IA et en robotique, mais aussi dans la création d’applications mobiles cross-platform
  • Les différentes plateformes s’utilisent différemment, il faut donc repenser l’ensemble de l’expérience
  • De même, avec l’IA générative, différents contextes et cas d’usage impliquent des hypothèses et des modèles mentaux différents, et les points où les utilisateurs tombent dans la vallée dérangeante varient eux aussi
  • Ces nuances modifient l’expérience et la perception des sorties de LLM
• Pour un chercheur pharmaceutique qui a besoin d’énormes volumes de données synthétiques, la précision au niveau micro n’est peut-être pas essentielle, mais pour un avocat qui tente de comprendre des documents juridiques, elle est cruciale
  • Tomber dans la vallée dérangeante peut être un signal invitant à prendre du recul et à réévaluer ses attentes

"Les modèles mentaux et concepts existants autour de l’IA générative ne sont pas des problèmes secondaires négligeables, mais des problèmes fondamentaux de design"
Ken Mugrage & Srinivasan Raguraman

Changer de perspective

• La vallée dérangeante de l’IA générative peut être un problème, mais aussi un outil qui nous rappelle les limites de la technologie
• Il y a eu, dans l’ensemble de l’industrie, des tentatives intéressantes pour y répondre
  • Ethan Mollick, professeur à l’université de Pennsylvanie, soutient qu’il faut comprendre l’IA non pas comme un bon logiciel, mais comme des "personnes plutôt compétentes"
    • Comme les humains, l’IA a des forces et des faiblesses singulières, ce qui rend difficile de savoir quelles tâches lui confier
    • Comme il n’existe pas de manuel, la seule manière de découvrir ce que l’IA fait bien est d’apprendre en travaillant avec elle
  • En d’autres termes, les attentes quant à ce que l’IA générative peut faire et aux domaines où elle est efficace doivent rester provisoires et flexibles
  • Réfléchir, dans une certaine mesure, à ses hypothèses et à ses attentes peut être une manière de dépasser la vallée dérangeante

Ouvrir la boîte noire

• Exiger uniquement un changement de posture ne suffit pas
  • C’est une première étape, mais il existe aussi des pratiques et des outils qui aident à penser différemment l’IA générative et à relever les défis posés par les modèles mentaux
• Un exemple est la technique "Obtenir des sorties structurées à partir des LLM" identifiée dans le dernier Technology Radar
  • On peut l’obtenir en demandant, dans le prompt, de répondre dans un format spécifique, ou via le fine-tuning
  • Grâce à des outils comme Instructor, c’est plus facile qu’auparavant
  • Cela a l’avantage d’apporter un meilleur alignement entre les attentes et les sorties du LLM
    • Il reste possible d’obtenir quelque chose d’inattendu ou de pas tout à fait correct, mais cette technique atténue le problème dans une certaine mesure
• Il existe aussi d’autres techniques
  • Retrieval-augmented generation est généralement une meilleure façon de mieux contrôler la pénible gestion de la "fenêtre de contexte"
  • Je me réjouis de voir apparaître des frameworks et des outils permettant d’évaluer et de mesurer le succès de ces techniques
    • Ragas est une bibliothèque utile qui fournit aux développeurs IA des métriques sur des aspects comme la fidélité et la pertinence
    • DeepEval est également présenté dans le Radar
• La mesure est importante, mais il est tout aussi important de réfléchir aux directives et aux politiques pertinentes pour les LLM
  • C’est pourquoi il est recommandé d’explorer LLM Guardrails
  • Il faut aussi prendre des mesures pour mieux comprendre ce qui se passe réellement à l’intérieur de ces modèles
    • Il est peut-être impossible d’ouvrir complètement ces boîtes noires, mais grâce à des outils comme Langfuse, les équipes et les organisations peuvent obtenir une vision plus claire de leur fonctionnement
    • Cela peut grandement aider à redéfinir notre relation à cette technologie, à faire évoluer nos modèles mentaux et à réduire la probabilité de tomber dans la vallée dérangeante

Non pas un défaut, mais une opportunité

• Ces outils, décrits comme une "explosion cambrienne des outils d’IA générative", peuvent aider celles et ceux qui sont au cœur du secteur à repenser l’IA générative et à construire de meilleurs produits
• Mais pour le reste du monde, ce travail restera invisible
  • Ainsi, au-delà de faire évoluer les toolchains pour mieux contrôler et comprendre l’IA générative, il est important de reconnaître que les modèles mentaux existants et la notion même d’IA générative constituent un problème fondamental de design
  • Ce n’est pas un problème secondaire que l’on pourra ignorer à l’avenir

"La vallée dérangeante de l’IA générative n’est pas un problème à corriger, mais une occasion de réévaluer ce que nous voulons et attendons réellement de cette technologie"