Ne créez pas des produits d’IA comme tout le monde

Une mauvaise approche du développement de produits d’IA

• La plupart des produits d’IA sont conçus comme une surcouche autour d’un autre modèle, par exemple en appelant l’API de ChatGPT.
• Cette approche est facile à mettre en œuvre et peut offrir des fonctionnalités impressionnantes, mais elle pose des problèmes : absence de différenciation, coûts élevés et lenteur.
• Lorsque la proposition de valeur unique d’un produit d’IA est importante, dépendre d’une technologie facilement reproductible signifie occuper une position risquée.

Le problème du coût élevé et de la lenteur des LLM

• Les grands modèles de langage (Large Language Models, LLM) offrent de la polyvalence, mais leur taille et leur complexité rendent leurs coûts d’exploitation très élevés.
• Par exemple, GitHub Copilot coûte en moyenne 20 $ par utilisateur, mais n’en facture que 10 $, ce qui le place en situation de perte.
• La lenteur des LLM peut aussi poser des problèmes majeurs dans les applications qui exigent une réponse en temps réel.

Les limites des LLM et le problème de la personnalisation

• Les LLM prennent en charge le fine-tuning, mais ils ont des limites lorsqu’il s’agit d’apporter une solution à un problème précis.
• Lors du développement de Visual Copilot chez Builder.io, les LLM ont été utilisés pour convertir des designs Figma en code, mais le résultat était lent, coûteux et de faible qualité.

La solution : créer sa propre chaîne d’outils

• Builder.io a résolu ce problème en créant sa propre chaîne d’outils.
• L’entreprise combine des LLM affinés, un compilateur personnalisé et des modèles entraînés sur mesure.
• Cette méthode permet de créer un produit plus rapide, plus fiable, moins coûteux et plus différencié.

Les idées reçues sur le développement de produits d’IA

• Beaucoup pensent à tort que, dans un produit d’IA, toutes les technologies clés sont gérées par un seul super-modèle.
• Si l’on prend l’exemple des véhicules autonomes, on imagine souvent qu’une immense IA traite toutes les entrées et prend les décisions, alors qu’en réalité il s’agit d’une combinaison de plusieurs modèles spécialisés et de code classique.

Comment commencer réellement à construire de l’IA

• Il est utile d’explorer l’approche utilisée dans Visual Copilot pour concevoir une solution d’IA.
• Il faut explorer l’espace du problème avec des pratiques de programmation classiques, puis déterminer les zones qui nécessitent des modèles spécialisés.
• Si, pour un problème donné, le code standard ne suffit pas, il faut générer des données à l’aide de modèles d’IA éprouvés, puis entraîner son propre modèle.

L’avis de GN⁺

• Le plus important, lors du développement d’un produit d’IA, est d’éviter de faire comme tout le monde et de créer sa propre chaîne d’outils afin d’apporter une valeur réellement différenciante.
• Cet article est intéressant et convaincant, car il montre un usage innovant des technologies d’IA et suggère comment les développeurs peuvent s’en servir pour créer des produits originaux.