Feuille de route de l’IA d’entreprise : évolution de l’environnement des plateformes de développement IA, du ROI des acheteurs et des méthodes d’évaluation des cas d’usage

• Document publié le 21 juin par le cabinet américain d’études de marché CB Insights
• Les entreprises historiques du machine learning perdent de leur élan
  • Les plateformes de développement de machine learning d’entreprise comme DataRobot et Dataiku souffrent sur un marché saturé
  • Dataiku a connu un down round en décembre 2022, DataRobot a procédé à plusieurs restructurations
• Les entreprises tirent parti de la dynamique de l’IA générative
  • Des entreprises comme Scale, Hugginf Face et Databricks ont pris de l’élan grâce à l’IA générative, en augmentant leurs effectifs et en prenant de l’avance sur le financement
  • Databricks a acquis la startup LLMOps MosaicML pour 1,3 milliard de dollars en juin 2023 afin d’étendre les capacités de son produit, puis un an plus tard la startup de gestion de données Tabular pour plus de 1 milliard de dollars
• Les géants de la tech progressent aux côtés des nouvelles startups
  • Les big tech construisent des gammes de produits pour l’ère de l’IA générative
  • Google a étendu la plateforme de développement Vertex AI pour donner accès au modèle Gemini ainsi qu’à des modèles tiers/open source
  • AWS a annoncé le service managé Amazon Bedrock pour le développement d’IA générative
• Évaluation du ROI
  • Des entretiens avec des clients entreprises de plateformes de développement IA ont permis d’identifier les méthodes d’évaluation du ROI : gains de productivité et réduction des coûts
  • Les acheteurs examinent des indicateurs précis pour mesurer les gains de productivité, comme l’augmentation des outputs (nombre de fonctionnalités lancées), la vitesse d’exécution du travail et l’efficacité globale des équipes
  • Un point étroitement lié aux gains de productivité : les économies directes permises par les outils d’IA
• Avenir du développement IA en entreprise
  • L’adoption de l’IA générative en entreprise n’en est encore qu’à ses débuts
  • Cas d’usage les plus courants : création de contenu, assistance au support en entreprise, recherche en langage naturel, conception et génération de données, génération de code, automatisation documentaire
  • 6 enseignements tirés des données de CB Insights et d’entretiens avec des acheteurs
    • L’exploitation de données propriétaires permet des cas d’usage différenciés
    • Atouts des big tech : échelle, infrastructure et relations clients existantes
    • Les entreprises font face à une pression croissante pour explorer les modèles open source
    • Adoption accrue de modèles spécialisés par tâche
      • Les small language models (SLM) s’entraînent plus vite et coûtent moins cher à exécuter que les modèles généralistes
      • Pour des tâches spécifiques, leurs performances peuvent être suffisantes pour les entreprises, voire supérieures à celles des LLM dans certains cas
      • Ils ont un potentiel d’amélioration en matière de confidentialité et de sécurité des données
    • À mesure que le secteur de l’IA générative mûrit, une consolidation se profile (ex. : M&A)

    • Les dépenses en IA d’entreprise sont gérées de façon plus stricte