2024 : état des lieux de l’IA générative en entreprise - Menlo Ventures

Du pilote à la production : l’accélération de l’adoption de l’IA

• 2024 a été l’année où l’IA générative s’est imposée comme une stratégie centrale pour les entreprises
• Dépenses liées à l’IA : de 2,3 Md$ en 2023 à 13,8 Md$ en 2024, soit une hausse de plus de 6x
• 72 % des entreprises s’attendent à une adoption encore plus large des outils d’IA générative
• De nombreuses organisations n’ont toujours pas clairement défini leur stratégie de mise en œuvre, mais entrent déjà dans les premières phases d’un changement à grande échelle

Dépenses en IA générative : l’engagement financier des entreprises

• 60 % : financés par des budgets d’innovation
• 40 % : via une réaffectation des budgets existants, en intégrant l’IA dans leur stratégie de long terme
• 4,6 Md$ investis dans les applications d’IA générative, soit une multiplication par 8 sur un an
  • Les entreprises identifient en moyenne 10 cas d’usage potentiels, ce qui accélère la vitesse d’adoption

Principaux cas d’usage et ROI

1. Code copilots (51 % d’adoption)
   • Des outils comme GitHub Copilot, Codeium, Cursor améliorent la productivité des développeurs
2. Chatbots de support (31 % d’adoption)
   • Fournissent une assistance 24/7 : Aisera, Decagon, Sierra
3. Recherche d’entreprise et transformation de données (28 % et 27 % d’adoption)
   • Exploitent les silos de données via une recherche unifiée : Glean, Sana
4. Résumés de réunions (24 % d’adoption)
   • Fireflies.ai, Otter.ai, Fathom améliorent l’efficacité des réunions

Montée en puissance des agents IA et de l’automatisation

• Aujourd’hui : préférence pour des approches qui complètent le travail humain
• Demain : bascule attendue vers des agents totalement automatisés capables de gérer de façon autonome des processus complexes
  • Exemples : Clay, Forge

Freins à l’adoption et causes d’échec

• Raisons des échecs :
  1. Coût de mise en œuvre (26 %)
  2. Problèmes de confidentialité des données (21 %)
  3. ROI inférieur aux attentes (18 %)
  4. Problèmes techniques (15 %), y compris la génération d’"hallucinations"
• Il faut prioriser le ROI et la personnalisation, tout en prenant aussi en compte l’intégration technique et le support

État de l’adoption de l’IA générative par secteur

1. Santé (500 M$ de dépenses)
   • Documentation médicale automatisée et gestion des patients : Abridge, Notable
2. Juridique (350 M$ de dépenses)
   • Automatisation de la revue de contrats et de la préparation des contentieux : Harvey, Everlaw
3. Services financiers (100 M$ de dépenses)
   • Amélioration de la comptabilité et de la conformité réglementaire : Numeric, Rogo
4. Médias et divertissement (100 M$ de dépenses)
   • Gains d’efficacité dans la production de contenus : Runway, Descript

Stack technologique IA et patterns d’architecture

• Tendances clés :
  1. RAG (génération augmentée par récupération) : 51 % d’adoption
  2. Fine-tuning : toujours rare, avec seulement 9 % d’adoption
  3. Architectures agentiques : début d’adoption à 12 %
• Stockage des données :
  • La base de données vectorielle AI-native Pinecone détient 18 % de part de marché

Perspectives : principales prévisions sur l’avenir de l’IA

• 2024 a marqué le passage du hype à une mise en œuvre concrète, et les principales données ainsi que les tendances d’investissement conduisent aux trois prévisions majeures suivantes pour la suite :
• Les agents IA mèneront la prochaine vague de transformation
  • L’automatisation agentique devrait porter la transformation de l’IA au-delà de la génération de contenu et de la recherche de connaissances, en prenant en charge des tâches complexes à étapes multiples
    • Exemples : des plateformes comme Clay et Forge s’attaquent à un marché logiciel de 400 Md$ et à l’économie américaine des services de 10 000 Md$
  • Cette évolution nécessitera une nouvelle infrastructure :
    • Authentification des agents, plateformes d’intégration d’outils, frameworks de navigateur IA, runtimes dédiés au code généré par l’IA
• "David bat Goliath" : le déclin des acteurs historiques
  • ChatGPT a durement touché Chegg et Stack Overflow cette année :
    • Chegg : 85 % de la valeur de marché effacée
    • Stack Overflow : trafic web réduit de moitié
  • D’autres secteurs pourraient subir des pressions similaires :
    • Sociétés d’externalisation IT (Cognizant) et acteurs historiques de l’automatisation (UiPath)
    • De grands éditeurs comme Salesforce et Autodesk pourraient eux aussi être défiés par des startups AI-native
• La pénurie de talents IA va s’aggraver
  • La diffusion et la sophistication croissantes des systèmes d’IA entraînent une grave pénurie de talents
    • Pas seulement chez les data scientists : les profils capables de combiner expertise IA et connaissance métier sont particulièrement rares
    • Intensification de la concurrence :
      • Il devient courant de voir les salaires des enterprise architects expérimentés en IA augmenter de 2 à 3x
    • Malgré les investissements dans les programmes de formation et les centres IA, la demande de talents dépasse l’offre
    • Une concurrence féroce est attendue pour recruter les talents qui mèneront la prochaine vague d’innovation IA