Rapport « Intelligence artificielle : la révolution qui arrive (AI: the coming revolution) »

ninebow · 2023-11-22T17:22:09+09:00

Vue d’ensemble Il s’agit d’une présentation de Sri Viswanath de Coatue Ventures sur l’état actuel de l’IA, donnée lors du Cerebral Valley AI Summit. Coatue Ventures est une société d’investissement (VC) qui suit le secteur de l’IA depuis plus de 10 ans et a investi dans plus de 50 entreprises liées à l’IA. Ce rapport se distingue notamment par l’analyse et la publication de divers indicateurs issus de Hugging Face et GitHub. Si 2002 a été l’année qui a déclenché la croissance explosive de l’IA, 2023 est l’année où la vague de l’IA a pris forme et a commencé à influencer des domaines plus larges. L’IA peut franchir les obstacles et améliorer concrètement le monde Avec GitHub Copilot, les tâches sont terminées plus de 50 % plus vite, et les coûts du support client peuvent diminuer jusqu’à 95 %. Les utilisateurs sont plus satisfaits, les temps de réponse ont diminué, et selon une étude de BCG, la qualité du travail intellectuel s’est également améliorée d’environ 40 %. L’IA est en train de trouver son point de bascule et devrait avoir un impact sur notre vie quotidienne ainsi que sur l’ensemble de l’économie moderne. L’open source est le cœur de l’IA, mais tout le monde n’est pas à égalité La recherche open source, les données et les communautés sont au cœur de la révolution de l’IA. Depuis l’article sur les transformers jusqu’au tout dernier modèle Llama-2, l’open source a permis aux ingénieurs d’améliorer l’IA de manière itérative. Cependant, tout l’open source n’est pas réellement « open », et récemment certaines entreprises ont choisi de ne pas publier leurs travaux ou leurs résultats de recherche, ou encore de garder leurs modèles fermés. Malgré cela, nous constatons que la communauté de l’IA open source continue de croître de façon dynamique : En novembre 2023, plus de 200 000 développeurs contribuaient à des projets IA sur GitHub. Par ailleurs, plus de 300 000 modèles avaient été publiés sur Hugging Face, et les canaux Discord liés à l’IA comptaient plus de 18 millions de membres. Il faut comprendre la nouvelle stack technologique centrée sur l’IA La vague montante de l’IA transforme la stack technologique utilisée pour développer les services. Les développeurs comme les investisseurs doivent comprendre les composants de chaque couche et la manière dont ils interagissent. Jusqu’à présent, la couche des modèles IA a attiré la majorité des investissements, mais l’innovation se produira partout, des data centers pour l’IA jusqu’aux applications destinées aux utilisateurs finaux. Modèles d’IA Nous sommes entrés dans l’ère où les modèles fournissent une « intelligence as a service » (IQaaS), et les gagnants seront probablement déterminés par la compétition sur les talents, les données et la puissance de calcul. Faire évoluer les performances des modèles signifie aussi faire évoluer les jeux de données de haute qualité. Des modèles entraînés sur des jeux de données élagués et curés, ne représentant que 30 % de la taille initiale, peuvent aussi bien fonctionner ; les données synthétiques et les retours utilisateurs constituent également des pistes prometteuses à explorer. Puissance de calcul et plateformes cloud Les accélérateurs matériels comme les GPU constituent la base de la puissance de l’IA. La demande ininterrompue en GPU a eu des effets en chaîne sur l’ensemble de l’économie, depuis la pression exercée sur les réseaux électriques jusqu’à l’accélération de la croissance de la chaîne d’approvisionnement des semi-conducteurs et la reprise de la demande pour les services cloud. À mesure que l’IA devient plus mainstream, nous nous attendons à ce que la charge liée aux tâches d’inférence devienne bien plus intensive en calcul. Le coût nécessaire pour servir 100 millions d’utilisateurs de GPT-4 pourrait être quatre fois supérieur à celui de l’entraînement du modèle. Outils pour développeurs L’un des grands changements survenus depuis l’explosion de l’IA en 2022 est la démocratisation de l’IA et l’émergence de l’ingénieur IA, avec l’apparition de nouveaux outils AI Ops pour entraîner / affiner / déployer les modèles. L’émergence d’une couche d’outils AI Ops dynamique a permis à environ 30 millions de développeurs dans le monde d’accéder à l’IA, ce qui devrait créer un potentiel explosif dans la couche applicative. Applications IA Nous estimons que l’adoption des applications IA ne fait que commencer, et nous prévoyons l’apparition de nombreux autres cas d’usage à l’avenir. L’intérêt des consommateurs et des entreprises pour l’IA prend déjà de l’ampleur, depuis les domaines créatifs avec Runway et Tome jusqu’aux domaines professionnels avec Replit ou Aurora Solar. Point de vue de Coatue : la meilleure IA n’est pas encore arrivée À l’avenir, l’IA dans le monde réel devrait devenir plus accessible, plus scalable et plus utile. Le rapport prévoit également que les langages naturels comme l’anglais deviendront les meilleurs langages de programmation. L’IA devrait permettre à davantage de personnes de développer des logiciels comme les développeurs, et de créer de nouvelles capacités dans des secteurs comme la santé ou le retail en entraînant l’IA sur des jeux de données individuels. Par ailleurs, grâce à la poursuite de la recherche, les modèles d’IA devraient continuer à innover, devenir plus intelligents et acquérir davantage de capacités. En d’autres termes, la meilleure IA est encore à venir. À court terme, il semble nécessaire de se concentrer sur la résolution des hallucinations dans les sorties des modèles IA, sur l’activation de divers cas d’usage multimodaux, sur la réduction des coûts, ainsi que sur la simplification et la sécurisation du déploiement de l’IA. À long terme, le développement de l’IA devrait devenir un défi d’ingénierie visant à étendre l’IA à des milliards d’utilisateurs. Le rapport adopte aussi une vision optimiste : les innovateurs de l’IA développeront de nouvelles capacités pour créer une IA utile à tous.

(coatue.com)

11 points par ninebow 2023-11-22 | 1 commentaires | Partager sur WhatsApp

Vue d’ensemble

Il s’agit d’une présentation de Sri Viswanath de Coatue Ventures sur l’état actuel de l’IA, donnée lors du Cerebral Valley AI Summit.
Coatue Ventures est une société d’investissement (VC) qui suit le secteur de l’IA depuis plus de 10 ans et a investi dans plus de 50 entreprises liées à l’IA.
Ce rapport se distingue notamment par l’analyse et la publication de divers indicateurs issus de Hugging Face et GitHub.
Si 2002 a été l’année qui a déclenché la croissance explosive de l’IA, 2023 est l’année où la vague de l’IA a pris forme et a commencé à influencer des domaines plus larges.

L’IA peut franchir les obstacles et améliorer concrètement le monde

Avec GitHub Copilot, les tâches sont terminées plus de 50 % plus vite, et les coûts du support client peuvent diminuer jusqu’à 95 %.
Les utilisateurs sont plus satisfaits, les temps de réponse ont diminué, et selon une étude de BCG, la qualité du travail intellectuel s’est également améliorée d’environ 40 %.
L’IA est en train de trouver son point de bascule et devrait avoir un impact sur notre vie quotidienne ainsi que sur l’ensemble de l’économie moderne.

L’open source est le cœur de l’IA, mais tout le monde n’est pas à égalité

La recherche open source, les données et les communautés sont au cœur de la révolution de l’IA. Depuis l’article sur les transformers jusqu’au tout dernier modèle Llama-2, l’open source a permis aux ingénieurs d’améliorer l’IA de manière itérative.
Cependant, tout l’open source n’est pas réellement « open », et récemment certaines entreprises ont choisi de ne pas publier leurs travaux ou leurs résultats de recherche, ou encore de garder leurs modèles fermés.
Malgré cela, nous constatons que la communauté de l’IA open source continue de croître de façon dynamique :
- En novembre 2023, plus de 200 000 développeurs contribuaient à des projets IA sur GitHub.
- Par ailleurs, plus de 300 000 modèles avaient été publiés sur Hugging Face, et les canaux Discord liés à l’IA comptaient plus de 18 millions de membres.

Il faut comprendre la nouvelle stack technologique centrée sur l’IA

La vague montante de l’IA transforme la stack technologique utilisée pour développer les services.
Les développeurs comme les investisseurs doivent comprendre les composants de chaque couche et la manière dont ils interagissent.
Jusqu’à présent, la couche des modèles IA a attiré la majorité des investissements, mais l’innovation se produira partout, des data centers pour l’IA jusqu’aux applications destinées aux utilisateurs finaux.

Modèles d’IA

Nous sommes entrés dans l’ère où les modèles fournissent une « intelligence as a service » (IQaaS), et les gagnants seront probablement déterminés par la compétition sur les talents, les données et la puissance de calcul.
Faire évoluer les performances des modèles signifie aussi faire évoluer les jeux de données de haute qualité. Des modèles entraînés sur des jeux de données élagués et curés, ne représentant que 30 % de la taille initiale, peuvent aussi bien fonctionner ; les données synthétiques et les retours utilisateurs constituent également des pistes prometteuses à explorer.

Puissance de calcul et plateformes cloud

Les accélérateurs matériels comme les GPU constituent la base de la puissance de l’IA. La demande ininterrompue en GPU a eu des effets en chaîne sur l’ensemble de l’économie, depuis la pression exercée sur les réseaux électriques jusqu’à l’accélération de la croissance de la chaîne d’approvisionnement des semi-conducteurs et la reprise de la demande pour les services cloud.
À mesure que l’IA devient plus mainstream, nous nous attendons à ce que la charge liée aux tâches d’inférence devienne bien plus intensive en calcul. Le coût nécessaire pour servir 100 millions d’utilisateurs de GPT-4 pourrait être quatre fois supérieur à celui de l’entraînement du modèle.

Outils pour développeurs

L’un des grands changements survenus depuis l’explosion de l’IA en 2022 est la démocratisation de l’IA et l’émergence de l’ingénieur IA, avec l’apparition de nouveaux outils AI Ops pour entraîner / affiner / déployer les modèles.
L’émergence d’une couche d’outils AI Ops dynamique a permis à environ 30 millions de développeurs dans le monde d’accéder à l’IA, ce qui devrait créer un potentiel explosif dans la couche applicative.

Applications IA

Nous estimons que l’adoption des applications IA ne fait que commencer, et nous prévoyons l’apparition de nombreux autres cas d’usage à l’avenir.
L’intérêt des consommateurs et des entreprises pour l’IA prend déjà de l’ampleur, depuis les domaines créatifs avec Runway et Tome jusqu’aux domaines professionnels avec Replit ou Aurora Solar.

Point de vue de Coatue : la meilleure IA n’est pas encore arrivée

À l’avenir, l’IA dans le monde réel devrait devenir plus accessible, plus scalable et plus utile. Le rapport prévoit également que les langages naturels comme l’anglais deviendront les meilleurs langages de programmation.
L’IA devrait permettre à davantage de personnes de développer des logiciels comme les développeurs, et de créer de nouvelles capacités dans des secteurs comme la santé ou le retail en entraînant l’IA sur des jeux de données individuels.
Par ailleurs, grâce à la poursuite de la recherche, les modèles d’IA devraient continuer à innover, devenir plus intelligents et acquérir davantage de capacités. En d’autres termes, la meilleure IA est encore à venir.
À court terme, il semble nécessaire de se concentrer sur la résolution des hallucinations dans les sorties des modèles IA, sur l’activation de divers cas d’usage multimodaux, sur la réduction des coûts, ainsi que sur la simplification et la sécurisation du déploiement de l’IA.
À long terme, le développement de l’IA devrait devenir un défi d’ingénierie visant à étendre l’IA à des milliards d’utilisateurs. Le rapport adopte aussi une vision optimiste : les innovateurs de l’IA développeront de nouvelles capacités pour créer une IA utile à tous.

1 commentaires

ninebow 2023-11-22

Voir le PDF complet

https://drive.google.com/file/d/1gQhYT7j6b2wJmrFZHNeQgTiWPyTsjOfX/view

(⚠️Publicité⚠️) Voir le même contenu avec des slides sur la communauté coréenne PyTorch

https://discuss.pytorch.kr/t/ai-the-coming-revolution-pdf-115p/2906