- OpenAI enregistre une utilisation plus importante que tous les autres fournisseurs de modèles, y compris Google et Anthropic
- Ces entreprises collectent d’énormes volumes de données, y compris les prompts des utilisateurs ainsi que les retours explicites et implicites, afin d’aider à l’entraînement des futurs modèles
- Les principaux avantages de ces entreprises sont la scalabilité de l’infrastructure et la qualité du service
- Le coût d’utilisation d’OpenAI pour affiner GPT-3.5 est 3 à 8 fois inférieur à celui de la location d’une Amazon p4d.24xlarge
- Les coûts d’OpenAI incluent l’entraînement et le stockage des poids du modèle, la construction et la maintenance de l’infrastructure de fine-tuning, ainsi que l’expertise nécessaire pour gérer des milliers de GPU
- L’idée est que, pour la plupart des organisations, exploiter leur propre déploiement open source de LLM n’a pas de sens en raison du temps, des ressources humaines et des fonds nécessaires
- Les modèles open source doivent encore réduire davantage les coûts, la complexité et le temps nécessaire pour les personnaliser et les exécuter
- Même si les prix finissent par augmenter, les grands fournisseurs de LLM comme OpenAI domineront probablement le marché grâce à leur capacité à proposer des modèles avec des économies d’échelle extrêmes
5 commentaires
Au vu du titre seul, j’ai cru que cela voulait dire qu’il était trop facile de battre OpenAI dans la concurrence, mais en lisant l’article original, il s’agissait en fait de dire que le coût est trop bas pour pouvoir battre OpenAI dans la concurrence… haha
Le titre et le contenu disent exactement l’inverse l’un de l’autre… comment pouvez-vous interpréter cela ainsi ?
L’IA a rendu la traduction étrange, donc je l’ai légèrement corrigée à la main.
À l’origine, le titre était : « Il est trop bon marché de pouvoir battre OpenAI ».
mdr