Impressions sur le Tesla AI Day
(facebook.com)-
En IA, les années 2010 et les années 2020 se distinguent clairement. Avec l’usage des GPU, une nouvelle ère de l’IA s’est ouverte
-
Même si le deep learning paraissait prometteur, on n’avait pas vraiment de moyen de l’entraîner ; puis on a attrapé des poissons rouges (= GPU) pour les faire apprendre, et là, quelque chose a commencé à marcher. Mais un poisson rouge reste un poisson rouge
-
Puisqu’il n’y a pas de solution avec des poissons rouges peu intelligents, rendons-les plus intelligents. C’est là qu’OpenAI entre en scène
→ Si un poisson rouge peu intelligent ne suffit pas, on en attrape dix mille et on relie leurs têtes pour en faire une tête de dauphin de cette taille
→ Et le résultat, c’est que ça apprend incroyablement bien. Comme la tête est devenue plus intelligente, même si on parle de façon brouillonne, ça comprend parfaitement
→ Avec une seule méthode d’apprentissage appelée Transformer, tout le monde a été mis d’accord
-
Le problème, c’est qu’assembler toutes ces têtes de poissons rouges n’est pas simple. Même Nvidia n’a pas encore complètement résolu la question
-
À l’heure actuelle, le cœur de la compétitivité en IA, ce n’est pas le modèle
→ L’argent nécessaire pour acheter dix mille poissons rouges (un A100 récent coûte 10 000 dollars ; avec dix mille cartes, cela fait déjà 100 milliards de wons rien qu’en GPU)
→ La technologie pour gérer ces têtes de poissons rouges assemblées comme une seule tête de dauphin
→ Les données dont ces dix mille poissons rouges ont besoin pour s’entraîner
- Au final, l’époque où chaque entreprise d’IA ramassait quelques poissons rouges à la volée pour bricoler une méthode d’apprentissage est terminée
→ Jusqu’ici, le seul à pouvoir tout faire — créer une nouvelle tête de poisson, la connecter et la faire fonctionner comme un dauphin — c’était Google
- C’est précisément ce que Tesla a montré aujourd’hui
→ Les poissons rouges de Nvidia ne sont pas formidables, alors nous avons créé un nouveau poisson noir
→ Nous lui avons aussi mis beaucoup de trous pour faciliter les connexions, et nous avons bien affiné sa tête
→ Et maintenant, avec ça, on peut même piloter des robots !
C’est un texte explicatif amusant, donc allez vraiment voir l’original
5 commentaires
D'autres impressions à lire aussi
https://www.facebook.com/mins21/posts/1696497720544616
Personnellement, quand Tesla dit « A sortira en 20xx ! », en réalité la sortie finit systématiquement par arriver 1 à 2 ans plus tard, donc je me dis qu’il vaut mieux se contenter d’attendre de le voir réellement sortir avant de trop s’emballer. À long terme, ils finiront sans doute par y arriver, bien sûr. Mais sur le long terme, les autres entreprises non plus ne restent pas les bras croisés... 🤔
Vous l’avez écrit de façon à ce que même un poisson rouge puisse le comprendre, mais c’est impressionnant de voir à quel point votre intelligence débordante transparaît clairement. Bloup bloup(... )
Snif, snif, je n’ai pas de compte Facebook, donc je ne peux pas voir le texte original…
Merci pour cette explication, c’était vraiment drôle mdr 😂😂😂😂😂😂😂