17 points par xguru 2021-08-21 | 5 commentaires | Partager sur WhatsApp
  1. En IA, les années 2010 et les années 2020 se distinguent clairement. Avec l’usage des GPU, une nouvelle ère de l’IA s’est ouverte

  2. Même si le deep learning paraissait prometteur, on n’avait pas vraiment de moyen de l’entraîner ; puis on a attrapé des poissons rouges (= GPU) pour les faire apprendre, et là, quelque chose a commencé à marcher. Mais un poisson rouge reste un poisson rouge

  3. Puisqu’il n’y a pas de solution avec des poissons rouges peu intelligents, rendons-les plus intelligents. C’est là qu’OpenAI entre en scène

→ Si un poisson rouge peu intelligent ne suffit pas, on en attrape dix mille et on relie leurs têtes pour en faire une tête de dauphin de cette taille

→ Et le résultat, c’est que ça apprend incroyablement bien. Comme la tête est devenue plus intelligente, même si on parle de façon brouillonne, ça comprend parfaitement

→ Avec une seule méthode d’apprentissage appelée Transformer, tout le monde a été mis d’accord

  1. Le problème, c’est qu’assembler toutes ces têtes de poissons rouges n’est pas simple. Même Nvidia n’a pas encore complètement résolu la question

  2. À l’heure actuelle, le cœur de la compétitivité en IA, ce n’est pas le modèle

→ L’argent nécessaire pour acheter dix mille poissons rouges (un A100 récent coûte 10 000 dollars ; avec dix mille cartes, cela fait déjà 100 milliards de wons rien qu’en GPU)

→ La technologie pour gérer ces têtes de poissons rouges assemblées comme une seule tête de dauphin

→ Les données dont ces dix mille poissons rouges ont besoin pour s’entraîner

  1. Au final, l’époque où chaque entreprise d’IA ramassait quelques poissons rouges à la volée pour bricoler une méthode d’apprentissage est terminée

→ Jusqu’ici, le seul à pouvoir tout faire — créer une nouvelle tête de poisson, la connecter et la faire fonctionner comme un dauphin — c’était Google

  1. C’est précisément ce que Tesla a montré aujourd’hui

→ Les poissons rouges de Nvidia ne sont pas formidables, alors nous avons créé un nouveau poisson noir

→ Nous lui avons aussi mis beaucoup de trous pour faciliter les connexions, et nous avons bien affiné sa tête

→ Et maintenant, avec ça, on peut même piloter des robots !

C’est un texte explicatif amusant, donc allez vraiment voir l’original

5 commentaires

 
xguru 2021-08-24

D'autres impressions à lire aussi

https://www.facebook.com/mins21/posts/1696497720544616

 
laeyoung 2021-08-22

Personnellement, quand Tesla dit « A sortira en 20xx ! », en réalité la sortie finit systématiquement par arriver 1 à 2 ans plus tard, donc je me dis qu’il vaut mieux se contenter d’attendre de le voir réellement sortir avant de trop s’emballer. À long terme, ils finiront sans doute par y arriver, bien sûr. Mais sur le long terme, les autres entreprises non plus ne restent pas les bras croisés... 🤔

 
ffdd270 2021-08-21

Vous l’avez écrit de façon à ce que même un poisson rouge puisse le comprendre, mais c’est impressionnant de voir à quel point votre intelligence débordante transparaît clairement. Bloup bloup(... )

 
kunggom 2021-08-21

Snif, snif, je n’ai pas de compte Facebook, donc je ne peux pas voir le texte original…

 
piriri11 2021-08-21

Merci pour cette explication, c’était vraiment drôle mdr 😂😂😂😂😂😂😂