IA animée
(animatedai.github.io)- Animated AI est un projet qui présente les concepts des réseaux neuronaux à travers des animations et des vidéos pédagogiques, afin de rendre plus faciles à suivre des processus de calcul difficiles à comprendre visuellement
- Les ressources principales se concentrent sur l’algorithme fondamental de la convolution, le padding, le stride, les groups, le depthwise et la convolution depthwise-separable
- Les contenus sur Pixel Shuffle montrent le flux de changement de résolution à travers des exemples séparés avec des blocs 2x2 et 3x3
- Chaque sujet renvoie vers une vidéo YouTube associée à regarder avec les animations de la page
- La page du projet renvoie vers Patreon et la chaîne YouTube, et le code est publié sous licence MIT
Animations et vidéos sur les réseaux neuronaux
- Animated AI produit des animations et des vidéos pédagogiques expliquant les réseaux neuronaux
- Des liens officiels pour le soutien et le visionnage des vidéos sont également fournis
Ressources d’apprentissage sur la convolution
- Fundamental Algorithm of Convolution in Neural Networks est la vidéo YouTube associée consacrée à l’algorithme fondamental de la convolution
- Convolution Padding - Neural Networks montre les différences de padding
- Sans padding, c’est-à-dire « Valid »
- Padding
[1,1,1,1], c’est-à-dire « Same »
- Stride - Convolution in Neural Networks traite du paramétrage du stride et des combinaisons avec le padding
- Stride 1 et Stride 2
- Combinaisons de sans padding « Valid » et de padding
[1,1,1,1]« Same »
- Groups, Depthwise, and Depthwise-Separable Convolution (Neural Networks) est une ressource permettant de comparer les convolutions de type groups et depthwise
- 1 Group
- 2 Groups
- Depthwise, 8 Groups
- Depthwise-separable, avec application de pointwise après 8 Groups
Exemples de Pixel Shuffle
- Pixel Shuffle - Changing Resolution with Style est la vidéo YouTube associée consacrée à Pixel Shuffle
- Pour des blocs de taille 2x2, il est possible de voir des exemples de shuffle, unshuffle et de boucle répétée
- 2x2 Pixel Shuffle
- 2x2 Pixel Unshuffle
- 2x2 Pixel Shuffle/Unshuffle Loop
- Le même flux est également proposé avec des exemples séparés pour des blocs de taille 3x3
- 3x3 Pixel Shuffle
- 3x3 Pixel Unshuffle
- 3x3 Pixel Shuffle/Unshuffle Loop
Licence
- Le code du projet est publié sous MIT License
1 commentaires
Avis sur Hacker News
Le design est réussi, et il existe aussi un outil de visualisation de CNN issu de recherches de Georgia Tech
https://poloclub.github.io/cnn-explainer/
Collection d’outils pour concevoir et visualiser des architectures de réseaux de neurones : https://github.com/ashishpatel26/Tools-to-Design-or-Visualiz...
Il y a aussi TensorFlow Playground : https://playground.tensorflow.org/
“But what is a convolution?” : https://youtu.be/KuXjwB4LzSA?si=qwnZMQYJhDxraGc8 https://github.com/3b1b/videos/tree/master/_2022/convolution... https://github.com/3b1b/videos/tree/master/_2023/convolution...
“Convolution Is Fancy Multiplication” : https://news.ycombinator.com/item?id=25190770#25194658
Liens liés à Manim, Blender, ipyblender, PhysX, o3de, FEM et CFD dans https://news.ycombinator.com/item?id=37953886 : https://github.com/ManimCommunity/manim/issues/3362
La combinaison Manim + O3DE semble assez utile pour l’apprentissage, et il existe aussi le code d’une vidéo sur un algorithme de Rubik’s Cube réalisée avec Manim : https://github.com/polylog-cs/rubiks-cube-video/blob/main/co...
Documentation de l’API Manim : https://docs.manim.community/en/stable/reference.html
https://static.laszlokorte.de/conv2d/
Les couleurs sont vraiment bien utilisées ; au début, j’ai cru que c’était un exemple d’animation généré par IA
Comme c’est en fait fait à la main, l’effort fourni se voit encore mieux, et les vidéos de la chaîne YouTube valent aussi le détour
Beau projet, mais j’aimerais qu’il ne fasse pas charger sans avertissement des images GIF de plus de 100 Mo
Le NYT fait 11 Mo, le Washington Post 22 Mo, et un seul chargement de Reddit tourne autour de 40 Mo
Pour une page censée montrer des animations, une taille de l’ordre de 100 Mo ne me semble pas forcément nécessiter un avertissement préalable séparé
Je serais curieux de savoir quel comportement vous préféreriez. Par exemple, une image statique qui se lance au clic ou au tap, des sections masquées tant qu’elles ne sont pas dépliées, ou autre chose
Très bien réalisé, et cela me rappelle ces excellentes vidéos explicatives en animation 3D : https://www.youtube.com/@animagraffs
J’avais déjà fait moi-même des animations avec Manim ; c’est moins tape-à-l’œil, mais cela peut être utile
https://www.jerpint.io/blog/cnn-cheatsheet/
J’aimerais aussi voir les couches d’attention animées de cette façon. J’ai l’impression d’être tout près de comprendre, sans y être encore tout à fait
Si quelqu’un connaît une page qui l’a aidé à avoir le déclic pour comprendre complètement une couche d’attention, ce serait super de la partager
Le meilleur moyen d’être prévenu semble être de s’abonner à la chaîne YouTube et d’activer l’icône de notification
Pour voir des articles interactifs sur certains algorithmes d’IA, mlu-explain d’Amazon mérite aussi le détour
https://mlu-explain.github.io/
Vraiment excellent. Ce serait bien d’avoir aussi une section RNN ou Transformer, et je serais prêt à payer pour y accéder
Je me suis souvent dit que ce genre d’animation serait utile dans la documentation de pandas. Le pipeline groupby / split-apply-combine pourrait probablement s’expliquer avec un clip de 10 secondes