Informatique > Machine learning
-
Exercices de machine learning à faire avec un stylo et du papier
- Ce document, rédigé par Michael U. Gutmann, est principalement un recueil d’exercices de machine learning pouvant être résolus avec un stylo et du papier.
- Les sujets abordés incluent l’algèbre linéaire, l’optimisation, les modèles graphiques dirigés, les modèles graphiques non dirigés, la puissance d’expression des modèles graphiques, les factor graphs et la transmission de messages, l’inférence sur les modèles de Markov cachés, l’apprentissage fondé sur les modèles (y compris l’ICA et les modèles non normalisés), l’échantillonnage et l’intégration de Monte Carlo, ainsi que l’inférence variationnelle.
-
Autres informations
- Une page GitHub associée est disponible.
- Ce document a été soumis à arXiv et relève des domaines machine learning (cs.LG) et statistical machine learning (stat.ML).
- Son identifiant arXiv est arXiv:2206.13446 et son DOI est https://doi.org/10.48550/arXiv.2206.13446.
1 commentaires
Commentaires sur Hacker News
Ça a l'air super, mais l'une des choses les plus frustrantes quand on étudie le machine learning, c'est qu'on peut aller très loin dans la théorie sans voir comment cela se relie à la pratique. Par exemple, comment choisir le nombre de neurones dans une couche, combien de couches il faut, quelle fonction d'activation utiliser, s'il faut employer un réseau de neurones ou une autre technique, etc. Si quelqu'un pouvait expliquer cette partie, ce serait apprécié
Très propre. Cela me rappelle les exercices de Tom Yeh dans "AI By Hand"
C'est amusant de voir les mathématiciens essayer en permanence de plaquer l'algèbre linéaire et la théorie des matrices sur le machine learning. Quelqu'un qui ne connaît pas bien le sujet pourrait croire que ce sont les universitaires qui ont inventé les LLM et qu'il faudrait les consulter. En réalité, les universitaires et les théoriciens ont freiné le machine learning, et comme ils considéraient les techniques de calcul comme inférieures, ils ont forcé plusieurs générations d'étudiants en doctorat à faire des preuves symboliques
Ça semble bien propre. Mon seul reproche, c'est que les réponses sont données juste après les questions, donc on finit par les lire avant d'avoir réfléchi soi-même
Vraiment très propre. Je travaille dans le domaine du machine learning, mais j'ai toujours l'impression d'être un imposteur sur les bases mathématiques, surtout en algèbre linéaire et en opérations sur les matrices/tenseurs. Je me demande s'il existe de bonnes ressources avec des séries de problèmes centrées sur les techniques fondamentales du deep learning. J'apprends mieux avec un peu de pratique chaque jour et en voyant le sujet sous l'angle de plusieurs enseignants
Parmi les praticiens qui construisent aujourd'hui du machine learning "utile", combien sauraient résoudre ces problèmes ? Et devraient-ils savoir le faire ?
Une belle ressource avec des solutions complètes, merci de l'avoir partagée. S'il existe ce genre d'exercices papier-crayon sur d'autres sujets, cela m'intéresserait
arXiv n'est-il pas censé être réservé aux articles de niveau recherche ? Je suis surpris que ce document y soit hébergé
Déjà discuté à l'époque : Exercices papier-crayon en machine learning (2021) - juin 2022 (55 commentaires)