Introduction à l’algèbre linéaire expliquée par des traits

• Cet article présente les concepts de base de l’algèbre linéaire à l’aide d’illustrations
• Il met d’abord l’accent sur l’élimination de Gauss et les concepts de représentation par lignes vs représentation par colonnes
• Il explique de manière accessible les équations linéaires et le processus pour trouver leurs solutions à l’aide d’exemples concrets (pièces, nourriture)
• Il souligne le changement de perspective mathématique au-delà des suites, avec des notions comme les vecteurs et la notation matricielle
• Il insiste sur le fait que le cœur de l’algèbre linéaire consiste à manipuler non pas des nombres, mais des tableaux, vecteurs et matrices

---

Introduction

Cet article est une introduction destinée à celles et ceux qui connaissent l’algèbre classique mais pas l’algèbre linéaire.
Les deux premiers concepts importants abordés sont l’élimination de Gauss (Gaussian elimination) et la représentation par lignes (row picture) vs représentation par colonnes (column picture).

Exemple avec de l’argent

• Explication d’un problème où l’on cherche combien de pièces de 5 cents (nickel) et de 1 cent (penny) il faut pour obtenir 23 cents
• x représente le nombre de nickels et y le nombre de pennies. Écrit sous forme d’équation, cela devient une équation linéaire où certaines combinaisons de x et y donnent 23
• Dans cet exemple, plusieurs solutions sont possibles (par exemple : 4 pièces de 5 cents et 3 pièces de 1 cent, ou bien 23 pièces de 1 cent)
• Il est souligné qu’une équation linéaire (linear equation) est une expression sans courbe ni trou, où tout reste dans un même plan
• Faire correspondre un nombre avec 2 variables est simple, mais quand il faut faire correspondre simultanément deux nombres avec 2 variables, cela se complique ; c’est là que l’élimination de Gauss devient utile

Exemple avec de la nourriture

• Problème où l’on dispose de deux aliments, comme du pain (bread) et du lait (milk), et où l’on cherche la combinaison permettant d’atteindre un objectif donné à partir de leurs valeurs en glucides (carbs) et en protéines (protein) (par exemple : 5 g de glucides et 7 g de protéines)
• Dans ce cas, il faut construire deux équations puis trouver les valeurs de x (quantité de lait) et y (quantité de pain)
• Ce type de problème se résout avec l’élimination de Gauss

Élimination de Gauss

• Explication du processus : on réécrit le problème sous forme de deux équations linéaires, puis on soustrait ou ajoute un certain multiple d’une équation à l’autre afin d’éliminer les variables une à une et de resserrer les valeurs possibles
• Dans l’exemple, on élimine y pour trouver la valeur de x, puis on la réinjecte pour déterminer y
• Le résultat final est 3 unités de lait et 1 unité de pain
• Il est mentionné que l’élimination de Gauss est une technique générale, ancienne et largement utilisée

Comprendre par le dessin

• Après avoir résolu le problème ci-dessus avec la représentation par lignes (row picture), l’article montre maintenant une résolution visuelle à l’aide d’un dessin / graphique
• Chaque équation est transformée en fonction de x (le lait), puis représentée sous forme de droite sur un graphique
• Le graphe de la première équation correspond à toutes les combinaisons lait-pain (les points sur la droite) qui satisfont l’objectif en glucides
• La deuxième équation est représentée de la même manière
• Pour satisfaire les deux objectifs simultanément, la bonne réponse est le point d’intersection des deux droites
• Cette méthode conduit elle aussi au résultat 3 unités de lait et 1 unité de pain
• Il est expliqué que l’élimination de Gauss est une technique très fondamentale et indispensable, utilisée depuis plus de 2000 ans, même sans algèbre linéaire

Représentation par colonnes (Column Picture)

• Jusqu’ici, l’accent était mis sur la représentation par lignes (row picture), qui considère chaque équation séparément ; on introduit maintenant la représentation par colonnes (column picture)
• Les deux équations sont regroupées en une seule, et les coefficients sont exprimés sous forme de tableaux (vecteurs)
• On peut considérer un vecteur comme un tableau ordonné d’éléments numérotés (similaire au sens du mot vecteur en informatique)
• Représenter un vecteur graphiquement : on peut représenter un vecteur soit comme un point, soit comme une flèche
• En visualisant l’addition de vecteurs, on peut voir intuitivement le chemin menant à la solution (par exemple : additionner trois fois le vecteur du lait et une fois celui du pain)
• Il est également expliqué que la multiplication et l’addition de vecteurs s’effectuent élément par élément
• Dans bien des cas, l’approche par représentation en colonnes à l’aide de vecteurs peut être plus intuitive que la méthode précédente

Comprendre l’algèbre linéaire

• L’article rappelle que l’algèbre linéaire consiste essentiellement en un changement de perspective : passer d’une algèbre centrée sur les nombres à une algèbre centrée sur les tableaux et les vecteurs
• Les représentations par colonnes et par lignes sont toutes deux des façons essentielles de visualiser l’algèbre linéaire
• Enfin, il introduit brièvement la notation matricielle (matrix) et montre qu’on peut résumer tout le système sous la forme matrice × vecteur

Aperçu de la suite

• Les chapitres suivants aborderont d’autres concepts importants de l’algèbre linéaire, comme les matrices et le produit scalaire (dot product)
• Si le sujet vous intéresse, il est proposé de vous abonner

Lectures complémentaires et conclusion

• Un lien Instagram est fourni pour voir davantage de ressources et d’œuvres artistiques

[GN⁺]

Avis Hacker News

• Je suis d’accord pour dire que le contenu est clair et utile, mais dans l’exemple les nombres 1 et 2 représentent à la fois le pain et le lait, donc quand on regarde la matrice il est difficile de distinguer intuitivement quel 1 correspond au pain et quel 1 correspond au lait. Je pense que ce serait bien plus clair si chaque élément avait une valeur différente, comme 1, 2, 3, 4.

  • Je suis d’accord avec cette remarque. Quand on étudie l’algèbre linéaire, il y a énormément de nombres qui apparaissent et l’ordre est vraiment important. C’est pour ça que, dans les exemples numériques, je préfère utiliser des suites particulières comme les nombres premiers, parce qu’on voit plus facilement quels nombres ont contribué au résultat d’une multiplication.

• J’ai beaucoup aimé la seconde moitié du billet de blog, mais commencer par l’élimination de Gauss me semble, faute d’un meilleur mot, un peu « mystérieux ». Il vaudrait mieux présenter d’abord le problème (« comment résoudre un système d’équations ? », « comment trouver l’intersection de deux droites ? »), le montrer graphiquement, puis introduire la méthode ou l’algorithme. Dans l’ordre inverse, ça donne un peu l’impression d’enseigner d’abord la règle de la chaîne en calcul différentiel sans sa signification géométrique.

  • C’est l’auteur — je pense que tu as raison. J’ai écrit la partie sur l’élimination de Gauss comme une révision, en supposant que la plupart des lecteurs l’avaient déjà rencontrée, et je voulais arriver rapidement au cœur du sujet. S’il y a d’autres personnes pour qui cette partie a été difficile, je serais intéressé par leurs retours. Il faudra peut-être l’expliquer plus lentement et plus en détail.

  • Je ne vois toujours pas clairement ce que signifie exactement « on peut éliminer ». En revanche, la manière dont vous introduisez le point de vue par colonnes est vraiment très séduisante et très utile pour un débutant comme moi.<br>Au passage, il existe d’innombrables manuels d’algèbre linéaire, mais leur contenu et leur ordre diffèrent tous. C’est sans doute ce qui rend l’algèbre linéaire difficile à enseigner et à comprendre. C’est pourquoi je pense qu’il faut davantage de points de vue différents, puisqu’il n’existe pas une seule approche qui convienne à tout le monde.

• J’ai vraiment aimé cet article. Je pense que ce serait moins confus si, au lieu d’utiliser simplement x et y pour les variables qui désignent le pain et le lait, on utilisait d’autres lettres, parce que plus tard x et y finissent par désigner autre chose dans les graphiques, comme les glucides et les protéines.

  • Il semble clairement qu’il y ait quelque chose de confus autour des variables. Il faut réfléchir à ce qu’on pourrait modifier.

• Ça fait plaisir de revoir le travail d’Aditya Bhargava. J’étais déjà fan à l’époque de Grokking Algorithms.

  • Merci, j’ai pris énormément de plaisir à écrire ce livre.

• Le contenu est vraiment pas mal. L’algèbre linéaire a été un mystère total pour moi jusqu’à ce que je suive un semestre à l’université. C’est très bien organisé.<br>Pour quelqu’un qui n’est pas familier avec la notion de vecteur, ce serait encore mieux d’expliquer brièvement comment deux vecteurs (magnitude et direction) représentent respectivement 1 pain et 1 lait, et comment on peut les déplacer ou les additionner.

• J’aimerais qu’il y ait davantage de contenus comme celui-ci dans le monde. Faire de bons contenus pédagogiques en maths est vraiment difficile. C’est excellent.

• J’aime beaucoup la manière visuelle d’expliquer et la façon de motiver le sujet. En ce moment, j’étudie l’algèbre linéaire avec quelques ressources comme "The No Bullshit Guide to Linear Algebra", que je trouve assez bonne. Si quelqu’un a d’autres recommandations de livres d’algèbre linéaire pratiques et directement applicables à partager, ce serait super. La plupart des livres me semblent trop théoriques ou difficiles d’accès.

  • Je suis moi aussi en train d’examiner des manuels de LinAlg en ce moment. Je m’y intéresse dans une perspective ML/IA.<br>J’ai suivi les cours de la KA academy jusqu’à l’algèbre linéaire, en parallèle d’autres ressources et manuels.<br>Les gens recommanderont probablement 3B1B et Strang (le cours de LinAlg du MIT OCW). 3B1B est formidable pour l’intuition et excellent comme porte d’entrée, mais pour une première étude sérieuse ça va un peu vite ; Strang est vraiment excellent, mais il lui arrive de partir dans des digressions en cours, ce qui peut rendre le suivi difficile. Malgré cela, je l’utilise absolument comme ressource complémentaire.<br>LADR4e (Linear Algebra Done Right) est aussi bien, mais la partie démonstrations est difficile et je n’ai pas encore réussi à tout suivre.<br>Il y a aussi "Linear Algebra done wrong" et le livre de Hefferon, mais eux aussi deviennent assez vite centrés sur les démonstrations. Ils semblent excellents pour une deuxième ou troisième étude.<br>En plus, il existe même un cours distinct appelé « algèbre linéaire abstraite », et l’écart de complexité avec les livres traditionnels d’algèbre linéaire n’est pas si grand.<br>Le manuel avec lequel j’ai le plus avancé est celui de ROB101 (https://github.com/michiganrobotics/rob101/blob/main/Fall%202021/Textbook/ROB_101_December_2021_Grizzle.pdf), que j’ai utilisé comme référence principale jusqu’à l’indépendance linéaire, en parallèle du cours de Strang au MIT.<br>ROB101 traite aussi bien l’aspect programmation, ce qui le rend adapté à une réflexion articulée avec le code en ML/IA.<br>J’ai aussi quelques manuels de maths d’Europe de l’Est pour les exercices.<br>Dernièrement, je révise aussi le cours/manuel de https://www.math.ucdavis.edu/~linear/ et les notes de https://math.berkeley.edu/~arash/54/notes/ m’ont également beaucoup aidé.

  • Un livre que j’ai trouvé vraiment passionnant est "Introduction to Applied Linear Algebra – Vectors, Matrices, and Least Squares".<br>https://web.stanford.edu/~boyd/vmls/

  • Tu as parlé d’un « niveau pratique, directement applicable », mais je suis curieux de savoir à quoi tu veux l’appliquer concrètement. À mon avis, apprendre une théorie (comme l’algèbre linéaire) uniquement avec une motivation pratique est un peu étrange ; en réalité, on peut aussi très bien lire des ouvrages d’application en parallèle de la théorie. Et si on arrive à une situation où la théorie devient vraiment indispensable, alors, même si c’est difficile, il n’y aura pas d’autre choix que de l’apprendre.<br>Par exemple, l’algèbre linéaire est très importante pour étudier la mécanique quantique. Donc si c’est cet objectif-là, je pense qu’il vaut mieux commencer directement par un manuel de mécanique quantique.

  • J’ai écrit que mon objectif était un « niveau pratique, directement applicable », et c’est pareil pour moi. Je pense que le ML est un domaine parfait pour l’utiliser concrètement, et je prépare moi aussi une série sur le sujet.

• Je pense qu’il faut absolument mentionner la série de 3blue1brown sur l’algèbre linéaire. C’est un peu au-dessus du niveau de cet article, mais les explications sont vraiment excellentes tout en restant accessibles.<br>https://youtube.com/playlist?list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab

  • Les vidéos de 3B1B sont vraiment stupéfiantes. Mais pour moi, celles sur l’algèbre linéaire allaient un peu trop vite, et c’est ce qui m’a poussé à commencer cette série.

  • Le fait que le framework graphique utilisé par 3B1B soit publié en open source est impressionnant.<br>https://github.com/ManimCommunity/manim

• Chaque fois que je lis ce genre d’article, au début je me dis : « Waouh ! Enfin quelqu’un qui explique les maths d’une manière que je peux comprendre ! », puis à partir de la partie sur l’élimination de Gauss je recommence à perdre le fil.

• Le nom de Josh Starmer me vient automatiquement à l’esprit quand je vois l’expression « Bam! ». Je ne sais pas si d’autres se souviennent de ce livre où il expliquait le machine learning avec des dessins ; je regardais aussi souvent sa chaîne YouTube auparavant. J’ai l’impression que ce type de contenu explicatif rend vraiment l’apprentissage plus amusant.