- Synthèse des conseils d’Andrej Karpathy aux étudiants pour réussir leurs études
- Un sommeil suffisant et une préparation rigoureuse en amont sont essentiels à la réussite académique
- Pour préparer un examen, l’analyse des annales et une planification structurée sont importantes
- Au début, il faut étudier seul, puis à la fin collaborer avec des pairs et expliquer soi-même les concepts pour approfondir sa compréhension
- Le jour de l’examen, des habitudes alimentaires efficaces et une courte phase de révision très concentrée juste avant sont utiles
- L’expérience concrète, la participation à des projets et l’obtention de référents de confiance sont bien plus importants que les notes
Guide d’Andrej Karpathy pour obtenir de bonnes notes dans un cours
- Synthèse des conseils d’Andrej Karpathy aux étudiants pour réussir leurs études
- À partir de sa propre expérience, il aborde largement les méthodes de travail, la préparation des examens, le comportement le jour J et l’orientation de carrière à long terme.
Principes généraux
- Réviser toute la nuit ne sert à rien : la durée de sommeil optimale est de 7,5 heures, et il faut au minimum 4 heures
- Il arrive souvent qu’un problème insoluble en 1 heure le soir soit réglé en 5 minutes le matin
- Pendant le sommeil, le cerveau passe par un processus qui « commit » les souvenirs de court terme en mémoire de long terme
- Il faut préparer les gros examens plusieurs jours à l’avance afin de maximiser le nombre de nuits pendant lesquelles le cerveau peut traiter la matière
- Assister aux tutoriels ou aux séances de révision : même si le contenu est ennuyeux, le simple fait de vous faire réfléchir à la matière est important
Préparation des examens
- La vue d’ensemble et l’organisation sont essentielles : établissez un planning de révision et listez explicitement sous forme de bullet points tout ce qu’il faut connaître
- Réfléchissez soigneusement à chaque élément et estimez le temps nécessaire
- Sinon, on passe trop de temps sur les premiers chapitres et on survole à la va-vite les parties importantes de la fin
- Avant de commencer à réviser, regardez absolument les sujets des années précédentes : surtout s’ils ont été donnés par le même professeur
- Chaque professeur a son propre style d’évaluation, ce qui donne de très bons indices sur la manière de réviser
- N’essayez pas de résoudre les exercices tout de suite : repérez d’abord attentivement les types de questions
- Lire et comprendre n’est pas la même chose que reproduire : si vous avez lu et compris une formule, une dérivation ou une preuve dans un livre, fermez-le et essayez de la réécrire vous-même
- Ces deux processus mobilisent des parties différentes de la mémoire, et en pratique on découvre souvent qu’on n’y arrive pas
- Il faut s’assurer de pouvoir réellement écrire les points les plus importants et les redériver à tout moment
- Feynman le savait très bien : « Ce que je ne peux pas créer, je ne le comprends pas »
- Collaborez avec d’autres, mais à la fin : au début, étudiez seul, puis réunissez-vous avec d’autres personnes dans la dernière phase
- Les autres peuvent signaler des pièges importants, soulever de bonnes questions et vous donner l’occasion d’enseigner
- Ne fréquentez pas uniquement des étudiants plus forts que vous : expliquer à des étudiants plus faibles améliore énormément la compréhension par l’enseignement
- Avant le partiel final, allez au moins une fois aux heures de permanence du professeur : même si vous n’avez pas de question
- Il arrive qu’un professeur donne en tête-à-tête des informations sur l’examen qu’il ne partagerait pas devant toute la classe
- C’est un peu injuste, mais il est bon que le professeur sache au moins qui vous êtes
- Révisez suffisamment à l’avance : le cerveau a besoin de temps pour absorber la matière, et ce qui semble difficile devient souvent plus facile avec le temps
- Recommandation : environ 3 jours pour un midterm, environ 6 jours pour un examen final
- Si la situation est mauvaise et que vous êtes trop fatigué, prenez une boisson énergisante : en urgence, cela peut marcher
- Dans des matières comme les maths, la pratique compte plus que la lecture : une fois prêt à faire des exercices, comblez vos lacunes en les résolvant
- Faites une cheat sheet : même si vous ne pouvez pas l’apporter à l’examen
- Le simple fait d’écrire le contenu aide
- Résumez l’ensemble sur plus d’une page afin de pouvoir vous dire : « Voilà tout ce que je dois savoir »
- Étudiez dans un endroit où d’autres personnes étudient aussi : si vous êtes le seul à ne pas travailler, vous ressentirez de la culpabilité
- Les lieux avec beaucoup de bruit de fond nuisent à l’apprentissage, donc la bibliothèque et les salles d’étude sont idéales
Le jour de l’examen
- L’habitude optimale en matière de repas et de boisson est de prendre café et nourriture 2 heures avant l’examen
- Prendre du café ou manger juste avant l’examen est toujours une mauvaise idée
- Le café juste avant une situation potentiellement stressante est toujours une mauvaise idée
- Ne pas boire de café du tout est aussi une mauvaise idée
- Révisez de manière extrêmement concentrée juste avant l’examen : beaucoup de gens abandonnent avant l’épreuve et prétendent qu’il faut « se reposer »
- La mémoire de court terme est un excellent outil, donc ne la gaspillez pas
- Révisez aussi intensément que possible jusqu’au dernier moment
- Si vous avez besoin d’une pause, prenez-la 1 heure avant l’examen, mais entre 30 et 45 minutes avant, travaillez vraiment dur
Pendant l’examen
- Utilisez toujours un crayon : vous devez pouvoir effacer les « solutions » nulles
- Avant de commencer, parcourez très rapidement toutes les questions : 1 à 3 secondes par question suffisent
- Absorbez les mots-clés et évaluez l’ampleur globale du sujet
- Commencez par les questions faciles : ne restez pas bloqué trop longtemps sur une question et revenez-y plus tard
- Il arrive qu’on ne complète que 30 % de l’examen lors du premier pass
- Certaines questions deviennent bien plus simples après un peu de « chauffe »
- Gardez toujours une copie propre : étonnamment peu de gens réalisent ce fait évident qu’un être humain corrige votre copie
- Une personne triste met de mauvaises notes
- Encadrez ou entourez toujours vos réponses : surtout quand il y a des étapes de dérivation autour
- Cela permet au correcteur de cocher rapidement et de passer à la suite
- Mettez-vous dans la peau du correcteur
- Ne partez jamais, jamais, jamais avant la fin de l’examen : vous aurez fait des erreurs (c’est garanti), alors trouvez-les et corrigez-les
- Si vous ne les trouvez pas, continuez à chercher plus sérieusement jusqu’à la fin du temps imparti
- Si vous êtes absolument sûr de ne pas avoir d’erreur, rendez votre copie plus lisible et plus facile à corriger
- Les gens qui partent en avance sont stupides — une situation où le gain potentiel écrase totalement le coût
- Communiquez avec le correcteur : montrez que vous en savez plus que ce que vous avez effectivement écrit
- Même si vous ne pouvez pas faire une étape donnée, expliquez clairement comment vous auriez procédé si vous aviez pu la faire
- N’ayez pas peur de laisser des notes quand c’est nécessaire
- Les correcteurs cherchent souvent à accorder plus de points, alors facilitez-leur la tâche
- Tenez compte du barème par question : beaucoup d’examens indiquent combien chaque question vaut
- Cela donne des indices très puissants quand vous faites fausse route
- Cela donne aussi un bon indice sur les questions sur lesquelles il faut concentrer son effort
- Il est absurde de passer trop de temps sur une question relativement difficile si elle vaut peu de points
- S’il reste moins de 5 minutes et que vous êtes toujours bloqué sur une question, arrêtez : mieux vaut relire toutes les questions pour vérifier que vous n’avez pas manqué de sous-questions et que vous avez répondu à tout
- Vous ne croiriez pas combien de points bêtement perdus les gens laissent ainsi échapper
Le conseil le plus important
- Les étudiants en licence ont tendance à développer une vision tunnel des cours et veulent de bonnes notes
- Le point essentiel à comprendre : personne ne se soucie de vos notes (tant qu’elles ne sont pas mauvaises)
- L’étudiant le plus intelligent obtient environ 85 % dans toutes les matières, donc à peu près un GPA de 4.0, mais sans étudier à l’excès ni insuffisamment
- Le temps est une ressource précieuse et limitée : faites juste ce qu’il faut pour ne pas rater vos examens, puis réorientez votre attention vers des efforts bien plus importants
- L’expérience pratique réelle est extrêmement importante : travailler sur de vraies codebases, de vrais projets, et sur des problèmes autres que les exercices de cours absurdes
- Il est extrêmement important d’avoir des professeurs ou d’autres personnes qui vous connaissent et peuvent écrire de bonnes lettres de recommandation
- Les recommandations qui disent que vous avez de l’initiative, de la passion et de l’énergie d’exécution comptent
- Si vous pensez à l’emploi, faites un stage d’été ; si vous envisagez des études supérieures, obtenez de l’expérience en recherche
- Inscrivez-vous aux programmes proposés par votre établissement, ou contactez des professeurs / doctorants pour rejoindre un projet de recherche qui vous plaît
- Une lettre de recommandation d’un professeur reconnu disant que vous êtes moteur et capable de penser par vous-même écrase complètement tout le reste, surtout des détails mineurs comme les notes
- Réussir à placer au moins un papier avant de candidater aide énormément
- Ne soyez pas cet étudiant de licence qui s’inscrit à un projet, vient quelques fois, pose beaucoup de questions, puis abandonne soudainement et disparaît : cela nuit à votre réputation
- Participez à des projets parallèles en groupe ou lancez votre propre projet dès le départ : contribuez à l’open source, créez ou améliorez des bibliothèques
- Construisez quelque chose de sympa, documentez-le bien et tenez un blog
- Dans quelques années, c’est cela qui intéressera les gens : les notes ne sont qu’une corvée administrative à gérer
4 commentaires
Le conseil le plus important, tout en bas, est vraiment excellent.
Je pensais que c’était juste un génie, mais rien qu’en lisant ce texte, on comprend à quel point il fait aussi énormément d’efforts.
C’est intéressant de voir quelqu’un qu’on ne voyait que dans le domaine de l’IA apparaître dans une discussion sur les étudiants de premier cycle.
Commentaires Hacker News
Quand on écoute un cours ou une présentation technique, je recommande de prendre l’habitude d’anticiper ce que l’intervenant va dire ensuite : essayer localement de deviner sa prochaine phrase ou la prochaine slide. Avec la pratique et les connaissances de fond, on commence à voir juste. Il est aussi utile, à un niveau plus global, de comprendre vers quoi tout cela se dirige ; par exemple, dans un cours de maths, voir à quel théorème important mènent les différents lemmes. Quand on a raison dans sa prédiction, on a l’impression d’avoir résolu le problème soi-même, ce qui aide énormément à rester concentré. Essayer de penser avec un temps d’avance sur l’orateur fait mieux entrer dans le cours que d’être en retard d’un temps parce qu’on prend des notes. Bien sûr, c’est encore mieux si des notes de cours sont fournies, et on peut aussi s’appuyer sur le manuel. En appliquant cette méthode, il est même arrivé que des gens pensent que j’avais étudié à l’avance. En réalité, la plupart des cours suivent une logique interne, donc si on reste attentif, on peut largement suivre. L’essentiel est de ne pas décrocher ni perdre sa concentration. Cette méthode m’a beaucoup aidé à l’améliorer.
Cette manière d’écouter en anticipant est amusante, mais d’après mon expérience, l’essentiel du vrai apprentissage ne s’est pas fait en cours, mais chez moi en résolvant des exercices. Le cours n’était au fond qu’un moment assez inefficace pour transmettre des notes. Les étapes vraiment importantes pour réussir les examens, il fallait les découvrir en essayant soi-même. Si on prend une analogie avec le jeu vidéo, c’est un peu comme regarder une vidéo Let’s Play : on progresse vraiment en jouant soi-même.
Je suis totalement d’accord avec cette astuce, mais cette habitude d’anticipation doit rester cantonnée à l’apprentissage et ne pas déborder dans les conversations privées en tête-à-tête. Autour de moi, certaines personnes que je considère comme intelligentes ont tendance, en pleine conversation, à faire du genre : « Ah, je vois ce que tu vas dire, je te coupe et je réponds tout de suite. » Ce n’est vraiment pas terrible. D’autant plus que leurs prédictions sont souvent fausses, ce qui ruine complètement l’échange.
Cette astuce me fait penser aux recherches sur la synchronisation des ondes cérébrales. J’avais lu cet article expliquant que les ondes cérébrales se synchronisent quand les gens interagissent : lorsqu’on partage une conversation ou une expérience, des neurones situés aux mêmes endroits dans le cerveau s’activent en même temps et produisent des motifs similaires. Le fait d’avoir l’impression d’être « sur la même longueur d’onde » correspond donc à un phénomène réellement observable dans l’activité cérébrale. Cette synchronisation peut être le signe d’un traitement cognitif partagé. Des études sur les rats suggèrent même qu’elle permet de prédire l’issue d’interactions futures.
Si l’on définit fondamentalement l’intelligence comme la capacité à prédire l’avenir, alors cette méthode paraît évidente. Les LLM sont eux aussi entraînés ainsi pendant le préentraînement, et comme l’a dit Ilya, pour deviner le coupable dans un roman policier, il faut suivre l’histoire en mobilisant toutes sortes de connaissances. Essayer de prédire la suite d’un cours revient un peu à tester soi-même sa propre capacité de prédiction.
Je suis vraiment d’accord avec ce conseil. Personnellement, j’ai beaucoup plus tiré de mes cours quand je ne prenais pas mes notes pendant la séance elle-même, mais environ 30 minutes après, à la bibliothèque, en réorganisant tout le contenu dans un cahier. Cela me laissait juste assez de temps pour réfléchir à la vue d’ensemble, tout en restant avant que les détails ne s’effacent.
Plusieurs amis m’ont dit que la capacité de « Learning to learn » est une clé essentielle de la réussite. J’ai souvent vu des personnes qui ne me semblaient pas plus intelligentes que moi finir par me dépasser dans les études et au travail. Elles étudiaient ou programmaient chaque jour, pas à pas, sans jamais s’arrêter, et quand elles posaient des questions, ce n’était pas pour obtenir directement la réponse, mais pour trouver une sortie. Moi aussi, j’ai surmonté des périodes difficiles en travaillant ma gestion du temps et en prenant l’habitude de faire ne serait-ce qu’un petit quelque chose chaque jour. Un minuteur Pomodoro m’a aussi aidé à me lancer. Je pense que les universités devraient absolument proposer des cours sur la motivation, le développement personnel, la lutte contre la procrastination et les stratégies d’apprentissage. Je suis convaincu qu’avec de la régularité et de bonnes méthodes de travail, même une personne ordinaire peut atteindre un niveau doctoral. J’en ai vu des exemples concrets.
Dans sa conférence « You and Your Research », Richard Hamming compare la connaissance et la productivité aux intérêts composés. Si deux personnes ont des capacités similaires et que l’une fournit 10 % d’effort en plus, sur toute une vie, sa production ne sera pas simplement doublée, mais bien plus grande encore. Plus on sait de choses, mieux on apprend ; plus on apprend, plus on devient capable d’accomplir du travail, et les opportunités se multiplient alors sans fin. Entendre qu’une heure de réflexion supplémentaire par jour sur toute une vie crée un écart énorme m’a marqué, et quand j’ai effectivement commencé à travailler plus sérieusement, j’ai accompli davantage. Lire le lien
Je suis d’accord avec l’idée qu’il faut des cours sur la motivation, le développement personnel, l’anti-procrastination et les stratégies d’étude à l’université, mais je pense qu’il serait encore plus efficace de commencer ce type d’enseignement plus tôt.
On surestime toujours ce qu’on peut faire en une journée, mais sur 100 jours, avec de la régularité, on peut accomplir énormément plus qu’on ne l’imagine.
Les bons conseils ont toujours existé, c’est juste que les étudiants ne les écoutent pas vraiment. 1) Il faut suivre les cours activement, et 2) il faut revoir chaque jour ce qui a été vu la fois précédente et faire des exercices. Ce sont des conseils banals, mais c’est précisément de là que partent les bons résultats, via l’espacement, l’active recall et l’effet de test.
En vieillissant et en faisant du mentorat auprès d’étudiants, le problème m’est apparu encore plus clairement. Les étudiants qui savent bien recevoir les bons conseils réussissent souvent très bien, tandis que ceux qui se laissent entraîner par les mauvais conseils d’Internet s’empoisonnent eux-mêmes. Ils tombaient dans des logiques de rationalisation du type « les études ne servent à rien, le monde est foutu », nourries par Reddit, 4chan, des IRC obscurs, Discord, etc. Les étudiants les plus difficiles étaient ceux qui rejetaient entièrement la faute sur les autres. Quelle que soit la situation, ils refusaient toute responsabilité personnelle et ne faisaient qu’accumuler des excuses, sans jamais progresser. Le changement n’arrivait qu’après un gros déclic qui les poussait à se remettre en question. Le mentorat était difficile, mais aider des étudiants vraiment désireux d’apprendre était gratifiant. Plus de la moitié du combat consistait simplement à les éloigner des mauvaises influences et à éviter qu’ils ne courent vers de mauvais conseils.
Pendant deux ans, j’ai pris mes notes en cours sur un legal pad, puis je les recopiais et réorganisais ensuite dans un cahier spiralé. Du coup, je pouvais toujours me contenter d’emporter un seul legal pad, et avec cette méthode, mes résultats étaient vraiment excellents. En revanche, je n’ai pas réussi à tenir ce rythme très longtemps.
Je me demande si le conseil « suivre le cours activement » est efficace pour tout le monde. Pour ma part, j’avais du mal à suivre en temps réel, et l’auto-apprentissage ainsi que le fait d’aller poser des questions au professeur me convenaient bien mieux.
On nous indiquait à l’avance quel chapitre lire avant chaque cours, mais à part moi, personne ne le faisait. Arriver en cours après l’avoir lu m’a vraiment beaucoup aidé.
C’est un peu comme le fait que tout le monde sait que le sport est bon pour la santé, mais qu’il est difficile de le mettre réellement en pratique. Même les conseils évidents doivent être répétés sans cesse, et pour quelqu’un, ils seront toujours nouveaux.
Je trouve que c’est vraiment un très bon conseil. Je n’ai presque jamais participé à des groupes d’étude, mais avec le recul, je regrette de ne pas l’avoir fait davantage. Avant de résoudre les problèmes, il faut d’abord parcourir l’ensemble et marquer ceux qui paraissent faciles et ceux qui paraissent difficiles. En pratique, cette évaluation peut changer une fois qu’on s’y met. L’ordre de priorité devrait être : les problèmes faciles avec beaucoup de points, puis les problèmes faciles avec peu de points, puis les problèmes difficiles, classés selon leur barème. Et s’il y a des formules à mémoriser, j’avais pris l’habitude utile de les écrire immédiatement sur la dernière page de la copie.
Le grading curve est un facteur très important quand il s’applique. Dans notre université, l’objectif était une moyenne autour de 60 %, et les examens difficiles étaient ensuite corrigés par une mise à l’échelle. Dans les matières faciles, la compétition était plus rude, donc il fallait être meilleur pour obtenir une note élevée, alors que dans les matières difficiles avec peu d’assiduité, un 50 % pouvait remonter à 75 % grâce à la courbe. Lien explicatif
Je n’ai jamais réussi à comprendre ni à accepter le concept même de notation sur courbe.
Dans des universités prestigieuses comme Stanford, la courbe peut fonctionner à l’envers : la moyenne de certains cours difficiles est à 98 %, donc avec 94 %, on peut au contraire être « courbé vers le bas » jusqu’à un B+.
Je pense que ce genre d’histoire montre bien les problèmes du système d’évaluation et des cursus universitaires.
Donc, si je comprends bien, une stratégie pour avoir de bonnes notes pourrait aussi consister à détourner ses camarades ou à leur enseigner volontairement de mauvaises informations pour les saboter ? Ça ressemble à une blague, mais c’est bien l’un des pièges de la notation sur courbe.
Les conseils d’Andrej peuvent être utiles, mais il ne faut pas oublier que les stratégies de réussite varient selon les individus. Selon son style d’apprentissage, son parcours et son environnement, la méthode optimale peut être différente. L’environnement éducatif lui-même a beaucoup changé entre 2013 et aujourd’hui, donc il vaut mieux prendre tout conseil avec esprit critique et l’adapter à sa propre situation.
J’ai vécu plusieurs fois l’expérience suivante : un problème sur lequel j’avais buté une heure entière la nuit précédente se résolvait en cinq minutes le lendemain matin. Si on a vraiment essayé de résoudre un problème puis qu’on le met un moment de côté, le cerveau peut continuer à le traiter en arrière-plan. Des professeurs recommandaient d’ailleurs eux aussi cette astuce, mais seulement après une tentative sérieuse.
Concernant le conseil de « bachoter juste avant l’examen », j’ai au contraire entendu dire que travailler juste avant l’épreuve pouvait nuire à la mémoire à long terme.
Le conseil le plus important arrive à la fin. Les étudiants de licence ont souvent tendance à se focaliser uniquement sur les notes, mais en réalité, tant qu’elles ne sont pas mauvaises, personne ne s’en soucie vraiment. Au bout de quelques années, les articles, les projets de groupe, les side projects, les contributions open source, le blog ou les éléments de portfolio comptent bien davantage. Les notes ne sont qu’une contrainte administrative à éviter de laisser dégénérer, donc il faut bien répartir son temps. Cela dit, avec le recul, je reconnais qu’il n’est vraiment pas facile d’appliquer ce genre de conseil pendant sa scolarité. On peut faire tout cela en dehors de l’école aussi, mais c’est justement à l’école qu’on a intérêt à en profiter pour construire quelque chose de personnel, ce qui rend la chose encore plus difficile. Donc oui, ce conseil n’est pas simple à suivre, mais je suis largement d’accord.