CS 886 : dernières tendances de la recherche sur les foundation models

• L’un des cours d’IA de l’Université de Waterloo, le « MIT du Canada »
• Chaque chapitre comprend des diapositives explicatives, des vidéos de cours sur YouTube et des liens vers des références
• La liste des sujets et des références à elle seule semble déjà constituer une excellente ressource

Plan du cours

Introduction to Foundation Models

1. Introduction aux foundation models
2. Présentation du cours
3. RNN & CNN
4. NLP & CV

Transformer Architecture

5. Self-Attention & Transformer
6. Efficient Transformer
7. Parameter-Efficient Tuning
8. Préentraînement des language models

Large Language Models

9. Large Language Model
10. Loi de mise à l’échelle
11. Instruction Tuning & RLHF
12. Entraînement efficace des LLM
13. Inférence efficace des LLM
14. Compression et sparsification des LLM
15. Prompting des LLM

(Large) Multimodal Models

16. Vision Transformer
17. Modèle de diffusion
18. Génération d’images
19. Préentraînement des modèles multimodaux
20. Large Multimodal Model

Augmenting Foundation Models

21. Augmentation par outils
22. Augmentation par récupération d’information