Comment fonctionne GPT-3

Explication du fonctionnement d’OpenAI GPT-3 à l’aide de visualisations et d’animations

L’auteur, Jay Alammar, publie principalement de nombreux articles expliquant de manière accessible des concepts de machine learning comme BERT, Transformer et GPT-2. Certains ont aussi été traduits en français.

[xguru]

GPT-3 n’est pas encore totalement rédigé, il manque donc encore un peu de contenu.

Je pense qu’il vaut mieux lire d’abord The Illustrated GPT-2.

https://jalammar.github.io/illustrated-gpt2/

Il existe aussi des traductions coréennes des trois articles sur BERT, Transformer, etc.

The Illustrated BERT,ELMO https://nlpinkorean.github.io/illustrated-bert/

The Illustrated Transformer https://nlpinkorean.github.io/illustrated-transformer/

Visualizing A Neural Machine Translation Model https://nlpinkorean.github.io/visualizing-neural-machine-translation-m…