J’ai essayé de visualiser microGPT sous forme de site web.
(ko-microgpt.vercel.app)Il y a quelque temps, Andrej Karpathy, l’un des cofondateurs d’OpenAI, a publié le projet microGPT, qui résume l’architecture de GPT en environ 200 lignes. En m’appuyant dessus, j’ai essayé de visualiser l’ensemble du pipeline de GPT sous la forme d’un site web interactif.
De la tokenisation à l’embedding, en passant par l’attention et l’inférence, j’ai conçu le site pour que le flux interne soit visible étape par étape. L’état est mis à jour en temps réel, ce qui permet de suivre comment les données se transforment à chaque étape.
Si, en le parcourant, vous remarquez des points conceptuellement différents de la réalité, ou si vous avez des retours sur la visualisation ou la manière d’expliquer, je vous en serais reconnaissant !
9 commentaires
C’est peut-être une théorie du complot, mais j’ai l’impression que les Show GN publiés par des étudiants reçoivent particulièrement peu de commentaires, ou seulement des commentaires très simples, tout en obtenant rapidement beaucoup de points et en se retrouvant à la une.
Le design est vraiment super beau, j’aime beaucoup~
J’aime bien aussi les théories du complot, donc pour jeter de l’huile sur le feu, vu qu’il y a des posts qui se font repérer puis flagger, j’ai l’impression qu’il y en a aussi pas mal où l’abus passe tranquillement entre les mailles du filet. En utilisant soigneusement un VPN et en répartissant bien les horaires des upvotes, par exemple. Cela dit, je ne dis pas que c’est le cas de ce post..
Merci beaucoup de l’avoir rendu consultable en français.
Le contenu reste quand même difficile, comme on pouvait s’y attendre.
Haha
Oh, c’est sympa, non ?
C’est sympa.
Waouh, c’est vraiment très bien fait..
C’est très coloré et joli ! Vous avez réalisé le design vous-même ? Ou bien vous êtes-vous appuyé sur des références ?
https://www.designprompts.dev/
J’y ai récupéré un prompt néo-brutaliste pour l’utiliser !
On appelle apparemment ce type de design du néo-brutalisme.