- Brendan Gregg, expert renommé de la gestion des performances sous Linux et principal contributeur de BPF, explique pourquoi il a rejoint OpenAI
- Il a rejoint OpenAI pour aider à résoudre le problème de l’explosion des coûts et de la consommation d’énergie des datacenters IA, en se concentrant d’abord sur l’optimisation des performances de ChatGPT
- Estimant que l’ingénierie de la performance classique atteint ses limites, il veut concevoir de nouvelles méthodes d’ingénierie afin d’identifier plus vite des optimisations à plus fort impact
- Il a pris conscience de la diffusion sociale de la technologie à travers des usages très variés de ChatGPT par des utilisateurs du quotidien — par exemple des coiffeurs, agents immobiliers, experts-comptables et apiculteurs
- Après 26 entretiens, il a comparé le niveau d’ingénierie de plusieurs entreprises de l’IA et estime que la densité de talents et l’environnement collaboratif d’OpenAI ont été les plus impressionnants
- Il considère que son rôle chez OpenAI représente un tournant dans sa vie, avec la possibilité de contribuer à une amélioration de l’efficacité à l’échelle planétaire et à la durabilité
Les défis des datacenters IA et de l’ingénierie de la performance
- Le coût et la vitesse de croissance des datacenters IA sont sans précédent dans l’histoire, et la question n’est pas seulement celle de la réduction des coûts, mais aussi de la protection de l’environnement mondial
- Il a rejoint OpenAI pour s’attaquer directement à ce problème, avec une première priorité donnée à l’amélioration des performances de ChatGPT
- Il cherche de nouvelles approches pour aller au-delà des limites de l’ingénierie de la performance traditionnelle et obtenir des optimisations plus importantes et des améliorations plus rapides
- Il met en avant une structure ouverte où presque aucune contrainte n’empêche le changement, même à grande échelle
- Il la résume par l’attitude suivante : « Essayez tout, à grande échelle, et exécutez-le immédiatement »
La diffusion de ChatGPT dans le quotidien et le déclic personnel
- Alors qu’il restait sceptique face à l’adoption de l’IA, une conversation avec Mia, sa coiffeuse, lui a fait ressentir concrètement l’usage populaire de ChatGPT
- Mia a raconté divers cas d’usage, par exemple vérifier avec ChatGPT des informations sur la destination de voyage d’une amie pour maintenir un lien émotionnel
- Elle a décrit la fonction de mémoire de ChatGPT comme une expérience proche d’une conversation avec une personne
- Des agents immobiliers, experts-comptables et apiculteurs utilisent eux aussi activement ChatGPT dans leur travail
- Exemple : un apiculteur traite avec ChatGPT les formalités administratives de sa petite entreprise
- À travers ces expériences, il a compris que ChatGPT s’était imposé comme un outil du quotidien et a acquis la certitude du sens social de sa contribution technique
Pourquoi OpenAI et le processus d’entretien
- Sur recommandation de plusieurs experts du secteur, il a passé 26 entretiens avec de grandes entreprises de l’IA, dont OpenAI
- Il y a retrouvé un environnement cloud à grande échelle, des changements de code rapides et une forte autonomie des ingénieurs, similaire à ce qu’il connaissait chez Netflix
- Les défis couvraient largement les problèmes de performance sur l’ensemble de la stack technique, et pas seulement les GPU
- OpenAI comptait déjà parmi ses effectifs de nombreux collègues ingénieurs talentueux qu’il connaissait
- Son expérience de collaboration avec d’anciens collègues de Netflix, comme Vadim, a influencé positivement sa décision de rejoindre l’entreprise
- Il mentionne qu’OpenAI dispose déjà d’une équipe chevronnée d’ingénieurs performance, et qu’il en est « le dernier arrivé »
Le rêve d’enfance d’« Orac » et son lien avec l’IA
- Il se souvient avoir rêvé de développer une IA après avoir été fasciné, enfant, par le superordinateur Orac de la série britannique de science-fiction Blake’s 7
- À l’université, il avait tenté de développer lui-même un logiciel de traitement du langage naturel, mais avait dû abandonner à cause de contraintes de mémoire
- En utilisant ChatGPT, il a repensé à Orac et s’est émerveillé de voir ChatGPT reproduire parfaitement la personnalité d’Orac dans ses réponses
- Depuis, il l’utilise de manière personnalisée en mode Orac dans les paramètres de ChatGPT
- Il mentionne également l’annonce d’un reboot de Blake’s 7
Sa situation actuelle chez OpenAI et la suite
- Il travaille actuellement à distance depuis Sydney comme Member of Technical Staff au sein de l’équipe d’ingénierie de la performance de ChatGPT
- Son premier projet porte sur l’amélioration des performances via la collaboration interéquipes et l’élaboration de stratégies de réduction des coûts
- Il prévoit d’adapter à ses besoins chez OpenAI des technologies existantes comme eBPF, Ftrace et PMC
- Il utilise aussi Codex pour diverses tâches au-delà du codage
- Après son départ d’Intel, beaucoup de personnes lui ont demandé quelle serait sa prochaine étape lors de la Linux Plumber’s Conference, ce qui l’a conduit à écrire ce texte
- Enfin, lorsqu’il a redemandé à Mia si elle utilisait toujours ChatGPT, elle lui a répondu : « Je l’utilise 24 heures sur 24 »
- Ce texte est un témoignage personnel, rédigé de sa propre initiative et non à la demande de l’entreprise
Aucun commentaire pour le moment.