J’ai créé quelques compilateurs, et je travaille encore sur l’un d’eux en ce moment ; du point de vue du vibe coding, j’ai aussi essayé de faire un éditeur, mais le compilateur m’a semblé plus simple. Comme vous l’avez écrit, j’ai l’impression que les spécifications sont moins précises et qu’il y a davantage de variables dues aux utilisateurs. C’est aussi plus difficile à tester.
Les spécifications deviennent certes plus importantes, mais j’ai toujours pensé qu’il était impossible de tout écrire en détail et de couvrir toutes les situations. Je pense qu’il vaut encore mieux affiner les spécifications au fil du travail, un peu comme du code ; cela dit, je me dis qu’on pourrait peut-être faire en sorte que plusieurs agents s’en chargent entre eux. Mais au final, sans intervention humaine, il sera difficile de sortir du cadre des situations et des connaissances apprises ; je me demande donc si des situations et des fonctionnalités totalement nouvelles ne resteront pas hors de portée.
Cela me rappelle l’époque où les robots aspirateurs sont apparus pour la première fois : on disait qu’il fallait faire un « simple rangement » en enlevant les objets au sol pour le robot. Écrire des spécifications détaillées pour l’IA représente aussi un travail considérable, et on a l’impression de travailler pour l’IA.
À force de traîner dans ce milieu et d’observer, j’ai l’impression que les changements récents s’expliquent surtout par deux choses.
D’abord, les sommes en jeu sont devenues énormes. Avant, quelques millions de dollars paraissaient déjà impressionnants, alors qu’aujourd’hui l’argent circule par milliards. Et là où l’odeur de l’argent est omniprésente, toutes sortes de gens finissent forcément par affluer. À cela s’ajoute aussi l’arrivée massive de personnes issues de certains espaces culturels, ce qui a fortement contribué à faire évoluer l’ambiance du secteur vers leur style bien particulier.
En ce moment, on sent clairement qu’on n’est plus dans la sensibilité IT/CS d’autrefois : on a plutôt l’impression que tout tourne grâce au bagou et au sens du spectacle. Autrefois, ce sont des gens qui seraient partis avec les autres quand la bulle se dégonflait, mais cette fois, comme la technologie au centre du mouvement est le LLM, c’est-à-dire une « technologie qui parle bien », rien n’indique que cette dynamique va s’arrêter facilement. J’ai l’impression que cette ambiance va durer.
En fait, si Anthropic a aussi choisi de créer un compilateur C pour sa démo, c’est sans doute parce qu’un compilateur repose sur des spécifications précises et sur des cas de test bien préparés. En même temps, cela donne aussi l’impression d’être extrêmement difficile.
C’est peut-être aussi la différence entre l’apprentissage par renforcement et le deep learning. Là où il est impossible de fournir une boucle de rétroaction décisive, les données humaines semblent encore constituer le véritable fossé défensif.
Sur l’issue GitHub, plus de 100 comptes bots ont posté du spam,
et le compte GitHub compromis est en train de modifier la description de tous les projets présents sur le compte de cette manière. teampcp owns BerriAI
Personnellement, le fait qu’il y ait même du spam sur l’issue donne une impression dystopique, donc ça me fait vraiment peur.
Et puis, je ne me souviens plus très bien, mais il y avait cette histoire de flake ou d’une autre fonctionnalité, présentée comme une best practice à un endroit, comme expérimentale à un autre, et parfois comme les deux à la fois, et voir ça durer depuis des années m’a clairement fait comprendre que le chemin allait être semé d’embûches..
Bien sûr, l’expérience de pouvoir coder facilement tout l’environnement de bureau était agréable
Moi aussi, j’ai utilisé NixOS pendant environ six mois il y a longtemps, puis je suis retombé sur Arch parce que je n’arrivais pas à résoudre, malgré tous mes googlages, une tâche toute simple qui ne demande normalement aucune recherche sur d’autres OS. J’ai fini par trouver sur un forum NixOS la solution qu’un certain expert NixOS ? avait documentée, et en voyant que ce hack de plusieurs dizaines de lignes était le commentaire le plus liké, j’ai eu l’impression que mon avenir sur NixOS s’annonçait bien sombre...
Comme AlphaGo a été entraîné sur des données d’auto-affrontement AlphaGo vs AlphaGo, l’entraînement des LLM se fait aussi en générant des données avec des LLM. Comme il suffit de quelques échantillons de données pour en produire facilement davantage, il est difficile d’y voir, là aussi, un fossé défensif vraiment sûr.
Je l’essaie en ce moment... je ne suis pas très convaincu.
C’est peut-être parce que mon prompt n’est pas bon, mais la police et le design sont un peu médiocres...
En réalité, si un LLM me recommande un certain projet open source, je me dis que je pourrais l’essayer,
mais s’il se met à recommander directement des produits à acheter, j’aurais plutôt tendance à m’en détourner en me demandant si on peut vraiment lui faire confiance.
Enfin, peut-être que ça changera un jour.
La courbe d’apprentissage est vraiment déraisonnable. En échange de la garantie de reproductibilité, il exige un niveau élevé.
Même avec flake, c’est compliqué.
Il semble aussi utiliser SQLite en interne, et comme les performances sont assez irrégulières, il y a une certaine fluctuation du temps nécessaire pour reproduire à nouveau un environnement.
J’ai créé quelques compilateurs, et je travaille encore sur l’un d’eux en ce moment ; du point de vue du vibe coding, j’ai aussi essayé de faire un éditeur, mais le compilateur m’a semblé plus simple. Comme vous l’avez écrit, j’ai l’impression que les spécifications sont moins précises et qu’il y a davantage de variables dues aux utilisateurs. C’est aussi plus difficile à tester.
Les spécifications deviennent certes plus importantes, mais j’ai toujours pensé qu’il était impossible de tout écrire en détail et de couvrir toutes les situations. Je pense qu’il vaut encore mieux affiner les spécifications au fil du travail, un peu comme du code ; cela dit, je me dis qu’on pourrait peut-être faire en sorte que plusieurs agents s’en chargent entre eux. Mais au final, sans intervention humaine, il sera difficile de sortir du cadre des situations et des connaissances apprises ; je me demande donc si des situations et des fonctionnalités totalement nouvelles ne resteront pas hors de portée.
Cela me rappelle l’époque où les robots aspirateurs sont apparus pour la première fois : on disait qu’il fallait faire un « simple rangement » en enlevant les objets au sol pour le robot. Écrire des spécifications détaillées pour l’IA représente aussi un travail considérable, et on a l’impression de travailler pour l’IA.
À force de traîner dans ce milieu et d’observer, j’ai l’impression que les changements récents s’expliquent surtout par deux choses.
D’abord, les sommes en jeu sont devenues énormes. Avant, quelques millions de dollars paraissaient déjà impressionnants, alors qu’aujourd’hui l’argent circule par milliards. Et là où l’odeur de l’argent est omniprésente, toutes sortes de gens finissent forcément par affluer. À cela s’ajoute aussi l’arrivée massive de personnes issues de certains espaces culturels, ce qui a fortement contribué à faire évoluer l’ambiance du secteur vers leur style bien particulier.
En ce moment, on sent clairement qu’on n’est plus dans la sensibilité IT/CS d’autrefois : on a plutôt l’impression que tout tourne grâce au bagou et au sens du spectacle. Autrefois, ce sont des gens qui seraient partis avec les autres quand la bulle se dégonflait, mais cette fois, comme la technologie au centre du mouvement est le LLM, c’est-à-dire une « technologie qui parle bien », rien n’indique que cette dynamique va s’arrêter facilement. J’ai l’impression que cette ambiance va durer.
En fait, si Anthropic a aussi choisi de créer un compilateur C pour sa démo, c’est sans doute parce qu’un compilateur repose sur des spécifications précises et sur des cas de test bien préparés. En même temps, cela donne aussi l’impression d’être extrêmement difficile.
C’est peut-être aussi la différence entre l’apprentissage par renforcement et le deep learning. Là où il est impossible de fournir une boucle de rétroaction décisive, les données humaines semblent encore constituer le véritable fossé défensif.
C’est vraiment grave.
Sur l’issue GitHub, plus de 100 comptes bots ont posté du spam,
et le compte GitHub compromis est en train de modifier la description de tous les projets présents sur le compte de cette manière.
teampcp owns BerriAI
Personnellement, le fait qu’il y ait même du spam sur l’issue donne une impression dystopique, donc ça me fait vraiment peur.
Et puis, je ne me souviens plus très bien, mais il y avait cette histoire de
flakeou d’une autre fonctionnalité, présentée comme une best practice à un endroit, comme expérimentale à un autre, et parfois comme les deux à la fois, et voir ça durer depuis des années m’a clairement fait comprendre que le chemin allait être semé d’embûches..Bien sûr, l’expérience de pouvoir coder facilement tout l’environnement de bureau était agréable
Moi aussi, j’ai utilisé NixOS pendant environ six mois il y a longtemps, puis je suis retombé sur Arch parce que je n’arrivais pas à résoudre, malgré tous mes googlages, une tâche toute simple qui ne demande normalement aucune recherche sur d’autres OS. J’ai fini par trouver sur un forum NixOS la solution qu’un certain expert NixOS ? avait documentée, et en voyant que ce hack de plusieurs dizaines de lignes était le commentaire le plus liké, j’ai eu l’impression que mon avenir sur NixOS s’annonçait bien sombre...
Comme AlphaGo a été entraîné sur des données d’auto-affrontement AlphaGo vs AlphaGo, l’entraînement des LLM se fait aussi en générant des données avec des LLM. Comme il suffit de quelques échantillons de données pour en produire facilement davantage, il est difficile d’y voir, là aussi, un fossé défensif vraiment sûr.
Je suis allé voir, et apparemment : This project is no longer actively maintained.
Oh... je vois !
Cela dit, R.I.P. Firebase Studio T_T
Firebase Studio utilise aussi Nix
Aïe, ils vont tous mourir.
C’est beaucoup trop difficile, j’ai essayé un peu puis j’ai abandonné 😭
(I use Arch btw)
Il y a beaucoup plus de répondants de notre pays que je ne l’imaginais.
Je l’essaie en ce moment... je ne suis pas très convaincu.
C’est peut-être parce que mon prompt n’est pas bon, mais la police et le design sont un peu médiocres...
En réalité, si un LLM me recommande un certain projet open source, je me dis que je pourrais l’essayer,
mais s’il se met à recommander directement des produits à acheter, j’aurais plutôt tendance à m’en détourner en me demandant si on peut vraiment lui faire confiance.
Enfin, peut-être que ça changera un jour.
Ceux qui connaissent l’utilisent discrètement, haha
Un setup reproductible implémenté avec un langage fonctionnel déclaratif
S'il vous plaît, donnez beaucoup d'amour à RollerCoaster Tycoon.
La courbe d’apprentissage est vraiment déraisonnable. En échange de la garantie de reproductibilité, il exige un niveau élevé.
Même avec
flake, c’est compliqué.Il semble aussi utiliser SQLite en interne, et comme les performances sont assez irrégulières, il y a une certaine fluctuation du temps nécessaire pour reproduire à nouveau un environnement.