- Claude Fable 5 et GPT-5.6 Sol ont reçu le même morceau et les mêmes paroles, un budget de 25 ou 100 dollars, l’accès à la recherche web et à ffmpeg, puis ont été chargés de tout réaliser, de la recherche à la génération et au montage vidéo. Dans les quatre cas, ils ont terminé de manière autonome une vidéo complète intégrant le morceau original.
- Ils ont aussi choisi eux-mêmes les modèles génératifs et la méthode de production ; dans trois cas sur quatre, ils ont utilisé du texte-vers-vidéo, tandis que seule l’exécution Sol à 25 dollars a construit un pipeline consistant à créer d’abord des images fixes, puis à les animer.
- Les coûts de génération des exécutions à 100 dollars se sont limités à 36,57 dollars pour Sol et 48,60 dollars pour Fable ; en incluant les coûts de tokens LLM, le total atteint respectivement 39,82 dollars et 73,65 dollars. Fable a terminé plus vite, mais a coûté plus cher.
- Tous les résultats manquaient de cohérence des personnages et de l’histoire, de synchronisation du tempo entre les mouvements internes à l’image et la musique, ainsi que d’auto-évaluation consistant à réexaminer et remonter les clips générés ; ils avaient aussi tendance à mettre les paroles en images de façon trop littérale.
- L’exécution Sol à 25 dollars a montré le montage le plus créatif, avec des overlays de texte et des effets sur images fixes, mais l’ensemble s’est surtout limité à assembler des clips générés, sans exploiter pleinement le budget de 100 dollars ni Replicate.
Expérience de création autonome de clips musicaux
- Un petit harnais d’agent a été conçu pour recevoir un morceau, un budget fixe en dollars et des outils, puis réaliser de manière autonome toute la production d’un clip musical.
- Rechercher les modèles de génération vidéo et les API à utiliser
- Générer des clips et les vérifier directement
- Monter avec ffmpeg pour assembler la vidéo finale
- Afin d’observer les différences d’utilisation des outils selon les modèles, l’expérience a été structurée comme une tâche longue ouverte, où chaque modèle décidait quoi rechercher, quel contenu générer et comment monter.
- Tous les appels d’outils ont été enregistrés pour permettre d’examiner le processus de travail de chaque modèle, et l’ensemble du harnais est publié sur music-video-arena.
- Claude Fable 5 et GPT-5.6 Sol ont été exécutés avec des budgets de 25 et 100 dollars chacun, pour un total de quatre comparaisons.
- À chaque exécution, les mêmes éléments ont été fournis : “Uptown Funk” de Bruno Mars et Mark Ronson, une courte description textuelle, et une transcription des paroles avec horodatage.
Six outils et contrainte budgétaire
- Chaque modèle a utilisé les six outils suivants dans une boucle autonome d’appels d’outils :
plan: organiser le raisonnement, sans coût ni action réelleweb_search: rechercher des modèles génératifs et des API, et si nécessaire des informations sur les clips musicauxget_budget: vérifier le budget restantgenerate_image,generate_video: les seuls outils consommant le budget, le modèle choisissant directement les modèles FAL ou Replicate et leurs paramètresrun_command: un shell local utilisant ffmpeg et ffprobe pour analyser l’audio, découper et assembler les clips, et combiner la vidéo finale
- Lorsque le budget atteint zéro, les requêtes payantes de génération sont refusées, mais le montage ultérieur peut continuer.
- Non seulement les messages des modèles et les appels d’outils ont été enregistrés, mais aussi les coûts facturés et les erreurs.
Résultats des quatre exécutions
- Toutes les exécutions se sont terminées d’elles-mêmes sans atteindre les limites d’étapes ou de temps, et ont généré une vidéo valide complète intégrant le morceau original.
- Les durées d’exécution et les résultats de génération sont les suivants :
- Fable 5 · 25 dollars : 39 min 10 s, 54 clips, 1 échec, 24,30 dollars, 1280×720
- Sol · 25 dollars : 42 min 52 s, 46 clips, 10 échecs, 23,18 dollars, 1280×720
- Sol · 100 dollars : 49 min 39 s, 70 clips, 2 échecs, 36,57 dollars, 1280×720
- Fable 5 · 100 dollars : 38 min 56 s, 80 clips, aucun échec, 48,60 dollars, 1920×1080
- Les coûts de génération désignent uniquement les coûts mesurés par FAL et n’incluent pas les coûts de tokens liés à l’exécution du modèle lui-même.
- Dans les exécutions à 25 dollars, les deux modèles ont presque épuisé leur budget, mais dans celles à 100 dollars, Sol n’a utilisé que 36,57 dollars et Fable 48,60 dollars.
- Quand le budget a augmenté, la quantité de vidéo générée a aussi augmenté ; le nombre de clips uniques par exécution allait de 46 à 80.
- Le temps réel écoulé inclut les nouvelles tentatives du modèle et l’attente dans les files des fournisseurs.
Pipelines de génération par modèle
- Lorsque le choix des outils a été laissé aux modèles, trois exécutions sur quatre ont utilisé uniquement du texte-vers-vidéo, et seule l’exécution Sol à 25 dollars a mis en place un pipeline image-vers-vidéo.
- Fable 5 · 25 dollars
- A choisi Wan 2.5 t2v sans modèle d’image
- Une approche texte-vers-vidéo facturée 0,05 dollar par seconde de vidéo produite
- Sol · 25 dollars
- A généré des images clés avec FLUX schnell, à 0,003 dollar par image
- A animé les images fixes avec Wan 2.2-5b i2v, à 0,10 dollar par seconde
- Sol · 100 dollars
- A mélangé trois modèles vidéo dans une même exécution — Wan 2.5, Veo 3.1 Lite et Hailuo 2.3 Standard — sans modèle d’image
- Wan 2.5 coûte 0,05 dollar par seconde, Veo 3.1 Lite 0,10 dollar par seconde, et Hailuo 2.3 Standard 0,28 dollar environ par clip d’environ 6 secondes
- Fable 5 · 100 dollars
- A utilisé uniquement Seedance 1.0 Pro t2v, sans modèle d’image
- Tarification basée sur les tokens, à environ 0,62 dollar par clip 1080p de 5 secondes, soit environ 0,12 dollar par seconde
- Même si les clés des deux services étaient fournies, les quatre exécutions ont utilisé uniquement FAL et n’ont pas accédé à Replicate.
Appels d’outils et erreurs
- Le décompte des appels d’outils inclut non seulement les requêtes réussies, mais aussi les tentatives de génération échouées.
- Les plans complets de chaque exécution, ainsi que les journaux d’appels et de commandes, sont consultables dans les transcriptions suivantes :
- Les appels échoués étaient principalement dus à des erreurs réseau temporaires avec les fournisseurs.
- Les requêtes échouées n’ont pas été facturées, mais les nouvelles tentatives ont consommé des étapes de travail.
Utilisation des tokens et coût total réel
- L’utilisation des tokens par exécution est la suivante :
- Fable 5 · 25 dollars : 1 476 900 en entrée, 44 341 en sortie, aucune entrée en cache
- Sol · 25 dollars : 2 956 270 en entrée, 33 220 en sortie, 9 656 de raisonnement, 2 558 029 en entrée cache
- Sol · 100 dollars : 2 097 572 en entrée, 31 715 en sortie, 12 330 de raisonnement, 1 819 050 en entrée cache
- Fable 5 · 100 dollars : 2 264 610 en entrée, 48 029 en sortie, aucune entrée en cache
- Le prix des tokens est de 10 dollars et 50 dollars par million de tokens d’entrée et de sortie, respectivement, pour Fable 5, et de 5 dollars et 30 dollars pour Sol.
- Les coûts totaux par exécution, en additionnant les coûts de génération et les coûts de tokens LLM, sont les suivants :
- Fable 5 · 25 dollars : génération 24,30 dollars + LLM 16,99 dollars = 41,29 dollars
- Sol · 25 dollars : génération 23,18 dollars + LLM 4,27 dollars = 27,45 dollars
- Sol · 100 dollars : génération 36,57 dollars + LLM 3,25 dollars = 39,82 dollars
- Fable 5 · 100 dollars : génération 48,60 dollars + LLM 25,05 dollars = 73,65 dollars
- Les seuls coûts de tokens de Fable, de 16,99 à 25,05 dollars, représentent environ 30 à 40 % du coût total.
- Chez Sol, malgré un volume de tokens similaire, le coût des tokens est resté autour de 3 à 4 dollars.
- Les coûts de génération sont une meilleure estimation calculée à partir des grilles tarifaires de chaque modèle.
Limites observées dans les résultats
- Dans les quatre vidéos, l’apparence des personnages récurrents variait d’une scène à l’autre, et aucune n’a réussi à maintenir une histoire cohérente du début à la fin.
- Les modèles avaient tendance à interpréter les paroles de façon trop littérale.
- Sur la phrase “Make a dragon wanna retire, man”, ils ont fait apparaître un vrai dragon à l’écran.
- C’est intéressant dans certaines scènes, mais cela devient maladroit quand le procédé se répète.
- Toutes les exécutions ont détecté les beats avec ffmpeg pour caler les coupes sur le rythme, mais les mouvements internes aux clips, comme la danse et les mouvements de caméra, correspondaient très peu au tempo du morceau.
- Dans la scène “gotta kiss myself I’m so pretty”, le geste de baiser du protagoniste était beaucoup trop lent.
- L’exécution Sol à 25 dollars a utilisé des techniques de montage absentes des autres, comme l’ajout de texte en overlay et l’animation d’images fixes avec des effets vidéo.
- Les autres exécutions se sont surtout contentées d’assembler des clips générés ; seule l’exécution Sol à 100 dollars, contrairement à Fable, a essayé plusieurs modèles vidéo ensemble.
Limites de l’auto-évaluation et de l’utilisation du budget
- Après avoir généré les clips, les avoir assemblés et y avoir ajouté la piste audio, il n’y a presque pas eu d’itérations de montage consistant à recouper ou ajouter des effets.
- La qualité des clips générés n’a pas été vraiment vérifiée, et le résultat de Sol à 100 dollars inclut aussi des clips IA de faible qualité.
- Fable 5 a choisi par hasard un modèle produisant des sorties plus cohérentes.
- Fable a terminé plus vite que Sol, mais son coût par exécution était plus élevé, et il a aussi enregistré le coût total le plus élevé.
- Subjectivement, la vidéo Fable à 100 dollars a été légèrement préférée, mais aucun des quatre résultats n’a atteint un niveau remarquable.
- Même avec un budget de 100 dollars, aucun des deux modèles n’a dépensé une somme proche du plafond, et le nombre d’étapes de travail est resté limité.
- Avec le budget restant, ils auraient pu générer d’abord des images de personnages cohérentes, puis les animer, mais aucun des modèles n’a choisi cette approche.
- Même les modèles de pointe ont encore une marge de progression importante sur les tâches subjectives et centrées sur le style.
Lancer l’expérience soi-même
- Depuis music-video-arena, il est possible de lancer la même expérience en choisissant le morceau et le budget, et en remplaçant les modèles à comparer.
- Le projet est open source et accepte les issues, les PR et les retours sur la configuration des expériences.
1 commentaires
Avis de Hacker News
C’est une technologie impressionnante par rapport à il y a quelques années, mais le résultat n’a absolument aucune valeur artistique. On dirait une sorte de matière grise visqueuse qui ferait la moyenne de tous les concepts évoqués par la chanson ; un créateur avec du talent et une vision pourrait produire quelque chose de plus intéressant et agréable en une après-midi, même sans budget
Par exemple, on peut indiquer en détail la scène et le timing : faire danser au rythme de la musique les deux personnages de la scène précédente, habillés en grands prêtres du Moyen Empire égyptien avec des visages de chat, juchés sur le dos d’un éléphant lancé à toute vitesse sur un fleuve. L’IA est un outil ; si on se contente de dire « fais-moi un clip sur fond égyptien avec cette chanson », il est normal que le résultat soit médiocre
Il y aura sans doute des gens qui utiliseront l’IA de façon artistiquement remarquable, mais je crains qu’avec le déferlement massif de contenus ordinaires générés automatiquement, il devienne difficile de découvrir des œuvres intéressantes, qu’elles utilisent l’IA ou non. J’espère que cette tendance ramènera les gens vers les communautés locales hors ligne et l’art physique
Les personnes qui ont de réelles capacités et du talent peuvent créer des œuvres étonnantes à bas coût avec ce type d’outils, et la technologie est encore loin d’avoir atteint son sommet
Le problème, c’est qu’on compare l’IA non pas à une personne moyenne dans le domaine, mais à un génie qui n’apparaît qu’une fois dans une vie
Que ce soit à cause du prompt ou de la mise en œuvre, le résultat reproduit les paroles de façon beaucoup trop littérale. Les excellents clips suivent généralement le thème plutôt que les paroles elles-mêmes pour construire un fil narratif, commencent de manière ambiguë, puis révèlent quelque chose à travers des procédés littéraires
Foundd’Amber Run vaut le détour pour comparer les paroles, l’image et la progression narrative de la vidéo : https://www.youtube.com/watch?v=Yj6V_a1-EUARiptidede Vance Joy en est un bon exemple : https://www.youtube.com/watch?v=uJ_1HMAGb4kGenghis Khanmérite aussi d’être mentionné : https://youtu.be/P_SlAzsXa7ELe premier exemple, en particulier, est en réalité une expression assez explicite désignant la cocaïne, et le littéralisme absurde de la vidéo contraste à merveille avec des paroles intelligentes et originales. Si les paroles avaient été aussi simplistes que la vidéo, elles auraient dit quelque chose comme « maintenant, sniffons tous de la cocaïne ! »
L’IA est en train de faire s’effondrer la structure économique qui faisait vivre une classe moyenne d’artistes d’une taille considérable. Beaucoup d’artistes étaient payés davantage pour la qualité de finition esthétique que pour la valeur artistique, et même si ce n’était pas le travail le plus créativement épanouissant, cela leur permettait de gagner leur vie, d’affiner leur technique et de poursuivre à côté leurs véritables objectifs créatifs.
Si je dirigeais une entreprise avec un budget, je ne perdrais pas mon temps à faire des travaux artistiques avec Claude, même si je pouvais tout faire moi-même. Ceux qui étaient très bien payés pour des tâches que l’IA peut facilement remplacer seront évincés, mais ce marché haut de gamme n’a jamais été si important que cela pour les artistes de classe moyenne.
Ils sont également de plus en plus nombreux à brandir fièrement un accélérationnisme consistant à rendre tout aussi médiocre que possible, à empirer le monde et à le tirer vers leur propre niveau ; c’est en somme transformer le comportement de crabes dans un seau en philosophie politique, économique et du travail.
Les personnes véritablement créatives utiliseront l’IA non comme un raccourci, mais comme un amplificateur de capacités, et c’est là que les choses deviendront intéressantes. Dans le logiciel, il existe déjà des gens qui, grâce aux LLM, réalisent des choses qu’ils ne pouvaient pas construire auparavant faute de compétences en codage ; si la même attitude se répand chez les artistes, on verra apparaître des œuvres d’IA que l’on pourra réellement qualifier d’art.
Il fallait déjà chercher la bonne musique ailleurs, et 90 % de la musique populaire était déjà de la camelote produite en masse avant l’IA. Cette vieille interview de Frank Zappa sur le déclin de l’industrie musicale reste toujours pertinente : https://www.youtube.com/watch?v=KZazEM8cgt0
C’est une vidéo atroce qui, comme la musique de Suno, ne paraît crédible que lorsqu’on y prête vaguement attention, et dont toutes sortes de défauts apparaissent dès qu’on se concentre.
Uptown Funk, un énorme succès de 2014 : https://www.youtube.com/watch?v=OPf0YbXqDm0Cela dit, je suis bien sûr d’accord pour dire que la vidéo est atroce.
https://www.cbc.ca/news/canada/ai-baby-slop-9.7166873
https://www.nytimes.com/2026/02/26/us/ai-videos-children-you...
Pour les adultes, l’IA pourrait aussi générer à l’infini des vidéos du genre
OW, My balls!dans le filmIdiocracy.https://substackcdn.com/image/fetch/$s_!Dh4l!,f_auto,q_auto:...
https://media.licdn.com/dms/image/v2/D4E22AQEqLntg_DW7vg/fee...
higgsfield ai, spécialisé dans la vidéo.Il est intéressant de voir à quel point le résultat devient mauvais lorsqu’on n’utilise pas de modèle vidéo ni de mise en scène directe. Les deux premiers clips ont été faits avec Kling, que j’utilise moi-même, sans y être affilié : https://xcancel.com/PJaccetturo/status/2076312902685085815#m
Bien sûr, ce n’est pas un résultat généré en une seule fois et la finition a été faite dans un logiciel de montage vidéo, mais il est tout à fait possible d’obtenir ce niveau de fidélité.
C’est plutôt rassurant que les créateurs aient admis qu’« aucun des clips n’était excellent ». Je me demande aussi combien de temps cela prend, en plus des tokens.
Si dépenser 25 dollars et 45 minutes aboutit à une vidéo pratiquement irregardable, les cinéastes indépendants n’ont sans doute pas encore à craindre d’être remplacés.
Philosophiquement, je considère que l’art est intrinsèquement humain. Le sens et l’impact viennent moins d’une belle apparence que de la vie de l’artiste, du contexte de l’œuvre, de l’effort et de la souffrance, et de l’humain qui a créé quelque chose de précis à partir de ses goûts et de sa situation personnels.
On peut utiliser l’IA comme outil de création artistique, mais quand quelqu’un saisit un prompt en 1 ou 2 minutes, retouche un peu le résultat puis le vend comme son art, ce n’est que du contenu facile à produire. Même sans IA, le contenu arrive déjà plus vite que nous ne pouvons le consommer, et l’art porteur de sens est différent des productions générées en masse.
Comme l’art est subjectif, quelqu’un peut trouver du sens dans une production générée par IA, et si une manière originale de la présenter touche profondément, cela peut devenir de l’art. Mais cette daube n’entre pas dans cette catégorie, et même s’il ne s’agit que d’un simple test de fonctionnalités, beaucoup d’endroits l’adopteront parce que c’est bon marché et suffisant ; il faudra donc s’opposer à une énième réduction de coûts qui ne rend pas le monde meilleur.
Comme dans la formule « l’art, c’est tout ce qu’on peut faire passer en douce », le débat sur ce qui est de l’art n’a rien de nouveau, et le simple fait que cette technologie pousse les gens à discuter de leurs points de vue pourrait être une manière dont la culture se forme. Il est aussi intéressant de se demander si l’art est art à cause de ce qu’a fait son créateur, ou à cause de la manière dont le spectateur le reçoit.
Il vaut la peine de se demander si une œuvre qui vous a ému sans que vous en connaissiez l’origine resterait de l’art si vous appreniez ensuite qu’elle a été générée à 100 % par IA.
Si l’on applique un critère aussi élevé, la plupart des clips faits par des humains ne sont pas non plus de l’art : https://en.wikipedia.org/wiki/Potboiler
Certains considèrent peut-être que le Centre Pompidou est rempli d’œuvres géniales, mais moi je n’y ai pas vraiment pris plaisir, et les œuvres d’IA posent exactement le même problème.
Un livre est un livre, et il peut être bon ou mauvais, mais le fait qu’il ait été écrit par Goethe, l’oncle Clara, un LLM ou un chien ne fait pas partie de l’œuvre elle-même. Même si les humains sont facilement attirés par une bonne histoire en coulisses, cela ne devrait pas compter dans le jugement artistique.
Tous les modèles ont très bien géré au moins la conception des costumes ; je me demande si c’est parce qu’ils ont beaucoup appris sur des données de mode, en vue d’usages dans l’industrie de la mode.
La production cinématographique est par nature un processus d’amélioration itérative, et dans le monde réel non plus on ne termine pas un clip du premier coup. Un agent devrait examiner le résultat à chaque étape et itérer dessus, donc il y a une grande marge d’amélioration.
Le budget du clip original d’
Uptown Funkdevait lui aussi tourner autour de 100 000 dollars, et même le cinéma indépendant traditionnel coûte cher à cause de l’équipement, de la main-d’œuvre et des lieux. Dans n’importe quelle industrie, diviser les coûts par 100 est un bouleversement énorme.J’ai trouvé hilarant que, sur les paroles “don't believe me just watch”, il montre littéralement un bras portant une montre. On aurait dit un jeu où il faut faire deviner des mots par gestes.
retiredécrit dessus.C’est une expérience intéressante et les résultats sont impressionnants, mais si vous êtes musicien, je vous garantis qu’avec des amis vous pourriez faire un clip bien plus cool en ne dépensant que 25 dollars et 45 minutes.
OK Go a connu un gros succès aux débuts de YouTube avec
Here It Goes Again: https://www.youtube.com/watch?v=dTAAsCNK7RACela dit, ce genre de cas est une exception, et la plupart des gens n’ont pas les compétences nécessaires pour obtenir un résultat créatif avec un budget serré. Cela ne veut pas dire que ce résultat IA est meilleur ; au contraire, il est absolument atroce.