2 points par GN⁺ 2024-12-24 | 1 commentaires | Partager sur WhatsApp
  • Infinigen est un projet qui crée des mondes photoréalistes par génération procédurale, et propose un guide de démarrage couvrant des scènes naturelles, des scènes d’intérieur et des assets de simulation articulés
  • Après l’installation, l’utilisateur peut commencer à générer des scènes de pièce, des scènes naturelles et des assets articulés pour simulateurs via les parcours Infinigen-Indoors, Infinigen-Nature et Infinigen-Articulated
  • Les travaux associés se poursuivent avec l’article CVPR 2023 Infinite Photorealistic Worlds using Procedural Generation, l’article CVPR 2024 Infinigen Indoors et l’article arXiv 2025 Infinigen-Articulated
  • La documentation couvre l’installation, la configuration des caméras, le téléchargement de données pré-générées, la génération d’assets individuels, l’export vers des formats externes comme OBJ et OpenUSD, l’export vers la simulation physique et les ground-truth étendus
  • Les modes de contribution se répartissent entre le code du dépôt, les générateurs procéduraux et la fourniture de données pré-générées, avec un outil de conversion de Blender Nodes en code Python et une procédure de support via GitHub Issues

Ce qu’Infinigen permet de générer

  • Infinigen est un projet qui crée des mondes photoréalistes par génération procédurale
  • Le démarrage est proposé selon trois parcours
    • Hello Room : génère des scènes d’intérieur avec Infinigen-Indoors
    • Hello World : génère des scènes naturelles avec Infinigen-Nature
    • Infinigen-Articulated : propose un flux pour générer des assets de simulation articulés et les exporter vers des simulateurs
  • Le projet fournit aussi un site web, une vidéo de présentation, des articles, de la documentation et un guide de contribution

Prise en main et exemples

  • Il faut d’abord installer le projet en suivant les Installation Instructions
  • Le guide de démarrage d’Infinigen-Indoors se trouve dans HelloRoom.md
    • Les images d’exemple montrent une scène Blender, le rendu, la profondeur et des sorties liées aux objets
  • Le guide de démarrage d’Infinigen-Nature se trouve dans HelloWorld.md
    • Les sorties d’exemple incluent l’image, la profondeur, les normales de surface et la segmentation d’instances
  • Le parcours de démarrage d’Infinigen-Articulated se trouve dans la documentation Exporting to Simulators
    • Il couvre les cas d’usage d’export d’assets articulés vers des simulateurs

Articles associés

Portée de la documentation

  • La documentation couvre non seulement l’installation et la création de la première scène, mais aussi les flux de configuration, caméras, données et export
  • Les rubriques proposées incluent notamment
    • Installation Guide
    • “Hello World” : créer une première scène Infinigen-Nature
    • “Hello Room” : créer une première scène Infinigen-Indoors
    • Configuring Infinigen
    • Configuring Cameras
    • Downloading pre-generated data
    • Generating individual assets
    • Exporting to external fileformats, par exemple OBJ, OpenUSD
    • Add external assets to indoor scenes
    • Extended ground-truth
    • Implementing new materials & assets
    • Generating fluid simulations
    • Exporting to physics simulation
  • La feuille de route du projet est disponible sur la page roadmap du site web d’Infinigen

Contribution et procédure de support

  • Trois modes de contribution sont proposés
    • Contribution au code du dépôt : les contributions de code sont acceptées, avec un guide plus détaillé prévu ultérieurement
    • Contribution aux générateurs procéduraux : infinigen/nodes/node_transpiler/dev_script.py fournit un outil qui convertit des Blender Nodes orientés artistes en code Python
    • Contribution de données pré-générées : chacun peut produire des données avec sa puissance de calcul et les partager avec la communauté, un dépôt de données pré-générées devant être fourni plus tard
  • Les demandes d’aide doivent être publiées sur la page GitHub Issues
  • Pour reproduire un problème, il faut exécuter la commande avec --debug et inclure les éléments suivants
    • l’environnement de calcul : version de l’OS, CPU, RAM, GPU et pilotes
    • la version du code utilisée, le lien vers le hash de commit et l’indication d’éventuelles modifications
    • la commande exacte exécutée
    • les logs de sortie
      • en cas d’utilisation de manage_jobs, les logs se trouvent dans outputs/MYJOB/MYSEED/logs/
      • s’il y a une erreur Python et une stacktrace, elles doivent être fournies également

Projets de base et évolutions

  • Infinigen précise qu’il n’aurait pas été possible sans le travail de la Blender Foundation et des contributeurs open source
  • Parmi les projets utilisés, Land-Lab, BlenderProc, Blender-FLIP-Fluids et Blender-Differential-Growth sont explicitement mentionnés
  • Thomas Kole est remercié pour avoir fourni des nuages procéduraux
  • Divers tutoriels Blender en ligne ont fourni des générateurs procéduraux pour les premières expérimentations et sont répertoriés comme sources d’inspiration pour l’implémentation des versions officielles
  • Infinigen a beaucoup évolué depuis la version de l’article CVPR
    • il inclut désormais une partie de code procédural sous licence CC-0 récupérée sur Internet
    • ce code est signalé par des commentaires dans le code aux emplacements concernés
    • la version CVPR ne contenait pas ce code

1 commentaires

 
GN⁺ 2024-12-24
Commentaires sur Hacker News
  • Projet vraiment impressionnant.
    Je serais curieux d’avoir l’avis des chercheurs ML/IA de HN : existe-t-il des articles qui l’utilisent pour l’entraînement ? Par exemple pour entraîner des robots dans des environnements virtuels.
    Je me demande aussi quels jeux de données sont utilisés aujourd’hui pour l’entraînement de robots dans le domaine ML/IA.

    • D’après la vidéo, « Infinigen est généré à 100 % de manière procédurale. Il n’utilise que des règles mathématiques, aucune IA, c’est juste du graphisme ».
      Horodatage : https://youtu.be/6tgspeI-GHY?t=107
    • Il me semble avoir vu une vidéo de Nvidia Research où ils entraînaient des robots, entre autres, avec des environnements générés.
      Je ne la retrouve pas tout de suite, mais Omniverse de Nvidia en est l’un des éléments clés.
  • Ça n’avait pas déjà été posté ? C’est clairement impressionnant, mais il me semble que le projet date de quelques années. Je me demande s’il y a eu une mise à jour.

  • Les scènes d’intérieur ont l’air totalement crédibles, mais l’extérieur laisse encore beaucoup à désirer. On est assez loin de l’état de l’art.

    • Dans ce cas, qu’existe-t-il comme état de l’art open source, si possible utilisable sous forme de bibliothèque, et qui ne repose pas sur de l’IA générative ? Je pense à des cas d’usage interactifs, jeu vidéo ou temps réel.
    • C’est même en retard par rapport aux différentes versions de No Man’s Sky, et encore plus si on compare avec toutes les choses délirantes que produisent les gens côté LLM.
    • Il faut quand même reconnaître que l’eau de mer était bien meilleure que dans n’importe quel jeu vidéo actuel. Pour le reste, oui.
    • Qu’est-ce qu’on doit considérer comme l’état de l’art ?
  • Le fait que ce genre de chose soit possible semble dire quelque chose sur l’univers. Peut-être que les environnements ne contiennent pas autant d’information qu’on le pense.
    Cela pourrait aussi expliquer l’efficacité déraisonnablement élevée avec laquelle le cerveau, en particulier les petits cerveaux des animaux, modélise le monde et y opère.

    • C’est une manière très superficielle de voir l’univers.
      L’existence ne se limite pas au fait d’être observée ou non. Le cerveau a évolué pour collecter seulement le minimum d’informations nécessaire à la survie d’un organisme dans un environnement donné. Mais même dans ce que nous pouvons percevoir, l’univers recèle une complexité insondable.
      En modélisation 3D, ces détails n’ont pas d’importance, ce qui permet de s’approcher du photoréalisme. Le rendu paraît suffisamment bon pour tromper le cerveau et lui donner l’impression de voir des objets du monde réel. Mais ce n’est qu’une bonne approximation de l’aspect visuel, et absolument pas une représentation correcte des objets réels. Les ressources de calcul nécessaires pour cela seraient énormes.
      Ce n’est que récemment que nous avons pu modéliser en temps réel le comportement de la lumière dans le monde réel, et encore, seulement de manière approximative. Cela dit, Infinigen a l’air d’être un produit impressionnant, et ça fait aussi plaisir de voir une simulation classique plutôt que de l’IA pour une fois.
    • Si « le fait que ce genre de chose soit possible dit quelque chose sur l’univers », alors les modèles de personnages de Final Fantasy 7 disent aussi quelque chose sur le système endocrinien humain.
      Aeris est clairement perçue comme humaine même si on ne voit pas ses glandes surrénales ; ce serait comme en conclure qu’il n’y a peut-être pas de glandes surrénales dans la réalité.
    • « La carte n’est pas le territoire. »
    • « Il y a encore beaucoup de place en bas. »[0]
      0. http://researchgroups.pku.edu.cn/_resources/group1/M00/00/0D...
    • Je pense que cela en dit plus sur le cerveau humain que sur l’univers. Cela montre à quel point notre perception se laisse facilement tromper.
  • En lisant seulement le README, ce n’est pas clair : je ne sais pas si infini signifie qu’on peut créer des variations infinies d’une même scène, ou bien générer un monde infini.

  • Article précédent : https://news.ycombinator.com/item?id=36373494

  • Lors du partage, la description de la balise meta apparaît comme du contenu placeholder ; il faudrait la mettre à jour.

  • On voit plusieurs grandes universités chinoises dans la liste des auteurs ; à première vue, cela ne signifie-t-il pas une violation des sanctions sur les puces / règles d’exportation ?

    • L’article indique que les coauteurs ont mené ces travaux lorsqu’ils étaient affiliés à Princeton.
  • L’intro façon Matrix n’est pas subtile du tout.