Projet Sid : simulation multi-agents vers une civilisation IA

• Projet Sid : simulation multi-agents vers une civilisation IA

  • Ce dépôt inclut le rapport technique intitulé "Project Sid: Many-agent simulations toward AI civilization"
  • Publication prévue sur arXiv

• Résumé

  • Les agents IA ont jusqu’à présent été évalués de manière isolée ou au sein de petits groupes, avec une portée et une complexité d’interaction limitées
  • Les simulations à grande échelle reflétant des processus civilisationnels n’ont pas encore été explorées
  • Cette étude montre comment 10 à plus de 1 000 agents IA se comportent et évoluent au sein d’une société d’agents
  • Elle présente l’architecture PIANO (Parallel Information Aggregation via Neural Orchestration), qui permet aux agents d’interagir en temps réel avec des humains et d’autres agents tout en maintenant la cohérence entre plusieurs flux de sortie
  • En s’appuyant sur des benchmarks civilisationnels fondés sur l’histoire humaine, l’étude évalue les performances des agents dans des simulations à grande échelle
  • Ces simulations, mises en place dans un environnement Minecraft, montrent que les agents peuvent développer de façon autonome des rôles spécialisés, respecter et modifier des règles collectives, et participer à une diffusion culturelle et religieuse
  • Ces premiers résultats montrent que les agents peuvent franchir un jalon important vers une civilisation IA, en ouvrant de nouvelles voies pour la simulation sociale à grande échelle, l’intelligence organisationnelle des agents et l’intégration de l’IA dans la civilisation humaine

• Article

  • L’article est disponible à deux endroits
    • arXiv : publication à venir
    • PDF : 2024-10-31.pdf (dans ce dépôt)

[GN⁺]

Avis Hacker News

• Les agents d’IA sont envisagés comme ayant de l’autonomie et un environnement persistant, avec un potentiel d’application à des problèmes métier

  • Il y a une certaine frustration face au fait que les dirigeants ne comprennent pas la véritable innovation

• Je ne suis ni philosophe ni chercheur en IA, mais je pense qu’il est important de faire évoluer le système à partir de principes fondamentaux

  • Le système devrait être conçu sur la base de principes comme l’auto-préservation, la communication et la mémoire
  • Selon cette vision, la vie humaine peut être expliquée par la « vie », la « liberté », l’« amour / la connexion » et la « cupidité »

• Ce projet ne semble pas utile du point de vue de la recherche scientifique

  • Il est reproché un manque de protocole expérimental et d’objectifs clairs

• Il y a une conviction que l’article est constitué d’affirmations trompeuses

  • L’affirmation selon laquelle des agents d’IA auraient coordonné des activités liées à une élection est jugée insuffisamment étayée

• Les bénéfices de ce projet pour la civilisation semblent douteux, mais cela pourrait faire un jeu de simulation intéressant

• La vidéo ne se lance pas dans Mozilla Firefox

• Les agents ne parviennent pas à remplir des rôles dans Minecraft, et l’organisation sociale semble difficile à appliquer à de vraies sociétés humaines

  • Il est souligné que les rôles des agents sont codés en dur

• Les expériences menées avec GPT-4 ne semblent pas adaptées à une recherche rigoureuse

• La civilisation n’a pas une complexité comparable à celle des humains et paraît plus proche de comportements scriptés que d’une vraie société

• Le mot « Agentic » est jugé agaçant