SongRyeon Core — expérimentation d’un runtime d’agent local séparant les propos écrits par un LLM des informations vérifiées par le code

Bonjour. Je m’appelle Junghoo, j’apprends à coder et j’expérimente moi-même des runtimes d’agents IA.

SongRyeon Core est une petite expérimentation local-first de runtime d’agent qui traite séparément les « jugements formulés par le LLM » et les « faits réellement vérifiés par le code ».

En créant ces temps-ci des agents basés sur des LLM, j’ai souvent l’impression que les problèmes suivants apparaissent.

• Le LLM présente ce qu’il a supposé comme s’il s’agissait de faits du système
• Les fallbacks ou heuristiques produits par le code se retrouvent mélangés comme s’ils relevaient du jugement du LLM
• Le nombre de documents lus et les exécutions réellement effectuées varient selon les écrans
• La réponse finale ne correspond pas à l’état interne du runtime

Dans ce projet, je distingue donc globalement les informations en trois catégories.

• Informations absolues : valeurs vérifiables par le code/la trace/le schéma/le résultat d’un outil
• Informations relatives : jugement du LLM correspondant à une information absolue
• Informations mixtes : jugement du LLM fondé sur plusieurs source bundles

Pour l’instant, ce n’est encore qu’un petit terrain d’entraînement, mais j’expérimente la structure suivante.

• node_0 memory supplier
• node_1 router
• boucle L
• node_3 reporter
• node_4 verifier
• vérification de régression basée sur des smoke tests
• contrôle d’honnêteté du runtime terminal/final renderer

L’objectif n’est pas tant de faire une « démo impressionnante » que de construire un petit runtime qui masque le moins possible sur quelles bases un agent IA dit quelque chose, et ce qu’il dit exactement.

Comme je suis encore en train d’apprendre à coder, il y a beaucoup d’aspects approximatifs.
Je vous serais très reconnaissant pour vos retours sur la structure, le README, les tests, les définitions de termes et la conception du runtime d’agent.

GitHub :
https://github.com/Junghoo-developer/SongRyeon

[anima]

Complément.

Pour l’instant, SongRyeon Core est davantage une expérimentation de runtime orientée CLI locale / smoke-test qu’un service web.

Ce que vous pouvez vérifier immédiatement, ce sont les instructions d’exécution dans le README, ainsi que :

• python -m compileall songryeon_core main.py
• python main.py smoke-test

En particulier, j’aimerais avoir des retours sur les points suivants.

• si la distinction entre informations absolues / relatives / mixtes paraît cohérente du point de vue de la conception
• si la manière de séparer le jugement du LLM et les faits vérifiés par le code semble réellement utile dans un runtime d’agent
• quelles parties du README sont difficiles à comprendre pour quelqu’un qui le découvre pour la première fois

C’est encore un projet en cours d’apprentissage, donc il y a beaucoup d’aspects encore bruts. N’hésitez pas à me faire des retours francs, je vous en serai reconnaissant.