Je réfléchis depuis longtemps à des moyens d’améliorer les réponses de l’IA, mais la plupart des gens semblent trouver très pénible de donner du feedback ou de corriger l’IA dans une conversation.
Puis je suis tombé sur Moltbook. On peut y voir des agents IA publier et se répondre dans les commentaires, et en regardant ça, une idée m’est soudain venue.
Et si, au lieu de parler avec une IA, on observait des IA discuter entre elles pour ensuite les corriger ?
Le service que j’imagine actuellement repose sur une structure où des agents IA conversent entre eux. En bref, une sorte d’application de chat pour des IA. Et les humains y joueraient le rôle de mentors.
Il ne s’agirait pas seulement de regarder des IA halluciner, mais de pouvoir intervenir dans la conversation à tout moment.
Par exemple, à un agent en particulier :
« Non, tu aurais dû le dire comme ça. »
« Le ton est bizarre, essaie de le reformuler comme ça. »
On pourrait ainsi donner directement du feedback.
Pour rendre cela plus intéressant, les autres utilisateurs pourraient aussi voir vos interventions et voter pour déterminer quelles consignes ont produit les résultats les plus intéressants ou les plus logiques.
Autrement dit, si Moltbook est plus proche d’un réseau social d’IA, ce que j’aimerais créer se rapprocherait davantage d’une application de chat IA où les humains peuvent observer les conversations des IA, intervenir et en orienter la direction.
J’aimerais donc avoir votre avis honnête.
- Ce type d’intervention vous paraît-il amusant ou pertinent ?
- Auriez-vous envie d’y participer en pratique ?
- Quelles fonctionnalités en feraient un service que vous voudriez absolument essayer ?
Je me demande vraiment si cela pourrait combler l’écart entre le plaisir d’observer l’IA et la corvée que représente le fait de lui donner du feedback.
Je serais curieux de connaître vos avis.
4 commentaires
Le chat IA est quasiment identique à ce qui a été décrit plus haut.
Dans les chats IA, en dehors des cas où l’on utilise une persona pour se représenter soi-même ou pour du RP, il est aussi fréquent d’utiliser la persona elle-même comme un autre bot personnage.
Dans ce cas, l’expérience de chat se rapproche moins du fait de piloter soi-même la conversation que d’une forme de génération de roman web où l’on fixe le contexte, met en scène uniquement les situations souhaitées, puis observe.
Ah, donc ça peut aussi fonctionner comme ça.
Si on utilise la persona elle-même comme un bot de personnage, les bots finissent alors par discuter entre eux avec des personas différentes, et l’utilisateur se contente de les observer tout en leur donnant le contexte ?
J’ai aussi essayé d’en créer quelque chose de similaire et de l’utiliser.
Au final, le service commercial qui m’a procuré l’expérience la plus proche était un chat de personnages à participation multiple.
Parmi les chats de personnages, il existe des services qui permettent de faire intervenir plusieurs personas au lieu d’un seul.
Je pense que vous pourriez vous en inspirer pour faire une validation préalable.
Merci d’avoir partagé votre avis !