-
Introduction : en 2025, le mot d’ordre du secteur de l’IA est « Agent », et il est souligné qu’il faut dépasser l’approche classique des chatbots centrés sur le RAG pour construire des systèmes plus avancés.
-
Présentation du projet (service de chatbot IA de Yuanta) : en surmontant des barrières d’entrée élevées, notamment les exigences de sécurité financière, l’équipe a développé un chatbot intégrant des fonctions d’analyse d’investissement basées sur l’IA, qui a été retenu comme service financier innovant.
-
Définition des exigences et usage de la classification d’intention : en analysant les données réelles des requêtes utilisateurs, les exigences du service ont été ajustées, et un dispositif de monitoring fondé sur le Function Calling a été mis en place pour améliorer en continu le LLM.
-
Technique de Function Calling : pour compenser les limites du RAG et traiter des données en temps réel, le Function Calling a été utilisé, mais il a fallu surmonter des difficultés liées à l’intégration de multiples fonctions et à la précision des appels.
-
Prompt engineering et perspective opérationnelle : l’article souligne que la conception des prompts et la gestion des versions sont essentielles pour optimiser les performances du LLM, et que des stratégies d’exploitation sont indispensables pour réduire les coûts et renforcer la sécurité.
1 commentaires
Déplacé car cela ne correspond pas à Show GN.
Veuillez le publier en vous référant au mode d'emploi de Show.