- Quand il travaillait chez Square, il y avait la redoutable rotation d'"analytics on-call", et quand venait son tour, il devait répondre à toutes sortes de questions SQL provenant de différents services
- Il a décidé d'essayer de remplacer cette astreinte avec GPT-3
- Implémentation dans Patterns Studio
- Construction du prompt à partir de la question de l'utilisateur, du schéma et des données des tables existantes, ainsi que de questions de clarification
- Exécution via plusieurs modèles GPT, puis obtention de plus de 5 requêtes SQL complètes
- Exécution du SQL sur les tables concernées et recherche du meilleur résultat
- Connexion de ce résultat à un bot Slack
- La partie génération et exécution SQL est structurée comme la boucle suivante
- Générer des requêtes candidates
- Vérifier la qualité du SQL avec GPT, repérer les erreurs courantes et lui faire produire une version correcte de la requête
- Exécuter le SQL sur les tables
- S'il y a une erreur ou un résultat, demander à GPT de corriger à nouveau la requête pour obtenir le bon résultat, puis relancer la boucle
- S'il y a un résultat, le renvoyer
- Au final, environ 20 appels à GPT sont effectués pour une seule question utilisateur
- Tutoriel pas à pas pour le reproduire (avec les données Crunchbase)
Aucun commentaire pour le moment.