Résumer récursivement des livres avec des retours humains

• Nouvel article de recherche publié par OpenAI

• Pour appliquer des modèles d’IA, il faut vérifier que les modèles de machine learning se comportent conformément aux intentions humaines

→ problème d’alignement

• Résoudre l’alignement est difficile à évaluer pour les humains et demande beaucoup de temps

• Pour tester les techniques de scalable alignment, un modèle a été entraîné à résumer des livres entiers

→ il résume d’abord le livre section par section, puis résume à nouveau ces résumés à un niveau supérieur jusqu’à obtenir le résumé final

→ a résumé les 26 449 mots de "Alice au pays des merveilles" en 136 mots

→ à partir d’un GPT-3 affiné, il produit d’excellents résumés d’un niveau proche de la qualité moyenne des résumés rédigés par des humains