L’évolution du prompt engineering : Verbalized Sampling double la créativité de l’IA

L’équipe de recherche de Stanford a dévoilé une technique de prompting simple qui double immédiatement la créativité des modèles d’IA. Découverte surprenante : il suffirait d’ajouter une seule phrase, sans réentraînement du modèle, pour résoudre le problème des réponses répétitives et convenues.

Points clés :

• La magie d’une phrase : la simple consigne « générer 5 réponses avec leur probabilité » augmente la créativité de 1,6 à 2,1 fois. Application immédiate sans réentraînement, ajustement de paramètres ni changement complexe de configuration
• Cause profonde identifiée : si l’IA est peu intéressante, ce n’est pas à cause du modèle lui-même, mais d’un « typicality bias » issu du processus d’entraînement d’alignement. En apprenant à privilégier les réponses familières aux humains, la créativité est bridée
• Plus le modèle est grand, plus l’effet augmente : sur de grands modèles comme GPT-4 et Claude Opus 4, l’effet est 1,5 à 2 fois plus fort. Une clé pour réveiller des capacités latentes