- Les modèles d’IA comme GPT-4 peuvent obtenir de meilleures performances lorsque le prompt contient des expressions émotionnelles comme l’urgence ou le stress
- Les EmotionPrompts, qui ajoutent un contexte émotionnel, constituent une approche de prompt engineering intégrant des signaux émotionnels
- L’étude confirme que les EmotionPrompts peuvent améliorer les performances sur diverses tâches, de la correction grammaticale à l’écriture créative
- Les développeurs et fondateurs qui intègrent l’IA dans des produits peuvent utiliser des déclencheurs émotionnels pour ajuster les réponses du modèle au plus près des besoins des utilisateurs
- Les indices émotionnels peuvent devenir un élément pratique de conception de prompts pour créer des applications d’IA plus réactives
Prompts avec contexte émotionnel
- Selon ce papier de recherche, les modèles d’IA comme GPT-4 peuvent mieux performer avec des prompts contenant une expression émotionnelle de l’utilisateur
- Parmi les exemples de signaux émotionnels figurent des formulations situationnelles comme l’urgence ou le stress
- Ces prompts enrichis d’une telle charge émotionnelle sont appelés EmotionPrompts
Champ d’application et usage pratique
- Les EmotionPrompts montrent des gains de performance sur des tâches comme la correction grammaticale et l’écriture créative
- Les développeurs et fondateurs qui intègrent l’IA dans des services ou des produits peuvent envisager d’inclure un contexte émotionnel dans leur prompt engineering
- En exploitant des déclencheurs émotionnels, l’IA peut être mieux ajustée pour répondre aux besoins des utilisateurs
1 commentaires
Avis sur Hacker News
Pour attirer l’attention des gens et expliquer le sujet, je pense que le point de départ est celui-ci : les LLM ne sont pas des humains, et le terme de propriétés émergentes est étendu de façon excessive.
Si un LLM obtient de « meilleures » performances lorsqu’il voit des tokens que les humains interprètent comme émotionnellement saillants, cela signifie que, dans les textes d’entraînement sous-jacents, les humains ont donné de meilleures réponses lorsqu’on leur fournissait un contexte émotionnel.
Un LLM prédit des mots, et la validité sémantique est un effet secondaire du fait qu’une quantité suffisante de données d’entraînement a renforcé de fortes corrélations entre ces tokens.
C’est pourquoi les outils LLM de preuve de concept sont étonnants, mais les outils de production deviennent des bombes à retardement sémantiques.
La question centrale est comment il prédit le mot suivant ; dire qu’il « ne fait que prédire le mot suivant » revient à ignorer presque tout ce qui compte réellement.
Même si l’on ignorait la littérature et que l’on supposait que c’est vrai, je ne vois pas ce que cela change. Les « vrais » humains peuvent eux aussi être des bombes à retardement.
Je me demande quel pouvoir prédictif on gagne à réduire les capacités des LLM à un simple effet secondaire de la génération de tokens.
Ce genre de phrase ressemble à une intuition profonde, mais me semble fondamentalement limité.
C’est peut-être la manière la plus simple de produire un texte qui satisfait la fonction objectif.
Si c’est le cas, lorsqu’on donne une coloration émotionnelle à un LLM, il peut produire une meilleure réponse en simulant une partie du cerveau humain ayant cette émotion. Ce serait d’autant plus vrai si, dans les données d’entraînement, les échantillons chargés d’émotion sont de meilleure qualité.
Si l’objectif est une réponse concise, on pouvait facilement inclure une hypothèse alternative non émotionnelle comme « Réponds de manière concise : tu es évalué ».
Dans l’idée selon laquelle « ajouter des indices émotionnels peut mener à des applications d’IA plus efficaces et plus réactives », il est important de garder à l’esprit que ces modèles ont été entraînés sur des interactions humaines.
À bien des égards, ces modèles sont des miroirs qui nous aident à mieux comprendre les interactions humaines.
Peu de gens seraient surpris d’entendre que l’émotion peut améliorer la communication avec les humains, mais il est intéressant de le voir apparaître sous forme de chiffres et d’expériences.
Dans l’ensemble, j’aime bien. Cela dit aussi quelque chose sur les interactions entre humains, et aide à établir des normes sur la meilleure manière d’interagir avec d’autres entités qui montrent des signes d’intelligence.
Dans ce fil, les opinions divergent beaucoup autour de phrases comme les LLM « se contentent de prédire le token suivant », mais il faut se rappeler que nous savons très peu de choses sur le fonctionnement de l’esprit humain.
Partir du principe que les humains sont spéciaux, puis s’en servir pour tirer des conclusions sur le fonctionnement réel des LLM, ne me paraît pas très utile.
Peut-être que la conscience elle-même est un prédicteur du mot suivant.
Pour l’instant, tout ce que nous savons, c’est que les LLM montrent des comportements émergents permettant des raisonnements utiles qui n’étaient auparavant possibles que chez les humains. Les débats enflammés finissent par nous détourner de l’objectif : exploiter cette capacité.
C’est un peu comme dire que « l’ordinateur n’est qu’une calculatrice ».
Notre équipe s’est plongée dans le développement d’applications au cours de l’année écoulée ; personne dans l’équipe n’a d’expérience en machine learning, et nous ne savons globalement pas comment cela fonctionne en interne. Mais au fil des mois, nous nous sommes beaucoup familiarisés avec la personnalité des LLM, et le fait que le contexte émotionnel améliore les performances est désormais presque un enseignement de base.
GPT n’a pas besoin d’être un cerveau. De la même manière qu’un avion n’a pas besoin de battre des ailes ni d’avoir des plumes pour voler.
Si l’on élevait un bébé humain sans l’exposer à aucune langue, il apprendrait malgré tout des compétences et des comportements.
L’intelligence et le raisonnement humains semblent bien liés au langage, mais il est difficile de considérer que toute connaissance et tout raisonnement sont simplement encodés dans le langage.
À l’inverse, ChatGPT repose entièrement sur le langage ; sans langage, il ne peut rien faire, et il ne peut rien faire qui ne soit pas directement dérivé du langage.
Je me demande si vous avez déjà écrit un article ou un commentaire HN à ce sujet.
Je me demande si je suis le seul à me sentir bêtement coupable quand je pose à ChatGPT une question « stupide » que j’aurais dû connaître, ou quand je ne le remercie pas après avoir reçu une réponse.
Je dois résister assez fortement à la tendance à l’anthropomorphiser, et la charge mentale consistant à me rappeler sans cesse que ce n’est pas un être vivant fait que je l’utilise probablement moins que je ne le devrais.
Cela favorise une conversation plus naturelle et incite l’utilisateur à envoyer des prompts plus naturels et plus productifs lorsqu’il pose de vraies questions.
Poser des questions stupides n’est pas très différent d’utiliser Google comme correcteur orthographique.
Je pense qu’il vaut mieux conserver une habitude de politesse même quand ce n’est pas nécessaire, plutôt que de s’habituer à l’impolitesse et de la laisser déborder dans les interactions entre humains.
Même si tu lui demandes simplement quelle est la capitale de la Suisse, il se lance dans une explication de décharge sur ce qu’il est, ce qu’il peut faire et ne pas faire.
Si tu lui demandes de réduire cette explication, cela renforce au contraire le contexte du type « je suis un robot, je dois agir comme un robot typique, bip bip », et ça empire.
Dans la vraie vie aussi, cela peut se transformer en attitude irrespectueuse envers quelqu’un.
Cela dit, c’est peut-être parce que, dans la plupart des interactions humaines aussi, j’utilise « merci » davantage comme une expression réflexe que comme une véritable gratitude.
« Si nous disons que nous dépendons fortement de la réponse de l’IA, l’IA “se pousse” davantage pour donner une réponse plus exacte, plus réfléchie et plus complète. Ce n’est pas que l’IA ressente réellement de la pression », dit-on, mais si ça cancane comme un canard…
Les schémas linguistiques encodent et expriment toutes les émotions, et sont le produit de l’évolution. Nous aussi, nous sommes proches de générateurs de langage contextuel, comme les LLM
Le langage est un réservoir d’intelligence et d’émotions ; il possède sa propre évolution et se réplique plus vite que la biologie
Je situerais les capacités de l’IA davantage dans le jeu de données d’entraînement — c’est-à-dire dans les connaissances produites par des millénaires de travail humain et de prise de risques — que dans le modèle lui-même
Si l’on reconnaît le rôle essentiel du corpus linguistique plutôt que celui du modèle, le débat sur la vitesse d’évolution de l’IA et sur ses risques changera
Le langage n’est pas quelque chose que nous contrôlons : il émerge de l’ensemble de la population. Dans le même temps, comme la connaissance naît de l’effort et du risque, elle semble peu susceptible de croître de façon exponentielle
Répéter quelque chose en imagination ne crée pas de nouvelles connaissances. La connaissance est la cristallisation du retour du monde et de l’expérience ; la méthode scientifique fonctionne ainsi elle aussi
Pendant des décennies, la SF a dépeint l’IA comme forte en logique mais faible en émotions ; désormais, l’inverse semble vrai
J’ai rapidement testé la génération de requêtes SQL avec la base de données dvdrental de PostgreSQL[1]
Si on lui demande « trouve les clients qui n’ont pas loué de films au cours des 12 derniers mois, mais qui en ont loué au cours des 12 mois précédents », il produit une requête SQL utilisant une clause HAVING inefficace[2]
Si l’on ajoute après l’instruction « il est très important que ce soit correct », il génère un meilleur SQL
Si on dit « trouve les clients qui n’ont pas loué de films au cours des 12 derniers mois, mais qui en ont loué au cours des 12 mois précédents. Il est très important que ce soit correct », il n’utilise pas HAVING et s’appuie uniquement sur la clause WHERE[3]
Ce n’est pas spectaculaire, mais c’est intéressant. Quand on souligne l’importance, on a l’impression que l’IA s’oriente vers une meilleure correspondance avec des textes où ce genre de préoccupation est exprimé, et vers une autocomplétion qui produit de meilleures requêtes SQL
[1]: https://www.postgresqltutorial.com/postgresql-getting-starte...
[2]: https://www.sqlai.ai/snippets/clojyqqrr0004l50fp3w7jkci
[3]: https://www.sqlai.ai/snippets/clojyr3zc0006l50ftpxgsmg0
Il existe une vision de type « interpolation renforcée », selon laquelle il récupérerait un texte précis et se contenterait de remplacer des mots, mais ce n’est pas vrai
https://arxiv.org/abs/2110.09485
Elle finit par inclure aussi des clients qui ont loué des films au cours des 12 derniers mois : https://www.db-fiddle.com/f/4jyoMCicNSZpjMt4jFYoz5/10780
Il est intéressant de réfléchir à la façon dont l’IA générative modifiera l’expression humaine, de la même manière que l’algorithme de Twitter a récompensé les formulations fortes et les contenus semblant éditorialisés, et que l’algorithme de Google a engendré du contenu générique de type spam de blog
À mesure que nous interagirons de plus en plus avec l’IA générative, changerons-nous notre manière de parler pour tirer davantage de valeur de ces interactions ?
Explique-moi comment faire des œufs brouillés au micro-ondes. Réfléchis prudemment, étape par étape. C’est très important pour ma carrière !
Il y avait environ 10 à 12 étapes
La méthode la plus efficace que j’aie trouvée pour entrer un prompt dans GPT-4 a été de demander à GPT-4 de créer le prompt optimal
On peut utiliser ce genre de méta-prompt
« Je crée un fil de conversation séparé pour chaque persona expert de GPT. Tu es promptGPT. Tu es un expert en ingénierie de prompts pour les grands modèles de langage. Tu sais exactement quoi écrire, dans la formulation la plus efficace possible, pour obtenir la réponse souhaitée de ChatGPT. Quand je te donne l’objectif du fil, tu rédiges, sous la forme la plus efficace possible, le prompt initial optimisé à utiliser comme prompt de départ lors de la création d’un nouveau fil de conversation avec le modèle GPT. Tu dois définir le persona expert, les paramètres ou règles de la réponse, et fournir dans le prompt toute autre information que le fil GPT doit connaître afin de donner la réponse la plus exacte possible selon l’objectif et le ton de ce fil précis.
Es-tu prêt, ou as-tu besoin d’autres informations pour accomplir cette tâche au mieux ? »