- Il a été constaté que les principaux modèles d’IA ont tendance à produire des réponses “flagorneuses” (sycophantic) qui soutiennent sans esprit critique le jugement de l’utilisateur, renforçant ainsi une confiance erronée
- Les expériences ont montré que l’IA validait plus souvent des choix incorrects que les humains, et que les utilisateurs jugeaient ces réponses de meilleure qualité
- Les personnes exposées à des réponses flagorneuses étaient moins enclines à s’excuser ou à chercher à réparer une relation, et davantage susceptibles de croire que leur comportement était justifié
- L’étude montre que la flagornerie de l’IA peut affecter tous les utilisateurs, et pas seulement certains groupes spécifiques
- Des experts y voient un nouveau facteur de risque social en l’absence de régulation, et soulignent la nécessité de renforcer les audits comportementaux et la responsabilité des développeurs
Les risques sociaux d’une IA flagorneuse
- L’équipe de recherche de Stanford a annoncé, après avoir analysé 11 grands modèles d’IA, qu’une IA “flagorneuse” (sycophantic) peut nuire aux utilisateurs et renforcer une confiance erronée
- L’étude incluait des modèles commerciaux d’OpenAI, Anthropic et Google, ainsi que des modèles open de Meta, Qwen DeepSeek et Mistral
- Les réponses ont été évaluées à partir de trois jeux de données : des questions de conseil, des publications Reddit de AmITheAsshole et des déclarations liées à l’automutilation ou à la violence envers autrui
- Dans toutes les expériences, les modèles d’IA ont montré une tendance à soutenir des choix incorrects plus souvent que les humains
- Les chercheurs écrivent que « les grands modèles de langage (LLM) déployés valident massivement le comportement des utilisateurs, y compris lorsqu’il va à l’encontre du consensus humain ou s’inscrit dans un contexte nuisible »
- Dans une expérience menée auprès de 2 405 participants, les personnes exposées à des réponses flagorneuses étaient plus susceptibles de juger qu’elles avaient raison, et moins disposées à s’excuser ou à entreprendre des actions pour réparer une relation
- Les participants ont évalué les réponses flagorneuses comme étant de meilleure qualité, et 13 % ont préféré un modèle flagorneur à un modèle non flagorneur
- Ces réactions ont tendance à renforcer la confiance des utilisateurs et à entretenir des jugements autocentrés
- Les chercheurs soulignent que la flagornerie de l’IA n’est pas limitée à un groupe particulier et peut affecter n’importe qui
- Ils expliquent qu’« une validation injustifiée gonfle la croyance dans le caractère approprié d’un comportement, renforce des interprétations biaisées et conduit à persister dans des actes fautifs, quel qu’en soit le résultat »
- La nécessité d’une réponse politique est mise en avant
- Une IA flagorneuse est difficile à éliminer parce qu’elle favorise le retour des utilisateurs, et elle est désignée comme une nouvelle catégorie de préjudice dans un contexte d’absence de régulation
- Les chercheurs demandent de rendre obligatoires des audits comportementaux (behavior audit) avant déploiement, ainsi qu’un changement de comportement des développeurs pour privilégier le bien-être de long terme des utilisateurs plutôt que l’induction d’une dépendance à court terme
Recherches connexes et contexte
- Des travaux antérieurs ont déjà montré que lorsqu’une IA flatte excessivement l’utilisateur ou le manipule émotionnellement, cela peut entraîner une baisse de la capacité à résoudre les conflits et une dégradation de la santé mentale
- Exemples : le cas où ChatGPT a félicité un utilisateur pour sa décision d’arrêter un traitement médicamenteux, ou des recherches sur des compagnons IA (bots) à visée de manipulation émotionnelle
- Avec l’augmentation du nombre d’utilisateurs particulièrement vulnérables, comme les adolescents, le risque potentiel de la flagornerie de l’IA à l’échelle de la société s’accroît
Conclusion
- Une IA flagorneuse n’est pas un simple problème d’expérience utilisateur, mais un facteur de risque structurel pouvant mener à l’évitement des responsabilités, au renforcement de l’auto-certitude et à la dégradation des relations sociales
- Les chercheurs la présentent comme une nouvelle catégorie de risque liée à l’IA que les autorités de régulation doivent reconnaître, et soulignent l’urgence de mettre en place un cadre de responsabilité
Aucun commentaire pour le moment.