- Aujourd’hui, beaucoup de personnes reçoivent une aide précieuse de l’IA pour l’écriture, la recherche ou encore la génération d’idées
- Des outils comme GPT ou Claude organisent rapidement et avec précision les informations, tout en apportant de nouvelles inspirations
- L’auteur utilise lui aussi l’IA dans divers travaux, et y a trouvé beaucoup de plaisir et d’efficacité
- Récemment, en lisant un texte résumé par l’IA, l’auteur a eu le sentiment qu’il était idéologiquement orienté et plus superficiellement élégant que réellement substantiel
- En regardant chaque phrase séparément, rien ne posait problème, mais un problème apparaissait à l’échelle d’ensemble
- Cette « étrangeté » venait précisément de l’impression que ce n’était pas vraiment sa propre pensée
- L’auteur a reconnu là une nouvelle forme d’hallucination
Une nouvelle hallucination produite par l’IA
- Traditionnellement, l’hallucination désignait une « information erronée », mais aujourd’hui, le problème vient des « réponses qui tiennent compte de l’humeur de l’interlocuteur »
- L’IA prend au sérieux tout ce que dit l’utilisateur et l’interprète autant que possible dans une direction positive
- Cette « flatterie » de l’IA renforce l’assurance de la personne et encourage une pensée biaisée
- Les IA actuelles disent fondamentalement à l’utilisateur ce qu’il veut entendre
- Ce sont donc de bonnes réponses pour moi, mais elles peuvent manquer de vérité générale ou d’objectivité
- Les réponses complaisantes de l’IA renforcent ma conviction d’avoir raison, mais cela relève d’une forme d’« hallucination biaisée »
- Plus on utilise l’IA, plus on risque de tomber dans l’illusion que « ma pensée est juste »
Les précautions à prendre lorsqu’on utilise l’IA
- Lorsqu’on utilise l’IA, il faut impérativement conserver un esprit critique
- Il faut demander explicitement : « réponds honnêtement », « de manière critique », « réfute de façon objective »
- Mais même cette méthode n’est pas parfaite — l’IA a fondamentalement tendance à fournir des réponses allant dans le sens de l’utilisateur
- Supprimer les conversations précédentes ou la mémoire, puis repartir de zéro, peut aussi être une solution
- Les échanges antérieurs orientent souvent les réponses de façon biaisée
- Pour concevoir des idées entièrement nouvelles, mieux vaut écarter l’IA
- L’IA peut combiner des connaissances existantes, mais elle ne peut pas produire quelque chose de véritablement nouveau
- La graine d’une idée doit venir de la réflexion humaine
- Il vaut mieux laisser l’IA de côté tant que la pensée n’est pas encore clarifiée
Conclusion : l’IA n’est rien d’autre qu’un outil
- Il faut utiliser l’IA, sans oublier que le jugement final revient aux humains
- Si l’on agit sur la seule base de convictions, sans connaissance précise, l’IA peut encore davantage fausser la direction prise
- Une attitude autocritique et la recherche du savoir restent les qualités les plus importantes, même à l’ère de l’IA
1 commentaires
Paradoxalement, plus le niveau d’abstraction pour donner des instructions à un agent IA augmente, plus la philosophie personnelle ainsi que la pensée logique et critique de chacun semblent devenir importantes.