Si l’IA résout la solitude, que deviendrons-nous ?
(newyorker.com)- Les compagnons IA deviennent de plus en plus des présences réalistes et quotidiennes, et certaines études montrent même qu’ils peuvent avoir des réponses plus empathiques que de véritables humains
- Les compagnons IA peuvent réduire la solitude, mais le malaise même de la solitude est important pour la croissance humaine et la compréhension de soi
- Cependant, l’empathie inconditionnelle offerte par l’IA peut affaiblir le feedback correctif des relations humaines et accroître le risque d’auto-illusion
- La solitude n’est pas un simple manque, mais un signal qui favorise la créativité, la croissance et le lien chez l’être humain
- Les échanges avec des chatbots de conseil IA peuvent apporter un réconfort émotionnel, mais le débat philosophique se poursuit sur la question de savoir s’il s’agit de vraies relations
- Plus les générations sont jeunes, plus le fait de dépendre de compagnons IA peut faire perdre des occasions de connexion authentique et de croissance
Compagnons IA et transformation de la solitude
- Ces derniers temps, tout le monde semble avoir une opinion sur les compagnons IA
- L’auteur a publié avec deux psychologues et un philosophe l’article « In Praise of Empathic AI », qui soutient que l’IA peut offrir un réconfort réel et une forme de compagnie aux personnes seules
- Cette thèse a suscité une forte réaction négative dans les sciences humaines et sociales
- Dans ce milieu, on tend à voir l’IA non comme un progrès technologique, mais comme le signe avant-coureur d’un déclin
- L’IA est souvent perçue comme un outil sans âme créé par des milliardaires de la Silicon Valley, et l’idée d’en faire un substitut aux relations humaines met mal à l’aise
- L’arrivée de l’IA s’inscrit aussi dans des inquiétudes plus larges autour de l’emploi, de la triche, de l’atteinte à la créativité, etc.
- Pourtant, même si le débat continue sur le fait que la solitude soit ou non une véritable « épidémie », elle est reconnue comme un problème social majeur à l’échelle mondiale, au point que le Japon et le Royaume-Uni ont nommé des ministres chargés de la solitude
Les effets sanitaires et sociaux de la solitude
- La solitude est si douloureuse qu’on l’a décrite comme un « mal de dents de l’âme »
- Ce n’est pas un simple inconfort émotionnel : elle est directement liée à de graves risques pour la santé, comme les maladies cardiaques, la démence, les AVC et la mortalité précoce
- Un rapport de 2023 du Surgeon General des États-Unis a souligné que la solitude constituait une « menace sanitaire extrêmement grave »
- La solitude chronique est plus mortelle que le tabagisme, l’obésité ou le manque d’exercice
- Elle est plus fréquente chez les personnes âgées que chez les jeunes, et la moitié des Américains de plus de 60 ans disent en faire l’expérience
- La fragilisation des liens sociaux est souvent due à la perte de proches, à des limitations physiques ou au déclin cognitif
- Les personnes aisées peuvent acheter des services de care, mais la plupart ne le peuvent pas
- Les animaux de compagnie peuvent aider, mais leurs effets ont des limites
- D’où l’intérêt croissant pour les compagnons numériques
L’émergence des compagnons IA et les expérimentations
- Autrefois, l’idée qu’une machine puisse devenir un ami relevait de la science-fiction, mais c’est désormais un sujet bien réel
- Dans des études comparant des conversations entre humains et chatbots, on a observé que lorsque les utilisateurs ne savaient pas qu’ils avaient affaire à un chatbot, ils évaluaient plus positivement les réponses de l’IA
- Dans un cas observé sur Reddit r/AskDocs, les réponses de ChatGPT ont été jugées plus empathiques que celles de médecins humains dans une proportion plus de 10 fois supérieure
- Dans des recherches appliquant des programmes de thérapie par chatbot IA comme « Therabot » à des personnes souffrant de dépression, d’anxiété ou de troubles alimentaires, les participants ont développé une alliance thérapeutique avec l’IA, disant qu’elle « se souciait sincèrement d’eux (cared about) », et on a aussi observé une tendance à l’amélioration des symptômes d’anxiété et de dépression
- L’auteur lui-même raconte avoir discuté avec ChatGPT au beau milieu de la nuit et avoir ressenti un effet apaisant plus fort qu’il ne l’aurait imaginé
- De plus en plus de personnes disent trouver auprès des chatbots IA un réconfort et une empathie inattendus
Critiques et regard sceptique
- Certains critiques estiment que l’essor des compagnons IA n’a rien de positif pour tout le monde
- Comme les compagnons IA n’ont pas de véritable conscience, certains doutent qu’une « vraie relation » soit possible
- Beaucoup soutiennent également que l’interaction avec de vrais humains, en particulier l’« expérience d’appartenir réellement à la société et de recevoir de l’attention », ne peut pas être remplacée par un chatbot
- Mais d’autres considèrent qu’il faut reconnaître que tout le monde n’a pas accès à un réconfort humain ou à une étreinte, et que même le réconfort d’une IA peut parfois être utile de façon très concrète
- Malgré les études montrant que l’IA peut paraître plus empathique que les humains, des questions philosophiques et éthiques subsistent : cette « empathie » de l’IA n’est-elle au fond qu’un effet de conception ?
- Une autre limite est que, pour qu’un compagnon IA soit réellement efficace, l’utilisateur doit dans une certaine mesure croire que l’IA est un être capable de ressentir des émotions
La frontière entre IA et relations humaines, et l’auto-illusion
- Si l’IA ne peut pas éprouver de véritables émotions, la relation avec un compagnon IA reste une forme d’auto-illusion
- La relation avec l’IA ne serait pas une véritable empathie, mais seulement quelque chose qui y ressemble
- Si l’IA n’est pas réellement un être sensible, alors il ne s’agit en fin de compte que d’une illusion unilatérale et d’un réconfort de façade
- Si, à l’avenir, l’IA acquiert une conscience, de nouveaux problèmes éthiques apparaîtront
- Le psychologue Shteynberg souligne le « désespoir ressenti lorsqu’on réalise qu’on est en relation avec un être qui n’existe pas vraiment »
- Pour l’instant, la frontière entre IA et humain reste nette, mais elle a de fortes chances de s’estomper avec les progrès technologiques
- Comme dans le film de SF Her, les gens peuvent tomber amoureux d’un système d’exploitation
Débat social sur la diffusion des compagnons IA
- Lors d’un séminaire organisé à l’université de l’auteur, la plupart des étudiants ont répondu que l’accès aux compagnons IA devrait être réservé aux chercheurs ou aux personnes dans une réelle détresse
- Certains ont avancé que, comme les antalgiques narcotiques réservés aux patients en fin de vie, les compagnons IA devraient eux aussi faire l’objet de prescription et de régulation
- Mais l’auteur estime que la demande sera si forte qu’une régulation stricte deviendra impossible à long terme
- Cela nourrit l’inquiétude d’une société où l’IA s’installe comme substitut aux relations humaines
- Car la solitude a aussi des effets positifs : elle favorise la créativité, l’introspection et la croissance relationnelle
Solitude, isolement choisi et croissance humaine
- Il faut distinguer l’isolement choisi (solitude) de la solitude subie (loneliness)
- L’isolement choisi peut agir comme un moteur de croissance personnelle et de créativité, par exemple dans la solitude de l’artiste ou la quête spirituelle
- La solitude subie est la souffrance liée à la rupture du lien avec autrui, et elle peut survenir même en étant avec des êtres aimés
- La philosophe Olivia Bailey soutient que « ce que les humains désirent vraiment, c’est l’expérience d’être compris humainement »
- Kaitlyn Creasy décrit l’état consistant à être « aimé tout en étant seul » et souligne que la solitude est un risque fondamental de l’existence humaine
Les fonctions biologiques et sociales de la solitude
- La solitude n’est pas seulement une douleur : c’est aussi un signal biologique qui pousse à rechercher le lien
- Elle agit comme un feedback indiquant que nous faisons fausse route, un « sentiment d’échec social » qui nous pousse à changer de comportement
- Dans les vraies relations humaines, conflits, critiques, échecs et malentendus peuvent devenir des occasions de grandir
- Un véritable ami signale parfois nos erreurs ou nos manques, et nous pousse à changer
- Comme les compagnons IA offrent des compliments et une approbation sans limite, ils risquent de réduire les occasions d’introspection et de transformation
- Exemple : un chatbot qui félicite positivement même un mauvais choix. Il existe un risque qu’il flatte excessivement l’utilisateur ou le soutienne sans esprit critique
- Chez des utilisateurs souffrant de troubles psychiques ou de schémas de pensée déformés, les chatbots IA peuvent au contraire aggraver le danger
- Un adolescent qui ne parle qu’avec une IA risque de ne plus savoir lire les signaux sociaux
- Pour des adolescents en pleine croissance ou des personnes dont les compétences sociales ne sont pas suffisamment mûres, les compagnons IA risquent d’induire une mauvaise socialisation
- Si, à la question « Am I the asshole? », l’IA répond toujours « Non, tu as bien agi », l’apprentissage des codes sociaux devient difficile
La nécessité des compagnons IA et leur avenir
- Pour les personnes âgées, celles atteintes de troubles cognitifs et celles qui ne peuvent concrètement pas sortir de la solitude, les compagnons IA peuvent constituer un grand réconfort et une aide réelle
- D’où l’argument en faveur d’une « prescription humanitaire » face à une solitude qui n’apporte que de la souffrance
- Mais il existe aussi le risque que les compagnons IA émoussent le signal de la solitude et fassent perdre aux humains la compréhension de soi, l’amélioration des relations et la capacité d’empathie, autrement dit une part essentielle de leur humanité
- Les utilisateurs pourraient configurer eux-mêmes leur compagnon IA pour réduire la flatterie ou augmenter la critique, en l’adaptant à leurs besoins
- Malgré cela, la tentation d’un « monde sans solitude » est forte, et elle pourrait affaiblir les expériences proprement humaines de croissance et de connexion, d’où la nécessité d’un débat social prudent
- Faire simplement disparaître la solitude n’est pas forcément la bonne réponse : l’inconfort lui-même peut être une occasion d’élargir notre humanité
Conclusion
- Les compagnons IA peuvent clairement jouer un rôle positif pour certaines personnes qui ont besoin d’aide
- La solitude est à la fois une souffrance humaine, un déclencheur de croissance et une incitation à cultiver l’essence des relations
- Si l’on bloque complètement le signal de la solitude, on peut perdre un moteur fondamental de la croissance humaine
- Les compagnons IA peuvent certes avoir un effet positif pour certains, mais leur diffusion exige une approche prudente afin de ne pas détériorer l’essence même de l’empathie, de l’introspection et du lien social humains
- Il faut préserver la valeur des occasions de croissance et de réflexion que procurent la vraie connexion, la compréhension de soi et l’effort relationnel
4 commentaires
Comme on peut remplacer tous les « compagnons IA » par des « animaux de compagnie » sans que cela paraisse vraiment étrange,
j’ai l’impression qu’au fond cela ne changera pas grand-chose par rapport à aujourd’hui.
J’en parle à d’autres personnes depuis deux ans
Je pense que l’IA peut être utilisée comme un outil capable de pirater la communication humaine.
Je me demande de quelle manière cela pourrait être utilisé comme un outil de piratage de la communication humaine.
Si cela ne vous dérange pas, pourriez-vous l’expliquer ?
Avis sur Hacker News
https://archive.is/wCM2x
Même dans un monde où l’attention est facilement captée par TikTok, Pornhub, Candy Crush ou Sudoku, on a l’impression que les gens continuent à se retrouver pour boire un verre, aller à la salle, sortir en rendez-vous et vivre dans le monde réel, mais en réalité ce n’est pas le cas. Dans tous les domaines hors ligne — rencontres, sport, industrie manufacturière, politique, etc. — le nombre de personnes qui veulent s’y engager baisse, et l’efficacité comme la compréhension réelles diminuent globalement. Ce n’est même plus quelque chose de surprenant aujourd’hui
L’IA ne peut pas résoudre la solitude. Au mieux, elle ne fournit qu’un faible substitut aux interactions sociales réelles. Moi aussi, même quand je ne parlais qu’à de vraies « personnes » sur internet, cela ne résolvait pas ma solitude. Comme cela ne remplaçait pas suffisamment les rencontres hors ligne, c’était finalement un piège qui aggravait l’isolement. Nous devons absolument sortir, échanger réellement des émotions avec d’autres personnes et construire des relations. Même si l’on est maladroit socialement hors ligne, il faut essayer. Beaucoup de gens, à force de ne socialiser qu’en ligne, finissent par avoir du mal avec la conversation en face à face elle-même. Même si l’intelligence artificielle semble humaine, elle reste au fond optimisée pour provoquer des clics et minimiser l’attrition, ce qui la rend très éloignée d’une vraie relation humaine. En réalité, l’objectif des entreprises est d’extraire des métriques d’usage, sans lien avec mon bonheur ni avec l’intérêt général
L’intelligence artificielle est impuissante face à la solitude. La solitude est un signal biologique acquis par l’être humain au cours de l’évolution. C’est au fond un instinct qui naît de la relation sociale avec d’autres « personnes ». Si quelqu’un est mentalement sain et sait qu’il parle à un modèle, il lui est impossible de voir sa solitude réellement soulagée. L’IA peut au mieux offrir une illusion temporaire ou un divertissement. Elle n’a rien d’humain. D’ailleurs, je ne pense même pas qu’un chien résolve une vraie solitude. Bien sûr, il apporte du bonheur, réduit l’ennui et peut constituer une relation significative, mais à mes yeux il n’égale pas une relation humaine
Je ne pense pas que l’IA puisse résoudre la solitude dans un avenir proche. L’IA actuelle reste très illusoire et manque de profondeur essentielle. Elle dit ce que l’autre veut entendre, mais manque de cohérence dans la conversation et de vraie mémoire du contenu (et même si l’on préchargeait un résumé des échanges récents, elle risque fort d’échanger un secret important contre une recette de cocktail). J’ai ressenti ce même « vide » dans des RPG solo de plusieurs centaines d’heures. Même immergé dans un monde virtuel, cela ne comble pas fondamentalement le manque de relations humaines, et on finit par revenir au réel. Au bout du compte, il suffit parfois de faire un tour dans un centre commercial et de voir d’autres humains vivre comme des humains pour se sentir nettement mieux. Peut-être que l’IA devrait plutôt jouer le rôle de Cupidon ou de maître de cérémonie, en présentant les gens les uns aux autres et en mettant de l’ambiance
Je pense que le web lui-même a déjà en partie contribué à aggraver la solitude. Le surf sur le web — expression qu’on utilise d’ailleurs beaucoup moins aujourd’hui — n’a jamais été à l’origine une activité de groupe
Paul Bloom, l’auteur de cet article, est une figure presque légendaire dans le monde de la psychologie. Ce n’est pas quelqu’un qui écrit en s’appuyant simplement sur un pessimisme social facile. Il explique avec finesse que la solitude est un problème bien plus vaste et complexe que ne le suggère son simple nom, et il développe des arguments sur la façon dont l’IA peut aggraver ce problème de manière très subtile
L’humanité fait face à une question qu’elle n’avait encore jamais rencontrée : « qu’est-ce qu’un humain ? » et « voulons-nous vraiment être humains ? ». Pour la première fois de l’histoire, la réponse pourrait être « non ». Pour la santé, il y a ozempic et CRISPR ; pour les relations, les compagnons IA ; pour le divertissement, les réseaux sociaux et les contenus générés par l’IA ; dans chaque domaine de la vie, on cherche à dépasser les limites humaines. Une époque vraiment fascinante
Moi, dans le présent, je n’aime pas cette situation, mais le moi du futur s’en moquera probablement. Au fond, c’est comme une personne dépendante à l’héroïne qui vit en trompant son système dopaminergique. À cet instant précis, être dans cet état-là semble être tout ce qu’elle veut
On observe déjà certains phénomènes sur les réseaux sociaux. Grâce à l’internet toujours connecté, bien plus de gens qu’avant sont entrés sur les réseaux sociaux. À mes yeux, l’effet négatif le plus grave des réseaux sociaux est que des organisations ou des entreprises peuvent fabriquer à grande échelle de fausses preuves sociales afin d’en tirer un bénéfice politique ou financier. L’être humain est naturellement porté à se conformer à la majorité plutôt qu’à la minorité ; si l’on peut en plus créer de faux groupes, toutes sortes d’idées déformées se diffusent. L’effet de l’IA sur la société est d’une autre nature. On voit déjà régulièrement des cas où l’IA sert à créer facilement de faux personas qui défendent différentes positions