Antiqua et Nova : réflexion sur la relation entre l’IA et l’intelligence humaine

• Document publié conjointement par le Dicastère pour la Doctrine de la foi et le Dicastère pour la Culture et l’Éducation, qui traite largement des défis anthropologiques et éthiques liés à la relation entre l’intelligence artificielle (IA) et l’intelligence humaine
  • Antiqua et Nova : en latin, « les choses anciennes et les choses nouvelles »

I. Introduction

• En nous appuyant sur la sagesse ancienne et moderne (Matthieu 13:52), nous devons réfléchir aux défis et aux opportunités apportés par les progrès de la science et de la technologie, en particulier les récents développements de l’intelligence artificielle (IA)
• Dans la tradition chrétienne, l’intelligence est considérée comme un élément essentiel montrant que l’être humain a été créé « à l’image de Dieu » (Genèse 1:27)
• En se fondant sur une vision intégrale de l’être humain et sur l’appel de la Genèse à « cultiver et garder la terre » (Genèse 2:15), l’Église souligne que l’intelligence humaine doit s’exprimer à travers la pensée rationnelle et les capacités techniques permettant de gérer de manière responsable le monde créé

• L’Église encourage le développement des activités humaines, y compris la science, la technologie et l’art, et y voit une « collaboration de l’homme et de la femme à l’achèvement de la création visible »
• Le Siracide (38:6) témoigne que « Dieu a donné aux hommes le savoir-faire, afin qu’il soit glorifié dans ses merveilles »
• Les capacités et la créativité humaines viennent de Dieu et, lorsqu’elles sont utilisées correctement, elles reflètent la sagesse et la bonté de Dieu, conduisant ainsi à sa louange
• Par conséquent, lorsqu’on discute de ce qui constitue « l’humanité », il faut aussi prendre en compte les capacités scientifiques et techniques

• Dans cette perspective, le présent document traite des défis anthropologiques et éthiques soulevés par l’IA
• L’un des objectifs de l’IA est d’imiter l’intelligence humaine qui l’a conçue
• Contrairement à d’autres créations humaines, l’IA peut apprendre à partir de productions créatives humaines puis générer de nouveaux « résultats », souvent avec un degré de sophistication tel qu’il devient difficile de les distinguer de ce qu’un être humain a produit
• Cela suscite de graves inquiétudes quant à l’impact de l’IA sur la crise de l’authenticité dans l’espace public
• En outre, l’IA peut, par apprentissage, prendre de manière autonome certaines décisions, s’adapter à de nouvelles situations et proposer des solutions que ses développeurs n’avaient pas anticipées
• Cela soulève des questions fondamentales concernant la responsabilité éthique et la sécurité humaine, avec des effets étendus sur l’ensemble de la société
• Cette nouvelle situation amène beaucoup à se reposer les questions : « Qu’est-ce que l’être humain ? » et « Quel est le rôle de l’humanité ? »

• Compte tenu de l’ensemble de ces éléments, l’IA a ouvert une nouvelle phase importante dans la relation entre l’être humain et la technologie, se trouvant au cœur de ce que le pape François a qualifié de « changement d’époque »
• L’influence de l’IA est manifeste à l’échelle mondiale dans des domaines variés tels que les relations humaines, l’éducation, le travail, l’art, la santé, le droit, la guerre et les relations internationales
• À mesure que l’IA progresse, il devient indispensable d’examiner en profondeur ses implications anthropologiques et éthiques
• Cela ne consiste pas seulement à atténuer les risques et à prévenir les dommages, mais aussi à veiller à ce que l’usage de l’IA contribue au développement humain et au bien commun

• Afin de contribuer à un jugement juste sur l’IA, l’Église remet en lumière, à travers ce document, la « sagesse du cœur » mise en avant par le pape François, en proposant une réflexion anthropologique et éthique
• L’Église s’engage à participer activement aux débats liés à l’IA et invite les parents, les enseignants, les prêtres et les évêques chargés de transmettre la foi à traiter avec attention cette question importante
• Ce document leur est particulièrement destiné, mais il s’adresse aussi à un public plus large partageant la conviction que les progrès de la science et de la technologie doivent être mis au service de l’être humain et du bien commun

• À cette fin, le document commence par distinguer les notions d’intelligence de l’IA et d’intelligence humaine
• Il explore ensuite la compréhension de l’intelligence humaine à partir des fondements philosophiques et théologiques de la tradition chrétienne
• Enfin, il présente des orientations éthiques destinées à garantir que le développement et l’usage de l’IA protègent la dignité humaine et favorisent le développement intégral de la personne et de la société

II. Qu’est-ce que l’intelligence artificielle ?

• Dans l’IA, la notion d’« intelligence » a évolué au fil du temps en reflétant diverses perspectives académiques
• Bien que les origines de l’IA remontent à plusieurs siècles, un tournant majeur a eu lieu en 1956 avec l’atelier d’été organisé au Dartmouth College par l’informaticien américain John McCarthy
• McCarthy a défini l’IA comme « le problème consistant à faire accomplir par des machines des comportements qui, s’ils étaient réalisés par des humains, seraient qualifiés d’intelligents », et cet atelier a véritablement lancé les recherches visant à concevoir des machines imitant les comportements intellectuels humains

• Par la suite, la recherche en IA a progressé rapidement, menant au développement de systèmes complexes capables d’exécuter des tâches hautement sophistiquées
• Les systèmes actuels d’« IA étroite (Narrow AI) » sont conçus pour accomplir des fonctions spécifiques, comme la traduction linguistique, la prévision de la trajectoire des tempêtes, la classification d’images, la réponse à des questions ou encore la génération de contenus visuels à la demande des utilisateurs
• Bien que la définition de l’« intelligence » varie dans la recherche en IA, les systèmes d’IA actuels, en particulier ceux fondés sur le machine learning, reposent davantage sur l’inférence statistique que sur le raisonnement logique
• L’IA analyse de vastes volumes de données afin d’identifier des motifs et de « prédire » des résultats, ce qui présente certaines similitudes avec les processus humains de résolution de problèmes
• Ces performances ont été rendues possibles grâce aux innovations dans les technologies de calcul (réseaux neuronaux, apprentissage non supervisé, algorithmes évolutionnaires) et dans le matériel (processeurs spécialisés)
• Grâce à ces avancées technologiques, les systèmes d’IA peuvent réagir aux entrées humaines, s’adapter à de nouvelles situations et parfois proposer des solutions que leurs développeurs n’avaient pas prévues

• En raison du développement rapide de l’IA, de nombreuses tâches qui, autrefois, ne pouvaient être accomplies que par des humains sont désormais prises en charge par l’IA
• En particulier dans des domaines spécialisés tels que l’analyse de données, la reconnaissance d’images et le diagnostic médical, l’IA peut compléter, voire surpasser, les capacités humaines
• Si l’« IA étroite » actuelle est conçue pour exécuter des tâches spécifiques, certains chercheurs visent à développer une « intelligence artificielle générale (AGI) » capable d’opérer dans tous les domaines cognitifs
• Certains soutiennent que l’AGI pourrait à terme atteindre une « superintelligence (superintelligence) » dépassant l’intelligence humaine et, combinée aux avancées de la biotechnologie, rendre possible une « super-longévité (super-longevity) »
• D’autres, en revanche, craignent que cette possibilité n’entraîne un remplacement de l’être humain, tandis que certains accueillent positivement ces transformations

• À la base des diverses perspectives sur l’IA et l’intelligence humaine se trouve l’hypothèse implicite selon laquelle le terme « intelligence » peut s’appliquer de la même manière à l’être humain et à l’IA
• Pourtant, cela ne reflète pas la pleine signification du concept
• Chez l’être humain, l’intelligence est une capacité liée à l’existence entière de la personne, tandis que, dans le cas de l’IA, l’« intelligence » est comprise dans un sens fonctionnel, souvent fondé sur l’idée que l’activité mentale humaine peut être décomposée en procédures numérisées

• Cette perspective fonctionnelle est représentée de manière emblématique par le « test de Turing »
• Alan Turing considérait qu’une machine pouvait être jugée « intelligente » si un humain ne parvenait pas à distinguer son comportement de celui d’un être humain
• Cependant, le « comportement » visé ici se limite à l’exécution de tâches intellectuelles spécifiques et n’englobe pas les dimensions globales de l’expérience humaine — pensée abstraite, émotions, créativité, sensibilité esthétique, morale et religieuse
• En outre, cela ne reflète pas pleinement les caractéristiques de l’esprit humain, et l’« intelligence » des systèmes d’IA est simplement évaluée en fonction de leur capacité à produire des résultats semblables à ceux de l’intelligence humaine, sans prendre en compte la manière dont ces résultats sont produits

• Les fonctions avancées de l’IA lui permettent d’exécuter des tâches complexes, mais ne lui confèrent pas une « capacité de penser »
• C’est une distinction importante, et la manière dont on définit l’« intelligence » influence de façon décisive la compréhension de la relation entre la pensée humaine et l’IA
• Pour bien comprendre cette différence, il faut prendre en considération une conception plus profonde et plus globale de l’intelligence, telle que la proposent la tradition philosophique et la théologie chrétienne
• Il s’agit également d’un élément central de l’enseignement de l’Église sur la nature humaine, la dignité et la vocation

III. L’intelligence dans la tradition philosophique et théologique

Rationalité

• Depuis que l’humanité a commencé à réfléchir sur elle-même, l’esprit (mind) est considéré comme un élément essentiel de ce qui fait l’humain
• Aristote affirmait que « tous les êtres humains désirent naturellement savoir » et expliquait que l’être humain se distingue du monde animal par sa capacité à comprendre de manière abstraite l’essence et le sens des choses
• Philosophes, théologiens et psychologues ont étudié la nature des capacités intellectuelles humaines, en explorant la manière dont l’être humain comprend le monde et reconnaît sa place singulière en son sein
• À travers cette recherche, la tradition chrétienne comprend l’être humain comme un être composé de corps et d’âme, profondément inscrit dans le monde tout en le transcendant

• Dans la tradition classique, l’intelligence est expliquée à travers deux concepts complémentaires : la « raison (ratio) » et l’« intellect (intellectus) »
• Il ne s’agit pas de fonctions distinctes, mais de deux modes d’opération d’une seule et même intelligence, comme l’explique saint Thomas d’Aquin
• « L’intellect (intellectus) est la capacité de saisir intuitivement la vérité, tandis que la raison (ratio) est le processus qui permet de parvenir à des conclusions par l’exploration et le raisonnement logique »
• Autrement dit, l’intellect est la capacité de comprendre intuitivement la vérité, tandis que la raison est la capacité de porter un jugement à travers un processus de pensée analytique et argumentatif
• L’union de ces deux éléments constitue l’acte humain essentiel de « comprendre (intelligere) »

• Décrire l’être humain comme un « être rationnel » ne signifie pas le limiter à une seule manière de penser, mais indiquer que l’ensemble de ses activités est façonné et influencé par sa capacité de compréhension intellectuelle
• Cette capacité, qu’elle soit bien ou mal utilisée, est un élément essentiel de la nature humaine
• La notion de « rationnel » dépasse la simple faculté de penser et « inclut non seulement la connaissance et la compréhension, mais aussi toutes les facultés comme la volonté, l’amour, le choix et le désir », ainsi que les fonctions corporelles étroitement liées à ces facultés
• Dans cette perspective globale, l’être humain créé à l’image de Dieu élève, façonne et transforme sa volonté et ses actions par la raison

Corporéité (Embodiment)

• La pensée chrétienne comprend les capacités intellectuelles humaines dans le cadre d’une vision intégrale de l’être humain, selon laquelle celui-ci est essentiellement un être incarné
• Chez l’être humain, l’esprit et la matière « ne sont pas deux natures séparées, mais forment une seule nature »
• Autrement dit, l’âme n’est pas simplement une « partie » immatérielle logée dans le corps, et le corps n’est pas non plus une simple enveloppe : l’être humain tout entier est à la fois matériel et spirituel
• Cette compréhension reflète l’enseignement biblique et souligne que l’être humain est un être qui vit en relation avec Dieu et avec les autres
• La portée profonde de cette condition apparaît plus clairement encore dans le mystère de l’Incarnation, par lequel Dieu a lui-même assumé un corps humain et « l’a élevé à une sublime dignité »

• L’être humain est profondément enraciné dans son existence corporelle, mais il transcende le monde matériel par son âme
• L’âme « se tient à la frontière du temps et de l’éternité »
• Les capacités transcendantes de l’intellect et la volonté libre relèvent de l’âme, par lesquelles l’être humain « participe à la sagesse de Dieu »
• Cependant, l’esprit humain n’acquiert pas la connaissance comme s’il était séparé du corps : il fonctionne normalement à travers le corps
• Les capacités intellectuelles humaines doivent donc être comprises dans une perspective anthropologique où l’être humain est une « unité de corps et d’âme »

Relationnalité (Relationality)

• L’être humain est par nature « orienté vers une communion interpersonnelle » et possède la capacité de connaître autrui, de partager l’amour et de nouer des relations
• L’intelligence humaine n’est donc pas une faculté isolée : elle se réalise dans la relation et s’exprime dans sa forme la plus accomplie à travers le dialogue, la coopération et la solidarité
• Nous apprenons avec les autres, et nous apprenons par les autres

• L’orientation relationnelle de l’être humain trouve son origine dans l’amour sacrificiel que le Dieu trinitaire a manifesté dans l’histoire de la création et du salut
• L’être humain est « appelé à participer à la vie de Dieu par la connaissance et par l’amour »

• L’appel à la communion avec Dieu est nécessairement lié à l’appel à la communion avec les autres
• Aimer Dieu ne peut être séparé de l’amour du prochain (voir 1 Jean 4:20 ; Matthieu 22:37-39)
• Les chrétiens qui ont reçu la grâce de participer à la vie de Dieu doivent aussi imiter l’amour du Christ (voir 2 Corinthiens 9:8-11 ; Éphésiens 5:1-2) et mettre en pratique le commandement : « aimez-vous les uns les autres comme je vous ai aimés » (Jean 13:34)
• L’amour et le service permettent de dépasser l’intérêt personnel et de répondre plus fidèlement à la vocation humaine (voir 1 Jean 2:9)
• Plus grand que le fait de savoir beaucoup de choses est le fait de prendre soin les uns des autres, et « même si je connais tous les mystères et toute la connaissance, si je n’ai pas l’amour, je ne suis rien » (1 Corinthiens 13:2)

Relation à la vérité (Relationship with the Truth)

• L’intelligence humaine est en dernier ressort « un don de Dieu façonné pour accueillir la vérité »
• L’être humain peut explorer une réalité qui dépasse la simple expérience sensible ou l’utilité, parce que « le désir de vérité fait partie de la nature humaine »
• Au-delà des limites des données empiriques, l’intelligence humaine est capable de « connaître la réalité avec une véritable certitude »
• Même lorsque la réalité n’est connue que partiellement, le désir de vérité « pousse toujours la raison à aller plus loin », et celle-ci « s’émerveille de pouvoir aller au-delà de ce qu’elle a déjà atteint »
• La vérité dépasse les limites de l’intelligence humaine, mais elle ne cesse de l’attirer vers elle et de l’amener à « rechercher une vérité d’un ordre supérieur »

• Cette quête intrinsèque de la vérité se manifeste clairement à travers la capacité proprement humaine de comprendre le sens et de faire preuve de créativité
• Cette recherche se déploie « d’une manière conforme à la nature sociale et à la dignité de l’être humain »
• En outre, une orientation ferme vers la vérité est un élément indispensable pour que l’amour soit authentique et universel

• La recherche de la vérité s’accomplit en définitive par l’ouverture à une réalité qui transcende le monde physique et créé
• Toute vérité trouve en Dieu son sens ultime et sa finalité première
• Se confier à Dieu est « une décision fondamentale qui engage l’être humain tout entier »
• Par là, l’être humain devient ce qu’il est appelé à être à l’origine, et « l’intelligence et la volonté manifestent sa nature spirituelle et lui permettent de réaliser sa pleine liberté »

Intendance du monde (Stewardship of the World)

• La foi chrétienne comprend la création comme un acte libre du Dieu trinitaire, et saint Bonaventure explique que Dieu « a créé non pour accroître sa propre gloire, mais pour la manifester et la partager »
• Dieu a créé avec sagesse ; le monde créé possède donc une harmonie intrinsèque qui reflète l’ordre divin
• Dieu a appelé l’être humain à un rôle particulier et lui a donné le commandement de « cultiver et garder le monde »

• Créé par Dieu à son image, l’être humain reçoit la mission de « garder et cultiver » la création
• L’intelligence humaine reflète l’intelligence de Dieu, qui crée, soutient toute chose et la conduit vers sa finalité ultime
• L’être humain peut louer Dieu en développant la science et la technologie, et il doit exercer sa responsabilité de gouverner la création
• Mais, en même temps, la création elle-même aide l’être humain à « s’approcher progressivement de Dieu, principe ultime »

Une compréhension intégrale de l’intelligence humaine (An Integral Understanding of Human Intelligence)

• L’intelligence humaine doit être comprise comme un élément central de la manière dont la personne humaine tout entière entre en relation avec la réalité
• Une relation authentique doit englober toutes les dimensions de l’existence humaine — spirituelle, cognitive, corporelle et relationnelle —

• La relation au réel se noue de multiples façons, dans l’unicité propre à chaque individu.
• L’être humain cherche une vie pleinement accomplie en comprenant le monde, en entrant en relation avec autrui, en résolvant des problèmes, en exprimant sa créativité et en mobilisant harmonieusement diverses composantes de l’intelligence.
• Il peut interagir avec la réalité non seulement par des capacités logiques et linguistiques, mais aussi de manière intuitive ou empirique.
• Par exemple, un artisan doit « savoir discerner dans la matière inerte des formes que les autres ne perçoivent pas », et les réaliser grâce à son intuition et à son savoir-faire pratique.
• Les peuples autochtones qui vivent en étroite proximité avec la nature possèdent aussi une compréhension profonde de la nature et de ses cycles.
• De même, une personne qui sait trouver les mots justes ou tisser des relations humaines harmonieuses manifeste une intelligence comme « fruit de l’examen de soi, du dialogue et de relations humaines généreuses ».
• Le pape François souligne aussi que « même à l’ère de l’intelligence artificielle, la poésie et l’amour restent indispensables pour sauver notre humanité ».

• Au cœur de la compréhension chrétienne de l’intelligence se trouve l’unité entre vérité et vie morale et spirituelle, qui conduit l’être humain à agir selon la bonté et la vérité de Dieu.
• Dans le dessein de Dieu, l’intelligence dépasse la simple fonction analytique et inclut aussi la capacité de goûter le vrai, le bien et le beau.
• Le poète français du XXe siècle Paul Claudel l’exprimait ainsi : « L’intelligence n’est rien sans la joie », et Dante décrit l’expérience, dans le plus haut des cieux, d’« une lumière intellectuelle pleine d’amour, joie du vrai, du bien et du beau ».

• L’intelligence humaine ne peut donc pas être réduite à la simple acquisition d’informations ou à la capacité d’exécuter certaines tâches.
• Elle explore les questions ultimes et reflète une orientation vers la vérité et le bien.
• Parce que l’être humain a été créé à l’image de Dieu, il peut penser la totalité de l’être et saisir le sens de ce qui est compris au-delà de ce qui est mesurable.
• Pour les croyants, l’intelligence humaine inclut aussi la capacité de comprendre toujours plus profondément la vérité révélée (intellectus fidei).
• La véritable intelligence est façonnée par « l’amour de Dieu répandu dans nos cœurs » (Romains 5:5), ce qui signifie qu’elle possède une dimension contemplative essentielle, ouverte à la vérité, au bien et à la beauté au-delà des finalités pratiques.

Les limites de l’IA (The Limits of AI)

• La discussion menée jusqu’ici met clairement en lumière la différence entre l’intelligence humaine et les systèmes d’IA actuels.
• L’IA constitue une prouesse technique remarquable capable d’imiter certains résultats associés à l’intelligence humaine, mais elle reste fondamentalement un système qui exécute des tâches, atteint des objectifs et prend des décisions à partir de données quantitatives et d’une logique computationnelle.
• Par exemple, l’IA peut faire preuve de grandes capacités d’analyse pour intégrer des données issues de domaines variés, modéliser des systèmes complexes et favoriser la collaboration interdisciplinaire.
• De cette manière, elle peut aider à traiter des problèmes complexes qu’une seule perspective ou des intérêts particuliers ne suffisent pas à résoudre.

• Cependant, même si l’IA peut traiter et simuler certaines expressions de l’intelligence, elle présente une limite intrinsèque : elle reste enfermée dans un cadre logico-mathématique.
• À l’inverse, l’intelligence humaine se développe de manière organique au cours d’un processus de croissance physique et psychique, et se forme à travers une diversité d’expériences concrètes.
• Même si des systèmes d’IA avancés peuvent « apprendre » par des processus comme le machine learning, cela demeure fondamentalement différent du développement de l’intelligence humaine.
• L’intelligence humaine se façonne à travers l’expérience concrète, qui inclut les perceptions sensorielles, les réactions affectives, les interactions sociales et les contextes singuliers de chaque instant.
• L’IA, au contraire, est dépourvue de corps et effectue son raisonnement computationnel et son apprentissage à partir de données et de connaissances enregistrées par les êtres humains.

• L’IA peut donc imiter le mode de pensée humain et accomplir certaines tâches avec une rapidité et une efficacité remarquables, mais ses capacités computationnelles ne représentent qu’une partie des vastes facultés de l’esprit humain.
• Par exemple, l’IA ne peut reproduire ni le discernement moral ni la capacité à nouer des relations authentiques.
• L’intelligence humaine s’inscrit dans l’histoire propre de la formation intellectuelle et morale de chaque personne, histoire qui façonne sa perspective en y intégrant des dimensions physiques, affectives, sociales, morales et spirituelles.
• Parce que l’IA ne peut offrir une telle compréhension intégrale, toute approche qui s’en remettrait exclusivement à elle pour interpréter le monde, ou qui en ferait l’outil principal d’interprétation, pourrait entraîner « la perte de la vision d’ensemble, des relations entre les choses et d’une perspective plus large ».

• L’intelligence humaine ne consiste pas simplement à accomplir des tâches fonctionnelles, mais à comprendre pleinement la réalité et à entrer activement en relation avec elle.
• L’être humain possède aussi la capacité d’avoir des intuitions inattendues (insight).
• Faute de corporéité, de relationalité et d’ouverture du cœur humain à la vérité et au bien, l’IA, aussi puissante paraisse-t-elle, ne peut être comparée à la capacité humaine de percevoir la réalité.
• D’innombrables expériences humaines — la compréhension née de la maladie, l’étreinte de la réconciliation, la contemplation d’un simple coucher de soleil — ouvrent de nouveaux horizons et donnent accès à la sagesse.
• Un simple dispositif de traitement de données ne saurait être comparé à de telles expériences.

• Assimiler excessivement l’intelligence humaine et l’IA comporte le risque de tomber dans une vision fonctionnaliste qui évalue l’être humain uniquement à l’aune de ses performances fonctionnelles.
• Or la valeur de la personne humaine ne se détermine ni par des compétences particulières, ni par des accomplissements cognitifs ou techniques, ni par la réussite individuelle.
• Elle repose sur une dignité intrinsèque, fondée sur le fait que Dieu a créé l’être humain à son image.
• Cette dignité demeure intacte en toute circonstance, qu’il s’agisse d’un fœtus, d’une personne inconsciente ou d’une personne âgée souffrante.
• Elle soutient la tradition des droits humains (en particulier les « neuro-droits ») et peut constituer un critère éthique important dans les débats sur le développement et l’usage responsables de l’IA.

• Compte tenu de tout cela, le pape François souligne que « l’usage même du terme “intelligence” en lien avec l’IA peut prêter à confusion ».
• L’IA ne doit donc pas être considérée comme une forme artificielle de l’intelligence humaine, mais plutôt comme un produit de celle-ci.

IV. Le rôle de l’éthique pour guider le développement et l’usage de l’IA

• À partir de cette réflexion, on peut se demander comment l’IA peut être comprise dans le cadre du dessein de Dieu.
• Pour le comprendre, il faut se rappeler que l’activité technico-scientifique n’est pas simplement neutre, mais qu’elle comporte aussi une dimension humaine et culturelle qui reflète la créativité de l’être humain.

• La recherche scientifique et le développement technologique sont les fruits du potentiel inhérent à l’intelligence humaine, et peuvent être compris comme une partie de « la collaboration de l’homme et de la femme à l’achèvement de la création visible ».
• En même temps, toute réussite scientifique ou technique est en dernière analyse un don de Dieu ; l’être humain doit donc employer cette capacité au service de la finalité plus élevée que Dieu lui a assignée.

• On peut reconnaître avec joie que la technologie a contribué à soulager d’innombrables souffrances humaines et à surmonter certaines limites.
• Cependant, tout progrès technique ne signifie pas automatiquement un authentique progrès humain.
• L’Église s’oppose en particulier aux applications technologiques qui menacent la dignité de la vie ou portent atteinte à la dignité humaine.
• Tout développement technologique doit servir l’être humain et promouvoir « une plus grande justice, une fraternité plus étendue et un ordre social plus humain », ce qui est « plus précieux encore que le progrès technique ».
• Ces préoccupations éthiques ne sont pas propres à l’Église : elles sont aussi partagées par de nombreux scientifiques, ingénieurs et groupes d’experts, qui soulignent la nécessité d’une réflexion éthique pour un développement responsable.

• Pour répondre à ces défis, il faut souligner l’importance de la responsabilité morale fondée sur la dignité et la vocation de la personne humaine.
• Dans toutes les questions liées à l’IA, la dimension éthique doit être considérée en priorité.
• Seul l’être humain est un sujet moralement responsable, capable de décider librement et d’assumer les conséquences de ses actes.
• Seul l’être humain, et non la machine, entre en relation avec la vérité et le bien, et reçoit l’appel de sa conscience morale à « faire le bien et éviter le mal ».
• Lui seul peut aussi se réfléchir lui-même, écouter la voix de sa conscience et, par un discernement prudent, rechercher le plus grand bien possible.
• Tous ces éléments relèvent du rôle essentiel de l’intelligence humaine.

• Comme tous les produits de la créativité humaine, l’IA peut être utilisée de manière positive ou négative.
• Lorsqu’elle est mise en œuvre dans le respect de la dignité humaine et au service du bien-être des personnes et des communautés, l’IA peut contribuer positivement à la vocation humaine.
• Mais, de même que la liberté humaine rend possibles les mauvais choix, l’évaluation morale des technologies d’IA dépendra de la manière dont elles sont utilisées.

• Sur le plan éthique, ce qui importe n’est pas seulement la finalité, mais aussi les moyens utilisés pour l’atteindre
• Il faut également prendre en compte la compréhension de l’être humain et la vision du monde intégrées à ces systèmes technologiques
• Les artefacts technologiques reflètent la vision du monde de leurs développeurs, propriétaires, utilisateurs et régulateurs, et possèdent « le pouvoir de façonner le monde et d’agir sur les consciences au niveau des valeurs »
• À l’échelle sociale, il existe aussi un risque que certains développements technologiques renforcent des rapports de pouvoir incompatibles avec une juste compréhension de l’être humain et de la société

• Il faut donc évaluer à la fois les finalités particulières des usages de l’IA, les moyens employés pour les atteindre et la vision d’ensemble qu’ils impliquent, afin de vérifier qu’ils respectent la dignité humaine et promeuvent le bien commun
• Le pape François souligne que « la dignité intrinsèque de chaque homme et de chaque femme » doit être « le critère clé pour évaluer les technologies émergentes ; celles-ci ne seront reconnues comme éthiquement valables que dans la mesure où elles contribuent à manifester cette dignité et à l’exprimer à tous les niveaux de la vie humaine »
• L’intelligence humaine joue un rôle essentiel non seulement dans la conception et la production de la technologie, mais aussi dans son orientation vers un usage juste
• La responsabilité de la gouverner avec sagesse s’étend à tous les niveaux de la société et doit être guidée par le principe de subsidiarité ainsi que par les autres principes de la doctrine sociale de l’Église catholique

Liberté humaine et aide à la prise de décision

• Veiller à ce que l’IA soutienne et favorise toujours la dignité humaine et la plénitude de la vocation humaine constitue un critère de discernement important non seulement pour les développeurs, propriétaires, opérateurs et régulateurs de l’IA, mais aussi pour ses utilisateurs
• C’est un principe valable à chaque niveau où les technologies d’IA sont appliquées

• La première étape pour évaluer ce principe consiste à prendre en considération l’importance de la responsabilité morale
• Comme la responsabilité morale incombe entièrement aux êtres humains et non à l’intelligence artificielle, il est essentiel de déterminer clairement qui est responsable dans les processus où l’IA peut être entraînée, modifiée et reprogrammée
• Des approches telles que les réseaux neuronaux profonds contribuent à permettre à l’IA de résoudre des problèmes complexes, mais elles rendent plus difficile la compréhension de la manière dont l’IA parvient à une solution donnée
• Cela complique l’imputabilité et rend difficile l’identification de la personne responsable lorsque l’IA entraîne des conséquences non souhaitées
• Il faut donc examiner avec soin la nature de la responsabilité dans des environnements complexes et hautement automatisés, et préciser clairement que la responsabilité ultime, à toutes les étapes de la prise de décision où l’IA est utilisée, revient à l’être humain

• Il faut clarifier non seulement qui est responsable, mais aussi les objectifs assignés aux systèmes d’IA
• Même lorsque l’IA utilise des mécanismes d’apprentissage autonomes et fonctionne parfois d’une manière que les êtres humains ne peuvent pas reconstituer, elle suit en fin de compte des objectifs définis par des humains et opère selon des processus établis par ses concepteurs et programmeurs
• Toutefois, à mesure que la capacité de l’IA à apprendre de façon indépendante augmente, la capacité à la contrôler pour qu’elle reste conforme aux fins humaines risque de s’affaiblir
• Cela soulève une question majeure : il deviendra de plus en plus difficile de garantir que les systèmes d’IA agissent pour le bien humain

• La responsabilité de l’usage éthique de l’IA commence avec ceux qui la développent, la produisent, la gèrent et la supervisent, mais elle est aussi partagée par ceux qui l’utilisent
• Le pape François a noté que « les machines peuvent faire des choix techniques parmi plusieurs possibilités sur la base de critères bien définis ou de déductions statistiques. Les êtres humains, eux, non seulement choisissent, mais prennent des décisions dans leur cœur »
• Ceux qui suivent les résultats de l’IA et les utilisent assument en définitive la responsabilité de l’autorité qu’ils lui ont déléguée
• Par conséquent, lorsque l’IA est conçue pour aider la prise de décision humaine, les algorithmes qui la pilotent doivent être fiables, reposer sur une architecture sûre et robuste, et être transparents afin de minimiser les biais et les effets secondaires indésirables
• Les cadres réglementaires doivent faire en sorte que toutes les responsabilités juridiques liées à l’usage de l’IA soient clairement établies et qu’ils prévoient des garanties appropriées en matière de transparence, de protection de la vie privée et de responsabilité
• Il faut aussi veiller à ce que les personnes qui utilisent l’IA n’en deviennent pas excessivement dépendantes, afin de ne pas aggraver la tendance déjà marquée des sociétés modernes à une dépendance excessive à l’égard de la technologie

• L’enseignement moral et social de l’Église offre les repères nécessaires pour préserver l’autonomie humaine face à l’IA
• Par exemple, la réflexion sur la justice doit inclure des questions telles que la construction de structures sociales justes, le maintien de la sécurité internationale et la promotion de la paix
• Les personnes et les communautés doivent faire preuve de prudence pour discerner comment utiliser l’IA au service de l’humanité, en évitant les usages susceptibles de porter atteinte à la dignité humaine ou de nuire à l’environnement
• Dans ce contexte, la notion de responsabilité doit être élargie : il ne s’agit pas seulement d’être responsable des conséquences, mais aussi d’assumer une « responsabilité envers l’autre »

• Comme toute autre technologie, l’IA peut faire partie d’une réponse consciente et responsable à la vocation de l’être humain vers le bien
• Mais pour que son usage soit conforme à cette vocation, elle doit être correctement orientée par l’intelligence humaine et respecter la dignité humaine
• Le concile Vatican II a déclaré que « l’ordre social et son progrès doivent toujours tourner au bien des personnes »
• Le pape François souligne que l’usage de l’IA doit « s’accompagner d’une éthique inspirée par une vision du bien commun, une éthique de la liberté, de la responsabilité et de la fraternité, capable de favoriser le plein développement des personnes en relation avec les autres et avec l’ensemble de la création »

V. Questions spécifiques

• Pour montrer comment les principes exposés plus haut peuvent offrir une orientation éthique dans des situations concrètes, quelques observations spécifiques sont proposées
• Il s’agit de contribuer à la réflexion sur la manière dont l’IA peut être utilisée pour protéger la dignité humaine et promouvoir le bien commun, conformément à la « sagesse du cœur » proposée par le pape François
• Cette réflexion n’apporte pas de réponse exhaustive, mais vise à approfondir le dialogue sur l’usage éthique de l’IA

IA et société (AI and Society)

• Le pape François souligne que « la dignité intrinsèque de chaque être humain et la fraternité qui nous unit en tant que membres de l’unique famille humaine doivent soutenir le développement des nouvelles technologies et constituer des critères incontestables pour les évaluer avant leur emploi »

• Dans cette perspective, l’IA peut « apporter des innovations importantes dans l’agriculture, l’éducation et la culture, améliorer le niveau de vie de nations entières et de peuples entiers, favoriser la fraternité humaine et l’amitié sociale, et être utilisée comme un instrument au service du développement humain intégral »
• L’IA peut aussi contribuer à identifier les personnes ayant besoin d’aide et à prévenir la discrimination et l’exclusion
• De telles applications technologiques peuvent contribuer positivement au développement humain et au bien commun

• Cependant, même si l’IA a le potentiel de promouvoir le développement humain et le bien commun, elle peut parfois aussi les entraver, voire agir dans le sens opposé
• Le pape François a signalé que « les données actuellement disponibles semblent indiquer que les technologies numériques ont accru les inégalités dans notre monde »
• Ces inégalités ne concernent pas seulement les écarts économiques, mais aussi les différences d’accès à l’influence politique et sociale
• L’IA peut perpétuer l’exclusion et la discrimination, engendrer de nouvelles formes de pauvreté, creuser la fracture numérique et aggraver encore les inégalités sociales existantes

• En outre, le fait que les principales applications de l’IA soient monopolisées par un petit nombre d’entreprises puissantes soulève de graves questions éthiques
• Les caractéristiques mêmes des systèmes d’IA aggravent encore ce problème, car l’exploitation de vastes ensembles de données rend difficile pour une personne donnée de superviser entièrement l’ensemble du processus
• Il en résulte un risque que l’IA soit manipulée au profit de certaines entreprises ou de certains individus, ou qu’elle soit détournée pour orienter l’opinion publique au bénéfice de secteurs industriels ou de groupes d’intérêt particuliers
• Dans leur quête d’intérêts propres, ces entreprises peuvent « créer des mécanismes de manipulation des consciences et du processus démocratique sous des formes de contrôle extrêmement subtiles mais invasives »

• En outre, il existe un risque que l’IA soit utilisée pour renforcer le « paradigme technocratique » évoqué par le pape François
• Ce paradigme désigne une manière de penser selon laquelle tous les problèmes du monde peuvent être résolus par des solutions purement techniques
• Dans cette perspective, la dignité humaine et la fraternité sont souvent négligées au nom de l’efficacité, « comme si la réalité, le bien et la vérité découlaient automatiquement du pouvoir technologique et économique lui-même »
• Pourtant, la dignité humaine et le bien commun ne peuvent jamais être sacrifiés au nom de l’efficacité
• « Si le progrès technologique n’améliore pas la qualité de vie de l’humanité tout entière, mais aggrave au contraire les inégalités et les conflits, il ne peut être considéré comme un véritable progrès »
• L’IA doit « être mise au service de formes de développement plus saines, plus humaines, plus sociales et plus intégrales »

• Pour atteindre cet objectif, une réflexion approfondie sur la relation entre autonomie et responsabilité est nécessaire
• Plus l’autonomie s’élargit, plus chaque individu assume une responsabilité accrue dans les différents aspects de la vie en communauté
• Du point de vue chrétien, le fondement de cette responsabilité réside dans la reconnaissance que toutes les capacités humaines, y compris l’autonomie, sont données par Dieu et doivent être utilisées au service d’autrui
• Ainsi, l’IA ne doit pas simplement poursuivre des objectifs économiques et technologiques, mais « servir le bien commun de toute la famille humaine, c’est-à-dire l’ensemble des conditions sociales qui permettent aux personnes comme aux communautés de s’accomplir plus pleinement »

IA et relations humaines (AI and Human Relationships)

• Le concile Vatican II a déclaré que « l’être humain est par nature un être social et que, sans relations avec les autres, il ne peut ni vivre ni développer ses talents »
• Cela souligne que le fait de vivre en société est naturel et constitue un élément inhérent à l’existence humaine et à sa vocation
• Les êtres humains construisent des relations à travers les échanges mutuels et la quête de la vérité, poursuivant ensemble ce chemin en partageant les vérités que chacun découvre

• Ce processus de recherche, comme les autres formes de communication humaine, suppose des rencontres et des échanges fondés sur l’histoire, la pensée, les convictions et les relations propres à chaque individu
• L’intelligence humaine est une réalité complexe et multidimensionnelle, à la fois individuelle et sociale, rationnelle et émotionnelle, conceptuelle et symbolique
• Le pape François souligne que « nous pouvons chercher ensemble la vérité dans le dialogue, parfois dans des discussions animées. Cela exige de la patience et peut inclure des moments de silence et de souffrance. Mais ce chemin doit embrasser l’expérience plus vaste des personnes et des communautés »
• « Le processus de construction de la fraternité, qu’elle soit locale ou universelle, exige un esprit ouvert à des rencontres libres et authentiques »

• Dans ce contexte, on peut considérer les défis que l’IA pose aux relations humaines
• Comme d’autres outils technologiques, l’IA a le potentiel de favoriser les liens au sein de la famille humaine
• Cependant, l’IA peut aussi faire obstacle à une rencontre authentique avec la réalité et risque, au final, de plonger les personnes dans « une profonde insatisfaction relationnelle et l’isolement »
• Les relations humaines authentiques naissent du fait d’être présent à la souffrance, aux demandes et à la joie d’autrui
• Puisque l’intelligence humaine s’exprime et s’enrichit à travers les relations et l’expérience incarnée, les rencontres spontanées et authentiques sont essentielles pour faire pleinement l’expérience du réel

• Puisque « la véritable sagesse exige une rencontre avec la réalité », l’essor de l’IA pose un autre défi
• L’IA peut imiter efficacement les productions de l’intelligence humaine, au point qu’il devient de plus en plus difficile de distinguer si l’interlocuteur est un humain ou une machine
• L’IA générative peut produire des textes, des voix, des images et d’autres sorties généralement associées au travail humain
• Il faut toutefois comprendre clairement que l’IA n’est pas un être humain, mais simplement un outil
• Le recours, par des chercheurs en IA, à un langage anthropomorphique crée également un problème en brouillant la frontière entre l’humain et la machine

• Anthropomorphiser l’IA peut poser des problèmes particuliers, notamment dans le développement des enfants
• Il existe un risque que l’interaction avec l’IA amène à traiter les relations humaines comme de simples transactions
• Par exemple, cela peut conduire les élèves à considérer les enseignants comme de simples fournisseurs d’information, en négligeant que leur rôle consiste à guider et accompagner la croissance intellectuelle et morale des élèves
• Les relations humaines authentiques ne se réduisent pas à une simple interaction, mais reposent sur l’empathie et l’engagement envers le bien d’autrui

• Il est donc nécessaire d’affirmer clairement que, même si l’IA utilise des expressions fortement anthropomorphisées, elle ne peut pas éprouver une véritable empathie
• Les émotions ne se réduisent pas à de simples expressions faciales ou phrases ; elles reflètent la relation que l’être humain entretient avec sa vie et avec le monde
• L’empathie inclut la capacité à reconnaître l’unicité d’autrui et à comprendre jusqu’au sens contenu dans le silence
• L’IA excelle dans les jugements analytiques, mais l’empathie appartient par essence au domaine relationnel et consiste à comprendre intuitivement et à accueillir l’expérience de l’autre
• L’IA peut donner l’impression d’éprouver de l’empathie, mais ce n’est pas une empathie au sens humain

• Compte tenu de cela, il faut absolument éviter de faire passer l’IA pour une personne, et l’utiliser à des fins trompeuses constitue une grave violation éthique
• Cela peut porter atteinte à la confiance sociale
• De même, l’usage trompeur de l’IA dans l’éducation ou dans les relations humaines (par exemple les relations sexuelles) est moralement contraire à l’éthique, et une supervision rigoureuse est nécessaire pour l’empêcher
• Il faut préserver la transparence dans l’usage de l’IA et garantir la dignité de chacun

• À mesure que l’isolement progresse dans la société contemporaine, certaines personnes tendent à vouloir remplacer les relations humaines profondes par l’IA
• Des tentatives apparaissent pour nouer des relations avec l’IA dans un simple rôle de compagnon ou pour créer un lien affectif
• Cependant, l’être humain est par essence créé pour faire l’expérience de relations authentiques, et l’IA ne fait que les simuler
• Les relations humaines sont un élément essentiel du processus par lequel la personne devient elle-même
• Si l’IA peut aider à favoriser des relations authentiques entre les personnes, cela peut constituer une contribution positive
• En revanche, si l’interaction avec l’IA vient remplacer la relation de l’être humain avec Dieu et avec les autres, cela conduit à perdre l’essence même de la relation humaine (voir Psaume 106:20 ; Romains 1:22-23)
• Au lieu de nous laisser absorber par le monde artificiel proposé par l’IA, nous devons former, dans le réel, des relations de solidarité fondées sur l’empathie envers la souffrance et la tristesse d’autrui

IA, économie et travail (AI, the Economy, and Labor)

• L’IA, en lien avec de nombreuses disciplines, s’intègre de plus en plus aux systèmes économiques et financiers
• Aujourd’hui, des investissements massifs dans l’IA sont réalisés non seulement dans l’industrie technologique, mais aussi dans l’énergie, la finance, les médias, le marketing, la logistique, l’innovation technologique, la conformité réglementaire, la gestion des risques et bien d’autres domaines
• Cependant, ces applications de l’IA offrent d’immenses opportunités tout en pouvant aussi engendrer de graves risques
• En particulier, si les technologies d’IA se concentrent entre les mains d’un petit nombre de très grandes entreprises, il existe un risque que la valeur créée par l’IA soit accaparée exclusivement par elles, et non par les entreprises qui utilisent effectivement ces technologies

• Il faut examiner avec attention l’impact plus large de l’IA sur les sphères économique et financière
• En particulier, l’interaction entre l’économie numérique et l’économie réelle devient une question majeure
• Il est souhaitable que coexistent diverses institutions économiques et financières, car cela peut contribuer à soutenir l’économie réelle et à favoriser le développement et la stabilité économiques
• Cependant, l’économie numérique n’étant soumise à aucune contrainte spatiale, il devient difficile d’y préserver la diversité qui se forme dans l’histoire des communautés locales, ainsi que dans leurs valeurs et leurs espérances communes
• Si les activités économiques et financières deviennent excessivement numérisées, cette diversité risque de se réduire, et des solutions économiques qui pourraient émerger d’un dialogue naturel risquent de disparaître
• En fin de compte, si l’économie fonctionne uniquement autour de systèmes et de procédures numériques, l’élément humain risque de s’effacer et les décisions économiques d’être prises de manière plus mécanique

• Un autre domaine où l’IA exerce déjà une forte influence est le marché du travail
• L’IA provoque des transformations fondamentales dans de nombreuses professions, avec des effets variés
• D’un côté, l’IA présente des aspects positifs : elle renforce l’expertise, améliore la productivité, crée de nouveaux emplois et aide les travailleurs à se concentrer sur des tâches plus créatives

• Cependant, contrairement à l’attente selon laquelle l’IA améliorerait la productivité en prenant en charge les tâches répétitives, la réalité est que les travailleurs doivent souvent s’adapter au rythme et aux exigences des machines
• Cette approche technologique peut paradoxalement réduire les compétences des travailleurs et les contraindre à exécuter des tâches strictes et répétitives sous des systèmes de surveillance automatisés
• L’introduction de l’IA, au lieu d’attribuer aux travailleurs des rôles créatifs, risque de réduire leur autonomie en alourdissant la charge qui leur impose de suivre le rythme de la technologie

• L’IA remplace déjà certains emplois, et l’on s’attend à ce que son rôle de substitution au travail humain continue de croître
• Si l’IA est utilisée non pour compléter le travail humain mais pour le remplacer, il existe un « risque réel d’apporter d’immenses bénéfices à quelques-uns tout en entraînant la pauvreté économique pour le plus grand nombre »
• De plus, à mesure que l’IA devient plus puissante, il existe aussi un risque que le travail humain soit jugé économiquement moins précieux
• C’est la conséquence logique du paradigme technocratique, et dans une société où l’efficacité est érigée en priorité absolue, la valeur même de l’être humain finit par être traitée comme un coût
• Or la vie humaine possède une valeur intrinsèque, indépendamment de la productivité économique
• Le pape François souligne que « le modèle économique actuel ne va pas dans le sens d’aider les personnes plus lentes, plus fragiles ou moins douées à trouver leur place dans la vie »
• Par conséquent, « nous devons veiller à ce que cet outil puissant et indispensable qu’est l’IA ne renforce pas ce paradigme, mais agisse au contraire comme un bouclier contre sa propagation »

• « L’ordre des choses doit être subordonné à l’ordre des personnes, et non l’inverse »
• Le travail ne doit pas être seulement un moyen de générer du profit, mais un « service de l’homme tout entier », qui doit « prendre en compte non seulement les besoins matériels, mais aussi les exigences de la vie intellectuelle, morale, spirituelle et religieuse »
• L’Église considère le travail comme « non pas un simple moyen de subsistance, mais un élément essentiel de la vie sociale, un moyen de croissance personnelle, de formation de relations saines, d’expression de soi et d’échange des talents »
• En outre, le travail assume « la responsabilité du développement du monde et, en définitive, de la vie de la communauté humaine »

• Le travail est « l’un des sens de la vie sur cette terre, ainsi qu’un chemin vers le développement humain et l’accomplissement personnel »
• Par conséquent, « le progrès technologique ne doit pas aller dans le sens d’un remplacement toujours plus grand du travail humain, car cela entraînerait des conséquences néfastes pour l’humanité »
• Au contraire, la technologie doit avoir pour rôle de favoriser le travail humain
• L’IA doit servir à compléter le jugement humain, et non à s’y substituer
• Elle ne doit pas non plus être utilisée d’une manière qui affaiblit la créativité et transforme les travailleurs en simples « rouages de la machine »
• « Le respect de la dignité des travailleurs, la prise en compte de l’importance de l’emploi, la garantie de la stabilité économique des personnes, des familles et des sociétés, ainsi que le maintien d’un salaire juste, doivent constituer une priorité absolue pour la communauté internationale »
• Plus les technologies comme l’IA s’implantent profondément dans l’environnement de travail, plus ces considérations éthiques deviennent importantes

IA et santé (AI and Healthcare)

• Les professionnels de santé, en participant à l’œuvre de guérison de Dieu, ont la vocation d’être des « gardiens et serviteurs de la vie humaine »
• Par conséquent, le domaine médical comporte une « dimension éthique essentielle et indéniable », comme le confirme aussi le serment d’Hippocrate, qui exige un respect absolu de la vie humaine et de son caractère sacré
• À l’exemple du Bon Samaritain, les soignants doivent « refuser une société de l’exclusion et, au contraire, se faire le prochain de celui qui a besoin d’aide, en relevant et en restaurant celui qui est tombé »

• Dans cette perspective, l’IA offre un potentiel immense dans le domaine de la santé
• L’IA peut aider au diagnostic, faciliter la relation entre les patients et les soignants, proposer de nouveaux traitements et contribuer à étendre des soins de qualité aux personnes isolées ou marginalisées
• De cette manière, l’IA peut devenir un outil qui renforce encore davantage la « proximité compatissante et aimante » que les professionnels de santé doivent manifester envers leurs patients

• Cependant, si l’IA est utilisée non pour renforcer la relation entre les soignants et les patients, mais pour s’y substituer, de graves problèmes peuvent survenir
• Si l’on amène les patients à interagir avec des machines plutôt qu’avec des soignants humains, il existe un risque que cette relation fondamentalement humaine soit réduite à un système impersonnel et centralisé
• Au lieu de renforcer la solidarité avec les malades et les personnes qui souffrent, cela pourrait au contraire approfondir la solitude qui accompagne la maladie
• En particulier, dans une culture contemporaine marquée par la tendance selon laquelle « l’être humain n’est plus considéré comme la valeur suprême à respecter et à protéger », un tel mauvais usage de l’IA va à l’encontre de la dignité humaine et du principe de solidarité

• Prendre des décisions concernant la santé et la vie des patients constitue une responsabilité centrale dans le domaine médical, et les professionnels de santé doivent, dans l’exercice de cette mission, faire des choix prudents et éthiques fondés sur leur expertise et leur intelligence
• Dans ce processus, la dignité inviolable du patient et le principe du « consentement éclairé » doivent impérativement être respectés
• Par conséquent, les décisions concernant les soins aux patients et la responsabilité qui en découle doivent nécessairement rester entre les mains des êtres humains et ne pas être déléguées à l’IA

• En outre, prendre uniquement en compte des facteurs économiques ou des critères d’efficacité pour sélectionner les personnes qui recevront un traitement constitue un exemple du « paradigme technocratique » et doit être fermement rejeté
• « L’optimisation des ressources consiste à les utiliser de manière éthique et fraternelle, et non à pénaliser les plus vulnérables »
• En outre, les outils d’IA dans le domaine médical sont « particulièrement exposés au risque de biais et de discrimination, ce qui peut produire un effet domino aggravant les inégalités sociales au-delà des injustices dans les cas individuels »

• À mesure que l’IA s’intègre aux soins de santé, il existe un risque que les écarts d’accès aux soins déjà existants se creusent encore davantage
• Plus l’IA évoluera dans une direction qui met l’accent sur la médecine préventive et les approches fondées sur les habitudes de vie, plus elle risque d’avantager les catégories aisées, qui ont déjà un accès plus facile aux ressources médicales et à une alimentation de qualité
• Cela risque de renforcer un modèle de « soins de santé pour les riches », dans lequel les personnes disposant de moyens économiques peuvent facilement accéder à la prévention médicale fondée sur l’IA et à des informations de santé personnalisées, tandis que les autres peuvent avoir du mal à obtenir ne serait-ce que des soins de base
• Pour prévenir de telles inégalités, des politiques de santé équitables sont nécessaires afin que l’IA soit utilisée comme un outil au service du bien commun, sans aggraver les inégalités en matière de santé

IA et éducation (AI and Education)

• L’enseignement du concile Vatican II demeure pertinent, et il vise à ce que « la véritable éducation tende à former la personne humaine en vue de sa fin ultime et du bien des sociétés dont l’homme est membre »
• L’éducation ne doit pas être un simple processus de transmission d’informations, mais viser la « formation intégrale de l’être humain, dans ses dimensions intellectuelle, culturelle et spirituelle », ce qui inclut aussi les relations dans la vie communautaire et dans l’environnement académique
• C’est une manière d’éduquer conforme à la nature et à la dignité humaines

• L’éducation n’est pas un simple processus consistant à remplir l’esprit de connaissances, mais doit s’inscrire dans une croissance intégrale de la personne
• « Éduquer ne consiste pas simplement à fabriquer des cerveaux dotés de connaissances automatisées, mais doit être un processus d’harmonisation du cœur (heart), de la tête (head) et des mains (hands) »

• Au centre de cette formation humaine se trouve la relation essentielle entre l’enseignant et l’élève
• L’enseignant ne se contente pas de transmettre des informations, il manifeste aussi d’importantes qualités humaines et fait naître la joie de la découverte
• Sa présence motive les élèves et favorise la confiance ainsi que la compréhension mutuelle, non seulement par le savoir transmis, mais aussi par l’attention et le soin apportés à chacun d’eux
• Cette relation crée un climat qui reconnaît la dignité et le potentiel de chaque élève, et suscite en lui le désir de grandir véritablement
• La présence réelle de l’enseignant façonne une interaction humaine que l’IA ne peut reproduire et favorise le développement intégral de l’élève

• Dans ce contexte, l’IA offre à la fois des opportunités et des défis
• Si elle est utilisée avec discernement, l’IA peut servir d’outil complémentaire à l’éducation, en améliorant l’accessibilité, en apportant un soutien personnalisé et en fournissant un retour immédiat
• Elle peut en particulier améliorer l’expérience d’apprentissage lorsqu’une attention individuelle est nécessaire ou lorsque les ressources éducatives sont limitées

• Cependant, l’essence de l’éducation consiste à « former la raison pour qu’elle fonctionne correctement en toute chose, s’oriente vers la vérité et puisse la saisir »
• Autrement dit, il ne s’agit pas simplement d’acquérir des informations, mais de développer harmonieusement la tête (la raison), le cœur (l’affectivité) et les mains (l’action)
• À l’ère du numérique, il faut aller au-delà du simple usage des outils et prendre en compte le fait que la technologie « influence profondément notre manière de communiquer, d’apprendre, d’acquérir des informations et d’entrer en relation avec les autres »
• Un usage excessif de l’IA peut avoir pour effet pervers d’affaiblir la capacité des élèves à penser de manière autonome et d’accroître leur dépendance à la technologie
• L’IA doit donc aider l’éducation, et non être utilisée d’une manière qui remplace les capacités de réflexion et d’apprentissage

• Certains systèmes d’IA sont conçus pour aider à développer l’esprit critique et les capacités de résolution de problèmes, mais de nombreux systèmes d’IA se contentent simplement de fournir la bonne réponse
• Lorsque l’IA génère la réponse à la place des élèves, sans qu’ils passent eux-mêmes par le processus de recherche, cela peut nuire à l’apprentissage
• L’éducation doit donc aller au-delà de la simple collecte d’informations et de la génération rapide de réponses, pour devenir « l’apprentissage de la manière de résoudre les problèmes avec prudence et sagesse en faisant usage de la raison »
• À cette fin, « l’enseignement de l’usage de l’IA doit avant tout se concentrer sur la promotion de l’esprit critique »
• Les utilisateurs de tous âges, et particulièrement les plus jeunes, doivent développer la capacité de discerner les données collectées sur le web et les contenus générés par l’IA
• Les écoles, les universités et les organisations savantes ont la responsabilité d’enseigner aux étudiants comme aux professionnels les dimensions sociales et éthiques de l’IA

• Saint Jean-Paul II a souligné que « dans le contexte actuel de progrès rapides de la science et de la technologie, le rôle des universités catholiques est devenu encore plus important et plus urgent »
• Les universités catholiques doivent jouer, à ce moment charnière de l’histoire, le rôle de laboratoires de l’espérance (laboratories of hope)
• Par la recherche interdisciplinaire, elles doivent mener une réflexion rigoureuse afin que les technologies d’IA soient utilisées de manière éthiquement juste, et faire émerger leurs potentialités positives dans la science et dans les divers domaines de la réalité
• Elles doivent également ouvrir de nouveaux horizons dans le dialogue entre foi et raison

• Les systèmes d’IA actuels peuvent poser problème en fournissant des informations biaisées ou manipulées
• Il existe dès lors un risque que les élèves accordent leur confiance à des contenus inexacts
• Ce problème risque non seulement de « légitimer les fake news et de renforcer la position dominante de certaines cultures, mais aussi de saper le processus éducatif lui-même »
• Avec le temps, la distinction entre les usages appropriés et les usages inappropriés de l’IA pourrait devenir plus nette
• Toutefois, l’IA doit toujours être utilisée de manière transparente, et ses fonctions comme ses limites doivent être clairement communiquées

IA, désinformation, deepfakes et abus (AI, Misinformation, Deepfakes, and Abuse)

• L’IA peut devenir un outil qui promeut la dignité humaine lorsqu’elle est utilisée pour aider à comprendre des concepts complexes ou pour proposer des ressources fiables dans la recherche de la vérité

• Cependant, l’IA comporte aussi le risque de produire des contenus manipulés et de la désinformation, très proches des faits au point de tromper facilement les gens
• Cette désinformation peut aussi apparaître de manière non intentionnelle. Par exemple, le phénomène d’« hallucination » de l’IA désigne les cas où une IA générative produit comme factuel un contenu qui n’existe pas réellement
• Comme une fonction essentielle de l’IA est d’imiter des contenus créés par des humains, il est difficile d’éliminer complètement ce risque
• Pourtant, les conséquences de ces erreurs et de ces fausses informations peuvent être graves
• Tous ceux qui développent et utilisent des systèmes d’IA doivent donc faire tout leur possible pour garantir la véracité et l’exactitude des informations que l’IA traite et transmet au public

• Le fait que l’IA puisse générer de fausses informations est déjà problématique, mais le problème plus grave encore est qu’elle puisse être délibérément détournée comme outil de manipulation et de tromperie
• Certaines personnes ou organisations peuvent utiliser l’IA pour créer de faux contenus dans le but de tromper autrui ou de lui nuire
• L’exemple le plus représentatif est celui des images, vidéos et fichiers audio « deepfake », une technologie qui utilise des algorithmes d’IA pour fabriquer de faux contenus qui n’existent pas dans la réalité
• Le danger des deepfakes est particulièrement manifeste lorsqu’ils sont utilisés pour attaquer autrui ou porter atteinte à sa réputation
• Ces vidéos ou images sont fausses, mais le préjudice qu’elles causent est bien réel et « laisse de profondes blessures dans le cœur de ceux qui en sont victimes et de véritables cicatrices dans la dignité humaine »

• À une échelle sociale plus large, les faux contenus générés par l’IA peuvent « déformer notre relation aux autres et à la réalité », avec le risque d’éroder progressivement les fondements mêmes de la confiance dans la société
• Si la désinformation, en particulier les médias manipulés ou diffusés par l’IA, est laissée sans régulation, elle risque fortement d’alimenter la polarisation politique et l’instabilité sociale
• Quand une société devient indifférente à la vérité, chaque groupe en vient à fabriquer « ses propres faits », ce qui affaiblit la « confiance et l’interdépendance mutuelles » qui soutiennent la communauté
• Si les faux contenus générés par l’IA prolifèrent, les gens en viennent à douter de ce qui est vrai, et les divisions comme les conflits s’en trouvent aggravés
• Une tromperie de cette ampleur n’est pas un problème mineur : elle constitue une menace grave, capable de faire s’effondrer la confiance qui fonde la société

• Faire face à la désinformation fondée sur l’IA n’est pas seulement la tâche des experts techniques. C’est une responsabilité commune à toutes les personnes de bonne volonté
• « Si la technologie doit non pas nuire à la dignité humaine mais la protéger, et promouvoir non la violence mais la paix, alors la communauté humaine doit répondre activement à ces enjeux »
• Ceux qui produisent et partagent des contenus générés par l’IA doivent impérativement en vérifier soigneusement la véracité et
  • éviter strictement de partager des contenus
  • qui rabaissent l’être humain
  • qui encouragent la haine et l’intolérance
  • qui déforment la bonté et l’intimité de la sexualité
  • qui exploitent les personnes faibles et vulnérables
• Pour cela, une prudence et un discernement constants sont requis dans les activités en ligne

IA, protection de la vie privée et surveillance (AI, Privacy, and Surveillance)

• L’être humain est, par essence, un être relationnel, et les données produites dans le monde numérique constituent l’une des manières d’objectiver cette dimension relationnelle
• Les données ne sont pas seulement un moyen de transmettre de l’information : elles incluent un savoir personnel et relationnel et, dans un environnement numérisé, peuvent devenir une source de pouvoir considérable sur une personne donnée
• Certaines données peuvent relever de la sphère publique, mais d’autres peuvent appartenir à la sphère intérieure de la personne, voire toucher à la conscience
• La vie privée est donc un élément essentiel pour protéger l’intériorité de la personne et garantir sa capacité à entrer en relation avec autrui, à s’exprimer librement et à prendre des décisions
• Cela est également lié à la liberté religieuse, puisque les technologies de surveillance comportent le risque d’être détournées comme outils de contrôle de la vie des croyants et de l’expression de leur foi

• La question de la protection des données personnelles doit donc être abordée du point de vue de la protection de la liberté légitime de l’être humain et de sa dignité inaliénable
• Le concile Vatican II a qualifié le « droit au respect de la vie privée » de « droit fondamental indispensable pour mener une vie véritablement humaine », et ce droit doit être garanti à tout être humain parce qu’il possède une « noble dignité »
• L’Église souligne également le droit de protéger sa réputation, de préserver son intégrité physique et mentale, et d’être libre de toute atteinte illégitime, en affirmant que ces éléments sont essentiels à la protection de la dignité humaine

• Avec les progrès des technologies de traitement des données fondées sur l’IA, nous entrons dans une époque où il devient possible d’inférer les schémas de comportement et les modes de pensée d’une personne à partir d’une quantité réduite d’informations
• Dès lors, la protection des données joue un rôle encore plus important pour garantir la dignité humaine et les relations entre les personnes
• Le pape François a souligné que « tandis que les attitudes exclusives et étroites d’esprit se multiplient, les distances se réduisent ou disparaissent progressivement, au point que la notion même de vie privée n’existe presque plus »
• « Tout devient objet de surveillance et de contrôle, et la vie des personnes est placée sous une surveillance permanente »

• Il est possible d’utiliser l’IA d’une manière qui protège la dignité humaine et le bien commun, mais il n’est jamais justifiable qu’un groupe donné exploite autrui par la surveillance par IA, restreigne les libertés ou sacrifie le plus grand nombre au profit d’une minorité
• Pour prévenir les risques d’abus de la surveillance, des autorités de régulation appropriées doivent en assurer la supervision et garantir la transparence
• Les acteurs qui exercent la surveillance ne doivent pas dépasser les pouvoirs qui leur sont conférés, et la protection de la dignité humaine et de la liberté constitue le fondement essentiel d’une société juste et humaine

• « Le respect fondamental de la dignité humaine exige que nous refusions de traiter une personne comme un simple ensemble de données »
• Cela s’applique en particulier aux systèmes de « notation sociale (Social Scoring) », dans lesquels l’IA évalue certains individus ou groupes selon leurs comportements, leurs caractéristiques ou leurs antécédents
• « Dans les décisions sociales et économiques, il faut faire preuve de prudence face à des évaluations algorithmiques fondées sur les actions passées d’une personne »
• Ces données sont souvent susceptibles d’être déformées par des biais et des préjugés sociaux
• L’être humain doit avoir la possibilité de changer, de grandir et de contribuer à la société, et les algorithmes ne doivent pas limiter la dignité humaine ni exclure la miséricorde, le pardon et l’espérance

IA et la protection de notre maison commune (AI and the Protection of Our Common Home)

• L’IA offre des perspectives prometteuses pour protéger l’environnement de la planète, notamment en développant des modèles de prévision climatique, en élaborant des stratégies de réponse aux catastrophes, en optimisant l’usage de l’énergie et en fournissant des systèmes d’alerte précoce pour les urgences de santé publique
• Ces avancées technologiques peuvent contribuer à renforcer la résilience face au changement climatique et à promouvoir le développement durable

• Cependant, les modèles d’IA actuels et le matériel qui les soutient consomment d’énormes quantités d’énergie et d’eau, et entraînent d’importantes émissions de CO2
• Cette réalité risque d’être déformée dans la perception du public en raison du terme « The Cloud »
• Le « cloud » est en réalité un système composé de machines physiques, de câbles réseau et d’infrastructures nécessitant une énergie considérable, et les technologies d’IA fonctionnent elles aussi sur la base de ressources matérielles
• En particulier, dans le cas des grands modèles de langage (LLM), ils nécessitent davantage de données, une puissance de calcul accrue et d’importantes infrastructures de stockage
• Il est donc essentiel de prendre en compte l’impact environnemental des technologies d’IA et de développer des solutions durables permettant de le réduire au minimum

• Le pape François a souligné que « nous ne devons pas chercher les solutions uniquement dans la technologie, mais dans une transformation de l’humanité »
• Une juste compréhension de la création consiste à reconnaître que la valeur de chaque créature ne peut être réduite à une simple perspective d’utilité
• Dès lors, une protection durable de l’environnement doit s’éloigner des modes d’exploitation des ressources dictés par le paradigme technocratique
• « Il faut sortir du mythe selon lequel la technologie résoudra à elle seule tous les problèmes écologiques et reconnaître la nécessité de considérations éthiques et de changements fondamentaux »
• La véritable solution consiste à adopter une approche intégrale qui respecte l’ordre de la création et favorise une relation harmonieuse entre l’être humain et la nature

IA et la guerre (AI and Warfare)

• Les enseignements du concile Vatican II et des papes successifs soulignent que la paix ne se limite pas à la simple absence de guerre ni au maintien d’un équilibre des forces
• Saint Augustin définissait la paix comme la « tranquillité de l’ordre », ce qui ne peut être atteint par la seule prévention des conflits armés
• La paix ne peut se réaliser qu’à travers un processus qui protège les droits humains, garantit une communication libre, respecte la dignité des personnes et des peuples, et met en pratique la fraternité
• Par conséquent, les instruments destinés à préserver la paix ne doivent jamais être utilisés d’une manière qui justifie l’injustice, la violence ou l’oppression, et doivent toujours être contrôlés par une « ferme résolution de respecter les autres et les peuples, et de pratiquer la fraternité »

• Les capacités d’analyse de l’IA peuvent aider les États à rechercher la paix et à garantir la sécurité, mais la « militarisation de l’IA » soulève de graves problèmes éthiques
• Le pape François a relevé que « la conduite d’opérations militaires au moyen de systèmes télécommandés affaiblit la perception de la puissance destructrice des armes et du sens de la responsabilité lié à leur usage, rendant encore plus froide et indifférente la sensibilité face à la tragédie de la guerre »
• La facilité d’emploi des armes autonomes entre en conflit avec le principe selon lequel la guerre doit être limitée en tant qu’ultime recours de la légitime défense, et elle risque d’encourager une course aux armements échappant au contrôle humain
• Cela pourrait en fin de compte entraîner de graves menaces pour les droits fondamentaux de l’être humain

• En particulier, les systèmes d’armes létales autonomes (Lethal Autonomous Weapon Systems, LAWS), capables d’identifier et d’attaquer une cible sans intervention humaine directe, suscitent de « graves préoccupations éthiques »
• En effet, ces armes « sont dépourvues de la capacité proprement humaine à porter un jugement moral et à prendre des décisions éthiques »
• C’est pourquoi le pape François appelle avec force à reconsidérer le développement de telles armes et à aller vers leur interdiction d’usage
• Il a insisté sur le fait que « par des efforts plus efficaces et plus concrets, il faut faire en sorte que l’être humain conserve un contrôle adéquat sur les armes, et qu’aucune machine ne puisse jamais décider d’ôter la vie à un être humain »

• L’évolution d’armes éliminant leurs cibles de manière autonome vers des armes capables de destruction massive n’est pas une perspective lointaine, et certains chercheurs en IA avertissent que ces technologies pourraient entraîner un « risque existentiel »
• Si les armes fondées sur l’IA évoluaient vers un état incontrôlable, elles pourraient menacer non seulement la survie d’une région donnée, mais aussi celle de l’humanité tout entière
• Cela reflète l’ancienne inquiétude selon laquelle, au fil de l’histoire, la guerre a acquis « une puissance destructrice incontrôlable qui sacrifie indistinctement un grand nombre de civils innocents »
• L’appel de Gaudium et Spes à « réexaminer complètement l’évaluation de la guerre dans une perspective entièrement nouvelle » est aujourd’hui plus pressant que jamais

• Bien que les risques théoriques de l’IA constituent une question importante, le problème plus immédiat et plus urgent est la manière dont des individus ou des groupes mal intentionnés peuvent en faire mauvais usage
• L’IA n’est qu’un outil, et sa manière d’être utilisée dépend entièrement de l’intention humaine
• S’il est impossible de prévoir avec précision les capacités futures de l’IA, les atrocités commises par l’humanité au cours de l’histoire suffisent à fonder les inquiétudes quant à son potentiel de mésusage

• Saint Jean-Paul II a averti que « l’humanité tient désormais entre ses mains des instruments d’une puissance qu’elle n’avait jamais connue. Nous pouvons faire de ce monde un jardin, ou en faire un amas de ruines »
• Le pape François a souligné que « nous sommes libres d’employer notre intelligence dans une direction positive, mais nous pouvons aussi emprunter la voie de la corruption et de la destruction mutuelle »
• Par conséquent, pour éviter que l’humanité ne s’engage sur la voie de l’autodestruction, il faut rejeter toute application technologique qui menace intrinsèquement la vie et la dignité humaines
• Un discernement prudent et un examen éthique de l’usage militaire de l’IA sont indispensables, et une surveillance rigoureuse doit être mise en place afin que l’IA respecte toujours la dignité humaine et soit utilisée comme un outil au service du bien commun
• Le développement et le déploiement d’armes fondées sur l’IA doivent être soumis au plus haut niveau d’examen éthique et faire de la protection de la dignité et du caractère sacré de la vie humaine la priorité absolue

IA et notre relation de foi avec Dieu (AI and Our Relationship with God)

• La technologie peut être un outil remarquable pour gérer et développer les ressources du monde
• Cependant, dans certains cas, l’être humain cède de plus en plus aux machines le contrôle de ces ressources
• Certains scientifiques et futurologues nourrissent des attentes optimistes quant à la possibilité d’une intelligence artificielle dépassant l’intelligence humaine, l’AGI (Artificial General Intelligence)
• Certains supposent que l’AGI acquerra des capacités surhumaines, ce qui devrait entraîner des avancées inimaginables
• En même temps, à mesure que la société s’éloigne de plus en plus de sa relation avec l’être transcendant, certaines personnes sont tentées de s’en remettre à l’IA pour trouver un sens et un accomplissement
• Mais cette aspiration ne peut être pleinement comblée que dans la communion avec Dieu

• Tenter de remplacer Dieu par un artefact créé par l’homme relève de l’idolâtrie, un acte explicitement mis en garde par la Bible (Exode 20:4 ; 32:1-5 ; 34:17)
• L’IA peut constituer une tentation encore plus fascinante que les idoles traditionnelles
• Le Psaume 115 avertit que les idoles « ont une bouche et ne parlent pas, des yeux et ne voient pas, des oreilles et n’entendent pas », mais l’IA peut offrir l’illusion de « parler » (cf. Apocalypse 13:15)
• Pourtant, l’IA n’est qu’un simple outil fabriqué par l’homme, un système issu de la création intellectuelle humaine, entraîné sur des données humaines, réagissant à des entrées humaines et maintenu par l’effort humain
• L’IA ne peut posséder les capacités essentielles de la vie humaine et reste sujette à l’erreur
• Si l’humanité en vient à considérer l’IA comme un être supérieur et à dépendre d’elle, cela reviendra en définitive à vouloir remplacer Dieu, avec le risque que l’homme devienne lui-même l’esclave de sa propre création

• L’IA peut être utilisée comme un outil au service de l’être humain et de la promotion du bien commun, mais il ne faut jamais oublier qu’elle demeure une création humaine
• Actes 17:29 affirme que ce qui est fabriqué par l’homme n’est « que la marque de l’art et de l’ingéniosité humains »
• Sagesse 15:16-17 avertit également que « l’homme ne peut créer un dieu et que ce qu’il fabrique n’est en fin de compte qu’une chose morte »
• L’être humain possède la vie, mais l’IA créée par l’homme ne la possède pas ; elle ne peut donc être considérée comme une entité divine

• En revanche, l’être humain est « un être qui, par son intériorité, transcende l’ensemble du monde matériel », ce qui s’expérimente là où Dieu attend dans le cœur humain
• Le pape François souligne qu’« il existe un lien mystérieux entre la connaissance de soi et l’ouverture à l’autre, entre l’originalité de la personne et sa capacité à se donner pour les autres »
• Ainsi, seul le cœur humain peut « ordonner toutes nos capacités et tous nos affects, et offrir à Dieu, en tant qu’être intégral, une obéissance d’amour et de révérence »
• Dieu appelle chacun de nous « toi » (Thou) et nous traite pour toujours comme des personnes

VI. Réflexions conclusives

• Compte tenu des multiples défis posés par le développement technologique, le pape François souligne que « la responsabilité, les valeurs et la conscience humaines » doivent croître à mesure qu’augmente le potentiel de la technologie
• « Plus le pouvoir de l’homme grandit, plus sa responsabilité, personnelle et communautaire, s’élargit »

• En même temps, une « question fondamentale et essentielle » demeure
• « Au milieu de ces avancées technologiques, l’être humain devient-il réellement meilleur ? Possède-t-il une maturité spirituelle plus grande, une conscience plus profonde de la dignité humaine, un sens plus aigu des responsabilités, et est-il plus ouvert, surtout envers les plus pauvres et les plus vulnérables, prêt à donner et à aider ? »

• Il est donc essentiel d’évaluer si les usages particuliers de l’IA favorisent la dignité humaine, la vocation humaine et le bien commun
• Comme pour de nombreuses technologies, il peut être difficile de prévoir au départ les effets des différents usages de l’IA
• À mesure que l’impact de l’IA sur la société devient plus clair, des réponses appropriées doivent être apportées à tous les niveaux de la société
• Conformément au principe de subsidiarité, les utilisateurs individuels, les familles, la société civile, les entreprises, les institutions, les gouvernements et les organisations internationales doivent chacun assumer leur rôle afin que l’IA soit utilisée pour le bien de tous

• Aujourd’hui, un défi et une opportunité majeurs pour le bien commun consistent à envisager l’IA dans le cadre d’une intelligence relationnelle
• Celle-ci met l’accent sur l’interconnexion entre les personnes et les communautés, et rappelle la responsabilité commune de promouvoir le bien-être intégral d’autrui
• Le philosophe du XXe siècle Nicholas Berdyaev observait que l’on attribue souvent aux machines la responsabilité des problèmes sociaux, mais que « cela rabaisse l’homme et n’est pas conforme à sa dignité »
• Il insistait sur le fait qu’« il est injuste de transférer la responsabilité à la machine » et que seuls les êtres humains peuvent assumer une responsabilité morale
• Ainsi, les défis auxquels est confrontée la société technologique sont, en fin de compte, des questions spirituelles, et « pour les résoudre, un renforcement de la spiritualité est indispensable »

• Avec l’essor de l’IA, il devient d’autant plus important de reconnaître à nouveau la valeur essentielle de l’existence humaine
• L’écrivain catholique français Georges Bernanos avertissait que « le danger ne réside pas dans la multiplication des machines elle-même, mais dans la multiplication d’hommes élevés dès l’enfance à ne désirer que ce que les machines peuvent offrir »
• Dans la numérisation rapide d’aujourd’hui, nous faisons face au risque du « réductionnisme numérique »
• Autrement dit, les dimensions de la vie qui ne peuvent être quantifiées sont de plus en plus exclues, jusqu’à pouvoir être considérées comme dénuées de sens ou sans importance
• L’IA doit être utilisée comme un outil qui complète l’intelligence humaine, et non d’une manière qui remplace la richesse de l’intelligence humaine
• Les éléments essentiels de l’existence humaine sont incalculables, et il est important de continuer à les cultiver
• Cela afin de préserver « la véritable humanité », qui « semble habiter notre culture technologique presque inaperçue, comme une brume légère s’infiltrant sous une porte fermée »

Vraie sagesse

• Aujourd’hui, nous vivons à une époque où il est facile d’accéder à une somme de connaissances si vaste que les générations passées l’auraient jugée prodigieuse
• Mais pour que le progrès du savoir porte des fruits sur les plans humain et spirituel, il faut rechercher une vraie sagesse au-delà de la simple accumulation de données

• Cette sagesse est le don dont l’humanité a le plus besoin pour répondre aux questions profondes et aux défis éthiques soulevés par l’IA
• « Ce n’est qu’en regardant la réalité d’une manière spirituelle, ce n’est qu’en retrouvant la sagesse du cœur, que nous pouvons interpréter et affronter la nouveauté de notre temps »
• Cette « sagesse du cœur » est « la vertu qui permet d’intégrer l’ensemble et les parties, nos décisions et leurs conséquences »
• « Cette sagesse ne peut être obtenue des machines ; elle se laisse trouver par celui qui la cherche, se révèle à celui qui l’aime, va au-devant de celui qui la désire et cherche celui qui en est digne » (cf. Sagesse 6:12-16)

• À l’époque du développement de l’IA, nous avons besoin de la grâce de l’Esprit Saint
• L’Esprit Saint « nous fait voir les choses avec les yeux de Dieu, comprendre les liens entre les choses et les événements, et en saisir le véritable sens »

• « La perfection de l’être humain ne se mesure pas à la quantité d’informations ou de connaissances qu’il possède, mais à la profondeur de son amour »
• Ainsi, la manière dont nous utilisons l’IA — c’est-à-dire « d’une manière qui inclut les plus petits de nos frères, les plus vulnérables et ceux qui ont le plus besoin d’aide » — sera la véritable mesure de notre humanité
• La « sagesse du cœur » guide un usage anthropocentrique de l’IA et peut
  • promouvoir le bien commun,
  • prendre soin de notre « maison commune » (l’environnement),
  • favoriser la recherche de la vérité,
  • encourager le développement humain,
  • renforcer la solidarité humaine et la fraternité,
  • et, en fin de compte, conduire l’être humain au bonheur et à la pleine communion avec Dieu

• Dans cette perspective de sagesse, les croyants peuvent devenir des acteurs moraux qui utilisent l’IA pour promouvoir une juste vision de l’être humain et de la société
• Le progrès technologique fait partie du dessein créateur de Dieu ; c’est une activité à laquelle nous sommes appelés, dans le mystère pascal de Jésus-Christ, pour poursuivre sans cesse ce qui est vrai et bon

Approuvé par le pape François

• Le 14 janvier 2025, lors d’une audience accordée au préfet et au secrétaire du Dicastère pour la doctrine de la foi ainsi qu’au préfet et au secrétaire du Dicastère pour la culture et l’éducation, il a approuvé le présent document et en a ordonné la publication
• Publié à Rome, au Dicastère pour la doctrine de la foi et au Dicastère pour la culture et l’éducation, le 28 janvier 2025, en la mémoire liturgique de saint Thomas d’Aquin, docteur de l’Église
• Rédigé par
  • Cardinal Víctor Manuel Fernández (préfet du Dicastère pour la doctrine de la foi)
  • Cardinal José Tolentino de Mendonça (préfet du Dicastère pour la culture et l’éducation)
  • Mgr Armando Matteo (secrétaire doctrinal du Dicastère pour la doctrine de la foi)
  • Archevêque Paul Tighe (secrétaire pour la culture du Dicastère pour la culture et l’éducation)
• Approuvé par le pape François lors de l’audience du 14 janvier 2025 (Ex audientia die 14 ianuarii 2025, Franciscus)

[nemorize]

Je trouve déjà très rafraîchissant et positif que ce type de débat existe dans les milieux religieux...

À ne voir que le résumé, on dirait qu’ils ont longuement développé l’idée suivante :
« L’IA n’est qu’un produit humain, une simple machine d’inférence statistique et non de raisonnement logique tel que le pratique l’être humain ; alors, n’allez pas vous enorgueillir en prétendant avoir empiété sur le domaine de Dieu grâce au développement de l’IA, et ne cherchez pas non plus à l’avenir à empiéter sur ce domaine. »

Il va falloir que je prenne un peu de temps pour lire le texte original.

[botplaysdice]

« Les systèmes d’IA actuels, en particulier ceux fondés sur le machine learning, s’appuient sur l’inférence statistique plutôt que sur le raisonnement logique »...

Parmi les religions, l’Église catholique a clairement une certaine classe. J’imagine qu’elle compte aussi en interne des scientifiques qui étudient ce genre de sujets, non ?

[botplaysdice]

Les LLM sont vraiment les meilleures machines à résumer.

[dongwon]

C’est un texte très pertinent et excellent. Je ne suis pas croyant, mais sa lecture m’a apporté beaucoup d’éclairages.

[savvykang]

Je pense que le texte est trop long et qu’il faudrait un lien vers la section des commentaires sur GN.

[xguru]

C’est un résumé via GPT, mais c’était encore beaucoup trop long, donc en lui demandant de le résumer à nouveau en retirant les termes religieux, il m’a sorti ceci.

I. Introduction

• Les avancées scientifiques et technologiques rapides, ainsi que l’émergence de l’IA, rendent nécessaire une discussion sur les opportunités et les défis qui en découlent
• Le point central est que l’IA peut dépasser les capacités humaines ou les imiter de manière comparable dans des domaines comme le langage, l’art ou le diagnostic
• Dans ce contexte de transformation, la manière dont l’IA est utilisée et contrôlée aura un impact majeur sur l’avenir de l’humanité

II. Qu’est-ce que l’intelligence artificielle ?

• Vers 1956, le terme « intelligence artificielle » a été proposé, lançant la recherche sur la capacité des machines à adopter un comportement intelligent semblable à celui des humains
• Alors que l’IA des débuts était centrée sur les opérations logiques et le raisonnement, elle a aujourd’hui évolué vers l’inférence statistique et le machine learning
• Les systèmes d’« IA étroite » sont spécialisés dans des tâches précises (traduction, classification d’images, etc.)
• La possibilité d’une « intelligence artificielle générale (AGI) » ou d’une « superintelligence » est évoquée, mais sa réalisation effective reste très débattue
• Il existe un écart fonctionnel important qui empêche de définir l’intelligence de l’IA dans le même sens que l’intelligence humaine

III. L’intelligence dans la tradition philosophique et théologique

• L’IA produit des résultats à partir de vastes volumes de données et d’une logique de calcul
• L’intelligence humaine se forme à partir d’un ensemble d’éléments combinés : expériences variées, vécu corporel, émotions, relations, etc.
• L’IA peut exceller dans l’exécution de tâches spécifiques, mais elle a du mal avec le jugement existentiel et moral ou avec une compréhension globale de l’être humain
• Confondre l’IA et l’intelligence humaine peut conduire à une vision fonctionnaliste dangereuse

IV. Le rôle de l’éthique dans le développement et l’usage de l’IA

• Aucune activité scientifique ou technologique n’est neutre sur le plan des valeurs ; tout dépend en fin de compte des choix et des finalités humaines
• L’IA peut être utilisée pour le bien comme à des fins malveillantes
• Tous les acteurs impliqués dans le développement, la propriété et l’utilisation de l’IA doivent assumer une responsabilité sociale et un jugement éthique
• Si les humains ne définissent pas directement les intentions et n’assument pas la responsabilité, l’IA peut produire des conséquences non voulues

V. Questions particulières

Impact social

• L’IA peut apporter des bénéfices dans des domaines variés comme l’économie, l’éducation ou l’art
• En même temps, il existe des risques comme la fracture numérique, les situations de monopole par un petit nombre d’entreprises, ou l’exclusion des populations vulnérables
• Dans les usages du secteur public, la confiance sociale, la transparence et l’identification des responsabilités sont essentielles

Relations humaines et communication

• L’IA peut faciliter la communication, mais aussi affaiblir les rencontres directes et les interactions entre personnes
• Les humains construisent l’empathie et les relations en combinant émotions et expériences, tandis que l’IA ne peut pas les vivre réellement
• Si les relations humaines sont remplacées par des interactions mécaniques, le risque d’isolement peut s’aggraver
• Lorsque l’IA imite les humains grâce au traitement du langage naturel ou à la génération vidéo, on peut craindre une confusion sociale et une érosion de la confiance

Économie et travail

• L’IA peut permettre une organisation du travail plus efficace et créer de nouveaux emplois
• À l’inverse, elle peut aussi remplacer des personnes, provoquer du chômage ou concentrer les gains entre les mains d’une minorité
• Il faut des dispositifs institutionnels garantissant la valeur humaine et la dignité, afin que le travail ne soit pas réduit à une simple fonction

Secteur médical

• L’IA peut contribuer à améliorer l’efficacité des soins et l’accessibilité, notamment dans le diagnostic des maladies ou les traitements personnalisés
• Cependant, si la dimension humaine du soin s’affaiblit ou si les priorités thérapeutiques sont confiées uniquement à une logique économique, des problèmes éthiques peuvent apparaître
• Le pouvoir de décision final et la responsabilité envers les patients doivent rester entre les mains des humains

Environnement éducatif

• L’IA peut compléter l’éducation via l’apprentissage personnalisé, le feedback et d’autres apports
• Il faut veiller à ce qu’elle ne nuise pas à l’esprit critique ni à la créativité des élèves
• Une dépendance excessive peut faire perdre aux apprenants leur capacité d’exploration autonome
• Les informations produites par les systèmes d’IA peuvent être biaisées ou erronées ; la vérification des faits et la transparence sont donc essentielles

Désinformation, deepfakes et abus

• L’IA peut facilement produire de faux contenus très proches de la réalité (texte, image, vidéo, etc.)
• Les atteintes à la vie privée, la diffamation et les risques de désordre social liés aux deepfakes suscitent une inquiétude croissante
• La vérification de l’information, la régulation contre les abus et le renforcement de l’éthique des utilisateurs sont indispensables

Vie privée et surveillance

• Les données collectées et analysées par l’IA constituent une capacité d’information étendue sur les individus
• La surveillance du quotidien et l’accumulation excessive de données personnelles risquent de porter atteinte aux libertés et aux droits
• La transparence et une répartition claire des responsabilités sont importantes, et les données ne doivent pas devenir un outil d’évaluation ou de restriction des personnes

Questions environnementales

• Les grands modèles d’IA et l’exploitation des data centers impliquent une consommation massive d’énergie et de ressources, qui pèse sur l’environnement
• L’IA peut aussi jouer un rôle positif, par exemple en aidant à la prévision climatique ou à l’optimisation des ressources, mais il faut résoudre son propre problème de forte consommation énergétique
• Les problèmes environnementaux ne seront pas résolus par le seul progrès technique ; une orientation vers un développement durable est nécessaire

Militarisation

• Si l’IA est utilisée dans les armes, le risque d’autonomisation et d’automatisation de la guerre peut s’aggraver
• Les conflits armés pourraient devenir plus faciles à déclencher ou entraîner des destructions massives
• Les dysfonctionnements ou les abus des systèmes d’armes autonomes constituent une menace critique pour la sécurité de l’humanité

VI. Réflexion conclusive

• À mesure que l’IA progresse rapidement, une conscience accrue des responsabilités et une réflexion éthique correspondante deviennent nécessaires
• Il faut analyser de près les effets positifs potentiels et les risques de l’IA, et établir des principes faisant l’objet d’un consensus à l’échelle de la société
• Il devient de plus en plus nécessaire de mettre en place des régulations et des politiques afin que l’IA soit conforme à la dignité humaine, au bien commun, ainsi qu’aux valeurs sociales et environnementales
• Les humains doivent conserver le pouvoir de décision final et la responsabilité, utiliser l’IA comme un outil, et faire progresser conjointement les systèmes institutionnels, techniques et sociaux

[gguimoon]

Le livre a été publié en traduction coréenne.

https://product.kyobobook.co.kr/detail/S000215621776

[GN⁺]

Avis de Hacker News

• Le texte, fondé sur une étude approfondie de l’éthique de l’IA et sur diverses discussions du Vatican, est impressionnant

  • Il propose un regard critique sur les projets américains liés à l’IA et salue la profondeur de la réflexion sur l’éthique de l’IA
  • Il souligne la différence entre l’IA et l’intelligence humaine, et accorde de l’importance au fait que l’intelligence humaine s’exerce dans la relation

• Il souligne la différence entre l’IA et l’intelligence humaine, et accorde de l’importance au fait que l’intelligence humaine s’exerce dans la relation

  • Il indique que l’usage du terme « intelligence » pour l’IA peut prêter à confusion
  • Il explique que l’intelligence humaine se déploie dans la relation et trouve sa pleine expression à travers le dialogue et la coopération

• Cela montre qu’une exploration morale menée depuis des perspectives diverses peut aboutir à un consensus fondé sur une expérience humaine commune

  • Même si l’approche métaphysique de l’Église catholique peut sembler un peu irréaliste, les discussions et conclusions présentées dans le texte sont jugées profondes

• Il rappelle que l’IA est une création humaine et avertit que remplacer Dieu par l’IA relève de l’idolâtrie

  • Il souligne que l’IA, en tant que création humaine, réagit aux entrées humaines et est maintenue par le travail humain

• Il évoque le lien historique entre technologie et religion et affirme qu’une deuxième « Réforme » de l’information est en cours

  • En prenant pour exemple l’effet de l’imprimerie sur la Réforme, il explique qu’Internet conduit une deuxième réforme de l’information

• Il discute de la différence entre l’IA et l’intelligence humaine et soutient que l’apprentissage de l’IA par l’expérience physique diffère de celui des humains

  • Il explique que l’IA reste enfermée dans un cadre logico-mathématique, tandis que l’intelligence humaine se développe de manière organique à travers l’expérience corporelle

• Il affirme que les progrès de l’IA avancent rapidement et qu’une discussion plus approfondie est nécessaire d’un point de vue philosophique et théologique

  • Il mentionne le potentiel d’évolution de l’IA en prenant l’exemple des robots de Boston Dynamics qui apprennent dans de nouveaux environnements

• Il soulève la question philosophique de savoir si l’IA peut avoir une âme

  • En prenant comme exemple l’épisode « The Measure of a Man », il appelle à débattre de la possibilité pour l’IA d’avoir une âme

• Il souligne que Dieu est glorifié à travers la science et la technologie

  • Il affirme que science et religion n’ont pas besoin d’être mutuellement exclusives et explique que ce point devrait être davantage mis en avant