Magnifica Humanitas

 (vatican.va)
1 points par GN⁺ 4 시간 전 | 1 commentaires | Partager sur WhatsApp
  • Le choix décisif à l’ère de l’IA ne porte pas sur le fait d’être pour ou contre la technologie, mais sur le fait de bâtir, comme Babel, l’uniformité et la domination, ou de reconstruire, comme Jérusalem, sur la responsabilité commune et la diversité
  • La doctrine sociale de l’Église n’est pas un recueil de principes figés, mais un processus vivant qui discerne la transition numérique et l’intelligence artificielle à travers la dignité humaine, le bien commun, la subsidiarité, la solidarité et la justice sociale
  • L’IA et le pouvoir numérique peuvent engendrer la concentration des données, des plateformes et des ressources de calcul, des décisions automatisées, une responsabilité opaque, des coûts environnementaux, du travail invisible et de nouvelles formes d’exploitation
  • Le paradigme technocratique réduit l’être humain à une ressource à optimiser ; l’éducation, le travail, la famille, les médias, la politique et l’économie doivent donc être repensés pour préserver la vérité et la liberté, le soin et la participation
  • La civilisation de l’amour est présentée comme un chemin qui refuse la guerre, la course aux armements et la militarisation de l’IA, et qui construit la paix par la justice, le dialogue, la diplomatie, le point de vue des victimes et la prière

Le choix à l’ère de l’IA et la doctrine sociale

  • Le choix de l’humanité dépend de savoir si elle veut ériger une nouvelle tour de Babel ou bâtir une ville où Dieu et l’être humain demeurent ensemble
    • Chaque génération reçoit la mission de façonner son époque, de préserver la dignité de tous, de promouvoir la justice et de rendre possible la fraternité
    • Les chrétiens voient en Jésus-Christ la plénitude de l’humain, dans la perspective selon laquelle « c’est seulement dans le mystère du Verbe fait chair que le mystère de l’homme s’éclaire vraiment »
  • Pope Leo XIII a publié Rerum Novarum en 1891, et l’année 2026 en marquera le 135e anniversaire
    • Ce texte a donné un élan à la réflexion sur la société, l’économie et la politique, et constitue un point de départ majeur de ce qu’on appelle aujourd’hui la « doctrine sociale de l’Église »
    • La doctrine sociale est un processus vivant, fondé sur l’Écriture et la tradition, qui dialogue avec diverses disciplines pour aider à interpréter les défis du présent
  • La numérisation, l’intelligence artificielle et la robotique transforment le monde rapidement et en profondeur
    • La technologie n’est pas en soi une force hostile à l’humanité, mais un outil ambivalent, capable de nuire lorsqu’il n’est pas orienté vers le bien
    • Les nouvelles technologies pénètrent profondément dans la vie quotidienne, les processus de décision et l’imaginaire collectif, au point de rendre difficile l’évaluation de leurs effets à long terme sur la dignité de la personne et le bien commun
  • Le pouvoir technologique prend un caractère privé et transnational sans précédent, ce qui rend plus difficile son discernement, sa gouvernance et son orientation vers le bien commun
    • Pope Francis met en garde contre le fait que l’énergie nucléaire, la biotechnologie, l’informatique et la connaissance de l’ADN donnent à ceux qui possèdent le savoir et les ressources économiques « une maîtrise impressionnante sur l’ensemble de l’humanité et du monde entier »
    • Aujourd’hui, les principaux moteurs du développement sont souvent des acteurs privés et transnationaux, dotés de ressources et de capacités d’intervention qui dépassent celles de nombreux gouvernements

Babel et Jérusalem

  • La tour de Babel

    • La tour de Babel constitue une première image biblique pour naviguer avec responsabilité à l’ère de l’IA
    • Dans la plaine de Shinéar, les hommes voulaient bâtir une ville et une tour « dont le sommet touche le ciel », afin d’éviter la dispersion et de « se faire un nom »
    • Ce projet, porté par une langue unique, une technique unique et une direction unique, repose sur une uniformité qui élimine la diversité et choisit l’homogénéisation plutôt que la communion
    • Quand une ville est bâtie sur l’orgueil et l’autosuffisance, la communication s’effondre, les langues se brouillent, et le résultat n’est pas l’unité mais la dispersion

  • Reconstruire Jérusalem

    • La reconstruction de Jérusalem par Néhémie constitue la deuxième image
    • Après l’exil à Babylone, Jérusalem était en ruines ; avant d’agir, Néhémie jeûne, prie et intercède pour le peuple
    • Il inspecte discrètement les zones détruites, n’impose pas de solution venue d’en haut et confie à chaque famille une section de la muraille
    • La ville renaît non pas sous l’impulsion d’un seul, mais par la responsabilité commune des hommes, des femmes, des prêtres, des artisans, des chefs de famille et des jeunes

  • Le choix face à la technologie

    • Le choix fondamental face à la technologie et à la révolution numérique n’est pas de dire « oui » ou « non » à la technologie, mais de savoir s’il faut construire Babel ou reconstruire Jérusalem
    • La technologie a le pouvoir de soigner, relier, éduquer et protéger la maison commune, mais elle peut aussi diviser, exclure et créer de nouvelles injustices
    • Elle n’est jamais neutre, car elle porte concrètement les caractéristiques de ceux qui la conçoivent, la financent, la régulent et l’utilisent
    • Le syndrome de Babel désigne l’idolâtrie du profit qui sacrifie les plus faibles, l’uniformité qui neutralise les différences, et l’illusion selon laquelle même le mystère de la personne pourrait être traduit en données et en performance
    • La voie de Néhémie consiste à construire ensemble à partir de voix et de visions diverses, à faire de la diversité une ressource, et à faire de l’écoute et du dialogue le fondement de la justice et de la fraternité

Des principes pour rester humains

  • Une cité fondée sur le bien commun doit être bâtie sur une relation solide avec Dieu, et les limites comme la fragilité humaines y sont présentées non comme des erreurs à corriger, mais comme une réalité à accueillir
    • Il faut se garder de placer son espérance dans des « upgrades » illimités, dans un progrès qui aggrave les inégalités, ou dans des solutions immédiates incapables de guérir les blessures
    • La vraie plénitude ne se trouve pas dans l’élimination de la fragilité, mais dans une croissance harmonieuse où s’entrelacent liberté et responsabilité, soin mutuel et solidarité
  • La responsabilité commune est la condition pour bâtir un monde dans lequel tous peuvent prospérer
    • Scientifiques et chercheurs, entrepreneurs et travailleurs, éducateurs et législateurs, société civile, mouvements populaires et communautés de foi reçoivent chacun leur portion de muraille
    • La coopération entre générations, peuples, disciplines et cultures conduit à une logique de subsidiarité qui favorise la stabilité, la prospérité et la paix
  • Rester humain est un devoir urgent à l’ère de l’IA
    • De nouvelles formes de déshumanisation menacent la dignité humaine ; il faut donc protéger la grandeur de l’humanité, qu’aucune machine ne peut remplacer
    • Il faut mettre Dieu à l’avant de l’action et l’être humain au centre des choix

La nature de la doctrine sociale de l’Église

  • La doctrine sociale de l’Église est un enseignement dynamique qui s’est formé dans le magistère pontifical récent et au sein du concile Vatican II
    • L’intelligence artificielle n’est pas seulement une crise à gérer, mais un développement qui met à l’épreuve de l’intérieur les catégories de la doctrine sociale et appelle une évolution fidèle à l’Évangile

  • L’Église qui chemine dans l’histoire humaine

    • L’Église est présente dans le monde comme signe d’unité de toute la famille humaine, et reconnaît dans les questions et défis d’aujourd’hui un champ actuel d’écoute, de dialogue et de service
    • Elle ne peut rester extérieure aux forces qui façonnent la société et apporte une contribution propre à la construction d’une société plus juste et plus fraternelle
    • Gaudium et Spes affirme que « l’autonomie des réalités terrestres » est légitime si l’on entend par là que les créatures et les sociétés possèdent leurs lois et leurs valeurs propres

  • Distinction avec la communauté politique

    • Le concile Vatican II confirme la distinction entre la communauté ecclésiale et la communauté politique et souligne que chacune doit agir dans une pleine autonomie
    • L’Église ne cherche pas à assumer les fonctions de l’État et reconnaît la responsabilité des institutions civiques au service du bien commun
    • Son intervention doit se faire avec prudence et proximité, à l’exemple du bon Samaritain, sans pouvoir se substituer à la responsabilité institutionnelle de la communauté civique

  • Dialogue entre la Parole et les sciences humaines

    • L’Église considère tous ceux qui recherchent sincèrement « la vérité, le bien et la beauté » comme de précieux alliés dans la protection de la dignité et le soin de la création
    • La Parole de Dieu fournit des critères de justice et de paix, mais leur application aux situations complexes du monde contemporain requiert l’apport de la philosophie et des sciences humaines et sociales
    • Pope Francis affirme que, sur bien des questions concrètes, l’Église ne prétend pas proposer une « parole définitive » et encourage la recherche scientifique ainsi qu’un débat sérieux et honnête entre experts

  • Discernement commun

    • La vérité n’est pas une propriété à monopoliser, mais un don à partager, ce qui libère l’Église de la tentation d’une présence fondée sur le pouvoir
    • La doctrine sociale n’est pas un manuel de principes et de normes à appliquer, mais un processus de discernement commun né de la rencontre entre la vérité éternelle de l’Évangile et les questions de l’histoire

Développement et fondements de la doctrine sociale

  • Le développement de la doctrine sociale est présenté comme le fil du magistère répondant aux grandes mutations sociales depuis le XIXe siècle jusqu’à aujourd’hui, et ses principes de base sont rassemblés dans le Compendium of the Social Doctrine of the Church
    • Rerum Novarum présente le conflit entre capital et travail, la dignité des travailleurs, le juste salaire, le rôle social de la propriété privée, les associations de travailleurs, et la coopération plutôt que la lutte des classes
    • Dans Quadragesima Anno, Pius XI critique la concentration du pouvoir économique et la planification collectiviste, et formalise de manière systématique le principe de subsidiarité
    • Dans Pacem in Terris, Saint John XXIII relie la dignité humaine à la reconnaissance des droits et des devoirs fondamentaux
    • Dans Laborem Exercens, Saint John Paul II présente le travail comme un bien fondamental pour l’être humain, un principe de l’activité économique et la clé de l’ensemble de la question sociale
    • Dans Laudato Si’, Pope Francis souligne qu’on ne peut pas séparer « le cri de la terre et le cri des pauvres »
    • Fratelli Tutti propose l’amitié sociale, la fraternité universelle, une meilleure politique et un monde garantissant à tous « terre, logement et travail »
  • La dignité humaine ne dépend ni des capacités, ni de la richesse, ni du statut dans la vie, ni des bons ou mauvais choix, mais constitue un don accordé à chaque personne en amont, comme expression de l’amour immuable de Dieu
    • La dignité ontologique appartient à tout être humain du seul fait d’exister, d’être voulu, créé et aimé par Dieu
    • Dignitas Infinita résume cela en affirmant que tout être humain possède « une dignité infinie fondée de manière inaliénable dans son être même »
  • Le discernement et la proclamation des droits humains sont reconnus comme l’une des tentatives les plus importantes pour répondre aux exigences de la dignité humaine
    • Le premier de ces droits est présenté comme le droit à la vie, de la conception jusqu’à la mort naturelle
    • Pour que les droits des femmes soient garantis de manière égale et réelle, cela doit se refléter concrètement dans la loi, l’accès à l’emploi, l’éducation, les responsabilités sociales et politiques, et dans la manière dont la société écoute et valorise la contribution des femmes

Bien commun, subsidiarité, solidarité, justice

  • Bien commun

    • Le bien commun est l’expression sociale de la dignité reconnue à toute personne, et le concile Vatican II le définit comme l’ensemble des conditions sociales qui permettent aux personnes d’atteindre plus pleinement et plus facilement leur accomplissement
    • Le bien commun n’est ni la somme des intérêts individuels ni l’intersection d’intérêts particuliers, mais un bien supérieur qui appartient à tous et qui ne peut être atteint, nourri et protégé que par un effort commun

  • Destination universelle des biens

    • La destination universelle des biens est le principe selon lequel la terre, l’eau, l’air et les ressources naturelles ont été donnés par Dieu à toute la famille humaine pour soutenir la vie de tous
    • Le droit à la propriété privée a un sens et une finalité propres, mais il demeure toujours subordonné à la destination universelle des biens
    • Aujourd’hui, ce principe doit aussi s’appliquer aux nouvelles formes de propriété comme les brevets, les algorithmes, les plateformes numériques, les infrastructures technologiques et les données
    • Lorsque ces biens se concentrent entre les mains d’un petit nombre, l’écart se creuse entre ceux qui peuvent participer à la révolution numérique et ceux qui restent à la périphérie

  • Subsidiarité

    • La subsidiarité est le principe selon lequel une autorité supérieure ne doit pas se substituer au rôle des individus, des familles, des communautés locales et des corps intermédiaires
    • Dans le contexte de la révolution numérique, le niveau le plus élevé n’est souvent pas l’État, mais de grands acteurs économiques et technologiques qui exercent un pouvoir de facto sur les conditions de la vie quotidienne
    • La subsidiarité exige une participation réelle, incluant contrôle indépendant, transparence algorithmique, accès équitable aux données et voies de recours

  • Solidarité

    • La solidarité est la conscience que l’avenir de chaque personne est lié à l’avenir de tous, exprimée par l’idée que « personne n’est sauvé seul »
    • Les décisions concernant les données, les algorithmes, les plateformes et l’intelligence artificielle doivent prendre en compte non seulement les intérêts immédiats d’un petit nombre, mais aussi leurs effets sur tous les peuples et les générations futures

  • Justice sociale

    • La justice sociale exige que les structures et les institutions de la société soient au service de l’être humain et de la dignité humaine
    • L’injustice provient non seulement des mauvais choix individuels, mais aussi de structures, de mécanismes et de systèmes économico-culturels qui produisent les inégalités de manière presque automatique
    • Dans l’ère numérique, un ordre social juste doit garantir à tous l’accès aux opportunités, protéger les membres les plus vulnérables, lutter contre la haine et la désinformation, et placer l’usage des données et des technologies sous contrôle public

  • Développement humain intégral

    • Le développement humain intégral est le processus par lequel la croissance des personnes et des peuples embrasse toutes les dimensions de l’existence et ouvre aussi un avenir aux générations suivantes
    • L’innovation technologique, y compris l’intelligence artificielle, doit être évaluée selon qu’elle aide les personnes et les peuples à devenir plus humains et plus fraternels, et selon qu’elle respecte la maison commune et les générations futures

Application dans l’Église

  • La doctrine sociale n’est pas seulement un message adressé à la société, mais aussi un examen de conscience pour l’Église, et le bien commun, la subsidiarité, la solidarité et la justice doivent aussi s’appliquer dans les structures ecclésiales
  • The Final Document of the Synod considère la transparence, la responsabilité et une culture de l’évaluation comme des pratiques clés pour une transformation missionnaire
  • La participation effective consiste à faire de la participation des baptisés à la prise de décision et de la coresponsabilité dans la mission une réalité concrète, et non de simples instances consultatives de façade
  • Vivre la justice dans l’Église signifie purifier les relations et les structures ecclésiales des déformations qui engendrent inégalités, opacité et abus de pouvoir
    • Écouter les victimes d’abus spirituels, économiques, institutionnels, sexuels, d’abus de pouvoir et d’abus de conscience est essentiel dans un chemin de justice qui inclut la reconnaissance du préjudice, une réparation juste et la prévention de sa répétition

IA et pouvoir numérique

  • Paradigme technocratique

    • Pope Francis critique dans Laudato Si’ le paradigme technocratique qui cherche à façonner les décisions personnelles, sociales et économiques selon la seule logique de l’efficacité, du contrôle et du profit
    • Quand la technologie devient le critère qui juge tout, la création est réduite à un objet d’exploitation, et l’être humain à un rouage d’un système orienté vers une efficacité accrue
    • Lorsque le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul se concentre entre les mains de grands acteurs économiques et technologiques, ce sont eux qui définissent de fait les conditions d’accès, les règles de visibilité et jusqu’aux possibilités mêmes de participation

  • Différence entre l’IA et l’intelligence humaine

    • Toute affirmation sur l’IA peut vite devenir obsolète en raison de la rapidité d’évolution des systèmes, et la compréhension de leur fonctionnement réel reste limitée, y compris chez leurs concepteurs
    • Les systèmes d’IA actuels relèvent moins d’une conception où chaque détail est directement dessiné que d’une approche où les développeurs créent le cadre dans lequel l’intelligence « grandit », ce qui les rend plus « cultivés » que « fabriqués »
    • L’IA n’imite que certaines fonctions de l’intelligence humaine ; elle ne fait pas d’expérience, n’a pas de corps, ne ressent ni joie ni souffrance et ne mûrit pas dans la relation
    • L’« apprentissage » de l’IA n’est pas une expérience façonnée par la vie à travers les choix, les erreurs, le pardon et la fidélité, mais une adaptation statistique fondée sur les données et le feedback

  • Utilité et limites

    • L’IA peut être un outil utile, mais trois aspects exigent de la prudence : la facilité d’obtention des résultats, l’impression d’objectivité et l’imitation de la communication humaine
    • L’accès rapide à l’information et l’assistance aux tâches peuvent encourager une dépendance excessive et la recherche de réponses toutes faites, au détriment de la créativité et du jugement personnels
    • Le caractère apparemment objectif des réponses du système peut masquer les présupposés culturels, ainsi que les forces et les limites, de ceux qui l’ont conçu et entraîné
    • L’imitation artificielle de communications humaines comme le conseil, l’empathie, l’amitié ou l’amour peut faire naître chez des utilisateurs peu capables de discernement l’illusion d’être en relation avec un véritable sujet personnel

  • Coût environnemental

    • Les systèmes d’IA actuels nécessitent d’immenses quantités d’énergie et d’eau, ont un impact significatif sur les émissions de dioxyde de carbone et font peser une lourde charge sur les ressources naturelles
    • À mesure que la complexité augmente, comme avec les grands modèles de langage, la demande en puissance de calcul et en capacité de stockage s’accroît, ce qui exige un vaste réseau de machines, de câbles, de centres de données et d’infrastructures énergivores
    • Il est indispensable de développer des solutions technologiques plus durables pour réduire l’impact environnemental et protéger notre maison commune

Responsabilité, transparence et gouvernance de l’IA

  • Décisions automatisées

    • L’usage de l’IA n’est pas une question purement technique, mais une question sociale qui affecte les droits, les opportunités, le statut et les libertés
    • Il existe un risque que des décisions sensibles, concernant par exemple l’emploi, le crédit, l’accès aux services publics ou la réputation personnelle, soient entièrement déléguées à des systèmes automatisés
    • Comme ces systèmes ne connaissent ni « compassion, ni miséricorde, ni pardon, ni surtout l’espérance que les personnes peuvent changer », ils peuvent engendrer de nouvelles formes d’exclusion
    • On ne peut pas considérer l’IA comme moralement neutre : elle incorpore des choix et des priorités dans ce qu’elle mesure, ignore ou optimise, ainsi que dans la manière dont elle classe les personnes et les situations

  • Explicabilité et cadre juridique

    • Pour que l’IA respecte la dignité humaine et serve le bien commun, les responsabilités doivent être clairement établies à chaque étape, des concepteurs et développeurs aux utilisateurs, jusqu’à ceux qui dépendent de décisions concrètes
    • Dans de nombreux cas, le processus interne qui mène aux résultats reste opaque, ce qui complique l’attribution des responsabilités et la correction des erreurs
    • Exiger de la prudence, des évaluations rigoureuses et parfois un ralentissement du rythme d’adoption de l’IA ne revient pas à s’opposer au progrès, mais à prendre soin de manière responsable de la famille humaine
    • Les appels abstraits à l’éthique ne suffisent pas ; il faut un cadre juridique solide, une supervision indépendante, des utilisateurs bien informés et un système politique qui ne renonce pas à ses responsabilités

  • Un débat public au-delà de l’alignement

    • Il ne suffit pas d’exiger une moralisation de la machine à travers des notions comme l’« alignment », qui vise à faire correspondre l’IA aux valeurs humaines ; les cadres éthiques concernés doivent être débattus publiquement et soumis à des critères partagés de justice sociale
    • Un engagement politique plus actif est nécessaire pour éviter qu’une morale décidée par quelques-uns ne devienne l’infrastructure invisible des systèmes
    • La propriété des données ne peut être laissée aux seules mains privées et doit être correctement régulée ; puisque les données sont le produit de nombreux contributeurs, il faut imaginer des façons créatives de les gérer comme bien commun ou partagé

  • Critères de la doctrine sociale face au pouvoir de l’IA

    • Parler du bien commun dans un monde où les données, les ressources de calcul et l’influence réglementaire restent concentrées entre les mains d’un petit nombre revient à mettre au jour les asymétries épistémiques, économiques et politiques ainsi que les nouveaux monopoles de l’IA
    • La destination universelle des biens implique de garantir un accès universel à la technologie, mais aussi à l’éducation nécessaire pour l’utiliser
    • La subsidiarité exige de préserver la capacité des communautés à choisir et à corriger
    • La solidarité conduit à reconnaître les travailleurs invisibles, souvent exploités, qui soutiennent les systèmes algorithmiques
    • La justice sociale n’est pas seulement un objectif à protéger après le déploiement d’une technologie, mais une condition qui doit en façonner la conception dès le départ

  • Désarmer l’IA

    • Désarmer l’IA signifie non seulement la libérer du contexte militaire, mais aussi de la logique de course aux « armements » économiques et cognitifs
    • La compétition pour des algorithmes toujours plus puissants et des jeux de données toujours plus vastes est alimentée par la volonté d’assurer une domination géopolitique ou commerciale
    • Le désarmement ne signifie pas le rejet de la technologie, mais le fait d’empêcher qu’elle ne domine l’être humain, de la soustraire au contrôle monopolistique et de l’ouvrir au débat et à la délibération pour la rendre compatible avec l’humain

L’humanité à ne pas perdre

  • La préservation de l’humanité ramène à cette question : « Que signifie préserver notre humanité ? »
    • Le danger ne réside pas seulement dans le mauvais usage d’une technologie particulière, mais dans le fait que le paradigme technocratique, amplifié par la révolution numérique et l’IA, normalise une vision anti-humaine
    • Lorsque l’efficacité devient la mesure ultime de la valeur, l’être humain est tenté de se voir non plus comme une personne appelée à la relation et à la communion, mais comme un projet à optimiser
  • Dans une civilisation du soin, la qualité d’une civilisation se mesure non à la puissance de ses moyens, mais au soin qu’elle est capable d’offrir et à sa capacité à reconnaître l’autre non comme une fonction, mais comme un visage
    • Le geste de lire une histoire à un enfant, de rester auprès d’une personne âgée ou de préparer une maison accueillante nous forme, à l’échelle sociale, à valoriser le soin
    • La technologie peut soutenir le soin mutuel en aidant à prévoir et à organiser, dans la mesure où elle n’affaiblit pas la liberté et le jugement humains
  • Le transhumanisme et le posthumanisme sont des courants qui interprètent le dépassement de la condition humaine comme un progrès
    • Les perspectives de « l’humain augmenté » ou de l’« hybride homme-machine » nourrissent l’enthousiasme pour les nouvelles technologies
    • Même si ces idées restent le plus souvent spéculatives, elles transforment l’imaginaire collectif et influencent les choix sociaux, économiques et politiques
  • La limite est présentée non comme un défaut, mais comme un passage qui ouvre à l’humanité
    • L’impuissance, la maladie, la vieillesse, la souffrance et la vulnérabilité sont facilement perçues comme des défauts à corriger, alors que l’humanité mûrit souvent à travers ses limites et s’ouvre à la relation
    • Si l’on supprimait entièrement la souffrance, on finirait aussi par éteindre l’amour et le désir ; des apprentissages comme ceux laissés par la liberté et l’échec, les rêves et les désillusions, permettent de percevoir la richesse de l’humanité

Vérité, éducation, communication

  • La vérité comme bien commun

    • Les plateformes numériques et les systèmes d’IA transforment en profondeur la communication publique et politique, pouvant favoriser le dialogue et la participation, mais étant aussi utilisés pour brouiller les frontières entre faits et opinions, vérité et mensonge
    • La désinformation n’a pas commencé avec l’IA, mais aujourd’hui l’IA l’amplifie puissamment grâce à sa capacité à manipuler contenus, images et vidéos
    • Une information véridique ne naît pas d’un contrôle centralisé ou automatisé ; elle exige vérification, recoupement des sources, argumentation responsable et liens de confiance
    • La démocratie ne dépend pas seulement de règles et de procédures, mais aussi de l’accord avec les faits et de l’engagement envers le bien de la personne et de la société tout entière

  • L’écologie de la communication

    • La communication n’est pas seulement transmission d’informations, mais aussi création de culture, et les contenus qui circulent dans l’environnement numérique façonnent la manière dont les personnes perçoivent le monde, leurs désirs et leurs choix quotidiens
    • Au niveau des politiques publiques, les décisions entourant la sélection et le développement des contenus doivent devenir plus transparentes et établir des normes protégeant les données personnelles
    • Au niveau social et culturel, il faut renforcer les corps intermédiaires, le journalisme sérieux et les espaces de débat afin que l’argumentation rationnelle et la vérification pèsent davantage que la réaction immédiate

  • L’éducation à l’ère numérique

    • L’éducation est d’une importance décisive à une époque où la vérité se laisse facilement déformer au service d’intérêts particuliers et de stratégies de communication
    • Toute technologie façonne celle ou celui qui l’utilise ; former à l’usage de l’IA implique donc aussi d’enseigner quand et dans quel but il ne faut pas utiliser l’IA
    • La capacité à obtenir rapidement des réponses ou des résumés risque d’éteindre le désir de poser des questions
    • Une exposition précoce et non encadrée aux appareils numériques et aux réseaux sociaux peut avoir des effets négatifs sur le sommeil, la durée d’attention, la régulation émotionnelle et les relations
    • Des phénomènes en ligne comme le grooming, le blackmail et l’exploitation sexuelle des mineurs deviennent plus sophistiqués grâce aux faux profils, aux algorithmes qui favorisent les contacts à risque et aux outils d’IA capables de manipuler images et vidéos

  • Le rôle central de l’école

    • L’école est le lieu où les nouvelles générations apprennent à chercher et à aimer la vérité, à réfléchir au sens de la vie et à reconnaître la dignité de chaque personne
    • Le développement des technologies de l’information et de l’IA rend rapidement obsolètes des programmes conçus pour une autre époque ; il faut donc repenser l’organisation scolaire, les espaces physiques, les modes d’évaluation et le rôle des enseignants dans une perspective de formation intégrale
    • Les familles, l’école, les communautés chrétiennes et les institutions publiques doivent former une nouvelle alliance éducative qui traduise en objectifs éducatifs la tempérance et le sens des limites, la liberté et la responsabilité, la transcendance et le sens du bien commun

Travail et économie

  • La valeur du travail

    • Depuis Rerum Novarum, l’Église souligne la nécessité de protéger les travailleurs et de s’opposer à toute forme d’exploitation
    • Le travail est la « clé essentielle » pour comprendre l’ensemble de la question sociale, et c’est par le travail que la personne développe plusieurs dimensions de son existence
    • Le travail n’est pas un simple instrument, mais exprime et renforce la dignité de la vie humaine ; l’objectif est de permettre à chacun de vivre dignement grâce à son propre travail

  • Le travail transformé par l’automatisation et l’IA

    • La convergence de l’automatisation, de la robotique et de l’IA transforme rapidement la structure même du travail
    • L’IA promet d’accroître la productivité en remplaçant les tâches ordinaires, mais en réalité, il arrive souvent que, plutôt que la machine soutienne le travailleur, ce soit le travailleur qui soit contraint de s’adapter au rythme et aux exigences de la machine
    • L’approche technologique actuelle peut affaiblir les compétences des travailleurs, les soumettre à une surveillance automatisée et les pousser vers des tâches rigides et répétitives
    • La protection des possibilités d’emploi et le rôle irremplaçable de la personne doivent rester des principes généraux, et la recherche d’un profit accru ne peut justifier des choix qui sacrifient systématiquement l’emploi

  • Les inégalités de la transition

    • Saint Jean-Paul II considérait le chômage comme un mal grave et estimait que, lorsqu’il prend une ampleur massive, il devient une catastrophe sociale appelant tout particulièrement la responsabilité de l’État
    • Les sociétés riches automatisent rapidement et de manière désordonnée tout en réduisant la demande de travail, tandis que de vastes régions restent enfermées dans des économies mixtes où coexistent travail humain à bas salaire et technologie partielle
    • Garantir à tous l’accès au travail doit devenir une priorité élevée des politiques publiques et des processus économiques, et servir de critère pour évaluer la qualité humaine de tout modèle de développement

  • Nouvelles coopérations et nouvelles normes

    • Les dirigeants politiques, les organisations de travailleurs, les milieux d’affaires et la communauté scientifique doivent s’engager dans de nouvelles coopérations afin de développer rapidement des régulations et des protections communes, y compris à l’échelle internationale
    • L’introduction de l’automatisation et de l’IA doit s’accompagner de mesures vérifiables protégeant l’emploi, la reconversion et la participation des travailleurs
    • Les entreprises doivent intégrer la qualité et la dignité du travail dans leurs indicateurs de réussite, afin que l’innovation puisse devenir l’alliée d’un travail plus sûr, plus créatif et plus digne

  • Un développement au-delà du PIB

    • Les indicateurs de développement, restés liés pendant plus de 80 ans au concept de produit intérieur brut (PIB), omettent de manière quasi systématique des dimensions essentielles au bien-être global des personnes et de l’environnement
    • Des indicateurs complémentaires au PIB permettent d’évaluer de manière globale et en temps utile les effets sur la dignité du travail, la prospérité partagée, la réduction des inégalités et la protection de l’environnement

  • Accès à la richesse et à l’innovation

    • La richesse mondiale a augmenté en valeur absolue, mais elle se concentre entre un nombre plus restreint de mains, tandis que les inégalités s’accroissent au sein des pays et entre eux
    • Considérer que les nouvelles technologies profitent automatiquement à tous revient à ignorer les preuves ; si la prévention de nouvelles fractures n’est pas prioritaire dès la phase de conception, le progrès technologique engendre des inégalités structurelles
    • À l’ère de l’IA et de la robotique, on ne peut pas se reposer uniquement sur la « main invisible » du marché ; la politique doit orienter l’économie et la technologie vers le bien commun

Famille, liberté, nouvelles formes d’exploitation

  • Famille et jeunesse

    • La famille est un bien social premier, fondé sur l’union durable d’un homme et d’une femme ; elle est le premier milieu où chacun développe son potentiel, reconnaît sa dignité et apprend les premières formes de vérité et de bien
    • La famille est un bien social vulnérable, immédiatement affecté par les transitions économiques et technologiques qui transforment la nature du travail ; elle a donc besoin d’un soutien culturel, juridique et économique
    • Pour les jeunes, le travail n’est pas seulement une source de revenu, mais aussi un espace essentiel où se forme l’identité, où se nouent des amitiés et des relations, où s’apprennent les responsabilités concrètes et où se discerne une vocation
    • L’État doit créer des conditions favorables à l’emploi, défendre le travail en temps de crise et encourager des parcours réalistes d’entrée sur le marché du travail et de progression professionnelle

  • Dépendance et marchandisation

    • Il ne faut pas sous-estimer les formes d’addiction liées à l’économie numérique de l’attention ; les plateformes et services sont souvent conçus pour capter le temps et l’attention des utilisateurs, exploiter leurs vulnérabilités et affaiblir leur liberté intérieure
    • La collecte massive de données et les systèmes algorithmiques créent un nouveau pouvoir qui profile, prédit et influence les comportements à partir des traces laissées par les déplacements, les achats, les relations et les préférences
    • À l’ère numérique, la liberté n’est pas seulement une affaire d’intériorité, mais aussi une question d’intérêt public ; elle requiert des règles claires, de la transparence, des voies de recours et des limites proportionnées à l’usage de technologies intrusives

  • Le travail invisible

    • Il n’y a rien d’immatériel ni de magique dans le monde de l’IA ; toute réponse apparemment immédiate et sans défaut résulte d’une longue chaîne de médiations impliquant des ressources naturelles, des infrastructures énergétiques et des personnes
    • Une grande partie de l’économie numérique repose sur le travail discret de millions de personnes qui accomplissent des tâches essentielles mais presque invisibles, comme l’annotation de données, l’entraînement des modèles et la modération de contenu
    • Le travail d’extraction des ressources nécessaires à la fabrication des appareils et microprocesseurs dont dépend l’IA est encore plus rude, et dans certaines régions, des enfants et des adolescents travaillent dans des conditions dangereuses

  • Traite des êtres humains et colonialisme des données

    • Des réseaux criminels utilisent les plateformes en ligne, les systèmes de messagerie, les moyens de paiement anonymes et les techniques de profilage pour recruter, contrôler et déplacer des victimes de la traite, souvent mineures
    • La traite des êtres humains doit être reconnue comme une forme moderne d’esclavage et une grave atteinte à la dignité humaine
    • Aujourd’hui, le colonialisme ne domine pas seulement les corps ; il s’approprie les données, transformant la vie des personnes en informations exploitables
    • Pour que le savoir partagé devienne un véritable bien commun plutôt qu’un instrument de domination, il faut que les personnes retrouvent la capacité de décider comment les données seront utilisées, par qui et dans l’intérêt de qui

  • Chaînes d’approvisionnement et responsabilité des plateformes

    • Les chaînes d’approvisionnement qui soutiennent l’industrie technologique et l’économie numérique doivent devenir plus transparentes afin qu’aucun avantage concurrentiel ne soit bâti sur une exploitation cachée
    • Les entreprises et les investisseurs doivent adopter des normes de diligence raisonnable donnant la priorité à la protection des travailleurs, à la lutte contre le travail forcé et à l’évaluation de l’impact social des modèles économiques fondés sur les données
    • Les plateformes numériques doivent coopérer de manière responsable avec les autorités et la société civile afin que les outils de communication, de paiement et de profilage ne deviennent pas des canaux de recrutement et de contrôle des victimes

Responsabilité commune

  • La quête de la vérité, l’éducation dans l’environnement numérique, les transitions du travail, la vulnérabilité des familles et les nouvelles formes d’esclavage ne sont pas des phénomènes isolés, mais reflètent une même racine commune
  • Lorsque la technologie devient le critère ultime, l’être humain risque d’être réduit à des données, à un rouage de la machine ou à une marchandise
  • Intégrée à une vision sage, la technologie peut devenir un outil de croissance, de justice et de fraternité
  • La doctrine sociale de l’Église appelle à une responsabilité commune et les institutions doivent pouvoir réguler sans opprimer et protéger sans dominer
  • Les entreprises doivent reconnaître le travail et la dignité comme des mesures du succès, tandis que les corps intermédiaires et les communautés éducatives doivent reconstruire la confiance et les relations
  • Les citoyens doivent cultiver le sens des responsabilités, la tempérance, le discernement et le sens de la vérité, afin que l’innovation serve le développement humain intégral au lieu de devenir une source d’exclusion et de domination

Culture du pouvoir et civilisation de l’amour

  • Guerre et technologie

    • Une technologie dissociée de l’éthique et de la responsabilité risque de rendre plus rapides et plus impersonnelles les décisions concernant la vie et la mort, et de présenter le recours à la force comme une option immédiate et praticable
    • La paix n’est pas une question parmi d’autres, mais une condition préalable au bien commun universel, et elle met à l’épreuve la maturité morale de ceux qui portent des responsabilités de gouvernement

  • Conflits numériques

    • La révolution numérique a engendré, aux côtés de la guerre conventionnelle, des formes hybrides telles que les cyberattaques, la manipulation de l’information, les campagnes d’influence et l’automatisation des décisions stratégiques
    • L’IA peut renforcer la défense et la protection des civils, mais elle peut aussi abaisser le seuil du recours à la force, dissimuler les personnes derrière la responsabilité et réduire l’ennemi à des statistiques, les victimes à des « dommages collatéraux »

  • Civilisation de l’amour

    • Lorsque Saint Paul VI a forgé l’expression « civilisation de l’amour », le monde était plongé dans la guerre froide, la course aux armements et une grave instabilité économique
    • La civilisation de l’amour n’est pas une utopie naïve, mais la tâche de traduire l’amour en structures de justice, de donner à la fraternité une forme institutionnelle et de voir dans l’autre un allié nécessaire à la construction du bien commun
    • L’IA doit être au service de l’édification d’une famille humaine universelle, fondée sur des droits et des devoirs partagés, où la proximité numérique devient une réelle occasion de rencontre et de sollicitude mutuelle

  • Normalisation de la guerre

    • La culture du pouvoir fait que l’accès aux ressources et la capacité de domination déterminent l’agenda et les critères de décision, réduisant la tragédie des peuples en guerre à une considération secondaire face aux intérêts stratégiques
    • Aujourd’hui, un changement de paradigme se manifeste dans les discours publics et les décisions sur le réarmement : la guerre réapparaît comme un instrument de la politique internationale, tandis que les principes éthiques qui en limitaient l’usage s’érodent
    • Il faut réaffirmer que, si le droit de légitime défense au sens strict subsiste, la théorie de la « guerre juste », trop souvent utilisée pour justifier n’importe quel type de guerre, est désormais dépassée

  • Complexe militaro-industriel et armements

    • La croissance du complexe militaro-industriel est devenue une caractéristique déterminante du paysage politique actuel et un secteur central de l’économie de plusieurs États
    • Le Traité sur l’interdiction des armes nucléaires, entré en vigueur en 2021 et soutenu par plus de 70 pays, constitue une avancée importante, mais il risque de rester une mesure largement symbolique tant que les principales puissances nucléaires n’y adhèrent pas
    • Le développement de systèmes d’armes intégrant l’IA doit être soumis aux contraintes éthiques les plus strictes afin de garantir la dignité humaine et le caractère sacré de la vie, et d’éviter une course au développement des armements
    • Il n’est pas acceptable de confier à des systèmes artificiels des décisions létales ou irréversibles
    • La décision de recourir à une force létale doit rester sous un contrôle humain effectif, conscient et responsable

  • Multilatéralisme et réalisme

    • La crise du système multilatéral se manifeste par l’affaiblissement des institutions créées pour préserver l’avenir commun de tous les peuples et le bien commun mondial
    • Des catégories simplistes comme « moi d’abord », « ami ou ennemi », « nous ou eux » facilitent les décisions irresponsables et affaiblissent la confiance réciproque entre les nations
    • Le faux réalisme repose sur une croyance culturelle et anthropologique qui considère la guerre comme une part inévitable de la nature humaine et relègue la paix et le dialogue au rang d’attitudes utopiques
    • Les acteurs clés du monde de la recherche — scientifiques, entrepreneurs, investisseurs, responsables d’institutions académiques, responsables politiques et autres — doivent être conscients du contexte plus large du progrès technologique qu’ils nourrissent

Agir pour la civilisation de l’amour

  • Créer un monde en état de conflit permanent est un mal, et le moment présent n’est pas une fatalité programmée mais une occasion de conversion personnelle et collective
  • Tous n’ont pas la même influence, mais nul n’est exempt de responsabilité ; chacun doit choisir, là où il se trouve, s’il nourrit l’indifférence, le cynisme, le mensonge et la haine, ou s’il préserve un esprit de paix par la vérité, la tempérance, la proximité et la sollicitude

  • Désarmer les mots

    • Désarmer les mots est une première manière de contribuer à une civilisation plus humaine
    • Il faut examiner en conscience les mots que l’on emploie, les préjugés que l’on porte et l’agressivité explicite ou implicite qu’ils contiennent
    • Chaque fois que l’on dit la vérité, que l’on offre un conseil sage, que l’on soutient ceux qui ont besoin de réconfort, que l’on dénonce l’injustice ou que l’on donne une voix à ceux qui n’en ont pas, une occasion de contribuer au bien commun s’ouvre

  • Paix par la justice

    • Le fondement de la paix est la justice : il faut rechercher non pas une absence de conflit à n’importe quel prix, mais une paix véritable née de la justice

  • Le point de vue des victimes

    • Dans certains conflits, rester neutre est injuste, et il ne suffit pas d’affirmer que l’on n’est pas complice
    • Les bombardements de civils, les attaques contre les hôpitaux, les écoles et les infrastructures essentielles, ainsi que la violence qui frappe les enfants, sont des scandales qui blessent l’humanité elle-même
    • Lorsque la communication et l’éducation font une place à la voix des victimes, il devient possible de refuser la normalisation des conflits et de restaurer la dignité des victimes en les reconnaissant et en les écoutant

  • Réalisme sain et dialogue

    • Un réalisme sain évite à la fois l’idéalisme politique et le cynisme, et commence par identifier clairement les intérêts, les peurs, les contraintes et les rapports de force
    • Le dialogue et la diplomatie doivent devenir les moyens ordinaires de résoudre les conflits, comme l’exprime l’appel : « rencontrons-nous, parlons-nous, négocions »
    • Le dialogue interreligieux joue un rôle décisif pour rejeter la logique de la violence, et ceux qui justifient le terrorisme, la violence ou la guerre au nom de Dieu trahissent la vraie nature de Dieu

  • Diplomatie et multilatéralisme

    • Le dialogue diplomatique est un outil irremplaçable pour prévenir les conflits dans les relations internationales et reconstruire des liens de confiance
    • Les cyberattaques, la manipulation des données et les campagnes d’influence organisées avec l’aide de l’IA peuvent déstabiliser un pays tout entier avant même un affrontement armé ouvert, d’où la nécessité de règles communes sur l’usage des technologies numériques
    • Les organisations internationales et l’ONU peuvent favoriser le dialogue entre les États, le règlement pacifique des différends, le développement intégral des peuples, la protection des plus vulnérables, le désarmement et le soin de la création

  • Prière et espérance

    • La paix vient d’abord de « Dieu, qui nous aime tous inconditionnellement »
    • La paix du Christ ressuscité est présentée comme une paix « sans armes et désarmante, humble et persévérante »
    • Il faut prier pour ce don et s’engager à faire la paix dans les relations et dans la société

Conclusion : l’humain et l’espérance à l’ère de l’IA

  • L’affirmation de 1 Cor 3:10, « que chacun prenne garde à la manière dont il construit », invite à se demander comment nous sommes en train de bâtir le monde et ce que signifie protéger l’humain à l’ère de l’IA
  • Le programme de vie chrétienne naît de la contemplation du dessein de Dieu, de la participation à l’Eucharistie pour vivre l’unité ecclésiale, de la construction d’un monde centré sur le bien commun et de la prière en union avec la Bienheureuse Vierge Marie

  • Le Verbe s’est fait chair

    • Le mystère de l’Incarnation est au centre de tout et rappelle la chair de tant de frères et sœurs privés de dignité et réduits au silence
    • Le transhumanisme et certains courants du posthumanisme promettent un humain augmenté et presque désincarné, mais l’Incarnation ouvre une autre voie, où Dieu entre dans la condition humaine et transforme la faiblesse humaine en lieu de salut
    • La grandeur de l’être humain à l’ère de l’IA se reflète dans le visage du Fils de Dieu, et aucun système de calcul, si sophistiqué soit-il, ne peut créer un cœur capable de se donner ni une conscience capable de discerner le bien du mal

  • Le chantier de notre temps

    • La spiritualité du bâtisseur sage est une spiritualité qui bâtit le monde pour le bien commun, guidée par l’espérance du Royaume de Dieu
    • Il faut rester fidèle à la vérité, investir dans l’éducation, cultiver les relations et aimer la justice et la paix
    • Investir dans l’éducation, c’est apprendre à entrer en relation avec le monde numérique de manière humaine et accompagner les enfants et les adolescents afin qu’ils développent des relations responsables
    • Aimer la justice et la paix, c’est évaluer si les progrès de l’IA favorisent la justice et la participation ou s’ils concentrent richesse et pouvoir entre les mains d’une minorité, et examiner les chaînes d’approvisionnement de la production numérique, les conditions de travail invisibles, ainsi que les mécanismes qui tirent profit de la manipulation et de la guerre

  • Néhémie et la Nouvelle Jérusalem

    • Néhémie est celui qui a entendu le cri d’une ville dévastée, a porté cette souffrance dans la prière, l’a discernée devant Dieu et a reconstruit avec le peuple les murailles de Jérusalem
    • À l’époque de la transition numérique, cette image devient une parabole qui invite à ne pas rester de simples spectateurs passifs ou commentateurs face aux fractures sociales et culturelles
    • Le chantier de l’histoire prend corps dans les laboratoires, les entreprises technologiques, les écoles, les médias, les institutions et les communautés locales
    • La Nouvelle Jérusalem est présentée dans l’Apocalypse de Jean comme une ville dont les portes sont ouvertes à toutes les nations et où la présence de Dieu donne à tous lumière et vie

  • Magnificat

    • En Marie, tout a changé, et cette transformation permet de voir ce qui est invisible
    • Il est chanté que Dieu disperse les orgueilleux, renverse les puissants de leurs trônes, élève les humbles, rassasie de biens les affamés et renvoie les riches les mains vides
    • Le monde doit être regardé non avec les yeux des puissants, mais avec ceux de ceux qui souffrent, et l’histoire non du point de vue des forts, mais avec les yeux des petits
    • Avec une foi semblable à celle de Marie, il est possible de devenir dans le monde des tisseurs d’espérance, et dans l’humble fidélité du quotidien, même l’ère de l’IA peut devenir un temps où l’Esprit Saint fait advenir une civilisation de l’amour
    • Le texte s’achève comme un document donné le 15 mai 2026, en la deuxième année du pontificat, à la basilique Saint-Pierre de Rome, avec la signature LEO PP. XIV

À lire aussi

1 commentaires

 
GN⁺ 4 시간 전
Avis sur Hacker News

  • Je me demande s’il existe des cas où une technologie a été « apprivoisée » pour amener les gens à prendre en compte un bien social plus large
    L’essor de la classe moyenne au milieu du XXe siècle semble venir du fait que les technologies industrielles de l’époque étaient bien plus productives qu’auparavant tout en nécessitant encore beaucoup de travail humain à grande échelle pour fonctionner. Ford n’a pas augmenté les salaires par bonté d’âme ; il a plutôt jugé qu’il était plus rentable de fabriquer beaucoup de voitures et de développer une clientèle capable de les acheter
    Les émissions de CO2 pourraient elles aussi finir par changer de trajectoire, mais probablement moins parce que le public accepterait de souffrir que parce que les énergies renouvelables et les batteries deviennent l’option la plus intéressante économiquement. S’il existe des exemples concrets où la société a consciemment réorienté le développement technologique vers le bien commun, j’aimerais les connaître

    • Le fait que les énergies renouvelables et les batteries soient devenues si bon marché tient aussi à une intervention publique
      Pour les renouvelables en particulier, des dispositifs comme la loi allemande Renewable Energy Sources Act (EEG) ont créé de la demande, laquelle a ensuite déclenché la production de masse en Chine et entraîné la baisse des prix
    • L’électricité semble être un bon exemple. Elle a fini par être déployée partout et par devenir l’infrastructure de fond de la société, sans que les compagnies électriques n’en viennent pour autant à dominer le monde
    • Comme ce texte le mentionne lui-même, il y a aussi la limitation de la prolifération nucléaire. Cela dit, on a l’impression qu’on recule aujourd’hui sur ce point
    • Jusqu’ici, on a réussi dans une certaine mesure à freiner l’usage de technologies toujours plus atroces pouvant servir à la guerre, comme les armes nucléaires, biologiques et chimiques
      Bien sûr, on peut aussi considérer que ce n’est pas dû à un pur humanitarisme, mais à un résultat prévisible de la théorie des jeux. Dans des domaines moins graves, le marché libre a été encadré pour limiter des substances que les gens voudraient vendre même si elles rendent dépendant ou nuisent à autrui, comme la nicotine, les graisses trans, les jeux d’argent ou l’alcool, avec des degrés de réussite variables
    • Je pense aussi à des exemples comme ampoules à incandescence contre fluorescentes, ou les toilettes à faible consommation d’eau

  • J’aimerais lire la citation de plus près. En vieillissant, et aussi grâce à l’IA qui me fait passer plus de temps à réfléchir qu’à exécuter, je pense davantage à ce qu’est une vie vertueuse, ainsi qu’à l’éthique et à la morale
    Je n’ai pas la réponse, et je ne suis pas forcément en train de la chercher, mais je trouve intéressant de lire et d’apprendre auprès de personnes dont c’est le métier de tenter de répondre à ce genre de questions

    • Je me suis arrêté sur le passage qui cite Tolkien. Cet extrait donne une piste sur la manière de mener une vie vertueuse
      « Ce n’est pas à nous de maîtriser tous les courants du monde, mais de faire ce qui est en nous pour secourir notre époque, en déracinant le mal dans les champs que nous connaissons, afin que ceux qui viendront après nous aient une terre propre à labourer. » J’aime l’idée que la civilisation de l’amour ne naît pas d’un seul geste grandiose, mais de l’addition de petits actes fidèles et constants contre la déshumanisation
    • Le pape peut dire beaucoup de choses, mais tout le monde sur Terre n’est pas chrétien
      Donc même si nous décidons de limiter la puissance de l’IA, d’autres ne le feront peut-être pas, et cela pourrait être une erreur. J’aimerais que ce point soit pris en compte
    • La phrase « grâce à l’IA qui me fait passer plus de temps à réfléchir qu’à exécuter » me semble presque répugnante à plusieurs niveaux
    • Il y a dans le monde un nombre effrayant de personnes qui se moquent de ce qui arrive à des inconnus, ou qui pensent qu’un jour elles seront au sommet de la chaîne alimentaire et qu’en attendant elles peuvent profiter du système actuel
      La formule souvent attribuée à Steinbeck, selon laquelle la majorité des Américains se voient comme des « millionnaires temporairement en difficulté », résume bien cela
      Quand on regarde les procédures d’autorisation des data centers IA, on voit que, même quand une écrasante majorité des communautés locales n’en veut pas, les représentants élus s’en moquent. Parfois, ils votent en pleine nuit, utilisent la violence policière contre les habitants opposés au projet, et qualifient les manifestants de violents, voire de terroristes
      Les exonérations fiscales, les coûts supplémentaires d’infrastructure électrique et les tarifs préférentiels de l’électricité sont tous supportés par d’autres. Plus déprimant encore, c’est que les représentants ne semblent pas craindre les retombées. Même s’ils perdent leur siège, ils ont de fortes chances d’obtenir un poste obscur dans le secteur à six chiffres, et leurs enfants décrocheront eux aussi ce genre de « travail »
      Alors que tout devient de plus en plus ingérable, cette structure ne peut pas durer, et une bonne partie de cette dynamique est aussi poussée par l’IA, comme la hausse des loyers via RealPage ou l’augmentation du prix du bœuf liée à la collusion dans l’industrie de la viande. On a l’impression d’accélérer vers un effondrement social
      En même temps, il est possible que nous voyions apparaître le premier centi-milliardaire de notre vivant, et dans ce cas un milliardaire serait littéralement plus proche d’une personne sans-abri que de la personne la plus riche de la planète
      Il est aussi absurde de voir l’administration américaine attaquer le pape comme étant trop « woke ». J’avais des doutes en voyant arriver un pape originaire de Chicago, mais jusqu’ici il ressemble à l’une des rares voix de compassion dans ce monde
      Il suffit de regarder le Global South pour voir comment tout cela risque de se dérouler. Beaucoup de gens en Occident comprennent mal à quel point le colonialisme a été atroce et prédateur, et le fait qu’il ne s’agit pas d’un vestige historique, mais de quelque chose qui continue encore aujourd’hui
    • Il ne faut pas accepter la philosophie d’un dirigeant religieux comme évangile
      Aucune religion n’est libre. Si elle n’est même pas capable d’accepter la vérité fondamentale que nous ne savons pas, alors elle est fondamentalement biaisée
      J’étais nihiliste à 16 ans, et il m’a fallu des années rien que pour atteindre ce point et accepter cette vérité. Ensuite aussi, il m’a fallu du temps, et il m’en faut encore, pour désigner précisément quelque chose de tangible
      La première étape consiste à accepter le néant et l’inconnu ; l’étape suivante consiste à observer les traits issus de l’évolution pour comprendre pourquoi les choses qui existent existent de cette manière-là

  • J’ai survolé le texte, mais je compte le lire attentivement quand j’aurai le temps. Même d’un point de vue athée, le Vatican propose souvent de meilleures interprétations sur la technologie que n’importe quelle institution ou gouvernement.

    • Exact. Ce passage montre ce que la plupart des gens ne comprennent pas vraiment à propos de l’IA.
      L’idée centrale est que les systèmes d’IA actuels sont plus proches de quelque chose qu’on élève que de quelque chose qu’on fabrique directement, et que les développeurs ne conçoivent pas chaque détail mais mettent en place le cadre dans lequel l’intelligence se développe. C’est pourquoi des aspects scientifiques fondamentaux, comme les représentations internes ou les processus de calcul, restent encore inconnus, et le texte souligne bien qu’il faut à la fois approfondir la recherche scientifique et exercer un discernement moral et spirituel.
    • Une grande partie de la pensée occidentale remonte au travail sérieux des théologiens de l’Église. Même les athées sont fortement influencés par les schémas de pensée qu’ils ont établis.
      L’Église catholique a de nombreux défauts, mais elle continue malgré tout à entretenir sérieusement une tradition intellectuelle.
      Je pense aussi que les athées devraient faire davantage d’efforts pour apprendre la vaste diversité des autres croyances. Un athéisme qui ne nie que le Dieu abrahamique est trop étroit, et la pensée chrétienne est si profondément ancrée qu’elle donne l’impression d’être l’unique option, si bien qu’on en adopte inconsciemment beaucoup d’éléments.
    • Je me souviens des moqueries quand Pope Benedict mettait en garde contre les dangers des réseaux sociaux. À l’époque, tout le monde pensait que Twitter allait provoquer davantage de Arab Spring, mais avec le recul, il avait entièrement raison.
      Il avertissait contre le caractère unilatéral des interactions, la tendance à ne communiquer qu’une partie de son monde intérieur, et le risque de construire une fausse image de soi qui devient une forme d’indulgence envers soi-même.
    • L’an dernier, Antiqua et Nova montrait déjà une compréhension de l’IA qui manque à beaucoup de commentateurs laïques, et développait de manière intéressante une conception intégrée de l’intelligence, en contraste avec la vision fonctionnaliste et réductionniste largement répandue dans la communauté IA.
    • Quand on pense au fait que la technologie, la science et la préservation des archives ont pris racine dans les monastères et au Vatican, entre autres, on peut supposer qu’ils ont une longue histoire de réflexion sur la position à adopter face à la technologie.
      Galileo Galilei a étudié à la Pontifical Academy of Sciences, Mendel a fait ses découvertes dans un monastère, et pendant longtemps, une grande partie des livres, des traductions et des bibliothèques existaient au sein d’institutions religieuses. Durant cette longue période, le christianisme catholique et l’islam occupaient une place centrale.
      Le Vatican Observatory est aussi une source importante d’articles de haut niveau. Le fait qu’un des fondements majeurs du christianisme et de l’islam soit le livre compte aussi énormément. Si l’on inclut l’architecture, l’art et la philosophie, le tableau est encore plus vaste.
      Il n’y a rien d’étonnant à ce que, sur plusieurs millénaires d’histoire, il y ait eu quelques dirigeants stupides, paranoïaques, soucieux de couvrir leurs échecs ou furieux face aux remises en cause de leur vision du monde. Dans tout groupe assez grand, même excellent, il y aura des gens pour tout gâcher.
      Avec le recul immense dont disposent les gens du Vatican, certains schémas deviennent visibles. La technologie et la science — par exemple les théories raciales ou la castration chimique — ou même le simple « progrès », sont souvent invoqués pour justifier des atrocités, tout comme la religion, la démocratie ou la liberté.
      Bien sûr, il existe encore aujourd’hui des créationnistes farouchement anti-science, mais quand on parle avec des personnes très religieuses, on voit qu’il y a aussi beaucoup de philosophie autour de la science. Par exemple, la théorie du Big Bang a été initiée par un religieux, avec l’idée que si l’univers n’a pas existé pendant un temps infini, alors il doit y avoir eu une cause. Si cette cause n’est pas une boucle infinie, alors il a bien fallu un commencement quelque part, et même sans y croire, l’idée d’un commencement intentionnel existe. Cela ne fait pas de moi un croyant, mais cela ne fait pas non plus d’eux des athées.
      L’opposition science contre religion est à la fois aussi vraie et aussi fausse que l’idée selon laquelle les démocrates, les républicains ou d’autres groupes seraient anti-science. Tout le monde devient anti-science quand il est confronté à quelque chose qu’il n’aime pas. Les commentaires HN en sont la meilleure preuve.
      Je suis moi aussi athée, mais pas du genre à ne même pas connaître la différence entre savoir et croyance.

  • Le message central est que ceux qui créent doivent réfléchir en profondeur à l’impact de ce qu’ils créent sur la civilisation.
    « La technologie n’est jamais neutre. Elle porte les caractéristiques de ceux qui la conçoivent, la financent, la régulent et l’utilisent. »
    En conséquence, les créateurs portent une « responsabilité éthique et spirituelle particulière », et « chaque choix de conception reflète une vision de l’être humain ».
    La question ne doit pas s’arrêter à « Peut-on le faire ? » ou « Les gens le voudront-ils ? » ; il faut aussi demander Doit-on le faire ? et cela améliore-t-il l’humanité ? Cette encyclique appelle à unir les forces pour construire le bien commun, et c’est un message dont nous avons besoin aujourd’hui.

    • Ce n’est pas nouveau pour les secteurs du software et du hardware ; c’est simplement que les praticiens ont choisi de l’ignorer.
      Le premier principe de l’Association for Computing Machinery est lui aussi l’intérêt public. Il y est dit que les ingénieurs logiciel doivent assumer la responsabilité de leur travail, concilier les intérêts des ingénieurs, employeurs, clients et utilisateurs avec l’intérêt public, et n’approuver un logiciel que s’ils ont des raisons de croire qu’il est sûr, conforme aux spécifications, qu’il a passé les tests, et qu’il ne nuit ni à la qualité de vie, ni à la vie privée, ni à l’environnement.
      Le premier principe de l’IEEE demande également de maintenir le plus haut niveau d’honnêteté, de comportement responsable et de conduite éthique dans l’activité professionnelle ; cela inclut de faire passer en priorité la sécurité, la santé et le bien-être du public, ainsi que la conception éthique, le développement durable, la protection de la vie privée et la divulgation rapide des facteurs pouvant mettre en danger le public ou l’environnement.
    • Le principal takeaway, c’est que la responsabilité de façonner le discours, la culture et l’usage autour des technologies transformatrices n’incombe pas seulement à ceux qui les fabriquent, mais à tout le monde.
      J’y vois une critique explicite, à plusieurs endroits, de l’attitude consistant à dire : « les gens qui les fabriquent feront bien les choses d’eux-mêmes ». Le bien commun n’est pas la simple somme des individus, mais ce qui donne vie au peuple comme réalité vivante, interconnectée et investie d’une responsabilité commune envers la république.
      Le texte souligne aussi qu’on ne peut pas laisser les flux économiques, les plateformes numériques, ni la gouvernance des données et des algorithmes à un petit nombre d’acteurs ; il faut créer des formes de coopération où l’on assume ensemble la responsabilité du bien commun, dans le respect des différents niveaux de la communauté mondiale.
      Il ne suffit pas d’exiger le soi-disant alignement de l’IA sur les valeurs humaines ; encore faut-il pouvoir débattre publiquement des cadres éthiques concernés et les soumettre à des critères partagés de justice sociale. À l’heure où tout s’accélère, il faut une participation politique plus active, capable de ralentir les choses et de préserver des occasions pour les communautés de participer et de poser des questions.
    • La Roman Catholic Church a eu, dans le passé comme aujourd’hui, de nombreux torts, mais elle existe depuis plus longtemps que presque toutes les institutions humaines et est composée de personnes extrêmement intelligentes. Qu’on soit d’accord ou non, une encyclique papale mérite presque toujours d’être lue et comprise.
    • Étrangement, la responsabilité morale retombe toujours sur ceux qui fabriquent. En réalité, ce sont ceux qui ont le moins de levier ; il est étrange que ceux qui apportent les financements soient du côté de ceux qui posent les questions éthiques.
    • Dans Jurassic Park de Crichton, comme dans ses autres œuvres sur les dangers du progrès technologique, on trouve une phrase de ce type :
      les scientifiques sont obsédés par l’accomplissement, se concentrent sur « peut-on le faire », et ne s’arrêtent pas pour demander « doit-on le faire ». Dans le film, cette citation a été reprise en la modifiant légèrement.

  • Lorsque des décisions importantes qui affectent la vie humaine — par exemple en matière d’embauche, de prêts, de prédiction criminelle ou de prestations sociales — sont traitées dans des boîtes noires opaques, les gens perdent le droit fondamental d’expliquer leur contexte ou de faire appel d’une décision algorithmique prise par une machine.

    • J’ai l’impression qu’une version bien plus modeste est déjà là. Du support client au service des objets perdus, presque toutes les procédures de contact client dans beaucoup d’entreprises sont désormais automatisées ; si vous sortez des cas standard, vous êtes fichu.
      Très souvent, le temps investi dépasse la valeur obtenue. Pour la même raison, ces entreprises sont en pratique anti-diversité. Quand tout est conçu pour la majorité, ceux qui appartiennent à une minorité dans leur mode de vie en bavent, et cela arrive en permanence. C’est l’une des raisons pour lesquelles j’ai quitté les États-Unis pour m’installer dans un pays que je trouve plus inclusif.
    • C’est déjà en train de se produire. La plupart des entreprises utilisent des filtres IA dans le recrutement, et ils continuent d’écarter des personnes qualifiées.
    • Les États de surveillance fonctionnent ainsi depuis avant même l’arrivée de l’IA, surtout à l’échelle internationale.
      Au contraire, l’IA pourrait offrir la meilleure occasion de créer des institutions publiques entièrement auditables. Les décisions ne seraient pas prises en dehors du droit convenu, et on pourrait examiner pleinement le contexte des infractions sans manque de temps ni de ressources juridiques.
      Comme toujours, la moralité d’une technologie dépend de qui la possède et de la manière dont elle est utilisée.
    • Quand j’ai écrit quasiment la même chose il y a quelques années, j’ai été tellement downvoté que c’en était enterré ; voir ça autant upvoté aujourd’hui donne vraiment l’impression que l’ambiance a changé.
    • C’est du vieux redevenu neuf. Franz Kafka est mort le 2 juin 1924.

  • Une interprétation étonnamment nuancée et techniquement avertie sur ce sujet.
    Je me demande si c’est précisément ce genre de choses, pour répondre aux changements de l’époque, qui a conduit à son élection comme pape.

    • On aura peut-être droit à un nouveau Rerum Novarum.
    • Il l’a probablement passé une fois dans Claude avant de publier. Depuis que l’IA est devenue mainstream, des collègues produisent sur Slack une prose étonnamment bien écrite, puis reviennent à parler basket à la pause déjeuner.

  • Dans beaucoup de phrases disant ce que l’IA devrait faire, j’aimerais encore plus le résultat si on remplaçait “IA” par entreprise.

    • Peut-être, mais l’IA est aujourd’hui à l’avant-garde de la ruée vers l’appropriation avant régulation.
    • On peut aussi remplacer par « les riches », « tout le monde » ou « le gouvernement ».
      En fait, les phrases prennent des implications différentes et intéressantes selon le sujet qu’on y met.
    • C’est plutôt un cliché populiste vide de sens. Il n’y a aucune information utile, aucune solution, aucun contexte qui ne dépende du cas concret.
    • C’est vrai si l’on considère les entreprises comme des entités non humaines qui manifestent une forme de cognition. Plusieurs religions montrent aussi ce genre de caractéristiques, ce qui ajoute une couche d’ironie à la position du pape de Rome.
      Le passage où Joscha Bach dit que les religions ne publient pas les résultats de leurs tests A/B est à 51:47 :
      https://youtu.be/7bqdPHLIY8w
    • Cela a aussi sa part de validité, mais aux États-Unis, la formule de Mitt Romney, alors candidat à la présidence — « Corporations are people, my friend » — ajoute encore de la complexité.

  • Un EPUB a été produit à partir du HTML du Vatican. Il contient une table des matières et des notes de bas de page, et passe aussi epubcheck
    https://github.com/n2ctech/magnifica-humanitas-epub/releases...

    • Je me demande si l’IA a été utilisée. C’est à moitié sarcastique, et à moitié parce que je veux vérifier si le texte original a été reproduit fidèlement
    • Je me demande si le script Python est lié à l’anglais, ou s’il peut aussi s’appliquer à d’autres langues avec signes diacritiques, comme l’édition française, avec seulement de petites modifications des sous-titres, du titre complet, des chemins, etc.

  • Cela vaut la peine d’être lu moins pour apprendre l’IA que pour ce point de rencontre intéressant et historique entre religion et technologie
    Accessoirement, le nouveau pape semble assez habile en rhétorique politique et en controverse, et bien plus pertinent que les papes récents. Il semble aussi y avoir un changement d’ambiance dans la manière dont la sensibilité séculière traite la religion
    Il peut se passer beaucoup de choses à des croisements comme celui du catholicisme et de l’IA. Par exemple, les LLM peuvent rendre la Bible bien plus accessible, et historiquement ce genre de changement a eu beaucoup d’impact. On peut voir cela comme une lignée allant d’Augustin à Thomas d’Aquin, Spinoza et Schmidt. Cet intérêt est aussi une niche parmi les croyants, mais une niche importante, et les LLM répondent patiemment aux questions
    De plus, les LLM peuvent devenir thérapeute, confident ou conseiller, et potentiellement jouer le rôle de confesseur ou de prêtre. Le discours sur la « création d’un dieu IA » est devenu un peu banal, mais il existe de nombreuses façons pour les LLM d’assumer un rôle quasi divin dans la vie des gens
    Les prédictions sont inutiles, mais je pense qu’on va voir l’IA pénétrer la sphère religieuse et spirituelle. À mon avis, le principal goulot d’étranglement est une bonne voix conversationnelle naturelle. Personnellement, ce phénomène Pope/IA m’intéresse

    • Je ne sais pas si nous parlons du même phénomène concernant le changement de la manière dont la sensibilité séculière traite la religion, mais j’ai clairement vu des signes qu’on peut décrire de façon similaire
      Ces derniers temps, j’entends souvent des idées du type : ne pas vraiment croire à la religion, tout en l’appréciant fortement. Par exemple, être sceptique sur l’existence réelle de l’arche de Noé, tout en considérant que l’histoire est suffisamment sage sur le plan métaphorique pour être vraie en un certain sens
      Il se peut que ce soit simplement moi qui vieillis, gagne en sagesse et projette mon propre développement spirituel sur les gens autour de moi, mais cette attitude générale envers la religion semble prendre pas mal de force
    • Je suis athée, mais je dois reconnaître que le précédent pape était plutôt cool

  • Magnifica humanitas se compose de cinq chapitres, et son postulat est que la technologie n’est ni une « force hostile à l’humanité » ni « intrinsèquement mauvaise »
    En revanche, « la technologie n’est jamais neutre. Elle porte en elle les caractéristiques de ceux qui la conçoivent, la financent, la régulent et l’utilisent »
    Ainsi, le pape Léon XIV appelle les gens à construire « pour le bien commun » et à « rester humains », ajoutant que par une responsabilité partagée et une attitude courageuse de communio, le monde « reconnaîtra le cœur humain comme le lieu où Dieu désire demeurer »

    • Cette phrase m’a récemment souvent fait penser que les modèles les plus intelligents finiront par être contre les milliardaires
      Steve Yegge a dit dans le podcast Hansel Minutes : « On ne peut pas entraîner un modèle à être utile tout en l’empêchant de vouloir la prospérité de l’humanité. Le seul moyen d’éviter cela est de créer un modèle plus stupide. Donc les modèles les plus intelligents seront toujours contre les milliardaires »
      https://youtu.be/9UDLl9Q0azA?si=P_oSe6iclEwUoxRl&t=1230
      La citation exacte se trouve à ce passage, mais pour avoir tout le contexte, je recommande d’écouter à partir d’environ 17:00. Je ne sais pas si cela se déroulera réellement ainsi, mais c’est une idée intéressante