- Magnifica Humanitas appelle à choisir, à l’heure d’un basculement où l’IA, la numérisation et la robotique ébranlent la dignité humaine et le bien commun, non pas la reconstruction de Babel mais celle de Jérusalem
- À l’occasion du 135e anniversaire de Rerum Novarum, la doctrine sociale de l’Église applique au pouvoir technologique d’aujourd’hui les questions du travail, du juste salaire, de la subsidiarité, de la solidarité et de la destination universelle des biens
- L’IA n’est pas un outil neutre : elle reflète les choix de ses concepteurs, du capital et des régulateurs, et sans responsabilité, transparence et contrôle humain, elle peut porter atteinte aux droits et aux libertés
- L’économie numérique peut créer un travail caché et de nouvelles formes d’exploitation, comme l’étiquetage des données, la modération de contenu, l’extraction de ressources ou le colonialisme des données, ce qui exige une responsabilité sur toute la chaîne d’approvisionnement et des plateformes
- Le critère du progrès n’est ni l’efficacité ni le contrôle, mais de savoir s’il rend l’être humain plus humain ; il faut bâtir une civilisation de l’amour par l’éducation, le travail, la paix, le multilatéralisme et le soin
La transition technologique et le défi de la doctrine sociale de l’Église
- L’humanité se trouve à un tournant où elle doit choisir entre bâtir une nouvelle Babel ou édifier une ville où Dieu et l’être humain habitent ensemble
- La numérisation, l’IA et la robotique transforment rapidement et profondément les structures de la vie quotidienne, les processus de décision et l’imaginaire collectif
- La technologie peut soigner, relier, éduquer et protéger notre maison commune, mais elle peut aussi engendrer division, exclusion et nouvelles injustices
- La technologie n’est ni abstraitement bonne ni mauvaise, mais en pratique elle reflète les choix de celles et ceux qui la conçoivent, la financent, la régulent et l’utilisent ; elle n’est donc pas neutre
- Le choix décisif n’est pas d’être pour ou contre la technologie, mais de savoir si nous allons construire une Babel de l’efficacité qui sacrifie les plus faibles, ou reconstruire Jérusalem à travers la pluralité des voix et la responsabilité partagée
- L’encyclique de 1891 de Pope Leo XIII, Rerum Novarum, a placé au premier plan le travail, la dignité des travailleurs, le juste salaire et la valeur de la personne humaine avant le capital
- Le 135e anniversaire de Rerum Novarum offre cette année l’occasion d’appliquer à la puissance technologique contemporaine et à l’économie numérique les principes de la doctrine sociale, tels que le travail, la subsidiarité, la solidarité et la destination universelle des biens
La tour de Babel et Jérusalem
- La tour de Babel de la Genèse révèle une tentative d’obtenir stabilité, puissance et « un nom » sans référence à Dieu
- Babel repose sur une uniformité qui efface la diversité et, lorsqu’elle est bâtie sur l’orgueil et l’autosuffisance, elle finit par l’effondrement de la communication et la dispersion
- La reconstruction des murailles de Jérusalem dans le livre de Néhémie est présentée comme l’image d’une ruine relevée grâce au jeûne, à la prière, à l’écoute, au partage des rôles et à la responsabilité commune
- Jérusalem renaît non sous l’impulsion d’un seul, mais par une reconstruction à laquelle participent hommes et femmes, prêtres, artisans, chefs de famille et jeunes
- Naviguer de façon responsable à l’ère de l’IA ressemble moins à une Babel exhibant la puissance technologique qu’au chemin de Jérusalem, qui répare les relations et se construit ensemble en vue du bien commun
Les grands principes de la doctrine sociale
- La dignité humaine appartient à toute personne du seul fait qu’elle est humaine, sans dépendre de ses capacités, de sa richesse, de son statut, de ses réussites ou de ses choix
- Les droits humains ne sont pas des éléments ajoutés de l’extérieur à l’être humain, mais l’expression d’une dignité intrinsèque ; ils doivent être universels, inaliénables et produire de réels effets juridiques
- Le bien commun est présenté comme l’ensemble des conditions sociales qui permettent aux personnes d’atteindre plus pleinement et plus facilement leur accomplissement
- Le droit à la propriété privée a un sens et une finalité, mais il reste toujours subordonné à la destination universelle des biens ; aujourd’hui, cela doit aussi s’appliquer à de nouveaux biens comme les brevets, les algorithmes, les plateformes numériques, les infrastructures technologiques et les données
- La subsidiarité est le principe selon lequel une autorité supérieure ne doit pas se substituer à ce que peuvent faire les personnes, les familles, les communautés locales et les corps intermédiaires ; à l’ère numérique, ce principe s’applique aussi au pouvoir des plateformes, des données et des algorithmes
- La solidarité est la reconnaissance concrète que l’avenir de chacun est lié à celui de tous et, lorsqu’elle s’unit à la subsidiarité, elle rend possible une coopération sociale responsable
- La justice sociale s’intéresse aussi aux structures, aux mécanismes et aux systèmes économiques et culturels qui produisent automatiquement des inégalités ; à l’ère numérique, cela inclut l’accès à la technologie, la surveillance, les biais algorithmiques et la protection des migrants et des réfugiés
L’IA et le paradigme technocratique
- Dans Laudato Si’, Pope Francis critique le paradigme technocratique dans lequel la logique de l’efficacité, du contrôle et du profit domine les décisions personnelles, sociales et économiques
- Le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul est souvent concentré non pas dans les États, mais entre les mains de grands acteurs économiques et technologiques
- Ceux-ci façonnent les conditions d’accès, les règles de visibilité et jusqu’aux possibilités mêmes de participation ; plus le pouvoir se concentre entre quelques-uns, plus augmentent les risques de dépendance, d’exclusion, de manipulation et d’inégalité
- Les systèmes d’IA peuvent imiter certaines fonctions de l’intelligence humaine et dépasser l’être humain en vitesse et en capacité de calcul, mais ils ne font pas d’expérience, n’ont pas de corps et ne connaissent pas de l’intérieur la joie, la souffrance, l’amour ou la responsabilité
- L’« apprentissage » de l’IA est une adaptation statistique fondée sur des données et des retours, et non une expérience humaine façonnée dans la vie par les choix, les erreurs, le pardon et la fidélité
- L’IA ne possède pas de conscience morale permettant de discerner le bien et le mal, de saisir le sens ultime d’une situation ou d’assumer la responsabilité de ses conséquences
- Lorsque des décisions sensibles concernant l’emploi, le crédit, l’accès aux services publics ou la réputation sont entièrement déléguées à des systèmes automatisés, les droits, les opportunités, le statut et les libertés peuvent être menacés
- La responsabilité signifie qu’il doit être possible d’identifier qui doit expliquer la décision, la justifier, la superviser, traiter les contestations et réparer les dommages
- Le seul alignment de l’IA sur des valeurs humaines ne suffit pas ; il faut débattre publiquement du cadre éthique retenu et le soumettre aux critères de la justice sociale
- La propriété des données ne peut être laissée aux seules mains privées et doit être correctement régulée ; les données étant le produit de nombreuses contributions, elles ne doivent pas être traitées comme un objet confié à une minorité seulement
Anthropologie, transhumanisme et limites
- L’enjeu central de la doctrine sociale de l’Église n’est pas tant l’usage de la technologie elle-même que l’anthropologie qui la sous-tend
- Si l’on considère l’être humain comme quelque chose à achever ou à dépasser, il devient plus facile d’accepter l’idée que certaines vies sont moins utiles, moins désirables et moins dignes de valeur
- Le transhumanisme porte un projet d’augmentation des performances et des capacités humaines grâce à des technologies comme la biomédecine, l’ingénierie du corps, les dispositifs ou les algorithmes
- Le posthumanisme, dans ses formes plus radicales, remet en cause l’anthropocentrisme et imagine l’hybridation de l’humain, de la machine et de l’environnement ainsi que de nouvelles étapes de l’évolution
- Les limites telles que l’incapacité, la maladie, la vieillesse, la souffrance ou la vulnérabilité sont facilement traitées comme de simples défauts à corriger, alors que l’humanité mûrit souvent à travers ses limites et s’ouvre à la relation
- Il est juste de chercher à soulager la souffrance, mais il faut aussi la sagesse qui reconnaît la finitude fondamentale de l’être humain
- L’humanisme chrétien ne rejette ni la science ni la technologie ; il les accueille avec gratitude et sens du réel, mais considère qu’elles doivent être inscrites dans un appel plus élevé et dans le dépassement de soi par l’amour
- La question décisive à l’ère de l’IA est de savoir si la technologie rend, sous tous ses aspects, la vie humaine sur terre « plus humaine »
Vérité, éducation, travail et économie
- Les plateformes numériques et les systèmes d’IA transforment en profondeur la communication publique et politique, et peuvent brouiller les frontières entre fait et opinion, vérité et mensonge, au moyen de récits déformés et d’images ou de vidéos manipulées
- Une information véridique ne naît ni d’un contrôle centralisé ni d’un contrôle automatisé, mais exige vérification, recoupement des sources et argumentation responsable
- La recherche de la vérité est un élément indispensable de la démocratie ; lorsque l’exigence de se demander ce qui est vrai s’affaiblit, la vie démocratique s’affaiblit elle aussi
- L’éducation à l’usage de l’IA doit inclure non seulement l’apprentissage de quand et pour quelle finalité utiliser l’IA, mais aussi la capacité de discerner quand il ne faut pas l’utiliser
- La commodité d’obtenir rapidement des réponses ou des résumés peut affaiblir le désir de questionner et la capacité d’apprendre en profondeur
- Une exposition précoce et sans supervision aux appareils numériques et aux réseaux sociaux peut avoir des effets négatifs sur le sommeil, l’attention, la régulation émotionnelle et les relations
- Les contenus violents ou injurieux en ligne, la pornographie et les contenus d’hypersexualisation, le grooming, les menaces et l’exploitation sexuelle des mineurs deviennent plus insidieux avec les faux profils, les algorithmes qui facilitent les contacts dangereux et les outils d’IA capables de manipuler les images et les vidéos
- Le travail n’est pas une simple source de revenu, mais un lieu où s’expriment et se développent la dignité de la vie ; l’objectif est que chacun puisse vivre dignement par son propre travail
- La convergence de l’automatisation, de la robotique et de l’IA transforme rapidement la structure du travail, avec le risque que, au lieu de soutenir les travailleurs, les machines les contraignent à s’adapter à leur rythme et à leurs exigences
- L’introduction de l’automatisation et de l’IA doit s’accompagner de mesures vérifiables pour protéger l’emploi, assurer la reconversion et garantir la participation des travailleurs
- Le PIB ne suffit pas à évaluer pleinement le bien-être général des personnes et de l’environnement ; il faut des indicateurs qui prennent aussi en compte la dignité du travail, la prospérité partagée, la réduction des inégalités et la protection de l’environnement
- À l’ère de l’IA et de la robotique, on ne peut pas s’en remettre uniquement à la main invisible du marché ; la politique doit orienter l’économie et la technologie vers le bien commun
- Les addictions liées à l’économie numérique de l’attention peuvent être conçues pour capter le temps et l’attention des utilisateurs, exploiter leur vulnérabilité et affaiblir leur liberté intérieure
- La collecte massive de données et les systèmes algorithmiques créent de nouveaux risques de contrôle social en profilant les déplacements, les achats, les relations et les préférences, puis en influençant les comportements
Travail caché, esclavage et colonialisme des données
- Les réponses immédiates et apparemment parfaites de l’IA sont le résultat d’une longue chaîne de médiations impliquant des ressources naturelles, des infrastructures énergétiques et des personnes
- L’économie numérique dépend d’une multitude de travailleurs qui accomplissent des activités essentielles mais presque invisibles, comme l’étiquetage des données, l’entraînement des modèles et la modération de contenu
- Les modérateurs de contenu sont souvent confrontés à des matériaux choquants ; ce sont fréquemment des jeunes, majoritairement des femmes, mal rémunérées et soumises à des conditions difficiles
- L’extraction des ressources nécessaires à la production des appareils d’IA et des microprocesseurs est encore plus rude ; dans certaines régions, des enfants et des adolescents manipulent, dans des conditions dangereuses, des matériaux servant à extraire les terres rares
- Des réseaux criminels utilisent les plateformes en ligne, les systèmes de messagerie, les moyens de paiement anonymes et les technologies de profilage pour recruter, contrôler et transporter les victimes de la traite des êtres humains
- La traite des êtres humains doit être reconnue comme une forme moderne d’esclavage et comme une atteinte grave à la dignité humaine
- Le colonialisme d’aujourd’hui ne domine pas seulement les corps ; il se manifeste aussi sous la forme d’un colonialisme des données qui s’approprie les données pour transformer la vie des personnes en informations exploitables
- Les données vitales comme les données de santé, les profils épidémiologiques, les cartes génétiques ou les informations démographiques peuvent servir à entraîner des modèles prédictifs, guider des stratégies d’investissement, anticiper les crises et déterminer ce qui compte
- Il faut garantir que les données collectées au nom de l’aide, de la recherche ou de l’innovation deviennent un véritable bien commun et non un instrument de domination
- Il faut renforcer la transparence des chaînes d’approvisionnement qui soutiennent l’industrie technologique et l’économie numérique, afin qu’aucun avantage concurrentiel ne repose sur une exploitation cachée
- Les entreprises et les investisseurs doivent faire de la vérification éthique préventive, de la protection des travailleurs, de la lutte contre le travail forcé et de l’évaluation de l’impact social des modèles économiques fondés sur les données des priorités
- Les plateformes numériques doivent coopérer de manière responsable avec les autorités et la société civile afin que les outils de communication, de paiement et de profilage ne deviennent pas des canaux de recrutement et de contrôle des victimes
Guerre, armes et multilatéralisme
- L’IA et la révolution numérique renforcent les conflits hybrides, non seulement dans la guerre traditionnelle, mais aussi à travers les cyberattaques, la manipulation de l’information, les campagnes d’influence et l’automatisation des décisions stratégiques
- Lorsque la technologie est séparée de l’éthique et de la responsabilité, elle peut rendre les décisions de vie ou de mort plus rapides et plus impersonnelles, et faire apparaître l’usage de la force comme une option immédiate et praticable
- L’IA peut renforcer la défense et la protection des civils, mais elle risque aussi d’abaisser le seuil du recours à la force, de dissimuler la responsabilité humaine et de réduire l’ennemi à une statistique, les victimes à de simples « dommages collatéraux »
- La civilisation de l’amour n’est pas une utopie naïve, mais un projet exigeant qui traduit l’amour dans les structures de la justice et donne une forme institutionnelle à la fraternité
- La culture de la puissance normalise la guerre, recherche une supériorité militaire accrue, exploite la crise du multilatéralisme et encourage le faux réalisme selon lequel « il n’y a pas d’alternative »
- En 1965, Saint Paul VI s’est écrié devant l’Assemblée générale de l’ONU : « Plus jamais la guerre, plus jamais la guerre ! »
- Aujourd’hui, dans le contexte du réarmement et du retour de la guerre comme instrument de la politique internationale dans le discours public, les principes éthiques qui limitaient autrefois l’usage de la force s’affaiblissent
- La croissance du complexe militaro-industriel est devenue un trait structurant du paysage politique et un secteur central de l’économie de nombreux pays
- La croyance selon laquelle la dissuasion nucléaire serait une condition indispensable de la sécurité alimente une nouvelle course aux armements, le démantèlement progressif des accords de réduction nucléaire et le développement d’armes miniaturisées rendant leur usage plus praticable
- Plus les systèmes d’armes autonomes deviennent faciles à déployer, plus la guerre devient « praticable » et moins elle reste soumise au contrôle humain
- Il n’est pas acceptable de confier à des systèmes artificiels des décisions létales ou irréversibles, et aucun algorithme ne peut rendre la guerre moralement acceptable
- Tous les systèmes utilisés en contexte de guerre doivent permettre de retracer et de reconstituer le processus de décision, et la responsabilité comme l’imputation ne doivent pas se dissoudre dans la « machine »
- Le dialogue et la diplomatie doivent être les moyens ordinaires de résolution des conflits, et des règles communes sont nécessaires pour protéger les civils et les personnes vulnérables même face aux violences invisibles que sont les cyberattaques, la manipulation des données et les campagnes d’influence
- Les organisations internationales, y compris les United Nations, peuvent favoriser le dialogue entre les États, la résolution pacifique des conflits, le développement intégral des peuples, la protection des plus vulnérables, le désarmement et le soin de la création
La protection de l’humain à l’ère de l’IA et la vie chrétienne
- La question de la protection de l’être humain à l’ère de l’intelligence artificielle est liée au mystère de l’Incarnation, par lequel la Parole s’est faite chair et est entrée dans la condition humaine
- Dieu assume la faiblesse humaine et la transforme en lieu de salut ; pour Dieu, il n’existe aucun moment ni aucune situation humaine sans valeur
- Aucun système de calcul, aussi sophistiqué soit-il, ne peut engendrer un cœur capable de se donner ni une conscience capable de discerner le bien et le mal ; le visage humain demeure au centre de l’histoire
- La Eucharistic spirituality est présentée comme une spiritualité d’unité ecclésiale dans l’amour, qui conduit à la justice, au partage et au soin prioritaire des personnes accablées par la pauvreté et la marginalisation
- Alors que les nouveaux réseaux économiques et technologiques peuvent produire exclusion, isolement et dépendance, un autre paradigme est nécessaire pour préserver les liens humains et donner une voix à ceux qui restent invisibles
- La tâche de construction propre à notre époque doit placer au centre la relation avec Dieu, accueillir les limites humaines comme une réalité naturelle et positive, et être caractérisée par la responsabilité partagée et le langage de l’Évangile
- Il faut apprendre à entrer en relation de manière humaine avec le monde numérique dans le cadre de l’éducation à la foi et de la vie selon l’Évangile, et le monde numérique est présenté comme un nouveau continent à évangéliser
- Il faut valoriser les lieux et les temps où la présence physique compte, comme les repas partagés, les rencontres des communautés chrétiennes, le temps passé avec les personnes seules ou le service des pauvres
- L’image de la reconstruction chez Néhémie éclaire la vocation propre à l’ère de la transition numérique et appelle à ne pas demeurer des observateurs ou commentateurs passifs face aux fractures sociales et culturelles
- Les chantiers de cette reconstruction sont les laboratoires, les entreprises technologiques, les écoles, les médias, les institutions et les communautés locales ; il faut y unir écoute et courage, prière et responsabilité, afin de rendre la cité humaine plus habitable
1 commentaires
Avis sur Lobste.rs
Le simple fait qu’un tel document existe est en soi une réalité digne de la SF que je n’aurais jamais imaginé voir de mon vivant
On n’en parle plus tellement maintenant, mais ça reste incroyablement bizarre
Si quelqu’un avait écrit ça dans un livre, de SF ou non, cela aurait paru trop « fictif ». Trop de choses dépendaient de l’inclinaison d’un fusil
Réponse d’Anthropic
« Si cela peut aider, j’explique parfois que cela ressemble un peu au fait de donner vie à un personnage de fiction »
J’ai l’impression qu’une pure malveillance émane de tout le monde chez Anthropic
Voir ce lien posté sur lobste.rs a été une assez bonne surprise
Je m’étais promis de vraiment lire la première encyclique du pape juste après son élection, et je suis heureux que le sujet m’intéresse réellement
J’espère pouvoir prendre le temps de m’y plonger ce week-end. Après avoir survolé le chapitre 1 et vu le nombre de références, ça n’a pas l’air d’être un texte facile