Le pape Léon XIV a publié ce lundi 25 mai son encyclique intitulée « Magnifica Humanitas » (Humanité magnifique), un texte de 130 pages qui aborde les défis contemporains majeurs tels que les guerres, l'intelligence artificielle (IA), la crise du multilatéralisme et le changement climatique. Le souverain pontife y adopte une position ferme face aux dérives technologiques, en particulier l'IA, qu'il qualifie de « nouvelle forme d'esclavage ».
Un appel à « désarmer » l'intelligence artificielle
Dans son encyclique, le pape Léon XIV lance un puissant appel à encadrer et réguler les algorithmes. Il rappelle que la technologie « n'est pas en soi un mal » mais qu'elle « prend le visage de ceux qui la conçoivent, la financent, la régulent et l'utilisent ». Soulignant que l'IA ne peut « être considérée comme moralement neutre », il estime qu'il convient de la « désarmer » pour « l'empêcher de dominer l'humain ». Le pape insiste sur la nécessité d'un code éthique commun sur l'IA et sur le rôle crucial de l'éducation pour en maîtriser les risques.
Le souverain pontife déplore que « le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n'appartient pas aux États, mais à de grands acteurs économiques et technologiques » qui « fixent les conditions d'accès, les règles de visibilité et les possibilités de participation ». Selon les Nations unies, l'IA pourrait peser jusqu'à 4 800 milliards de dollars d'ici 2033, concentrés entre les mains d'un nombre limité d'acteurs, soit une multiplication par 25 en une décennie.
Des « nouvelles formes d'esclavage » dénoncées
Le pape va jusqu'à dénoncer « les nouvelles formes d'esclavage » nées des besoins d'extraction de ressources nécessaires à l'utilisation de l'IA, comme les microprocesseurs. Il déclare : « Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, usés pour que le flux de calcul ne s'interrompe pas. » Il en profite pour demander « sincèrement pardon » pour le retard avec lequel l'Église a condamné « le fléau de l'esclavage » au cours de l'Histoire.
Dépasser le concept de « guerre juste »
Dans son manifeste, Léon XIV appelle à dépasser le concept de « guerre juste », estimant que cette théorie est « trop souvent invoquée pour justifier n'importe quelle guerre ». Il regrette que « l'humanité (soit) en train de glisser vers une culture violente de la puissance » qui normalise la guerre comme un « instrument de politique internationale ». Il y voit une crise du multilatéralisme, qui « s'apparente plutôt à un multipolarisme désordonné et conflictuel ». Le pape dénonce également la délégation de décisions létales à la technologie, affirmant : « Aucun algorithme ne peut rendre la guerre moralement acceptable. »
Un plaidoyer en faveur de la justice sociale
Le pape en appelle plus d'une dizaine de fois à la justice sociale dans son encyclique. Il considère que « la situation des migrants, des réfugiés et de tous ceux qui sont contraints de se déplacer en raison de la pauvreté, de la violence, du changement climatique » constitue un « test décisif » pour cette justice sociale. Il invite à s'attaquer aux « causes profondes qui poussent à la migration, y compris celles liées aux injustices économiques et à la crise climatique ». Léon XIV demande aussi à empêcher l'émergence « de nouvelles formes d'exclusion et de privation de liberté » à l'ère de l'IA, notamment par le refus ou la restriction d'accès à des techniques de base. Depuis son élection, il souligne la nécessité d'une « alphabétisation numérique ».
L'encyclique évoque également l'usage d'algorithmes « opaques » qui « reproduisent des discriminations », sans les nommer précisément, mais qui font penser aux logiciels de reconnaissance faciale utilisés notamment par la police de l'immigration ICE aux États-Unis.
