Le pape Léon XIV a publié sa première encyclique, intitulée « Magnifica Humanitas » (Humanité magnifique), dans laquelle il appelle à « désarmer » l'intelligence artificielle (IA) pour « l'empêcher de dominer l'humain ». Ce texte de 130 pages, à la tonalité profondément sociale, a été dévoilé lundi. Le chef de l'Église catholique y estime que l'IA « ne peut être considérée comme moralement neutre » et insiste sur le rôle crucial de l'éducation pour en maîtriser les risques, ainsi que sur la nécessité d'un code éthique commun.
Un appel à rompre l'équivalence entre puissance technique et droit de gouverner
Dans son encyclique, le pape Léon XIV affirme que « l'IA est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer ». Il ajoute : « Il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible ». Pour le pontife, « désarmer ne signifie pas renoncer à la technologie, mais l'empêcher de dominer l'humain ». Il dénonce la course à l'algorithme le plus performant et à la banque de données la plus vaste, qui n'a souvent pour objectif que de consolider un avantage géopolitique ou commercial.
Le pape estime qu'il faut « rompre cette équivalence entre la puissance technique et le droit de gouverner ». Il souligne que lorsque ces biens restent concentrés entre les mains de quelques-uns, sans partage ni accès adéquats, un nouveau déséquilibre se crée, « alimentant le fossé entre les inclus et les exclus ». Léon XIV insiste donc sur la nécessité d'un « nouveau cadre spirituel, éthique et politique » pour réguler ces innovations, un encadrement qui doit aussi prendre en compte le respect de l'environnement.
Dénonciation des nouvelles formes d'esclavage
L'encyclique dénonce particulièrement « les nouvelles formes d'esclavage » nées de l'extraction des ressources nécessaires à l'utilisation de l'IA. Le pape appelle à « des solutions technologiques plus durables afin de réduire l'impact sur l'environnement ». Il fustige le travail des adolescents et des enfants dans des conditions dangereuses pour broyer les matériaux dont on tire les terres rares : « Des corps marqués, mutilés, usés pour que le flux de calcul ne s'interrompe pas ».
Il dénonce également l'utilisation des plateformes en ligne, des systèmes de messagerie, des paiements anonymes et des techniques de profilage par les réseaux criminels pour recruter, contrôler et déplacer des victimes de la traite, souvent des mineurs. « Hommes et femmes sont transformés en données à tracer et en colis à déplacer », alerte-t-il.
Demande de pardon pour l'esclavage historique
L'évêque de Rome en profite pour demander « sincèrement pardon » pour le retard avec lequel l'Église a condamné « le fléau de l'esclavage » au cours de l'Histoire. Il met également l'accent sur le rôle de l'éducation, d'une importance « cruciale » pour affronter cette révolution technologique. Il met en garde contre « les phénomènes de détournement de mineurs, de chantage et d'exploitation sexuelle » rendus « plus insidieux » par des outils d'IA capables de manipuler des images et des vidéos.
