Appel à désarmer l’Intelligence artificielle, à la penser pour qu’elle ne domine pas l’homme mais le serve, Léon XIV s’appuie sur les grands principes de la Doctrine Sociale de l’Eglise pour proposer une réflexion face aux défis posés à l’humanité par l’Intelligence artificielle et ses nombreuses utilisations.
Une ode à l’intelligence humaine et à la dignité inaliénable de tout homme et de toute femme “appelés à s’épanouir, non pas malgré leurs limites mais à travers leurs limites.”
Retrouvez ici les extraits les plus marquants de sa Lettre encyclique parue ce 25 mai.
L'intelligence artificielle ne peut s'assimiler à l'intelligence humaine
99. Il n’est pas possible de donner une définition univoque et complète de l’IA. Ce que nous pouvons affirmer, c’est qu’il faut éviter l’erreur consistant à assimiler cette intelligence à l’intelligence humaine. Ces systèmes imitent certaines fonctions de l’intelligence humaine. Ce faisant, ils la surpassent souvent en termes de vitesse et d’ampleur de calcul, offrant des avantages concrets dans de nombreux domaines. Et pourtant, cette puissance reste exclusivement liée au traitement des données : les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. Même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain. Il ne s’agit pas de l’expérience de celui qui se laisse façonner par la vie et grandit au fil du temps à travers ses choix, ses erreurs, le pardon et la fidélité ; il s’agit plutôt d’une adaptation statistique à partir de données et de résultats qui peut s’avérer très efficace, mais qui n’implique pas de croissance intérieure.
Responsabilité, transparence et gouvernance de l’IA
102. L’utilisation de l’IA n’est jamais un fait purement technique : lorsqu’elle intervient dans des processus qui ont une incidence sur la vie des personnes, elle touche aux droits, aux opportunités, à la réputation et à la liberté. Des décisions délicates qui touchent au travail, au crédit, à l’accès aux services et à la réputation des personnes risquent d’être entièrement confiées à des systèmes automatisés qui ne connaissent pas « la compassion, la miséricorde, le pardon et, surtout, l’ouverture à l’espérance d’un changement de la personne », [125] et peuvent ainsi engendrer de nouvelles formes d’exclusion. Il peut y avoir des utilisations manifestement inhumaines, comme la manipulation de l’information ou la violation de la vie privée, mais il peut aussi y avoir un danger moins évident, lorsque les systèmes d’IA, se présentant comme neutres et objectifs, reflètent et renforcent les stéréotypes ou les positions idéologiques de ceux qui les ont conçus et formés.
Désarmer l'Intelligence Artificielle
110. Je voudrais enfin employer un mot qui me tient à cœur : “désarmer”. Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. C’est la course à l’algorithme le plus performant et à la banque de données la plus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres. Désarmer, c’est rompre cette équivalence entre la puissance technique et le droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. Cela signifie la soustraire aux monopoles, la rendre discutable, contestable, et donc habitable, en la restituant à la pluralité des cultures humaines et des formes de vie. La tâche, aujourd’hui, n’est pas seulement éthique ou technique : elle est écologique au sens le plus radical, car elle met en jeu une nouvelle dimension de notre Maison commune. L’IA est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer. C’est pourquoi il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible.
La limite, le cœur, la grandeur de l’être humain
118. Notre rapport à la vie semble aujourd’hui en crise. Tout ce qui apparaît comme une “limite” – incapacité, maladie, vieillesse, souffrance, vulnérabilité – tend à être perçu avant tout comme un défaut à corriger, plutôt qu’un espace où l’humain mûrit et s’ouvre à la relation. Or, nous devons nous rappeler que l’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite. Une vision de la réalité à la lumière de la foi aide à reconnaître ce que nous appelons la “contingence” des choses de ce monde. Si, d’une part, il est de notre devoir d’essayer d’éliminer la souffrance qui marque la vie humaine, d’autre part, il est sage de reconnaître notre finitude constitutive, sachant que « l’expérience religieuse, et en particulier la foi chrétienne, proposent d’habiter, sans simplifications, cette ambivalence entre la grandeur et la limite de l’humain, en la lisant à la lumière de la relation originelle et fondatrice avec Dieu ». [131]
119. C’est précisément dans notre nature limitée que trouvent leur place la compassion, la sincère préoccupation face aux besoins des autres, la générosité qui surprend même au milieu des ténèbres et de l’échec, l’expérience spirituelle et l’adoration de Dieu. Nous le constatons dans de nombreux moments où la limite se fait concrète dans notre vie, lorsque nous essuyons un refus, lorsque nous souffrons de la maladie ou de la mort d’un être cher, lorsque nous faisons l’expérience de l’incapacité ou de l’échec. Mystérieusement, c’est précisément dans ces moments-là que nous pouvons trouver une sagesse nouvelle, toucher de nos mains l’affection des gens et expérimenter la présence du Seigneur.
120. Même lorsque la limite se manifeste par des souffrances intérieures, la sagesse humaine nous enseigne à ne pas la refouler ni la réprimer, mais à l’intégrer. Pour éliminer totalement la douleur, il faudrait, au fond, éteindre aussi l’amour et le désir. En effet, celui qui aime et désire ne peut éviter de passer par l’épreuve et la souffrance, et c’est pourquoi, au fil des ans, nous gardons en nous des enseignements qui s’impriment comme des cicatrices, mémoire du chemin parcouru entre liberté et chutes, rêves et déceptions. Ce n’est que grâce à l’entrelacement de ces éléments que, dans le cœur, se produisent ces merveilles de l’âme qui nous font savourer la saveur la plus douce de notre humanité. [132] Renoncer à cette aventure, à la fois dramatique et splendide, au nom d’un prétendu dépassement de toutes les limites, pourrait signifier bien des choses mais pas être humain.
Le véritable “plus qu’humain” : grâce et humanisme chrétien
128. Lorsque nous acceptons cette possibilité de nous transcender par la grâce de Dieu, nous ne nous renions pas, nous ne devenons pas moins humains. Au contraire, comme l’expliquait le Pape François, « nous parvenons à être pleinement humains quand nous sommes plus qu’humains, quand nous permettons à Dieu de nous conduire au-delà de nous-mêmes pour que nous parvenions à notre être le plus vrai ». [137] C’est là que réside la différence radicale par rapport aux rêves prométhéens : ce qui sauve l’humain, ce n’est pas une autosuffisance renforcée, mais une relation qui libère, une communion qui transforme. Face à cela, une technologie qui classe et optimise ce qui existe déjà peut devenir, sans le vouloir, un obstacle au changement et à la croissance. Pour un algorithme, l’erreur est quelque chose à corriger ; pour une personne, elle peut être le début d’un changement profond. L’avenir d’une personne n’est pas prévisible, mais dépend de sa liberté portée par la grâce divine inépuisable, et des liens qu’elle cultive.
Deux cités et deux amours
129. L’humanisme chrétien ne rejette pas la science et la technique, mais les assume avec gratitude et réalisme, et les inscrit “les pieds sur terre” dans une vocation plus élevée. L’intelligence créative de l’être humain est un don qui peut soulager les souffrances et ouvrir de nouvelles possibilités, mais elle doit rester au service du bien commun, de la justice, de la protection des plus fragiles et de la création. En ce sens, le véritable choix ne se situe pas entre l’enthousiasme et la peur, mais entre deux façons de construire : un progrès au service de la personne et des peuples, ou un progrès qui les soumet à des logiques de pouvoir. En fin de compte, la question décisive reste celle posée par saint Jean-Paul II : l’IA rend-elle« la vie humaine sur la terre “plus humaine” à tout point de vue ? La rend[-elle] plus “digne de l’homme” ? ». [138] Si la réponse est oui, alors nous pouvons y reconnaître une opportunité à accueillir avec responsabilité, dans un chemin de reconstruction patiente et partagée, sur le modèle de la renaissance de Jérusalem racontée dans le livre de Néhémie. Si, au contraire, la puissance grandit tandis que le cœur s’assèche et que les liens se rompent, alors nous sommes face à une nouvelle forme de Babel : une construction grandiose, mais inhumaine.
130. S’interroger sur cette possibilité de progrès et sur la manière dont nous l’interprétons et le vivons revient toujours, au fond, à nous interroger aussi sur notre cœur. La manière dont nous concevons et organisons nos relations, notre travail et nos institutions reflète en effet nos valeurs fondamentales et, en dernière analyse, découle de ce qui nous tient le plus à cœur. C’est un amour qui nous guide : ce que nous aimons vraiment, autant comme individus qu’en tant que société, oriente notre vie et notre agir. Saint Augustin décrit l’histoire humaine comme le théâtre d’une lutte entre deux amours, qui ont construit deux façons d’habiter le monde et de vivre ensemble, deux “cités” : d’un côté, l’amour de Dieu et du prochain ; de l’autre, l’amour uniquement de soi. « Deux amours ont fait deux cités : l’amour de soi jusqu’au mépris de Dieu, la cité terrestre, l’amour de Dieu jusqu’au mépris de soi, la cité céleste ». [139] Comme dans toute l’histoire humaine, aujourd’hui encore ces deux amours se disputent la suprématie dans notre cœur. L’ère de l’IA n’échappe pas à cette règle : la construction de Babel ou celle de Jérusalem commence en chacun de nous.
