L’Eglise approfondit sa réflexion sur l’IA en 2024

Les vœux de l’archevêque des îles Fidji ont été quelque peu inattendus. Le prélat a appelé ses ouailles à prendre conscience des défis lancés par l’IA. « Si nous continuons d’être des utilisateurs passifs face à l’IA, nous risquons de perdre cette créativité que Dieu a inscrite en nous, et ce serait un grand dommage pour l’humanité », a mis en garde Mgr Peter Loy Chong qui conseille concrètement aux familles « d’établir des règles dans le foyer » à l’aube de l’année 2024.

Une demande qui relaye l’appel du Saint-Siège en décembre 2023, en faveur d’un traité international garantissant le développement et l’utilisation éthiques de l’algorithme. Un plaidoyer urgent quand on se rappelle les derniers soubresauts qui ont secoué le monde très fermé de l’IA.

L’un de ses principaux acteurs, Sam Altman – le concepteur de ChatGPT lancé en 2023 – s’est vu confirmé à sa place à l’issue d’un bras de fer qui l’opposait à ceux qui, parmi ses associés, souhaitaient réguler l’algorithme selon des critères éthiques. Mais c’est la rentabilité qui a prévalu…

Sur la question de l’IA, l’Eglise entend donner de la voix au niveau des instances internationales, notamment grâce à l’expertise du père Paolo Benanti, un franciscain membre de la Commission des Nations Unies pour l’IA. Le religieux est professeur de bioéthique et d’éthique technologique.

Les critères d’une IA éthique

Dans un entretien publié le 3 janvier 2024 par Vatican Insider – l’un des canaux officieux d’information du Vatican – Paolo Benanti évoque un certain nombre de critères qui devraient être inclus dans un « algorithme éthique ». Selon lui, l’IA doit donner à l’homme la possibilité de définir ses priorités et de ne pas se les laisser dicter par ce qui reste une machine : « le projet humain doit être premier et non l’inverse », explique le franciscain.

Cela implique une surveillance vigilante : « face à une machine infatigable aux ressources inépuisables, à la rapidité extraordinaire, il faut avoir une vigilance toute particulière », estime le théologien qui se réjouit que l’Eglise se soit saisie du problème à bras-le-corps.

A la différence de l’être humain qui se structure dès ses premières années d’existence en fonction de ses interactions avec son milieu ambiant, l’algorithme n’est pas ouvert à un progrès de ce type, car il a été façonné de toute pièce, aussi, afin d’éviter les dangers de cet univers clos, faudrait-il « imprimer trois valeurs principales à l’IA », souligne le père Benanti.

« ChatGPT donne toujours une réponse sur le mode de la certitude. A l’heure actuelle, s’il y avait une “sagesse” que l’homme gagnerait à acquérir, ce n’est pas tant d’être capable de répondre à tout moment et à n’importe quoi, mais de se demander si sa réponse est, oui ou non, valable, certaine. Si nous pouvions donner à la machine la capacité de remettre en cause ses réponses, nous aurions accompli un pas vers un plus grand “respect” la nature humaine », estime le franciscain.

Deuxième valeur que l’expert du Saint-Siège souhaiterait voir inscrite d’une manière ou d’une autre dans l’algorithme, celle de la bienveillance : « c’est-à-dire le fait de ne pas être déterminé uniquement par un type d’événements – négatifs – inscrits dans un “historique” ».

Enfin, « la dimension de l’équité est cruciale », et si l’on n’intègre pas cette donnée dans l’IA, cette dernière « alimentera la vision d’un monde fragmenté en classes sociales » ou en communautés.

Difficile d’imaginer que le marché de l’IA prête attention aux mises en garde de l’Eglise, étant donné les intérêts économiques et stratégiques en jeu. « Dans la pratique, conclut le père Benanti, le risque pour l’homme dans l’avenir, c’est de tourner ses yeux vers le Cloud où l’IA est stockée, plutôt que vers le Ciel, et de faire de l’algorithme la divinité de demain ».