Ces catholiques qui misent sur l’algorithme

Source: FSSPX Actualités

Sur le modèle de ChatGPT, plusieurs robots “catholiques” ont vu le jour en quelques mois. Leur but : donner de façon instantanée des réponses aux questions touchant la doctrine de l’Eglise. Au-delà de la démarche, la fiabilité de ces algorithmes d’un genre nouveau se pose.

Le 30 novembre 2022 le monde découvre les performances de l’intelligence artificielle (IA), par un message de la société OpenIA : « Vous pouvez maintenant utiliser ChatGPT. » En quelques heures plus d’un million de personnes testent ce nouveau robot conversationnel, sans peut-être prendre conscience des potentialités immenses et redoutables de cette application de l’IA.

Une nouvelle technologie qui ressemble à une énième boîte de Pandore : aussi, en mai 2023, le cardinal-archevêque d’Utrecht (Pays-Bas), Mgr Willem Eijk, lance un appel en faveur d’un positionnement officiel de l’Eglise concernant l’IA. Prévoyant des conséquences profondes sur la société, le haut prélat explique que l’Eglise doit s’engager activement dans le domaine de l’IA en fournissant une réflexion éthique et en établissant sa présence au sein de ce vaste domaine.

Un appel anticipé par les développeurs de  Magisterium AI, un agent conversationnel sorti des cartons de Longbeard, entreprise spécialisée dans la technologie et le marketing digital. Basée à Rome, Longbeard compte parmi ses clients l’université pontificale Saint-Thomas-d’Aquin, l’observatoire du Vatican ou encore le Dicastère pour le service du développement humain intégral.

L’algorithme de Magisterium AI repose sur une base de données regroupant 456 documents officiels, comprenant l’Ecriture Sainte, le Catéchisme de l’Eglise catholique, le Code de droit canonique, l’Instruction générale du Missel romain, ainsi que 90 encycliques, 7 constitutions apostoliques et 26 exhortations apostoliques.

« Lorsque je travaillais pour l’archidiocèse de Toronto, beaucoup de gens me posaient des questions sur la foi, le dogme de l’Eglise. Je passais énormément de temps à la bibliothèque pour être sûr de donner des réponses fiables. A l’époque je rêvais qu’une technologie comme Magisterium AI existe ! », justifie au micro d’EWTN Matthew Sanders, l’un des créateurs du chatbot anglo-saxon.

La langue de Molière a aussi depuis quelques mois son robot censé répondre aux questions touchant la doctrine chrétienne : le projet de CatéGPT s’est fait connaître au début de l’année 2023, à Genève.

La question de la fiabilité de ce type d’IA se pose : même si les réponses ne manquent pas de pertinence, et si le risque « d’hallucination » – d’erreur – demeure limité en raison d’une base de données fermée, les utilisateurs ont noté des imprécisions.

« La difficulté de ce système – difficulté que n’a pas le théologien – c’est la prise en compte du contexte de la question, qui permet d’éviter le hors-sujet de la réponse », souligne Yannick Liabaud, l’un des responsables de l’association « Eglise et innovation numérique ».

L’émergence d’avatars religieux de ChatGPT n’a rien d’étonnant aux yeux des spécialistes : « ChatGPT est un outil très performant pour trouver de l’information, mais on peut bien ou mal s’en servir », relève Steve Bobillier. Interrogé par le quotidien 24H, le philosophe note que « le risque ici est de prendre les réponses comme “parole d’évangile”. Un texte, y compris religieux, a toujours une interprétation. L’IA en donne une, et ce n’est pas forcément la plus cohérente. »

Alexei Grinbaum – membre du Comité national pilote d’éthique du numérique (CNPEN) – livre un constat plus alarmant : « La condition humaine évolue sous l’influence des machines parlantes, il est impossible d’arrêter cette évolution ni de revenir en arrière. […] Or, le besoin de maintenir la distinction homme-machine au niveau de la parole est loin d’être ici une évidence. »

Par ailleurs, si c’est bien l’homme qui a créé des machines capables de « parler », ou plutôt de produire des phrases, l’utilisation de ces mêmes machines aura une influence directe sur notre façon de raisonner. Or ces machines s’expriment de façon « lisse », sans profondeur : autrement dit, elles ne pensent pas ce qu’elles produisent. La question est de savoir jusqu’où elles nous influenceront.

« IA sans maîtrise n’est que ruine de l’âme » : le sujet d’un prochain bac de philosophie est tout trouvé…