Le Vatican publie une Note sur l’Intelligence artificielle (1)

Devant la croissance rapide des systèmes d’Intelligence artificielle (IA) et les problèmes qu’elle pose déjà à différents niveaux, en particulier quant aux implications anthropologiques et éthiques, le Saint-Siège a estimé nécessaire de produire une Note sur l’IA pour examiner spécialement ces deux points.

Le texte cherche d’abord à bien montrer ce qui différencie l’intelligence humaine et l’IA, en utilisant la tradition philosophique et théologique de l’Eglise. Dans un deuxième temps, la Note se penche sur le rôle de l’éthique quant au développement et à l’utilisation de ce nouvel outil. Enfin elle examine quelques domaines particuliers plus sensibles.

L’Intelligence artificielle

En 1956, il s’agissait de « rendre une machine capable de manifester un comportement qui serait qualifié d’intelligent si un être humain le produisait » (John McCarthy). Mais selon la Note, « la plupart des systèmes actuels, en particulier ceux qui utilisent l’apprentissage automatique, reposent sur l’inférence statistique plutôt que sur la déduction logique ».

Par l’analyse de vastes ensembles de données, l’IA peut proposer des pistes de recherche. Cela a été rendu possible par les progrès de la technologie informatique et par les innovations en matière d’équipement. Cela a permis à l’IA de s’adapter à de nouvelles situations et même de proposer des solutions nouvelles qui n’avaient pas été envisagées par les programmeurs initiaux.

De nombreux chercheurs espèrent parvenir à l’”intelligence artificielle générale” qui serait capable d’effectuer toutes les tâches de l’esprit humain. Certains y voient une future « super-intelligence ». La Note pointe très justement que « l’hypothèse selon laquelle le mot “intelligence” devrait être utilisé de la même manière en référence à l’intelligence humaine et à l’IA sous-tend ces points de vue ».

Mais elle fait remarquer que pour l’être humain « l’intelligence est relative à la personne dans son ensemble, alors que dans le contexte de l’IA, elle est comprise dans un sens fonctionnel », supposant ainsi que les activités caractéristiques de l’esprit humain peuvent être décomposées en étapes numérisées. L’évaluation de l’IA est donc réductionniste car centrée sur la fonction.

L’intelligence humaine

La Note réserve une bonne surprise : pour aborder la rationalité elle fait appel à Aristote, à saint Augustin et à saint Thomas d’Aquin. C’est ainsi que la distinction entre “intellect” et “raison” est expliquée selon le docteur commun : « le terme intellect dérive de la pénétration intime de la vérité ; tandis que la raison dérive de la recherche et du processus discursif 1 ».

La rationalité est ensuite présentée comme la caractéristique de l’être humain, qui englobe toutes ses capacités, qu’elles soient directement rationnelles, ou du fait qu’elles se rattachent à cette rationalité de manière plus ou moins directe. C’est ce que résume la fameuse définition de l’homme comme « animal raisonnable ».

Le texte s’étend ensuite sur l’union de l’âme et du corps, sur la personne humaine et sa dimension sociale, sur ses capacités affectives. La Note insiste sur la relation de l’homme à la vérité, et sur sa mission de glorifier Dieu par l’utilisation droite de ses capacités rationnelles, et de s’élever ainsi vers Dieu en citant saint Bonaventure. Enfin, cette description inclut la vie morale.

Une conception correcte de l’intelligence humaine ne peut donc être réduite à l’acquisition de faits ou la réalisation de tâches spécifiques. L’intelligence est capable d’accéder à la totalité de l’être, elle ne s’épuise pas dans ce qui est mesurable.

La Note ajoute que « cette capacité implique la possibilité de croître dans la connaissance des mystères de Dieu à travers l’approfondissement rationnel des vérités révélées (intellectus fidei) ». Il s’ensuit que l’intelligence humaine possède une dimension contemplative essentielle, c’est-à-dire une ouverture désintéressée à ce qui est vrai, bon et beau au-delà de toute utilité particulière.

Comparaison entre l’intelligence humaine et l’IA

La Note souligne que l’IA est capable d’imiter certaines opérations associées à la rationalité, mais qu’elle ne fonctionne qu’en exécutant des tâches et en manipulant des données quantitatives par une logique informatique : « elle reste fondamentalement confinée à un domaine logico-mathématique, ce qui lui impose certaines limites inhérentes ».

L’intelligence humaine au contraire a un développement organique et elle est façonnée par les expériences de tout l’être humain : l’IA n’a pas la capacité d’évoluer dans ce sens. Son “apprentissage” est essentiellement différent du développement de l’intelligence humaine, façonnée par l’histoire personnelle de l’individu.

La Note en tire la conséquence que l’IA, malgré ses capacités de calcul, ne représente qu’une fraction des possibilités de l’esprit humain : elle n’a – et ne peut avoir – le discernement moral et la capacité sociale. Ainsi, les approches fondées uniquement sur cette technologie peuvent conduire à perdre le sens du tout qu’est un être humain.

Danger d’une équivalence entre intelligence humaine et IA

Une équivalence trop poussée entre intelligence humaine et IA, entraîne une vision fonctionnaliste, selon laquelle les personnes sont appréciées selon les tâches qu’elles peuvent accomplir. Mais la valeur d’une personne ne dépend pas de ses capacités singulières, mais du fait qu’elle est créée à l’image de Dieu et appelée à vivre de sa grâce.

Ainsi, conclut la Note sur ce point, l’IA ne doit pas être considérée comme une forme artificielle d’intelligence, mais comme l’un de ses produits.

Dans cette première partie, la Note du DDF a bien montré la différence entre l’intelligence humaine, faite à l’image de l’intelligence divine, et capable de découvrir la vérité que Dieu a mise dans sa création ; et l’IA, produite par l’homme, qui ne fait que compiler et associer par un calcul statistique, les données que son concepteur lui fournit.

Ainsi, le terme d’“intelligence”, employé pour l’homme et pour l’IA, n’a pas le même sens. Il en est de même d’ailleurs pour l’utilisation du terme chez les animaux. Autrement dit, il n’y a qu’une seule véritable intelligence sur terre, c’est celle de l’homme, fait à l’image de Dieu. Et l’IA ne peut être dite “intelligence”, que parce que l’homme l’a conçue.

• 1

  Thomas d’Aquin, Somme théologique, II-II, q. 49, a. 5, ad 3. Raison et intellect sont deux faces de l’intelligence.