Le Vatican publie une Note sur l’Intelligence artificielle (2)

Cette différence est telle qu’il faut dire que le mot est équivoque : le terme « intelligence » n’a pas la même signification s’il désigne cette faculté essentielle de l’homme, ou s’il se voit associé au terme « artificielle », de même que le mot « chien » est équivoque lorsqu’il s’applique à l’animal ou à une pièce d’une arme à feu…

La deuxième partie du texte considère le rôle de l’éthique dans l’orientation du développement et de l’utilisation de l’IA. Regrettons la relégation du terme « moral » au profit de son succédané « éthique », qui fait référence à la philosophie et éclipse de cette manière l’aspect bien plus profond de la morale révélée.

D’ailleurs, le texte se voit obligé d’utiliser le mot : « il convient d’attirer l’attention sur l’importance de la responsabilité morale » fondée sur la dignité de la personne. Il serait bien meilleur d’écrire qu’elle est fondée sur notre obligation à accomplir le bien pour l’amour de Dieu et du prochain. Mais passons.

Le texte commence par rappeler un principe fondamental : toute invention humaine peut s’employer pour le bien ou pour le mal ; et en conclut que « l’évaluation morale de cette technologie dépend de la manière dont elle est orientée ou employée ». Et d’ajouter un élément important : dans cette évaluation il ne faut pas considérer seulement la fin, mais aussi les moyens.

De là une conséquence claire : puisque la responsabilité morale n’appartient qu’aux personnes, et non aux agents artificiels, il faut toujours pouvoir déterminer qui « est responsable des processus d’IA, en particulier de ceux qui comportent des possibilités d’apprentissage, de correction et de reprogrammation », et cela à toutes les étapes. Il s’agit là des moyens.

Mais la fin également doit être connue. Même si l’IA possède des mécanismes d’apprentissage autonome, il faut bien dire que des objectifs ont été assignés par des humains qui règlent aussi les processus établis. La difficulté est qu’il est parfois difficile de comprendre comment le résultat a été établi, une difficulté qui ne fait que grandir.

La Note dit justement que « cela soulève la question cruciale de savoir comment faire en sorte que les systèmes d’IA soient commandés pour le bien des personnes et non contre elles ». Et elle ajoute que « les utilisateurs devraient veiller à ne pas devenir trop dépendants de l’IA pour leurs décisions, ce qui augmenterait le degré déjà élevé de subordination à la technologie qui caractérise la société contemporaine ». Et le plus grand danger est de tuer l’utilisation de l’intelligence humaine.

La dernière partie traite de questions spécifiques : société, relations humaines, économie et travail, santé, éducation, désinformation, vie privée, écologie, guerre, relation de l’humanité avec Dieu. Il y a nombre de réflexions de bon sens, mais d’autres sont plus sujettes à caution, tant elles paraissent naïves devant le mal produit par l’homme.

Il faut noter ainsi la manière d’appréhender l’IA : « Bien que l’IA “générative” soit capable de produire du texte, de la parole, des images et d’autres résultats avancés qui sont généralement l’œuvre d’êtres humains, elle doit être considérée pour ce qu’elle est : un outil et non une personne. Cette distinction est souvent obscurcie par le langage (…) qui tend à anthropomorphiser l’IA et donc à brouiller la frontière entre ce qui est humain et ce qui est artificiel. » Remarque très judicieuse.

Il est facile de constater que certaines personnes établissent une quasi-relation avec un chatbot, ce qui est une manière de fuir la réalité, et de se retrouver avec soi-même tout en entretenant l’illusion d’une altérité. C’est sans doute l’un des grands dangers qui guette l’usage de cette technologie.

Conclusion

Tout en comportant des passages discutables, surtout dans cette dernière partie, la Note sur l’IA du DDF présente bien des aspects intéressants et des mises au point bienvenues. Le texte est abordable et donne quelques réponses philosophiques et théologiques sur cette question qui envahit la société contemporaine, envahissement qui ne fait que commencer.