El Vaticano publica una Nota sobre la Inteligencia Artificial (2)

Esta diferencia es tal que hay que decir que la palabra es ambigua: el término "inteligencia" no tiene la misma significación si designa esta facultad esencial del hombre, o si se asocia al término "artificial", del mismo modo que la palabra "martillo" es ambigua cuando se aplica a la herramienta o a una pieza de un arma de fuego...

La segunda parte del texto considera el papel de la ética en la orientación del desarrollo y el uso de la IA. Es de lamentar la relegación del término "moral" en favor de su sucedáneo "ética", que hace referencia a la filosofía y eclipsa de esta manera el aspecto mucho más profundo de la moral revelada.

Además, el texto se ve obligado a utilizar la palabra: "conviene llamar la atención sobre la importancia de la responsabilidad moral" basada en la dignidad de la persona. Sería mucho mejor escribir que se basa en nuestra obligación de hacer el bien por amor a Dios y al prójimo. Pero pasemos al siguiente punto.

El texto comienza recordando un principio fundamental: cualquier invención humana puede utilizarse para el bien o para el mal; y concluye afirmando que "la evaluación moral de esta tecnología depende de la forma en que se oriente o se utilice". Y añade un elemento importante: en esta evaluación no hay que considerar solo el fin, sino también los medios.

De ahí se desprende una consecuencia clara: dado que la responsabilidad moral solo recae en las personas, y no en los agentes artificiales, siempre debe ser posible determinar quién "es responsable de los procesos de la IA, en particular de aquellos que implican posibilidades de aprendizaje, corrección y reprogramación", y esto en todas las etapas. Aquí se trata de los medios.

Pero también debe conocerse el fin. Aunque la IA tenga mecanismos de un aprendizaje autónomo, hay que decir que los objetivos han sido asignados por humanos que también regulan los procesos establecidos. La dificultad es que a veces no es fácil entender cómo se ha establecido el resultado, una dificultad que no hace más que aumentar.

La Nota señala precisamente que "esto plantea la cuestión crucial de saber cómo garantizar que los sistemas de IA se controlen en beneficio de las personas y no en su contra". Y añade que "los usuarios deben tener cuidado de no volverse demasiado dependientes de la IA para sus decisiones, lo que aumentaría el ya elevado grado de subordinación a la tecnología que caracteriza a la sociedad contemporánea". Y la mayor amenaza es acabar con el uso de la inteligencia humana.

La última parte trata de cuestiones específicas: sociedad, relaciones humanas, economía y trabajo, salud, educación, desinformación, privacidad, ecología, guerra, relación de la humanidad con Dios. Hay muchas reflexiones de sentido común, pero otras son más cuestionables, ya que parecen ingenuas ante el mal producido por el hombre.

Cabe destacar la forma de abordar la IA: "Aunque la IA 'generativa' es capaz de producir texto, voz, imágenes y otros output avanzados que suelen ser obra de seres humanos, hay que considerarla como lo que es: una herramienta, no una persona. Esta distinción se ve a menudo oscurecida por el lenguaje utilizado por los profesionales, que tiende a antropomorfizar la IA y difumina así la línea que separa lo humano de lo artificial". Muy acertado.

Es fácil ver que algunas personas establecen una relación casi íntima con un chatbot, lo cual es una forma de huir de la realidad y encontrarse con uno mismo mientras se mantiene la ilusión de una alteridad. Esta es sin duda una de las grandes amenazas que acechan el uso de esta tecnología.

Conclusión

Aunque contiene pasajes discutibles, sobre todo en la última parte, la Nota sobre la IA del DDF presenta muchos aspectos interesantes y aclaraciones bienvenidas. El texto es accesible y ofrece algunas respuestas filosóficas y teológicas sobre esta cuestión que invade la sociedad contemporánea, una invasión que apenas empieza.