La Iglesia profundiza su reflexión sobre la IA en 2024

Los deseos para el Año Nuevo del arzobispo de las islas Fiji fueron algo inesperados. El prelado llamó a su grey a tomar conciencia de los desafíos que plantea la Inteligencia Artificial. "Si seguimos siendo usuarios pasivos de la IA, corremos el riesgo de perder esa creatividad que Dios ha inscrito en nosotros, y esto sería un gran daño para la humanidad", advirtió monseñor Peter Loy Chong, que aconsejó concretamente a las familias "establecer reglas en el hogar” para este año 2024.

Una petición que transmite el llamamiento de la Santa Sede hecho en diciembre de 2023, a favor de un tratado internacional que garantice un desarrollo y uso ético del algoritmo. Un llamamiento urgente cuando recordamos los últimos trastornos que sacudieron el mundo de la IA.

Uno de sus principales actores, Sam Altman, el diseñador de ChatGPT creado en 2023, fue reintegrado en su cargo como director ejecutivo de OpenAI tras un enfrentamiento contra quienes, entre sus asociados, querían regular el algoritmo según criterios éticos. Pero fue la rentabilidad la que prevaleció...

Sobre la cuestión de la IA, la Iglesia pretende dar voz a los organismos internacionales, en particular gracias a la experiencia del Padre Paolo Benanti, miembro franciscano de la Comisión de las Naciones Unidas para la IA. El religioso es profesor de bioética y ética tecnológica.

Los criterios para una IA ética

En una entrevista publicada el 3 de enero de 2024 por Vatican Insider – uno de los canales de información no oficiales del Vaticano – Paolo Benanti analiza una serie de criterios que deberían incluirse en un “algoritmo ético”. Según él, la IA debe dar al hombre la posibilidad de definir sus prioridades y no dejar que las dicte una máquina: “el proyecto humano debe ser lo primero y no al revés”, explica el franciscano.

Esto implica una vigilancia atenta: "ante una máquina incansable, con recursos inagotables, con una velocidad extraordinaria, debemos tener una vigilancia muy particular", estima el teólogo, que se alegra de que la Iglesia haya asumido el problema de frente.

A diferencia del ser humano que se estructura desde sus primeros años de existencia en función de sus interacciones con el entorno que lo rodea, el algoritmo no está abierto a avances de este tipo, porque ha sido moldeado desde cero, además, para evitar los peligros de este universo cerrado, debemos “inculcar tres valores principales a la IA”, subraya el Padre Benanti.

“ChatGPT siempre da una respuesta en forma de certeza. En la actualidad, si existiera una 'sabiduría' que le convendría al hombre adquirir, no es tanto poder responder en cualquier momento y a cualquier cosa, sino preguntarse si su respuesta es, sí o no, válida, cierta. Si pudiéramos dar a la máquina la capacidad de cuestionar sus respuestas, habríamos dado un paso hacia un mayor 'respeto' por la naturaleza humana”, estima el franciscano.

El segundo valor que el experto de la Santa Sede quisiera que se incluyera de una forma u otra en el algoritmo, es la benevolencia: "es decir, el hecho de no estar determinado únicamente por un tipo de acontecimientos –negativos– registrados en una 'historia'".

Finalmente, “la dimensión de la equidad es crucial”, y si no integramos estos datos en la IA, esta última “alimentará la visión de un mundo fragmentado en clases sociales” o comunidades.

Es difícil imaginar que el mercado de la IA esté atento a las advertencias de la Iglesia, dados los intereses económicos y estratégicos en juego: “En la práctica”, concluye el Padre Benanti, “el riesgo para el hombre en el futuro es volver sus ojos hacia la Nube donde se almacena la IA, en lugar de hacia el Cielo, y hacer del algoritmo la divinidad del mañana".