Este sábado, 22 de junio de 2024, en el Palacio Apostólico Vaticano, el Santo Padre Francisco ha recibido en Audiencia a los participantes en la Conferencia Internacional promovida por la Fundación Centesimus Annus Pro Pontifice, que se celebra en Roma, en el Pontificio Instituto Patrístico Augustinianum, del 20 al 22 de junio de 2024, sobre el tema «La inteligencia artificial y el paradigma tecnocrático: cómo promover el bienestar de la humanidad, el cuidado de la naturaleza y un mundo de paz».
El Papa advirtió sobre la importancia de no someterse al poder tecnocrático y quizás reconsiderar el uso del término «inteligencia» para referirse a lo que no lo es. Con estas palabras pronunció su discurso de clausura de la Conferencia Internacional anual de la Fundación Centesimus Annus, dedicada para la ocasión a la Inteligencia Artificial. Además, ofreció algunas sugerencias para seguir reflexionando sobre un tema de gran actualidad, que determinará el futuro de la economía, de la civilización y de la propia humanidad.
Publicamos a continuación el discurso que el Papa dirigió a los presentes durante el encuentro:
***
Discurso del Santo Padre
Estimadas Señoras y Señores
Eminencia, Excelencias, queridos hermanos y hermanas, ¡buenos días!
Saludo y doy las gracias a la Presidenta, señora Anna Maria Tarantola, y saludo a todos los que participan en la Conferencia internacional anual de la Fundación Centesimus Annus Pro Pontifice. El tema de este año es «La inteligencia artificial y el paradigma tecnocrático: cómo promover el bienestar humano, el cuidado de la naturaleza y un mundo de paz».
Es un tema que merece especial atención, porque la IA tiene una influencia disruptiva en la economía y la sociedad y puede tener repercusiones negativas en la calidad de vida, en las relaciones entre las personas y entre los países, en la estabilidad internacional y en la casa común.
Como sabéis, me he ocupado del desarrollo tecnológico en la Encíclica Laudato si‘ y en la Exhortación apostólica Laudate Deum, y de la IA en el Mensaje de la Jornada Mundial de la Paz de este año y, hace unos días, en mi discurso al G7.
Aprecio que la Centesimus Annus haya dedicado un amplio espacio a este tema, implicando a estudiosos y expertos de distintos países y disciplinas, analizando las oportunidades y los riesgos relacionados con el desarrollo y el uso de la IA, con un enfoque transversal y sobre todo con una perspectiva antropocéntrica, y teniendo presente el peligro de un reforzamiento del paradigma tecnocrático.
El análisis multidisciplinar es esencial para comprender todos los aspectos actuales y prospectivos de la IA, los beneficios que puede aportar en términos de productividad y crecimiento, y los riesgos que puede conllevar, con el fin de identificar las formas éticas correctas de desarrollarla, utilizarla y gestionarla.
En mi Mensaje para el último Día de la Paz, quise hablar de algoritmos, para indicar la absoluta necesidad de un desarrollo ético de los algoritmos, en el que los valores guíen los caminos de las nuevas tecnologías.
En mi discurso ante el G7, destaqué los aspectos críticos de la Inteligencia Artificial, subrayando que es y debe seguir siendo una herramienta en manos humanas. Como otras herramientas clave a lo largo de los milenios, da testimonio de la capacidad del ser humano para ir más allá de sí mismo, de su «ulterioridad», y puede provocar grandes transformaciones, positivas o negativas. En este segundo sentido, la IA podría reforzar el paradigma tecnocrático y la cultura del despilfarro, la disparidad entre naciones avanzadas y en desarrollo, la delegación en las máquinas de decisiones esenciales para la vida humana. Por ello, afirmé la absoluta necesidad de un desarrollo y un uso éticos de la IA, haciendo un llamamiento a la política para que adopte medidas concretas para gobernar el proceso tecnológico en curso en la dirección de la fraternidad y la paz universales.
En este contexto, su Conferencia contribuye a aumentar la capacidad de captar los aspectos positivos de la IA y de conocer, mitigar y gobernar los riesgos, dialogando con el mundo de la ciencia para identificar conjuntamente los límites que deben ponerse a la innovación si es perjudicial para la humanidad.
Stephen Hawking, célebre cosmólogo, físico y matemático, declaró: «El desarrollo de una IA plena podría significar el fin de la raza humana… despegaría por sí sola y se reproduciría a un ritmo cada vez mayor. Los humanos, limitados por una evolución biológica lenta, no podrían competir y se verían superados» (entrevista de la BBC). ¿Es esto lo que queremos?
La pregunta básica que se plantea es la siguiente: ¿para qué sirve la IA? ¿Sirve para satisfacer las necesidades de la humanidad, para mejorar el bienestar y el desarrollo integral de las personas, o sirve para enriquecer y aumentar el ya elevado poder de unos pocos gigantes tecnológicos a pesar de los peligros para la humanidad? Y esta es la pregunta básica.
La respuesta depende de muchos factores y hay muchos aspectos que explorar. Me gustaría recordar algunos de ellos, como estímulo para su ulterior exploración.
* Debe explorarse en profundidad la delicada y estratégica cuestión de la responsabilidad por las decisiones tomadas utilizando IA; este aspecto desafía a varias ramas de la filosofía y el derecho, así como a disciplinas más específicas.
* Hay que identificar incentivos apropiados y una regulación eficaz, por un lado para estimular la innovación ética útil para el progreso de la humanidad, y por otro para prohibir o limitar los efectos indeseables.
* Todo el mundo de la educación, la formación y la comunicación debe iniciar un proceso coordinado para aumentar el conocimiento y la concienciación sobre cómo utilizar correctamente la IA y transmitir a las nuevas generaciones, desde la infancia, la capacidad crítica hacia esta herramienta.
* Deben evaluarse los efectos de la IA en el mundo laboral. Pido a los miembros de la Fundación Centesimus Annus y a todos los que participan en sus iniciativas que participen activamente, en sus respectivos ámbitos, en la exigencia de un proceso de reconversión profesional y en la adopción de formas que faciliten la recolocación de las personas despedidas en otras actividades.
* Deben examinarse detenidamente los efectos positivos y negativos de la IA en el ámbito de la seguridad y la privacidad.
* Los efectos sobre las capacidades relacionales y cognitivas de las personas y su comportamiento deben ser considerados y examinados en profundidad. No podemos aceptar que estas capacidades se vean reducidas o condicionadas por una herramienta tecnológica, es decir, por quienes la poseen y la utilizan.
* Por último -pero esta lista no pretende ser exhaustiva- debemos recordar el enorme consumo de energía necesario para desarrollar la IA, mientras la humanidad se enfrenta a una delicada transición energética.
Queridos amigos, es en el frente de la innovación tecnológica donde se jugará el futuro de la economía, de la civilización, de la propia humanidad. No debemos perder la oportunidad de pensar y actuar de un modo nuevo, con la mente, el corazón y las manos, para dirigir la innovación hacia una configuración centrada en la primacía de la dignidad humana. Esto no debe discutirse. Una innovación que fomente el desarrollo, el bienestar y la convivencia pacífica y proteja a los más desfavorecidos. Y esto requiere un entorno normativo, económico y financiero que limite el poder monopolístico de unos pocos y permita que el desarrollo beneficie a toda la humanidad.
Por eso espero que la Centesimus Annus siga abordando esta cuestión. Acojo con satisfacción el lanzamiento del segundo proyecto conjunto de investigación entre la Fundación y la Alianza Estratégica de Universidades Católicas de Investigación (SACRU) sobre «Inteligencia artificial y el cuidado de la casa común: un enfoque en los negocios, las finanzas y la comunicación», coordinado por la Sra. Tarantula. Por favor, ¡manténganme informado al respecto!
Y concluyo con una provocación: ¿estamos seguros de querer seguir llamando «inteligencia» a lo que no lo es? Es una provocación. Reflexionemos y preguntémonos si el mal uso de esta palabra tan importante, tan humana, no es ya una rendición al poder tecnocrático.
Os bendigo y os deseo lo mejor en vuestras actividades. Sigan trabajando con valentía, asuman riesgos. Y les pido por favor que recen por mí. Gracias.
