Seguir siendo humanos en la era de los algoritmos

En la era de la inteligencia artificial, en la que la dignidad humana corre el riesgo de verse eclipsada por las enormes concentraciones de poder tecnológico fuera de todo control y por nuevas formas de deshumanización, el Papa León nos recuerda el «deber urgente» de seguir siendo profundamente humanos. En la era de las polarizaciones y la violencia, que ve cómo se expande una «cultura del poder» con la guerra rehabilitada como instrumento de la política internacional, el Sucesor de Pedro nos pide que hagamos crecer la técnica «sin que el corazón retroceda». Nos invita a aceptar el límite y la fragilidad de la humanidad sin considerarlos, como hace la ideología tecnocrática, un error que hay que corregir. Nos exhorta a mirar el mundo no desde la perspectiva de los grandes, sino desde abajo, con los ojos de quienes sufren, partiendo de los últimos. Con los ojos de un Dios que ha tomado sobre sí nuestra debilidad transformándola en un lugar de salvación, porque «aunque las máquinas destaquen en eficiencia, el centro de la historia sigue siendo un rostro humano que pide ser mirado».

«Magnifica humanitas», la primera encíclica de León XIV, no es ante todo un texto analítico sobre la inteligencia artificial, no entra en los detalles de procesos que están en continua evolución. Es más bien una «summa», que aplica los principios de la Doctrina Social a nuestro tiempo, que es el tiempo de la IA, consolidando y actualizando los puntos cardinales del magisterio. Es un texto que pone fin también al malentendido de quienes, confiando en la absoluta libertad de los mercados y de las nuevas tecnologías, tienden a desestimar como enseñanza discutible el magisterio papal sobre la exigencia de un gobierno humano compartido de la IA, sobre la ecología integral, sobre las estructuras económicas que se convierten en «estructuras de pecado», sobre el no a la guerra.

El Papa, que ha tomado el nombre del autor de la «Rerum novarum», en la era de la revolución digital nos pide a cada uno de nosotros que asumamos un papel activo, porque la construcción de la «civilización del amor» se realiza gracias a «una suma de pequeñas y tenaces fidelidades», capaces de frenar la deshumanización. Una tarea, por tanto, que nos concierne a todos, y de cerca.

León nos recuerda que «las injusticias no nacen solo de las decisiones erróneas de los individuos, sino también de estructuras, mecanismos y ordenamientos económicos y culturales que producen desigualdad» y que «no es humano un desarrollo que aumenta el consumo de unos descargando los costes y las heridas sobre otros, o que relega regiones enteras a roles subordinados», como lamentablemente está ocurriendo hoy también en el ámbito de las nuevas tecnologías y de los recursos que estas requieren. En la encíclica se lee que es «doctrina cierta» de la Iglesia la función social de la propiedad privada, y hoy, entre los bienes universalmente destinados a todos, «debemos incluir también las nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos», para evitar que surjan o se consoliden nuevas formas de exclusión y privación de libertad. De hecho, la técnica no es un simple instrumento, y cuando se convierte en criterio, «acaba por establecer qué es lo que cuenta y qué puede descartarse», reduciendo «a las personas a engranajes de un sistema que debe ser cada vez más eficiente».

Hoy en día, el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo «no es prerrogativa de los Estados, sino de los grandes actores económicos y tecnológicos», que fijan las condiciones de acceso, las reglas de visibilidad y las propias posibilidades de participación. Cuando tal poder se concentra en unas pocas manos, «tiende a volverse opaco y a escapar al control público», conllevando el riesgo de un desarrollo distorsionado «que genera nuevas dependencias, exclusiones, manipulaciones y desigualdades».

El Papa, reiterando la superación de la teoría de la «guerra justa», pide que el uso de la inteligencia artificial en el ámbito bélico se someta a las más rigurosas restricciones éticas porque «no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable». Además, la inteligencia artificial se ha convertido en un elemento determinante para orientar la opinión pública mediante la manipulación de imágenes y contenidos, lo que hace cada vez más difícil distinguir lo verdadero de lo falso. Son muchas, además, las incógnitas que afectan al mercado laboral. La encíclica recuerda, a este respecto, que ya no es posible confiar únicamente en la «mano invisible» del mercado: es la política la que tiene la tarea de orientar las dinámicas económico-tecnológicas hacia el bien común, promoviendo el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación.

El Papa, reiterando la superación de la teoría de la «guerra justa», pide que el uso de la inteligencia artificial en el ámbito bélico se someta a las más rigurosas restricciones éticas porque «no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable»

Seguir siendo humanos, gobernar los procesos, evitar —también en este ámbito— los monopolios que acaban aumentando el poder de unos pocos a costa de la vida de muchos: el camino indicado por el Pontífice no levanta barricadas ni rechaza a priori el uso de la IA. Más bien señala sus numerosos aspectos positivos y sus muchas aplicaciones útiles, pero al mismo tiempo explica que no basta con plantearse una cuestión ética sobre el fin bueno o malo para el que se utiliza. De hecho, es indispensable intervenir antes y preguntarse también cómo se diseña un sistema y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían. Para ello se necesitan marcos jurídicos adecuados, una supervisión independiente, la educación de los usuarios y, sobre todo, una vez más, «una política que no renuncie a su tarea». De lo contrario, el cambio estará regido únicamente por lógicas tecnocráticas y se presentará como «necesario e inevitable», acabando así por imponer reglas «dictadas» por quienes poseen los datos, las infraestructuras y las capacidades de cálculo.

Es necesario, por tanto, «desarmar» a la IA, es decir, «romper esta equivalencia entre poder técnico y derecho a gobernar». No para renunciar a la tecnología, sino para impedir que domine a lo humano: hay que hacerla discutible, cuestionable y, por tanto, habitable. Precisamente para no renunciar a nuestra humanidad, tan frágil y tan «magnífica».

---

Fuente: www.vaticannews.va/es / Imagen: Pexels.