La ética en la era del algoritmo

Magnifica Humanitas, primera encíclica de León XIV, se sitúa con claridad en la tradición del pensamiento social de la Iglesia, pero introduce un desplazamiento significativo: identifica la inteligencia artificial no solo como innovación técnica, sino como eje de una nueva arquitectura del poder. En ese sentido, el documento no es meramente doctrinal, sino también una intervención directa en el debate público global contemporáneo.

La referencia a Rerum Novarum no es casual. Si aquella encíclica abordó los efectos sociales de la industrialización, la actual plantea un paralelismo con un proceso que, aunque menos visible, resulta potencialmente más profundo y estructural. La automatización de tareas cognitivas, la generación masiva de información y la progresiva delegación de decisiones en sistemas algorítmicos configuran un escenario en el que la relación entre tecnología y responsabilidad moral se vuelve absolutamente central.

Uno de los aspectos más contundentes del texto es la condena de las armas autónomas letales. León XIV establece un principio que trasciende la discusión técnica: la imposibilidad de legitimar moralmente una decisión de vida o muerte tomada por un sistema que carece de conciencia, voluntad y responsabilidad. Internacionalmente, donde estos sistemas ya se están desplegando, la encíclica introduce un marco normativo que, aunque no vinculante, posee capacidad de influir en el debate diplomático y jurídico global.

Aborda también la cuestión de la concentración del poder tecnológico. Sin referencias explícitas, la crítica apunta a las grandes plataformas que desarrollan y controlan modelos de inteligencia artificial a gran escala. La preocupación no es únicamente económica, sino institucional y política: cuando la mediación tecnológica condiciona el acceso a la información, el empleo o la deliberación pública, se plantean interrogantes sobre la calidad efectiva de los sistemas democráticos y su resiliencia.

Otros ejes relevantes son la desinformación y la manipulación, particularmente en relación con los menores. La capacidad de la inteligencia artificial para generar contenidos verosímiles a gran escala introduce un desafío cualitativo en la esfera pública. La distinción entre información y ficción se vuelve más difícil de sostener, afectando tanto a los procesos electorales como a la formación misma de la opinión pública y el juicio ciudadano.

La encíclica incorpora asimismo una dimensión ambiental que a menudo queda al margen del debate tecnológico dominante. El funcionamiento de los sistemas de inteligencia artificial depende de infraestructuras con un elevado consumo energético y material, lo que introduce tensiones adicionales en un contexto de transición ecológica. Esta perspectiva contribuye a matizar la idea de una digitalización inmaterial y subraya la necesidad de evaluar los costes reales del desarrollo tecnológico.

Desde el punto de vista conceptual, Magnifica Humanitas recurre a la imagen de la Torre de Babel para describir los riesgos de un progreso desvinculado de límites éticos compartidos. Más allá de su carácter simbólico, la referencia apunta a una cuestión de fondo: la relación entre capacidad técnica y legitimidad política. El hecho de que algo sea posible no implica necesariamente que sea aceptable ni deseable.

En el actual contexto geopolítico, marcado por conflictos en los que la inteligencia artificial ya desempeña un papel operativo, la encíclica introduce una voz que busca reorientar el debate hacia criterios normativos más exigentes. Su influencia dependerá, en última instancia, de la capacidad de actores políticos e institucionales para traducir estos principios en marcos regulatorios efectivos, coherentes y aplicables en escenarios reales.

Pero ahí reside, precisamente, la incomodidad del texto. Porque si se toma en serio, obliga a algo más que a declaraciones de intenciones. Obliga a elegir entre ventaja estratégica y límites éticos, entre eficiencia operativa y responsabilidad moral, entre una tecnología concebida como instrumento o como instancia que sustituye progresivamente al juicio humano en decisiones críticas.

No es una apelación abstracta ni retórica. Es una línea divisoria nítida. Y la experiencia reciente sugiere que, sin esa línea, la inercia no conduce a equilibrios virtuosos, sino a concentraciones de poder cada vez más difíciles de corregir y fiscalizar. Por eso, la relevancia de Magnifica Humanitas no se medirá por la adhesión retórica que suscite, sino por las resistencias concretas que provoque en actores con intereses creados.

Las nuevas élites tecnológicas han dejado de presentarse como innovadores para actuar, de facto, como poderes constituyentes sin control democrático efectivo. Deciden qué se ve, qué se oculta y, cada vez más, qué se considera verdadero, sin someterse a los contrapesos que exigen a las instituciones públicas. Su discurso de neutralidad no resulta verosímil: no gestionan herramientas, administran realidades y moldean percepciones colectivas con creciente impunidad.

Y en esa deriva, el riesgo no es solo la concentración de riqueza o de capacidad tecnológica, sino la privatización misma del criterio, del juicio y, en última instancia, de la verdad compartida. Frente a ello, la advertencia de León XIV no suena moralista ni abstracta, sino precisa y operativa: cuando el poder no reconoce límites, deja de ser progreso y empieza a convertirse, inevitablemente, en dominio.