La encíclica papal y Bruselas (primera parte)

La doctrina moral de Magnifica Humanitas y el entramado normativo europeo coinciden en riesgos, poder y derechos, pero también divergen en ambición, alcance y dureza allí donde la técnica toca la verdad pública, el trabajo invisible, la guerra o la idea misma de lo humano. Podríamos decir que buena parte de ambos textos son superponibles y por tanto, en las antípodas de lo que Trump predica.

La comparación entre Magnifica Humanitas y la normativa europea sobre inteligencia artificial, ciberseguridad, plataformas, datos y trabajo no enfrenta dos mundos extraños entre sí. Al contrario: ambos conjuntos normativos miran buena parte de los mismos problemas, describen riesgos parecidos y buscan imponer límites al entusiasmo tecnológico de una época que suele llamar progreso a cualquier cosa que llegue envuelta en capital, servidores y relaciones públicas.

La diferencia no está tanto en el diagnóstico básico como en el punto desde el que cada uno interviene. La encíclica habla desde una lógica moral, antropológica y política; la Unión Europea, desde una lógica jurídica, técnica y administrativa. Una pregunta por el sentido, la otra por el cumplimiento. Una se pregunta qué clase de civilización está produciendo la inteligencia artificial; la otra intenta evitar, con desigual elegancia, que esa civilización estalle antes de pasar por ventanilla.

Conviene hacer primero una limpieza mínima del terreno. Si se quiere comparar seriamente la encíclica con el derecho europeo vigente, el ecosistema regulatorio actual no se agota en el Reglamento de IA de 2024, sino que incluye además NIS2, el Reglamento de Ciberresiliencia, el Reglamento DORA para finanzas, el Reglamento de Servicios Digitales, el RGPD, la directiva sobre trabajo en plataformas, la diligencia debida en sostenibilidad y la nueva regulación sobre trabajo forzoso.

Visto así, la comparación correcta no es entre la encíclica y una norma aislada, sino entre la encíclica y un bloque europeo que regula la técnica por piezas, casi siempre con espíritu de fontanero: cerrar fugas, repartir competencias, imponer controles, documentar responsabilidades y sancionar incumplimientos. No es poco, aunque tampoco equivalga a tener una filosofía. La filosofía nos la da la tercera Directiva.

En ese contexto, la primera conclusión es clara: sí, los desarrollos son en buena medida paralelos. La encíclica y la Unión Europea comparten la intuición de que la inteligencia artificial no puede quedar entregada a la espontaneidad del mercado, al supuesto autocontrol de las plataformas ni a la superstición bastante rentable de que toda innovación es buena mientras prometa eficiencia. También comparten la idea de que el problema ya no es solo técnico, sino institucional: quién decide, con qué datos, con qué controles, con qué sesgos, con qué consecuencias y en beneficio de quién. Donde la encíclica habla de dignidad, bien común y poder desordenado, la UE habla de gestión de riesgos, derechos fundamentales, obligaciones de proveedor, mitigación de daños y supervisión administrativa. Cambia el idioma, no el objeto.

La coincidencia es especialmente visible en la protección de la dignidad humana y de los derechos fundamentales. Magnifica Humanitas rechaza que el ser humano pueda ser reducido a un patrón conductual, a una puntuación o a una materia prima explotable por sistemas opacos de decisión. La persona, en el texto pontificio, no puede convertirse en simple variable de cálculo sin que la técnica se convierta, al mismo tiempo, en una forma de degradación política y moral. Ahí el paralelismo con el Reglamento de IA es evidente.

El AI Act se presenta precisamente como un marco para una IA “centrada en el ser humano” y digna de confianza, orientada a proteger salud, seguridad, derechos fundamentales, democracia, Estado de Derecho y medio ambiente. No solo declara esos fines, sino que prohíbe algunas prácticas particularmente intrusivas o abusivas, como ciertas formas de puntuación social, la explotación manipuladora de vulnerabilidades o determinados usos del reconocimiento emocional en el trabajo y en educación.

En este terreno, la UE y la encíclica no se contradicen: se refuerzan. La diferencia es que la encíclica formula un principio de civilización y el reglamento europeo lo trocea en artículos, anexos y obligaciones de conformidad, que es la manera que tiene Bruselas de decir casi lo mismo sin parecer que está escribiendo una homilía con notas al pie.

La convergencia también es fuerte en todo lo relativo a la gestión del riesgo, la seguridad, la trazabilidad y la responsabilidad. La encíclica insiste en que la tecnología no debe operar como fuerza autónoma ni como nuevo oráculo social, sino bajo vigilancia, con reglas comunes, con atribución clara de responsabilidades y con posibilidad de reconstruir decisiones y daños.

Ese impulso aparece convertido en arquitectura jurídica dentro del Reglamento de IA, que obliga a los sistemas de alto riesgo a incorporar mecanismos de gestión de riesgos, documentación técnica, gobernanza de datos, supervisión humana, precisión, robustez y ciberseguridad.

El Reglamento de Ciberresiliencia añade otra capa para productos con elementos digitales, y DORA hace lo propio en el sector financiero. Aquí la comparación deja poco margen para la duda: la encíclica pide un gobierno prudente de la tecnología y la UE construye, con su proverbial afición al detalle, una maquinaria de cumplimiento capaz de convertir esa prudencia en procedimientos verificables. Si se quisiera resumirlo con cierta crueldad, podría decirse que Roma ofrece la advertencia y Bruselas entrega el formulario.