Inteligencia artificial y poder: una lectura de “Magnifica Humanitas” de León XIV

El poder y la política son dos conceptos estrechamente relacionados. El poder puede definirse como la capacidad de influir en el comportamiento de un individuo o de distintos sectores sociales de una comunidad. Por su parte, la política es la organización del poder dentro de una comunidad para tomar decisiones sobre aquello que es común a toda la sociedad.

A lo largo de la historia se produjeron transformaciones significativas que modificaron las relaciones de poder dentro de la economía y la política, afectando a las distintas civilizaciones. La existencia del poder y de las relaciones asimétricas de poder no constituye un fenómeno exclusivo de la sociedad contemporánea, sino una constante histórica: desde la relación entre amo y esclavo, rey y súbdito, o señor y vasallo en el feudalismo, hasta las dinámicas modernas entre Estado e individuo o capital y trabajo. El dominio sobre un factor de poder explica la causa o el efecto de la influencia sobre quienes se ejerce.

1. El poder y la justicia: Legitimidad y límites a lo largo de la historia

Ante la presencia del poder surge una pregunta fundamental: ¿todo ejercicio del poder puede ser considerado justo? ¿Qué condiciones hacen legítimo al poder, independientemente de quién lo ejerza y de la forma en que lo haga? Esto nos conduce al problema de la legitimidad y a los límites del poder: qué principios, instituciones o normas pueden regularlo.

Las relaciones de poder siempre han planteado inquietudes morales y éticas. Mientras que en la antigüedad el gobernante o emperador (como el faraón egipcio) se legitimaba por su supuesta condición divina —donde ante un dios solo cabía la sumisión—, en otras culturas aparecieron instancias críticas tempranas:

• El antiguo Israel: La autoridad de los reyes estaba vinculada a una legitimación religiosa mediante la unción, pero no era un poder absoluto. Los profetas actuaban como una instancia crítica frente al gobernante, recordándole que su autoridad estaba sometida a una ley divina superior. Como denunciaba el profeta Isaías: «¡Ay de los que dictan leyes injustas y de los que redactan decretos opresores, para apartar del juicio a los pobres y privar de su derecho a los humildes de mi pueblo!» (Is 10,1-2); o como señalaba Miqueas: «Practicar la justicia, amar la misericordia y caminar humildemente con tu Dios» (Mi 6,8). La autoridad no determina por sí misma lo que es justo; es la justicia la que permite juzgar moralmente el ejercicio de la autoridad.
• Grecia clásica: En Atenas se crearon instituciones como asambleas populares, tribunales y magistraturas donde el ciudadano participaba activamente para regular el ejercicio del poder.
• Edad Media: El poder real estaba limitado por la Iglesia, las costumbres, los fueros, la nobleza y las ciudades. En Inglaterra, el conflicto entre el rey Juan y los barones condujo a la Carta Magna de 1215, un antecedente fundamental del principio de que el poder político debe estar sometido a normas y mecanismos de control.
• La Modernidad y el Constitucionalismo: Entre los siglos XVII y XVIII, pensadores como John Locke, Montesquieu y Jean-Jacques Rousseau desarrollaron conceptos que influyeron en la Independencia de los Estados Unidos (1787) y la Revolución Francesa. De este proceso se consolidaron la soberanía popular, la división de poderes, los derechos individuales y el gobierno limitado.

2. La tensión entre el bien común y el interés particular

A través de este recorrido histórico emerge una pregunta central: ¿el poder concentrado se orienta al bien común o al interés de quienes lo poseen?

• Aristóteles y los griegos: En la Ética a Nicómaco y en su política, la vida buena se vincula con la virtud, la razón y la búsqueda del bien común dentro de la comunidad, considerando cómo las acciones individuales afectan a los demás.
• La Res Publica romana: Cicerón concibe la comunidad política no como una simple suma de individuos, sino como una asociación articulada por intereses comunes y un orden jurídico compartido.
• El Cristianismo y Tomás de Aquino: La tradición cristiana introduce la idea de que el bien comunitario es inseparable de la dignidad de cada persona. Tomás de Aquino formuló que la autoridad debe orientarse al bien de la comunidad y no al beneficio del gobernante.
• El Liberalismo Moderno: Con Locke, Rousseau y Hobbes surge la noción del contrato social y la legitimidad basada en el consentimiento de los gobernados, desencadenando la tensión contemporánea entre la libertad individual y el bien común.

La Revolución Industrial transformó radicalmente la matriz económica y social. Expandió la capacidad productiva, pero también generó nuevas asimetrías entre capital y trabajo. En 1891, el Papa León XIII abordó esta cuestión en la encíclica Rerum novarum, inicio de la Doctrina Social de la Iglesia. Años más tarde, Pío XI en Quadragesimo anno (1931) utilizó explícitamente el término «justicia social» para vincular la economía con el bien común.

3. La Inteligencia Artificial: La nueva estructura del poder contemporáneo

En la actualidad, la irrupción del mundo digital y las nuevas tecnologías plantean un nuevo desequilibrio de poder entre quienes dominan estas herramientas y los usuarios. Frente a esta realidad, el documento Magnifica Humanitas ofrece una lectura crítica sobre el impacto del desarrollo tecnológico.

La Inteligencia Artificial no es simplemente una herramienta técnica: es una nueva forma de poder.

• Concentración del poder: Magnifica Humanitas advierte que la IA tiende a incrementar la influencia de quienes ya poseen capital económico, infraestructura cognitiva y acceso masivo a datos. Pequeños grupos o corporaciones pueden orientar la información, el consumo, los procesos democráticos y la dinámica económica.
• Del poder tradicional al poder algorítmico: El poder tradicional buscaba controlar o castigar las acciones; el poder algorítmico puede anticipar, orientar y condicionar las decisiones de las personas antes de que se conviertan en actos. Cuando la IA decide sobre crédito, trabajo, salud, servicios o reputación, deja de ser un asunto informático para convertirse en un problema de derechos humanos y libertad.
• El fenómeno del «Tecno-feudalismo»: Diversos autores utilizan esta categoría interpretativa para señalar cómo grandes plataformas y propietarios de infraestructura digital concentran el capital tecnológico y cognitivo, reconfigurando la sociedad en torno a nuevas formas de dependencia.
• Diferencia entre IA e Inteligencia Humana: Magnifica Humanitas subraya una distinción esencial: la IA supera al ser humano en cálculo y procesamiento de datos, pero carece de experiencia corporal, conciencia moral, relaciones, responsabilidad y capacidad para comprender el sentido último de las situaciones.

4. Regulación, instituciones y el desafío de nuestro tiempo

Frente a esta concentración del poder tecnológico, han surgido diversos intentos de regulación jurídica y política. A nivel internacional, destacan los esfuerzos de la ONU, la UNESCO, la OCDE y el Consejo de Europa. Precisamente, el Convenio Marco sobre IA, Derechos Humanos, Democracia y Estado de Derecho (adoptado por el Consejo de Europa en 2024) representa el primer tratado internacional jurídicamente vinculante dedicado a garantizar la dignidad humana, la transparencia, la privacidad y la supervisión en el uso de la IA.

Sin embargo, el verdadero desafío de nuestra época es cultural y político. La cultura contemporánea, impulsada en parte por las propias plataformas digitales, promueve un descrédito hacia las instituciones tradicionales y el Estado regulador. Bajo un individualismo extremo, se suele presentar a los organismos internacionales y normativos como trabas burocráticas que entorpecen el progreso técnico.

Esto nos plantea el gran dilema actual: ¿quién puede poner límites al poder tecnológico cuando las instituciones tradicionales pierden legitimidad y la capacidad de las corporaciones tecnocráticas aumenta?

Conclusión

La historia demuestra que ninguna forma de poder ha sido aceptada indefinidamente como legítima por el solo hecho de poseer la fuerza para imponerse. Desde la crítica profética en el antiguo Israel hasta el constitucionalismo moderno, las sociedades han buscado principios e instituciones capaces de someter el poder a la justicia.

La Inteligencia Artificial no cambia la naturaleza de esta pregunta, pero sí su dimensión e inmediatez. La cuestión de fondo no es únicamente qué puede hacer la tecnología, sino quién controla ese poder, quién responde por sus decisiones, qué límites debe respetar y al servicio de qué concepción de la persona humana debe ser utilizada.

En este sentido, Magnifica Humanitas constituye un llamamiento a reafirmar la primacía de la persona humana frente al poder algorítmico, recordando que todo poder —incluido el tecnológico— debe permanecer subordinado a la justicia, la dignidad y el bien común.