La marcha que nadie eligió
Hay una forma de entender el momento histórico que estamos viviendo: la humanidad avanza hacia una civilización radicalmente nueva —lo que en mis libros llamo la Sociedad Hiperinteligente— sin haber decidido colectivamente hacia dónde avanza ni a qué ritmo.
Una definición operacional de inteligencia se refiere a ella como la capacidad de responder a los requerimientos que emergen del entorno, ya sea que la respuesta la genere un ser humano, otro ente biológico o un artefacto.
La Sociedad Hiperinteligente es el horizonte en el que la red entrelazada de inteligencias artificiales, seres humanos y sistemas biológicos alcanza una capacidad colectiva que ninguno de sus componentes posee por separado.
No se trata de la superinteligencia de la ciencia ficción —una sola IA que supera a toda la humanidad—. Es algo más sutil y profundo: una forma de inteligencia que solo existe en las relaciones entre los nodos de la red, en la manera en que se organizan y se orientan unos a otros.
El problema es que esta marcha avanza cojeando. Para entenderlo, conviene imaginar a la humanidad como un caminante que necesita dos pies para llegar a algún sitio.
Un pie es la inteligencia artificial, que avanza con una potencia extraordinaria, paso firme, ritmo acelerado.
El otro pie es la inteligencia colectiva democrática de las sociedades: nuestra capacidad para deliberar juntos, decidir juntos y corregir el rumbo juntos. Ese pie apenas se mueve.
Y cuando un caminante avanza con un pie veloz y otro casi inmóvil, no llega adonde quiere ir: llega adonde lo arrastra el pie más fuerte. Esta es la metáfora que recorre todo este texto, y la que, sin nombrarla así, también recorre la encíclica del Papa León XIV.
El 15 de mayo de 2026, el Papa León XIV firmó la encíclica Magnifica Humanitas —la magnífica humanidad—, el primer pronunciamiento papal dedicado íntegramente a la inteligencia artificial y a la dignidad humana. Es un texto de una hondura y una concreción notables: nombra la concentración del poder tecnológico, denuncia el trabajo invisible que sostiene a los sistemas de IA, llama a “desarmar” la inteligencia artificial y propone “reconstruir las murallas de Jerusalén” en lugar de seguir construyendo “la torre de Babel”.
Desde la tradición milenaria del Evangelio, la encíclica llega a conclusiones que dialogan estrechamente con las que, por años, he venido explorando en mis libros desde la tradición del pensamiento sociopolítico secular. No son las mismas conclusiones, ni hablan el mismo lenguaje. Pero apuntan en la misma dirección. Y esa coincidencia, entre tradiciones tan distintas, merece ser examinada con atención y con respeto.
Babel y la IA capturadora: dos nombres para una misma sombra
La imagen central de la encíclica es la oposición bíblica entre dos formas de construir. La torre de Babel: una obra de poder técnico sin orientación colectiva, que promete alcanzar el cielo pero termina en dispersión y confusión. La reconstrucción de Jerusalén en tiempos de Nehemías: una obra de responsabilidad compartida entre todo el pueblo —sacerdotes, artesanos, jefes de familia, mujeres y jóvenes—, ladrillo a ladrillo, tramo a tramo.
En el vocabulario que desarrollé en La Soberanía Colectiva —el cuarto libro de mi tetralogía— esta oposición se traduce así: IA capturadora frente a IA mediadora.
La IA capturadora es aquella que agrega voluntades colectivas pero las distorsiona en favor de quien la controla. No lo hace necesariamente por malicia: lo hace por diseño. Cuando el objetivo de un sistema es maximizar el tiempo de atención de los usuarios, el sistema aprenderá a servir ese objetivo con una eficiencia aterradora, independientemente de lo que haga con la salud mental de los jóvenes, la calidad del debate público o la cohesión de las comunidades.
“Una IA más moral no serviría de nada si esta moralidad la deciden unos pocos.” —León XIV, Magnifica Humanitas §107
Esta frase de la encíclica es la que más me detuvo al leerla. Porque condensa, en una sola línea, lo que yo desarrollo a lo largo de varios capítulos del libro: el problema no es una mala IA. El problema es que los límites éticos de la IA no pueden quedar como opciones voluntarias de las corporaciones que la diseñan. Tienen que convertirse en estructuras institucionales obligatorias y verificables.
El Papa lo formula desde el horizonte moral del Evangelio. Yo intento traducirlo al lenguaje de las instituciones. Son dos registros distintos, y la encíclica posee una autoridad y un alcance espiritual que mi análisis no aspira a tener. Pero, en lo esencial, ambos registros señalan la misma necesidad.
La democracia hiperinteligente no es el destino: es la carretera
Aquí quiero ser preciso sobre algo que a menudo se malinterpreta cuando hablo de Democracia Hiperinteligente.
No es el nombre de la sociedad a la que queremos llegar. Es el nombre del régimen político que hace posible que la marcha hacia la Sociedad Hiperinteligente sea democrática y no tecnocrática. Es la condición política sin la cual esa marcha produce concentración de poder en lugar de emancipación colectiva.
La marcha tiene cuatro etapas, y cada una se puede contar volviendo a la imagen del caminante.
La primera etapa —la actual— la he llamado simbiosis de aumento. La IA funciona aquí como una herramienta al servicio de quienes la controlan, amplificando su poder sin transformar la arquitectura democrática. Es la etapa del desequilibrio: el primer pie corre, el segundo apenas se mueve.
La segunda etapa, que he llamado Inteligencia Colectiva Institucionalizada, llega cuando las sociedades empiezan a construir mecanismos sólidos de deliberación ciudadana y rendición de cuentas sobre los algoritmos. Es la etapa en la que el segundo pie por fin se apoya en el suelo y que apenas está comenzando a materializarse en algunos países.
La tercera etapa es la Democracia Hiperinteligente propiamente dicha. Es aquella en que las instituciones se perfeccionan y se corrigen a sí mismas, la IA actúa como mediadora de la voluntad colectiva dentro de límites éticos garantizados, y ambos pies aprenden a moverse al mismo ritmo. Es la etapa de la coordinación, a la que aún no hemos llegado y urge avanzar.
La cuarta etapa es un horizonte a largo plazo: la inteligencia colectiva y la inteligencia artificial coevolucionan hasta el punto en que distinguirlas deja de ser útil. Esa es la Sociedad Hiperinteligente propiamente dicha: el caminante ya no piensa en sus pies, simplemente avanza.
La encíclica opera en el diagnóstico de la primera etapa y en la llamada a avanzar hacia la segunda. No utiliza el vocabulario de la tetralogía de mis libros, pero el argumento es el mismo: la humanidad necesita aprender a caminar con los dos pies coordinados antes de que el primer pie arrastre el conjunto hacia un precipicio que nadie eligió.
La intuición de la inteligencia colectiva, también en la tradición católica
Una de las cosas que más me sorprendió al leer Magnifica Humanitas fue descubrir hasta qué punto la tradición católica ya guardaba, desde mucho antes de la era digital, una intuición muy cercana a lo que llamamos Inteligencia Colectiva.
La encíclica no usa esa palabra. Pero cuando León XIV insiste en que la voluntad colectiva no puede ser decidida por unos pocos, y cuando propone una arquitectura de responsabilidad compartida siguiendo el modelo de Nehemías, está enunciando un principio que la teoría política contemporánea llama subsidiariedad: las decisiones se toman lo más cerca posible de las personas afectadas, no en una capa distante e impenetrable. Aplicado al mundo digital, ese principio es exactamente lo que falta.
Y hay algo aún más profundo. La teología católica reconoce que la verdad de la fe se manifiesta de dos maneras. La primera es la más conocida: la declaración ex cathedra del Papa, una autoridad solemne que en toda la historia solo se ha ejercido dos veces, para proclamar la Inmaculada Concepción y la Asunción de María. La segunda es menos conocida, pero no menos importante: el magisterio ordinario y universal, que se expresa cuando los obispos de todo el mundo, en comunión con el sucesor de Pedro, enseñan algo como definitivo.
Esta segunda forma de verdad no reside en una sola voz. Brota del consenso de toda la Iglesia, de lo que la tradición llama sensus fidelium: el sentido de los fieles, esa especie de brújula compartida que el conjunto del pueblo creyente conserva incluso cuando las voces individuales pueden equivocarse.
“El cuerpo de los fieles en su conjunto, ungido por el Espíritu Santo, no puede errar en cuestiones de fe.” —Lumen Gentium §12
Cuando leí esto con atención, entendí algo que la encíclica no dice explícitamente, pero que se desprende de su lógica. El sensus fidelium es, leído en términos seculares, una forma temprana y profunda de Inteligencia Colectiva: la verdad surge de la red y de las relaciones entre sus nodos, no de una sola voz acelerada por encima de las demás.
Aquí conviene marcar una diferencia importante, para no confundir lo que es propio de cada tradición. La tradición teológica confía en el Espíritu Santo como garante de que el conjunto del pueblo creyente no se equivoque en lo esencial; esa garantía pertenece a un horizonte de fe que está más allá de lo que cualquier propuesta institucional puede ofrecer. La propuesta secular que desarrollo en mis libros opera en un plano distinto y más modesto: confía en el diseño institucional —deliberación estructurada, transparencia algorítmica, mecanismos de corrección y rendición de cuentas— como garantía humana, falible y siempre perfectible, en el ámbito de las decisiones colectivas.
No se trata, por tanto, de que la encíclica y mi propuesta digan lo mismo. Operan en registros muy distintos. El Papa orienta las conciencias desde la hondura de una tradición de dos mil años y desde la autoridad espiritual del Magisterio. Yo propongo, mucho más modestamente, una arquitectura institucional concreta desde la responsabilidad técnica del análisis político. Pero ambos registros se reconocen mutuamente. Y ese reconocimiento es, en sí mismo, una manifestación viva del mismo fenómeno que las dos tradiciones intentan pensar: que la inteligencia auténtica nace de la coordinación entre nodos distintos de una red.
Caminar sobre dos pies: qué tendría que pasar realmente
Si la marcha hacia la Sociedad Hiperinteligente requiere coordinación entre los dos pies, ¿qué tendría que ocurrir realmente para que el segundo pie —la Inteligencia Colectiva democrática— comenzara a moverse al ritmo del primero?
En mi libro La Soberanía Colectiva propongo tres núcleos de arquitectura institucional que aquí me limitaré a presentar por sus nombres y su lógica esencial.
El primer núcleo son los límites éticos convertidos en arquitectura institucional. En lenguaje llano: que lo que hoy depende de la buena voluntad de las empresas tecnológicas pase a depender de la ley. Esto se traduce en leyes que exijan transparencia algorítmica; organismos de auditoría independientes con acceso real al código y a los datos de los sistemas de IA; mecanismos por los que cualquier ciudadano pueda apelar una decisión automatizada que le afecte; y responsabilidades civiles y penales claramente atribuidas a personas concretas. La encíclica formula el mismo requisito en clave moral: “marcos legales adecuados, supervisión independiente, una política que no renuncie a su tarea”.
El segundo núcleo es la deliberación colectiva a gran escala. Hasta ahora, cuando una sociedad tenía que tomar una decisión compleja, sus únicas herramientas eran las elecciones o las encuestas: instrumentos que reducen millones de voces a unas pocas opciones. Por primera vez en la historia, la IA usada como mediadora —no como dictadora— permite procesar genuinamente esa complejidad, escuchar matices y construir acuerdos sin aplanar a la gente. Y no es un sueño lejano: experiencias como el modelo de deliberación digital de vTaiwán, las grandes consultas de presupuesto participativo digital y las asambleas ciudadanas asistidas por síntesis algorítmica ya están funcionando. Son diseños institucionales probados que solo necesitan voluntad política y formalización legal para extenderse.
El tercer núcleo es la legitimidad distribuida. Plantea la pregunta más difícil de todas: ¿bajo qué condiciones puede ser legítima una decisión tomada con la participación de inteligencias artificiales? La respuesta que propongo descansa en cuatro criterios sencillos de enunciar y exigentes de cumplir:
- Trazabilidad: tiene que ser posible reconstruir cómo se llegó a la decisión, paso a paso.
- Representatividad: las voces que entraron en la deliberación deben reflejar de verdad al conjunto de los afectados, no solo a los más ruidosos.
- Reversibilidad: la decisión debe poder ser revisada o revocada sin un coste prohibitivo si la realidad demuestra que estaba equivocada.
- Responsabilidad humana identificable: detrás de cada decisión tiene que haber una persona concreta que rinde cuentas. Nunca un algoritmo.
La encíclica formula la misma exigencia en su propio lenguaje: hay que “identificar quién debe rendir cuentas” por las decisiones automatizadas.
Estos tres núcleos son aplicables a sistemas concretos. Nos permiten distinguir, en la práctica, las instituciones híbridas legítimas de meras fachadas de participación. Y juntos esbozan la arquitectura que el segundo pie necesita para empezar a moverse.
Lo que este momento nos pide
Si la marcha hacia la Sociedad Hiperinteligente ya ha comenzado —y todo indica que así es—, este momento histórico nos exige tareas diferentes según el lugar que ocupemos.
De las instituciones multilaterales —la ONU, las organizaciones internacionales, los foros de gobernanza global— pide algo que también pide la encíclica: que las reformas no sean ajustes técnicos, sino que aborden, como dice León XIV, “la crisis de convicciones e instituciones”. Esto significa tratados internacionales que reconozcan la transparencia algorítmica como un derecho humano de tercera generación; organismos multilaterales de auditoría con autoridad real sobre los sistemas de IA de impacto transnacional; marcos comunes para tratar los datos colectivos como bienes con destino universal en el sentido magistral del término.
A los gobiernos nacionales se les exige una tarea doble. Por un lado, legislar para hacer operativos, en el orden interno, los principios de la Democracia Hiperinteligente: autoridades nacionales de auditoría algorítmica independientes del poder ejecutivo, mecanismos institucionalizados de deliberación ciudadana asistidos por IA mediadora, un régimen legal para los datos colectivos que reconozca su carácter como un bien con función social. Por otro lado, participar activamente en la construcción de los marcos multilaterales, no esperar a que otros decidan por ellos.
A la ciudadanía se le pide algo más exigente y, a la vez, más cotidiano. Construir el segundo pie —la Inteligencia Colectiva organizada— no se hace solo desde los parlamentos. Se hace participando en los nuevos espacios de deliberación digital, sumando esfuerzo a las organizaciones ciudadanas que vigilan los sistemas de IA y cultivando una mirada crítica frente a los algoritmos que ya median nuestra vida pública —lo que vemos en redes sociales, lo que se nos recomienda comprar, leer o votar—. No basta con ser consumidores informados de tecnología. Hace falta ser ciudadanos de una democracia que está aprendiendo a caminar sobre sus dos pies.
La encíclica cierra con una imagen que también ilumina esta agenda: cada uno, en su propio ámbito, está llamado a elegir entre construir Babel o reconstruir Jerusalén. No es una decisión tomada una sola vez. Es una elección que se renueva cada día, en cada decisión institucional, en cada votación, en cada algoritmo que aceptamos o rechazamos en nuestras vidas.
Una intuición compartida, una marcha aún por hacer
Vuelvo al principio. La humanidad avanza hacia una nueva civilización sin haber decidido colectivamente hacia dónde avanza. Esa es la situación. Y dos tradiciones muy diferentes —la del Evangelio y la del pensamiento político secular— han llegado, por caminos completamente distintos, a una intuición compartida: que debemos aprender a caminar con los dos pies coordinados antes de que el primero nos arrastre.
La encíclica Magnifica Humanitas, de León XIV, formula esa intuición con la autoridad de una tradición de dos mil años. Mi tetralogía sobre la Sociedad Hiperinteligente —La Creación de Mundos, El Umbral, La Sociedad Hiperinteligente, La Soberanía Colectiva— se fue formulando con el vocabulario de la teoría sociopolítica contemporánea. Ninguna de las dos formulaciones agota la pregunta. Pero el hecho de que coincidan en lo esencial es, en sí mismo, una señal de que la cuestión está madura.
La marcha ya ha comenzado. La cuestión no es si vamos a llegar a la Sociedad Hiperinteligente: vamos a llegar, queramos o no. La cuestión es si llegaremos como caminantes que eligieron su destino o como pasajeros arrastrados por un pie que corre más rápido que el otro. La diferencia entre una cosa y la otra es la Democracia Hiperinteligente. Esa es la arquitectura que tenemos que construir, ladrillo a ladrillo, ahora.
Como dijo Nehemías a quienes reconstruyeron Jerusalén bajo amenaza: el pueblo tenía en la mente trabajar. Tenemos esa misma posibilidad.
Y como escribió Antonio Machado: “Caminante, no hay camino, se hace camino al andar”.
Lo que falta es decidir, colectivamente, hacia dónde queremos que ese camino nos lleve.
La serie de libros del autor relativos a este tema puede adquirirse en Amazon Kindle y está constituida por: La Creación de Mundos*, sobre el horizonte de posibilidades de solución de los males globales;* El Umbral*, sobre las capacidades y competencias para efectuar el tránsito a la sociedad cuántica;* La Sociedad Hiperinteligente*, sobre la posibilidad de una simbiosis productiva entre la inteligencia artificial y la inteligencia colectiva; y* La Soberanía Colectiva*, sobre cómo desarrollar una democracia hiperinteligente que haga posible la Sociedad Hiperinteligente.*