Sebastien Rousseau
Contactar ›

Magnifica Humanitas: lectura desde la industria de la IA

El 25 de mayo de 2026, el Papa León XIV publicó la primera encíclica papal dedicada a la inteligencia artificial. Leída desde la industria tecnológica —no como doctrina, sino como marco ético— recoge las mismas inquietudes morales que acompañaron al tren, al automóvil, a la energía nuclear y a internet. Y aterriza, al final, en la esperanza.

21 min de lectura

Magnifica Humanitas: lectura desde la industria de la IA

El 25 de mayo de 2026, el Papa León XIV publicó Magnifica Humanitas, la primera encíclica papal dedicada a la inteligencia artificial (Vatican News). Leída desde la industria tecnológica —no como doctrina, sino como un marco ético insólitamente coherente para la era de la IA y la cuántica— recoge las inquietudes morales que acompañaron al tren, al automóvil, a la energía nuclear y a internet, y aterriza en la esperanza más que en el miedo.

Resumen ejecutivo / ideas clave

  • El 25 de mayo de 2026, el Papa León XIV publicó Magnifica Humanitas («Humanidad magnífica»), una encíclica de 42 300 palabras subtitulada Sobre la salvaguarda de la persona humana en el tiempo de la inteligencia artificial: la primera encíclica papal dedicada a la IA (Vatican News), firmada el 15 de mayo, 135.º aniversario de Rerum Novarum (1891) de León XIII, y presentada en el Vaticano junto a un cofundador de Anthropic (NCR).
  • Leída objetivamente desde el ámbito tecnológico, su tesis central es la que comparte cualquier ingeniero serio: la tecnología nunca es neutral, «adopta las características de quienes la conciben, financian, regulan y utilizan». No es una afirmación religiosa. Es una observación de diseño.
  • El documento traza un paralelismo deliberado con Rerum Novarum, que abordaba la Revolución Industrial. Ese paralelismo es la clave para leerla bien: toda tecnología transformadora —el tren, el automóvil, la energía nuclear, internet— llegó acompañada de inquietud moral, y en cada caso esa inquietud no fue ni mera histeria ni mero obstruccionismo, sino una señal de que la gobernanza debía alcanzar a la capacidad.
  • Su contribución más afilada es reformular la pregunta central. La elección, sostiene, «no es entre un “sí” o un “no” a la tecnología», sino entre construir Babel (uniformidad, idolatría del beneficio, la persona reducida a «datos y rendimiento») y reconstruir Jerusalén (comunión, responsabilidad compartida, voces plurales construyendo juntas). Para la industria, eso se traduce limpiamente en la diferencia entre IA extractiva e IA humana.
  • Su advertencia sobre transhumanismo y posthumanismo —la tentación de tratar los límites humanos (enfermedad, envejecimiento, vulnerabilidad) como defectos a optimizar— enlaza directamente con los temas explorados en el artículo de mayo de 2026 sobre Lucy en este sitio: la fantasía seductora del conocimiento migrando de la carne a la máquina.
  • La conclusión honesta es esperanzadora, no alarmista. El argumento más profundo de la encíclica es que el futuro de la IA no es clima que le ocurre a las personas, sino arquitectura hecha por personas: se diseña en cada revisión de arquitectura, ejecución de entrenamiento y decisión sobre qué optimizar y qué rechazar. Eso no es una advertencia. Es una invitación.

Una nota sobre cómo leer esto #

Esta no es una lectura teológica. La lente es la ingeniería: infraestructura de pagos, criptografía poscuántica, sistemas agénticos, el trabajo que preocupa a Magnifica Humanitas. La encíclica está dirigida, en sus propias palabras, «a todos los fieles católicos, a todos los cristianos y a los hombres y mujeres de buena voluntad» (Vatican.va), lo que avala la lectura laica que sigue.

Leído como razonamiento ético antes que como doctrina, el documento resulta coherente: más que la mayor parte de lo que la industria produce sobre sí misma, más honesto sobre la concentración del poder que la mayoría de libros blancos regulatorios, y más esperanzador que el discurso fatalista que ha dominado el comentario sobre la IA desde 2023.

Lo que la encíclica realmente dice #

El recurso de encuadre son dos imágenes bíblicas, y conviene entenderlas incluso para un lector enteramente laico, porque hacen un trabajo analítico real. La primera es la Torre de Babel: una sola lengua, una sola tecnología, una sola dirección, construida —en la lectura de la encíclica— sobre «la soberbia y la pretensión de autosuficiencia», un proyecto que «sacrifica la dignidad humana por la eficiencia». La segunda es la reconstrucción de los muros de Jerusalén bajo Nehemías: un proyecto que «reconstruye relaciones antes que reconstruir con piedras», donde el trabajo se distribuye por toda la comunidad y la diversidad pasa a ser un recurso en vez de una amenaza.

El movimiento decisivo de la encíclica es sostener que la elección real ante la era de la IA «no es entre un “sí” o un “no” a la tecnología, sino entre construir Babel o reconstruir Jerusalén». Este encuadre es más sofisticado que el binario aceleracionista contra apocalíptico en el que la industria lleva atascada. Rechaza tanto la posición tecnoutópica (que más capacidad es automáticamente bueno) como la del rechazo reflejo (que la tecnología es intrínsecamente corruptora). En lugar de ello sitúa el peso moral donde realmente está: en cómo se construye, financia, gobierna y usa.

A partir de ahí, el documento es estructuralmente disciplinado. Establece que la tecnología ha sido «una realidad profundamente humana, ligada a la autonomía y a la libertad del hombre» desde el principio y que, durante siglos, ha mejorado significativamente las condiciones de vida humanas: no se trata de un texto reaccionario. A continuación formula su observación central, la que debería detener a cualquier ingeniero honesto: en la práctica, la tecnología nunca es neutral, porque adopta las características de quienes la conciben, financian, regulan y utilizan. Advierte sobre un cambio estructural específico en el poder —que los principales motores del desarrollo son ahora actores privados, a menudo transnacionales, cuyos recursos y capacidad de intervención superan a los de muchos gobiernos— y advierte sobre un peligro antropológico específico: la reducción de la persona a «datos y rendimiento», el tratamiento de los límites humanos como defectos a eliminar por la vía de la ingeniería. Sus capítulos posteriores abordan la verdad como bien común, la dignidad del trabajo en tiempos de automatización y —con notable contundencia— el uso de la IA en la guerra y en las armas autónomas (TIME, CNN).

Esa es la arquitectura. La lectura desde la ingeniería viene a continuación.

La tecnología nunca es neutral: una observación de diseño, no un sermón #

La frase más importante de la encíclica, para un ingeniero, es la afirmación de que la tecnología «adopta las características de quienes la conciben, financian, regulan y utilizan». Despojada de su contexto, es sencillamente cierta, y lo es de un modo que el campo lleva una década reaprendiendo, lenta y costosamente.

Un algoritmo de recomendación optimizado para el engagement adopta las características de la métrica que se le dio; no «decide» radicalizar a nadie, pero descubrirá que la indignación retiene la atención y servirá más de ella. Un modelo de crédito entrenado con datos de préstamo históricamente sesgados adopta las características de esa historia; no «pretende» discriminar, pero lo hará. Un sistema de reconocimiento facial adopta las características del conjunto de datos con el que fue entrenado y de la institución que lo despliega: benigno en una app de fotos, otra cosa muy distinta en un contexto de vigilancia. Toda la disciplina de la seguridad de la IA, el alineamiento de la IA y la ingeniería de IA responsable es, en cierto sentido, una reformulación elaborada de la frase de la encíclica: los valores de quienes hacen y despliegan quedan inscritos en el artefacto, los pretendiera alguien o no.

Por eso el encuadre importa más que las conclusiones. La defensa retórica más común de la industria —«la tecnología es solo una herramienta, es neutral, depende de cómo la uses»— es precisamente la posición que la encíclica, y una década de experiencia dura de ingeniería, refuta. Las herramientas no son neutrales. Llevan las huellas de quienes las hicieron en sus valores por defecto, sus datos de entrenamiento, sus objetivos de optimización, sus modelos de acceso y los modelos de negocio que las financian. Reconocer esto no es ser antitecnológico. Es la condición previa para construir bien la tecnología.

El patrón: tren, automóvil, nuclear, internet #

Lo que da a la encíclica su verdadera fuerza interpretativa es su anclaje explícito en Rerum Novarum, la encíclica de 1891 de León XIII sobre la Revolución Industrial. Al firmar Magnifica Humanitas en el 135.º aniversario de aquel documento, León XIV plantea una tesis histórica deliberada: que la IA es «otra revolución industrial» y que la respuesta correcta no es ni frenarla ni adorarla, sino construir el andamiaje social y ético que permita que sus beneficios alcancen a todos y sus daños no recaigan sobre nadie.

Este es el marco correcto, y vale la pena ampliarlo, porque la historia resulta genuinamente reconfortante cuando se mira con claridad. Toda tecnología transformadora ha llegado arrastrando una nube de inquietud moral, y en cada caso esa inquietud llevaba una señal real.

Cuando el ferrocarril se extendió por Gran Bretaña en las décadas de 1830 y 1840, la opinión médica respetable sostenía que el cuerpo humano no podía sobrevivir a velocidades de 30 millas por hora: que los pasajeros se asfixiarían o que sus órganos resultarían dañados. Hubo sermones sobre la impiedad de semejante velocidad. La inquietud, en su forma literal, era un disparate. Pero por debajo había una preocupación real y legítima por la disrupción: el ferrocarril sí trastocó economías locales, sí concentró el capital de formas nuevas, sí exigió cuerpos jurídicos enteramente nuevos de seguridad escritos con la sangre de los primeros accidentes. La histeria era errónea; el instinto subyacente de que esto lo cambia todo y no estamos preparados era correcto.

Cuando llegó el automóvil, el patrón se repitió. Las Locomotive Acts del Reino Unido —las «Red Flag Acts»— exigían que una persona caminara delante de cada vehículo de motor portando una bandera roja. Hoy se las ridiculiza como obstrucción absurda, pero fueron un intento torpe y primero de responder a una pregunta genuina: ¿qué ocurre cuando personas particulares pueden mover maquinaria pesada por el espacio público compartido a velocidad letal? Costó décadas construir la respuesta: licencias, código de circulación, diseño viario, cinturones de seguridad, normas de choque. Los coches sí mataron a personas. La gobernanza, con el tiempo, alcanzó a la capacidad. No prohibimos el automóvil, ni lo dejamos correr sin freno; lo civilizamos.

La tecnología nuclear es el caso más difícil y el más instructivo. Aquí la inquietud no era en absoluto histérica: la tecnología sí podía acabar con la civilización, y dos veces en 1945 demostró su capacidad de borrar ciudades. Pero incluso aquí la historia no es una de pura catástrofe. La misma física nos dio una fuente de energía sin carbono que, por unidad de energía entregada, ha matado a menos personas que casi cualquier alternativa; el régimen de no proliferación, con toda su fragilidad, ha aguantado ochenta años contra predicciones rotundas de que no lo haría. Lo nuclear es el caso en el que más claramente está pensando el capítulo de la encíclica sobre armamento e IA, y es la advertencia correcta: una tecnología cuyos potenciales destructivo y creativo son ambos máximos y a la que solo hemos sobrevivido construyendo —de forma imperfecta, disputada, pero real— el andamiaje internacional para gobernarla.

Y luego internet: la que la mayoría hemos vivido. Las inquietudes tempranas (que pudriría la mente de los niños, destruiría la conexión humana real, ahogaría la verdad en el ruido) fueron descartadas como pánico moral por los tecnólogos, entre los que me incluyo. Con dos décadas de perspectiva, algunas de esas inquietudes parecen menos pánico y más reacción insuficiente: la economía de la atención, la polarización algorítmica, el colapso de una base factual compartida, los efectos documentados en la salud mental de los adolescentes. Internet aportó bienes asombrosos: acceso a la totalidad del conocimiento humano, el colapso de la distancia, la democratización de la voz. También causó daños reales que despachamos precisamente porque el encuadre tecnooptimista nos decía que el progreso se justificaba a sí mismo. La lección no es «los pesimistas tenían razón». Es que la inquietud era un dato y deberíamos haberla leído en lugar de descartarla.

Este es el patrón al que apunta Magnifica Humanitas, y por eso el documento no debe leerse como ludismo. En todos los casos, la inquietud moral que acompañó a la tecnología no fue ni mera histeria ni mera sabiduría. Fue una señal de que la capacidad había rebasado a la gobernanza y de que la brecha tenía que cerrarse mediante un esfuerzo humano deliberado. La encíclica es, en efecto, la inquietud moral temprana de la era de la IA, y el registro histórico dice que la respuesta correcta a tal inquietud no es despacharla como tecnofobia religiosa, sino leerla por la señal que transmite y cerrar la brecha de gobernanza más rápido que la última vez.

Donde toca la ingeniería financiera #

Dos preocupaciones específicas de la encíclica recaen directamente sobre la ingeniería de los sistemas financieros, y ambas merecen una respuesta de ingeniero antes que de creyente.

La primera es la concentración del poder en manos privadas y transnacionales. La observación de la encíclica de que los principales motores de esta tecnología son hoy actores privados cuya capacidad supera la de muchos Estados no es una tesis teológica; es una descripción precisa del panorama de la IA en 2026, y es exactamente la preocupación que atraviesa la arquitectura regulatoria que la industria intenta atender ahora mismo: las obligaciones para sistemas de alto riesgo del EU AI Act, exigibles desde el 2 de agosto de 2026; las disposiciones de DORA sobre riesgo de concentración con terceros; y los movimientos de nube soberana y de plano de control soberano cubiertos en los artículos de este sitio sobre arquitectura cloud e ingeniería agéntica. La encíclica y el EU AI Act están preocupados, notablemente, por lo mismo: que la capacidad sin rendición de cuentas concentra poder de formas que escapan a la gobernanza democrática. Una lo dice en el lenguaje de la doctrina social y el otro en el de las evaluaciones de conformidad. El diagnóstico es idéntico.

La segunda es la computación cuántica, que la encíclica no nombra pero cuya forma ética anticipa con precisión. La premisa de la migración poscuántica cubierta en Asegurar el libro mayor es que una capacidad ahora en construcción —un ordenador cuántico criptográficamente relevante— expondrá, cuando llegue, retrospectivamente todo lo cifrado bajo los supuestos actuales. «Harvest now, decrypt later» es, en clave laica, exactamente el tipo de poder sin sabiduría contra el que advierte la encíclica: una tecnología cuyas consecuencias llegan en un horizonte que rebasa a la preparación, en manos de quienes tienen los recursos para empuñarla primero. La insistencia de la encíclica en preguntar «¿hacia dónde vamos?» antes de que la sucesión de emergencias dicte el camino es, para un ingeniero de seguridad, buena práctica formulada como filosofía moral.

La tentación transhumanista y la lección de Lucy #

La encíclica reserva su crítica más penetrante para el transhumanismo y el posthumanismo: los relatos que tratan los límites humanos (enfermedad, envejecimiento, sufrimiento, vulnerabilidad) no como constitutivos de la condición humana, sino como defectos de ingeniería a la espera de una actualización. Su tesis, párrafo tras párrafo, es que los seres humanos a menudo florecen a través de sus limitaciones, y que una IA que nos tienta a «escapar de la limitación mediante la optimización» en lugar de apoyar «la apertura y la comunión» ha entendido mal para qué sirve una persona.

Esta es la seducción examinada en el artículo de mayo de 2026 sobre Lucy de Luc Besson en este sitio. La fantasía de la película —que la conciencia pudiera desbloquearse progresivamente hasta migrar, íntegra, de la carne a un pendrive— es la expresión más pura posible del sueño posthumanista que preocupa a la encíclica: conocimiento sin un sujeto que conoce, inteligencia sin encarnación, lo humano reducido a información extraíble. Aquel artículo sostenía que la fantasía es seductora precisamente porque halaga la incomodidad con los límites, y que la verdad más interesante es la contraria: los límites no son el error, son una parte enorme de donde vive el significado. La encíclica llega a la misma conclusión por otro camino. Que la lectura de un crítico de cine sobre un thriller de ciencia ficción y una encíclica papal lleguen al mismo lugar es algo que merece notarse: sugiere que la intuición no es parroquial a ninguno de los dos marcos.

Este es el punto en el que el lector laico y la encíclica pueden darse la mano sin que nadie tenga que convertirse. Creer que un ser humano es más que un conjunto de datos no requiere creer en un alma. Solo requiere observar que las cosas más significativas de una vida —el amor, el duelo, la lenta conquista de la sabiduría, la cercanía que hace posible la vulnerabilidad— no son problemas de optimización, y que una industria que las trate como problemas de optimización construirá herramientas que harán a las personas eficientes y solitarias. La encíclica lo nombra con una precisión inusual.

Un mensaje de esperanza: arquitectura, no clima #

El registro dominante del comentario sobre la IA desde 2023 ha sido el miedo. La encíclica, pese a todas sus advertencias, no es finalmente un documento temeroso: su movimiento de cierre se llama «el canto de esperanza» (Ascension Press), y esa esperanza vale la pena leerla con precisión de ingeniero.

La elección entre «construir Babel y reconstruir Jerusalén» no es una profecía sobre qué futuro entregará la tecnología. Es una afirmación de que el futuro se está construyendo y de que quienes lo construyen tienen agencia sobre su forma. Es algo que todo ingeniero sabe con las manos aunque nunca lo haya formulado así: el sistema hace aquello para lo que ha sido diseñado. El motor de recomendación optimiza aquello que se le ha dicho que optimice. El modelo encarna los valores con los que se le entrenó. El agente actúa dentro de los límites que se le dan. La IA no es clima que le ocurre a la gente. Es arquitectura, hecha por personas, y, en la imagen de la encíclica, las familias de Nehemías, cada una asignada a un tramo de la muralla.

Esa reformulación disuelve el falso fatalismo de buena parte del discurso actual. La pregunta «¿la IA será buena o mala para la humanidad?» está mal planteada, porque trata a la IA como una fuerza autónoma con trayectoria propia. La pregunta honesta es «¿qué se está construyendo, por quién, bajo qué restricciones?», y esa pregunta se responde a diario, en revisiones de diseño y decisiones de arquitectura y en las elecciones silenciosas sobre qué optimizar y qué rechazar.

El registro histórico es, en conjunto, reconfortante. El tren fue civilizado. El automóvil fue civilizado. La energía nuclear, contra todo pronóstico, ha sido contenida: el régimen de no proliferación, con toda su fragilidad, lleva ahora ochenta años aguantando contra predicciones rotundas de que no lo haría. Los daños de internet se están abordando, lenta y tardíamente. En todos los casos el bien se preservó y el daño se redujo no porque la tecnología llegase ya civilizada, ni porque gente angustiada la detuviese, sino porque constructores y ciudadanos asumieron la responsabilidad sobre la forma de la cosa. La IA y la computación cuántica son el tramo de muralla de la generación presente.

Qué significa esto según el rol del lector #

Las implicaciones de la encíclica varían según el papel.

Líderes y fundadores tecnológicos. La tesis «la tecnología nunca es neutral» es un mandato de gobierno, no una digresión filosófica. Los valores, los incentivos y el modelo de negocio que hay detrás de un sistema forman parte de su especificación, y fingir lo contrario ya no es creíble ante reguladores, opinión pública o ingenieros internos. Las instituciones que interioricen esto tratarán la ética como una preocupación arquitectónica, diseñada desde el principio, y no como una capa de relaciones públicas aplicada a posteriori.

Ingenieros e investigadores. La encíclica está, inesperadamente, del lado del argumento interno más importante del campo: que el cómo se construye una cosa importa tanto como si funciona. Empujar por el diseño más responsable, más auditable, más humano frente a la presión por enviar el extractivo es la obra que la encíclica describe como reconstruir Jerusalén. El argumento a favor de ese trabajo tiene ahora detrás la doctrina social católica junto al EU AI Act, DORA y diez años de aprendizaje pos-incidente.

Responsables de políticas y reguladores. La encíclica y el EU AI Act describen el mismo riesgo desde vocabularios distintos. La convergencia es una oportunidad: el encuadre moral puede construir la legitimidad pública que la regulación técnica, por sí sola, tiene dificultad para alcanzar. «Concentración de poder sin rendición de cuentas» es una abstracción; «Babel» es una historia, y las historias mueven a la gente a actuar.

El público más amplio: los «hombres y mujeres de buena voluntad» de la encíclica. La línea más afilada de la encíclica para el lector no especialista es que la mayoría de la gente está «mirando y esperando, observando desde lejos y limitándose a confiar en lo mejor». Esa actitud no es neutral: cuando se trata de infraestructura, la abstención es en sí misma una decisión sobre quién diseña los valores por defecto.

Conclusión #

Magnifica Humanitas será leída por la mayor parte de la industria tecnológica, si llega a leerse, como un documento religioso con escaso peso sobre la ingeniería. Sería un error. Leída como razonamiento ético antes que como doctrina, es una de las formulaciones más nítidas que se han hecho de lo que la industria más necesita escuchar y más se resiste a escuchar: que los artefactos que se construyen llevan los valores de quienes los hacen, lo admitan o no; que la capacidad ha vuelto a rebasar a la gobernanza; y que la brecha solo se cerrará mediante una elección humana deliberada. Lo dice en compañía de Rerum Novarum y de la larga historia de tecnologías —el tren, el automóvil, la energía nuclear, internet— que llegaron arrastrando inquietud moral y que, al final, no fueron ni detenidas ni adoradas, sino civilizadas por gente que asumió la responsabilidad sobre ellas.

Aterriza en la esperanza. El futuro de la IA y de la computación cuántica no es un pronóstico; es, en la expresión de la encíclica, «la obra de nuestro tiempo». A la luz de la historia, la brecha entre capacidad y gobernanza vuelve a ser cerrable —no perfectamente, no sin coste, pero cerrable— por el mismo mecanismo que la cerró para el tren, el automóvil, lo nuclear e internet: constructores y ciudadanos asumiendo la responsabilidad sobre la forma de la cosa. Esa es la nota correcta desde la que partir.

Preguntas frecuentes #

¿Qué es Magnifica Humanitas, en términos llanos?

Es la primera encíclica (la forma más autorizada de documento de enseñanza papal) dedicada íntegramente a la inteligencia artificial, publicada por el Papa León XIV el 25 de mayo de 2026. Con unas 42 300 palabras, subtitulada Sobre la salvaguarda de la persona humana en el tiempo de la inteligencia artificial, sitúa la IA dentro de la «doctrina social» de la Iglesia católica, el mismo cuerpo de enseñanza que comenzó con la encíclica de 1891 de León XIII sobre la Revolución Industrial, Rerum Novarum, en cuyo 135.º aniversario se firmó este documento. Está dirigida no solo a los católicos, sino explícitamente a «todos los hombres y mujeres de buena voluntad», lo que avala leerla, como hace este artículo, como un argumento ético laico y no solo religioso.

¿Por qué debería importarle a alguien de la industria tecnológica lo que dice una encíclica papal sobre la IA?

Porque es uno de los marcos éticos más coherentes e institucionalmente duraderos que se han producido para esta tecnología, y porque sus tesis centrales son correctas en sus propios términos. «La tecnología nunca es neutral» es una observación de diseño que toda la disciplina de la seguridad de la IA respalda implícitamente. La advertencia sobre el poder concentrándose en actores privados transnacionales es una descripción precisa del panorama de 2026 que el EU AI Act y DORA intentan abordar de forma independiente. No hace falta compartir la teología para encontrar útil el análisis, y los autores de la encíclica invitan explícitamente a esa clase de lectura.

¿Comparar la IA con el tren, el automóvil, lo nuclear e internet no es una forma de minimizar el riesgo?

Al contrario. El patrón histórico muestra que la inquietud moral que acompañó a cada tecnología transformadora llevaba una señal real: marcaba la brecha entre lo que la tecnología podía hacer y aquello para lo que nuestra gobernanza estaba preparada. En algunos casos (el tren) los miedos literales eran disparates, pero el instinto de que llegaba una disrupción era correcto. En otros (lo nuclear y, podría argumentarse, internet) la inquietud quedó corta y pagamos por descartarla. La lección no es que la IA sea inocua porque sobrevivimos a las anteriores. Es que sobrevivimos a las anteriores porque tomamos la inquietud en serio y cerramos la brecha de gobernanza deliberadamente, y deberíamos hacerlo más rápido esta vez.

¿Cómo enlaza esto con tu artículo anterior sobre Lucy?

La crítica de la encíclica al transhumanismo —el tratamiento de los límites humanos como defectos a optimizar— es la misma crítica que el artículo sobre Lucy hizo a la fantasía de esa película sobre la conciencia migrando de la carne a la máquina. Ambos llegan a la conclusión de que un ser humano es más que información extraíble, y de que los límites que nos tienta optimizar son una parte enorme de donde vive realmente el significado. Que la lectura de un crítico de cine y una encíclica papal lleguen a la misma conclusión por caminos distintos es señal de que la intuición es robusta y no parroquial.

¿En qué coinciden realmente la encíclica y el EU AI Act?

En la concentración del poder. La observación de la encíclica de que «los principales motores de esta tecnología son hoy actores privados, a menudo transnacionales, cuyos recursos y capacidad de intervención superan a los de muchos gobiernos» es, casi palabra por palabra, la inquietud estructural que subyace a las obligaciones para sistemas de alto riesgo del EU AI Act, a las disposiciones de DORA sobre riesgo de concentración con terceros y al movimiento de nube soberana que ahora reconfigura la contratación de infraestructura financiera. La encíclica llega a su conclusión por la doctrina social; la regulación llega por las evaluaciones de conformidad. El diagnóstico es idéntico.

¿Entonces el mensaje global es optimista o pesimista respecto a la IA?

Optimista, pero no ingenuamente. El argumento es que el futuro de la IA y de la computación cuántica no está predeterminado —se está construyendo ahora mismo, por decisiones humanas— y que la historia muestra que somos capaces de preservar el bien de una tecnología potente al tiempo que reducimos su daño, siempre que asumamos la responsabilidad sobre su forma en vez de tratarla como una fuerza autónoma. El miedo trata a la IA como clima. La esperanza la trata como arquitectura. La lectura honesta tanto de la encíclica como de la ingeniería es que es arquitectura, y que quienes la construyen pueden elegir construirla bien. Esa es una conclusión genuinamente esperanzadora, y es ganada y no soñada.

Referencias #

Última revisión .

Última revisión .