Sebastien Rousseau
Contattami ›

Magnifica Humanitas: lettura industriale della prima enciclica sull'IA

Il 25 maggio 2026 Papa Leone XIV ha pubblicato la prima enciclica papale dedicata all'intelligenza artificiale. Letta dall'interno dell'industria tecnologica — non come dottrina ma come quadro etico — riecheggia tutte le inquietudini morali che hanno accompagnato il treno, l'automobile, il nucleare e Internet. E approda, in conclusione, alla speranza.

20 min di lettura

Magnifica Humanitas: lettura industriale della prima enciclica papale sull'intelligenza artificiale

Il 25 maggio 2026 Papa Leone XIV ha pubblicato Magnifica Humanitas, la prima enciclica papale dedicata all'intelligenza artificiale (Vatican News). Letta dall'interno dell'industria tecnologica — non come dottrina, ma come quadro etico inusualmente coerente per l'era dell'IA e della quantistica — riecheggia le inquietudini morali che accompagnarono il treno, l'automobile, il nucleare e Internet, e approda alla speranza più che alla paura.

Sintesi esecutiva / Punti chiave

  • Il 25 maggio 2026 Papa Leone XIV ha pubblicato Magnifica Humanitas ("Magnifica umanità"), un'enciclica di 42.300 parole sottotitolata Sulla salvaguardia della persona umana nel tempo dell'intelligenza artificiale — prima enciclica papale dedicata all'IA (Vatican News), firmata il 15 maggio, 135° anniversario della Rerum Novarum di Leone XIII (1891), e presentata in Vaticano accanto a un cofondatore di Anthropic (NCR).
  • Letta oggettivamente dal versante tecnologico, la sua tesi centrale è quella che la maggior parte degli ingegneri seri già condivide: la tecnologia non è mai neutrale — "assume le caratteristiche di chi la idea, finanzia, regola e usa". Non è un'asserzione religiosa. È un'osservazione progettuale.
  • Il documento richiama in modo deliberato la Rerum Novarum, che affrontò la rivoluzione industriale. Quel parallelo è la chiave di lettura corretta: ogni tecnologia trasformativa — il treno, l'automobile, il nucleare, Internet — è arrivata accompagnata da inquietudine morale, e in ciascun caso l'inquietudine non era né pura isteria né pura ostruzione, ma un segnale che la governance doveva raggiungere la capacità.
  • Il contributo più tagliente è una riformulazione della domanda centrale. La scelta, sostiene, "non è tra un 'sì' o un 'no' alla tecnologia" ma tra costruire Babele (uniformità, idolatria del profitto, persona ridotta a "dato e prestazione") e ricostruire Gerusalemme (comunione, responsabilità condivisa, voci plurali che costruiscono insieme). Per l'industria si traduce con precisione nella differenza tra IA estrattiva e IA umana.
  • Il suo avvertimento su transumanesimo e postumanesimo — la tentazione di trattare i limiti umani (malattia, invecchiamento, vulnerabilità) come difetti da ottimizzare via — si collega direttamente ai temi esaminati nel pezzo di maggio 2026 su Lucy su questo sito: la fantasia seducente della conoscenza che migra dalla carne alla macchina.
  • La conclusione onesta è di speranza, non allarmistica. La tesi più profonda dell'enciclica è che il futuro dell'IA non è meteorologia che accade alle persone, ma architettura fatta dalle persone — progettata in ogni revisione dell'architettura, ciclo di addestramento e decisione su cosa ottimizzare e cosa rifiutare. Non è un avvertimento. È un invito.

Una nota su come leggere questo testo #

Non è una lettura teologica. La lente è ingegneristica — infrastrutture di pagamento, crittografia post-quantistica, sistemi agentici, il lavoro di cui Magnifica Humanitas si occupa. L'enciclica è indirizzata, nelle sue stesse parole, "a tutti i fedeli cattolici, a tutti i cristiani e agli uomini e donne di buona volontà" (Vatican.va), che è il mandato per la lettura laica che segue.

Letta come ragionamento etico anziché come dottrina, il documento è coerente — più di gran parte di quanto l'industria produca su sé stessa, più onesto sulla concentrazione del potere della maggior parte dei libri bianchi regolamentari, e più speranzoso del discorso di sapore catastrofico che ha dominato il commento sull'IA dal 2023.

Cosa dice davvero l'enciclica #

Il dispositivo retorico sono due immagini bibliche, e vale la pena comprenderle anche per un lettore del tutto laico, perché svolgono un lavoro analitico reale. La prima è la Torre di Babele: una sola lingua, una sola tecnologia, una sola direzione, costruita — nella lettura dell'enciclica — su "orgoglio e pretesa di autosufficienza", progetto che "sacrifica la dignità umana all'efficienza". La seconda è la ricostruzione delle mura di Gerusalemme sotto Neemia: progetto che "ricostruisce le relazioni prima di ricostruire con le pietre", in cui il lavoro è distribuito sull'intera comunità e la diversità diventa risorsa anziché minaccia.

La mossa cardine dell'enciclica è sostenere che la vera scelta davanti all'era dell'IA "non è tra un 'sì' o un 'no' alla tecnologia, ma piuttosto tra costruire Babele o ricostruire Gerusalemme". È una cornice più sofisticata del binario accelerazionista-catastrofista in cui l'industria si è incagliata. Rifiuta sia la posizione tecno-utopica (più capacità è automaticamente bene) sia quella di rifiuto riflesso (la tecnologia è intrinsecamente corruttrice). Colloca invece il peso morale dove davvero risiede: nel come la cosa viene costruita, finanziata, governata e usata.

Da lì, il documento è strutturalmente disciplinato. Stabilisce che la tecnologia è stata "una realtà profondamente umana, legata all'autonomia e alla libertà dell'uomo" sin dall'inizio, e che, nei secoli, ha significativamente migliorato le condizioni di vita umana — non è un testo reazionario. Formula poi la sua osservazione centrale, quella che dovrebbe inchiodare qualsiasi ingegnere onesto: in pratica, la tecnologia non è mai neutrale, perché assume le caratteristiche di chi la idea, finanzia, regola e usa. Avverte di uno spostamento strutturale specifico del potere — i principali motori dello sviluppo sono ora soggetti privati, spesso transnazionali, le cui risorse e capacità di intervento superano quelle di molti governi — e di un pericolo antropologico specifico: la riduzione della persona a "dato e prestazione", il trattamento dei limiti umani come difetti da progettare via. I capitoli successivi affrontano la verità come bene comune, la dignità del lavoro nel tempo dell'automazione e — con notevole forza — l'uso dell'IA in guerra e nelle armi autonome (TIME, CNN).

Questa è l'architettura. La lettura dal versante ingegneristico viene ora.

La tecnologia non è mai neutrale: un'osservazione progettuale, non una predica #

La singola frase più importante dell'enciclica, per un ingegnere, è l'affermazione che la tecnologia "assume le caratteristiche di chi la idea, finanzia, regola e usa". Tolto il contesto, è semplicemente vera, ed è vera in un modo che il settore sta riapprendendo lentamente e a caro prezzo da un decennio.

Un motore di raccomandazione ottimizzato per l'engagement assume le caratteristiche della metrica che gli è stata data; non "decide" di radicalizzare nessuno, ma scoprirà che l'indignazione trattiene l'attenzione e ne servirà di più. Un modello di credito addestrato su dati storicamente distorti assume le caratteristiche di quella storia; non "intende" discriminare, ma lo farà. Un sistema di riconoscimento facciale assume le caratteristiche del dataset su cui è stato addestrato e dell'istituzione che lo dispiega — benigno in un'app fotografica, qualcosa di tutt'altro in un contesto di sorveglianza. L'intera disciplina della sicurezza dell'IA, dell'allineamento dell'IA e dell'ingegneria responsabile dell'IA è, in un certo senso, una riformulazione elaborata della frase dell'enciclica: i valori di chi costruisce e di chi dispiega sono inscritti nel manufatto, che lo si intendesse o meno.

Per questo la cornice conta più delle conclusioni. La difesa retorica più ricorrente dell'industria — "la tecnologia è solo uno strumento, è neutrale, dipende da come la usi" — è precisamente la posizione che l'enciclica, e un decennio di dura esperienza ingegneristica, confutano. Gli strumenti non sono neutrali. Portano le impronte di chi li ha fatti nei loro default, nei dati di addestramento, negli obiettivi di ottimizzazione, nei modelli di accesso e nei modelli di business che li finanziano. Riconoscerlo non è essere antitecnologici. È la precondizione per costruire bene la tecnologia.

Il modello: treno, automobile, nucleare, Internet #

Ciò che dà all'enciclica il suo reale potere interpretativo è l'ancoraggio esplicito alla Rerum Novarum, l'enciclica di Leone XIII del 1891 sulla rivoluzione industriale. Firmando Magnifica Humanitas nel 135° anniversario di quel documento, Leone XIV avanza una tesi storica deliberata: l'IA è "un'altra rivoluzione industriale", e la risposta giusta non è né fermarla né venerarla, ma costruire l'impalcatura sociale ed etica che permetta ai suoi benefici di raggiungere tutti e ai suoi danni di non ricadere su nessuno.

È la cornice corretta, e vale la pena estenderla, perché la storia è genuinamente rassicurante una volta guardata con chiarezza. Ogni tecnologia trasformativa è arrivata trascinando una nube di inquietudine morale, e in ciascun caso l'inquietudine portava con sé un segnale reale.

Quando la ferrovia si diffuse in Gran Bretagna negli anni 1830 e 1840, l'opinione medica rispettabile sosteneva che il corpo umano non potesse sopravvivere a velocità di 30 miglia orarie — che i passeggeri sarebbero soffocati, o che i loro organi sarebbero stati danneggiati. Si fecero prediche sull'empietà di simile velocità. L'inquietudine era, nella sua forma letterale, un'assurdità. Ma sotto vi era una preoccupazione reale e legittima per la dirompenza: le ferrovie sconvolsero davvero le economie locali, concentrarono il capitale in modi nuovi, richiesero corpi del tutto nuovi di legislazione di sicurezza scritti con il sangue dei primi incidenti. L'isteria era sbagliata; l'istinto sottostante — questo cambia tutto e noi non siamo pronti — era giusto.

Quando arrivò l'automobile, il modello si ripeté. I Locomotive Acts del Regno Unito — i "Red Flag Acts" — esigevano che una persona camminasse davanti a ogni veicolo a motore portando una bandiera rossa. Derisi oggi come assurda ostruzione, erano un primo tentativo goffo di rispondere a una domanda autentica: cosa succede quando privati possono muovere macchinari pesanti attraverso lo spazio pubblico condiviso a velocità letale? Servirono decenni per costruire la risposta — patenti, codice della strada, progettazione stradale, cinture di sicurezza, standard di urto. Le auto uccisero persone. La governance, alla fine, raggiunse la capacità. Non abbiamo bandito l'automobile, e non l'abbiamo lasciata correre senza freni; l'abbiamo civilizzata.

La tecnologia nucleare è il caso più difficile e il più istruttivo. Qui l'inquietudine non era affatto isterica — la tecnologia poteva davvero porre fine alla civiltà, e due volte nel 1945 dimostrò la sua capacità di cancellare città. Ma anche qui la storia non è di pura catastrofe. La stessa fisica ci ha dato una fonte di energia senza emissioni di carbonio che, per unità di energia consegnata, ha ucciso meno persone di quasi qualsiasi alternativa; il regime di non proliferazione, con tutta la sua fragilità, ha tenuto per ottant'anni contro previsioni sicure di senso opposto. Il nucleare è il caso a cui il capitolo dell'enciclica sulle armi e l'IA sta più chiaramente pensando, ed è il monito giusto: una tecnologia il cui potenziale distruttivo e creativo sono entrambi massimi, e a cui siamo sopravvissuti solo costruendo — imperfettamente, in modo contestato, ma realmente — l'impalcatura internazionale per governarla.

E Internet — quella che molti di noi hanno vissuto. Le inquietudini iniziali (che avrebbe rovinato la mente dei bambini, distrutto la vera connessione umana, annegato la verità nel rumore) furono liquidate come panico morale dai tecnologi, me compreso. Con due decenni di senno di poi, alcune di quelle inquietudini sembrano meno panico e più sottostima: l'economia dell'attenzione, la polarizzazione algoritmica, il crollo di una base fattuale condivisa, gli effetti documentati sulla salute mentale degli adolescenti. Internet ha consegnato beni straordinari — accesso alla totalità della conoscenza umana, crollo della distanza, democratizzazione della voce. Ha anche fatto danni reali che abbiamo liquidato proprio perché la cornice tecno-ottimista ci diceva che il progresso si autogiustificava. La lezione non è "i pessimisti avevano ragione". È che l'inquietudine era un dato, e avremmo dovuto leggerla invece di liquidarla.

Questo è il modello che Magnifica Humanitas indica, ed è il motivo per cui il documento non va letto come luddismo. In ogni caso, l'inquietudine morale che accompagnò la tecnologia non era né pura isteria né pura saggezza. Era un segnale che la capacità aveva oltrepassato la governance, e che la distanza andava colmata con sforzo umano deliberato. L'enciclica è, in effetti, la prima inquietudine morale dell'era dell'IA — e la testimonianza storica dice che la risposta giusta a tale inquietudine non è liquidarla come tecnofobia religiosa, ma leggerla per il segnale che porta e chiudere il divario di governance più rapidamente di quanto facemmo l'ultima volta.

Dove tutto questo tocca l'ingegneria finanziaria #

Due delle preoccupazioni specifiche dell'enciclica ricadono direttamente sull'ingegneria dei sistemi finanziari, ed entrambe meritano la risposta di un ingegnere più che di un credente.

La prima è la concentrazione del potere in mani private e transnazionali. L'osservazione dell'enciclica secondo cui i principali motori di questa tecnologia sono ora attori privati la cui capacità eccede quella di molti Stati non è un'affermazione teologica; è una descrizione accurata del panorama dell'IA nel 2026, ed è precisamente la preoccupazione che attraversa l'architettura regolatoria che l'industria sta affannosamente cercando di rispettare — gli obblighi per i sistemi ad alto rischio dell'EU AI Act applicabili dal 2 agosto 2026, le disposizioni di DORA sul rischio di concentrazione di terze parti, e i movimenti del cloud sovrano e del piano di controllo sovrano trattati nei pezzi su architettura cloud e ingegneria agentica su questo sito. L'enciclica e l'EU AI Act sono, in modo notevole, preoccupati della stessa cosa: la capacità senza responsabilità concentra il potere in modi che sfuggono alla governance democratica. L'una lo dice nel linguaggio della dottrina sociale, l'altro nel linguaggio delle valutazioni di conformità. La diagnosi è identica.

La seconda è il calcolo quantistico, che l'enciclica non nomina ma di cui anticipa con precisione la forma etica. La premessa della migrazione post-quantistica trattata in Mettere in sicurezza il libro mastro è che una capacità ora in costruzione — un computer quantistico crittograficamente rilevante — quando arriverà esporrà retroattivamente tutto ciò che è stato cifrato secondo le ipotesi odierne. "Harvest now, decrypt later" è, in registro laico, esattamente il tipo di potere-senza-saggezza contro cui l'enciclica mette in guardia: una tecnologia le cui conseguenze arrivano su una linea temporale che oltrepassa la preparazione, nelle mani di chi ha le risorse per impugnarla per primo. L'insistenza dell'enciclica nel chiedere "dove stiamo andando?" prima che la successione di emergenze detti la rotta è, per un ingegnere della sicurezza, buona pratica resa filosofia morale.

La tentazione transumanista e la lezione di Lucy #

L'enciclica riserva la sua critica più scrutatrice al transumanesimo e al postumanesimo — le narrazioni che trattano i limiti umani (malattia, invecchiamento, sofferenza, vulnerabilità) non come costitutivi della condizione umana ma come difetti ingegneristici in attesa di un aggiornamento. La sua tesi, paragrafo dopo paragrafo, è che gli esseri umani spesso fioriscono attraverso i loro limiti, e che un'IA che ci tenta di "evadere dal limite attraverso l'ottimizzazione" anziché sostenere "apertura e comunione" ha frainteso a cosa serva una persona.

È la seduzione esaminata nel pezzo di maggio 2026 su Lucy di Luc Besson su questo sito. La fantasia del film — che la coscienza possa essere progressivamente sbloccata fino a migrare, completa, dalla carne a una chiavetta USB — è l'espressione più pura possibile del sogno postumanista di cui l'enciclica si preoccupa: conoscenza senza un soggetto che conosce, intelligenza senza incarnazione, l'umano ridotto a informazione estraibile. Quel pezzo sosteneva che la fantasia è seducente proprio perché lusinga il disagio verso i limiti, e che la verità più interessante è quella opposta — i limiti non sono il bug, sono in gran parte il luogo dove vive il significato. L'enciclica raggiunge la stessa conclusione per altra via. La lettura di un critico cinematografico di un thriller di fantascienza e un'enciclica papale che approdano nello stesso punto sono di per sé degne di nota: suggerisce che l'intuizione non è parrocchiale a nessuna delle due cornici.

È il punto in cui il lettore laico e l'enciclica possono stringersi la mano senza che nessuno debba convertirsi. Credere che un essere umano sia più di un dataset non richiede di credere in un'anima. Richiede solo di accorgersi che le cose più significative in una vita — l'amore, il lutto, la lenta conquista della saggezza, la prossimità che la vulnerabilità rende possibile — non sono problemi di ottimizzazione, e che un'industria che le tratta come tali costruirà strumenti che rendono le persone efficienti e sole. L'enciclica lo nomina con precisione inusuale.

Un messaggio di speranza: architettura, non meteorologia #

Il registro dominante del commento sull'IA dal 2023 è stato la paura. L'enciclica, malgrado tutti i suoi avvertimenti, non è infine un documento timoroso — il suo movimento conclusivo si intitola "il canto della speranza" (Ascension Press), e quella speranza va letta con precisione ingegneristica.

La scelta tra "costruire Babele e ricostruire Gerusalemme" non è una profezia su quale futuro la tecnologia consegnerà. È un'affermazione che il futuro è in costruzione, e che le persone che lo costruiscono hanno potere d'azione sulla sua forma. È qualcosa che ogni ingegnere sa nelle mani anche se non lo ha mai messo in queste parole: il sistema fa ciò che è progettato per fare. Il motore di raccomandazione ottimizza per ciò per cui gli è detto di ottimizzare. Il modello incarna i valori in esso addestrati. L'agente agisce entro i limiti che gli sono dati. L'IA non è meteorologia che capita alle persone. È architettura fatta dalle persone — e, nell'immagine dell'enciclica, le famiglie di Neemia, ciascuna assegnata a una sezione del muro.

Quella riformulazione dissolve il falso fatalismo presente in gran parte del discorso attuale. La domanda "l'IA sarà buona o cattiva per l'umanità?" è mal formata, perché tratta l'IA come una forza autonoma con una propria traiettoria. La domanda onesta è "cosa si sta costruendo, da chi, sotto quali vincoli?" — ed è una domanda a cui si risponde ogni giorno, in revisioni di progettazione e decisioni di architettura e nelle scelte silenziose su cosa ottimizzare e cosa rifiutare.

La testimonianza storica è, nel complesso, rassicurante. Il treno è stato civilizzato. L'automobile è stata civilizzata. Il nucleare, contro ogni previsione, è stato tenuto a freno — il regime di non proliferazione, con tutta la sua fragilità, è durato ottant'anni contro previsioni sicure di senso opposto. I danni di Internet vengono lentamente, tardivamente affrontati. In ogni caso il bene è stato preservato e il danno ridotto non perché la tecnologia sia arrivata pre-civilizzata, e non perché persone in ansia l'abbiano fermata, ma perché costruttori e cittadini si sono presi la responsabilità della forma della cosa. L'IA e il calcolo quantistico sono la sezione di muro di questa generazione.

Cosa significa per ciascun lettore #

Le implicazioni dell'enciclica differiscono a seconda del ruolo.

Leader tecnologici e fondatori. L'affermazione "la tecnologia non è mai neutrale" è un mandato di governance, non un inciso filosofico. I valori, gli incentivi e il modello di business dietro un sistema sono parte della sua specifica, e fingere il contrario non è più credibile per i regolatori, per il pubblico o per gli ingegneri interni all'azienda. Le istituzioni che lo interiorizzano tratteranno l'etica come una preoccupazione architettonica, progettata dall'inizio, non come uno strato di relazioni pubbliche applicato dopo.

Ingegneri e ricercatrici. L'enciclica è, inaspettatamente, dalla parte dell'argomento interno più importante del settore: il come una cosa è costruita conta quanto il se funziona. Spingere per la progettazione più responsabile, più verificabile, più umana contro la pressione a spedire quella estrattiva è il lavoro che l'enciclica descrive come ricostruire Gerusalemme. La causa di quel lavoro ora ha alle spalle, oltre all'EU AI Act, DORA e dieci anni di apprendimento post-incidente, anche la dottrina sociale cattolica.

Decisori politici e regolatori. L'enciclica e l'EU AI Act descrivono lo stesso rischio con vocabolari diversi. La convergenza è un'opportunità: la cornice morale può costruire la legittimità pubblica che la regolazione tecnica, da sola, fatica a raggiungere. "Concentrazione di potere non responsabile" è un'astrazione; "Babele" è una storia, e le storie muovono le persone all'azione.

Il pubblico più ampio — gli "uomini e donne di buona volontà" dell'enciclica. La frase più tagliente dell'enciclica per il lettore non specialista è che la maggior parte delle persone sta "osservando e aspettando, guardando da lontano e semplicemente sperando per il meglio". Quella postura non è neutrale: in materia di infrastrutture, l'astensione è essa stessa una scelta su chi può progettare i default.

Conclusione #

Magnifica Humanitas sarà letta dalla maggior parte dell'industria tecnologica, se mai sarà letta, come un documento religioso con scarsa rilevanza per l'ingegneria. Sarebbe un errore. Letta come ragionamento etico anziché come dottrina, è tra le formulazioni più nitide finora fatte della cosa che l'industria più ha bisogno di sentire e più resiste a sentire: i manufatti in costruzione portano i valori di chi li costruisce, lo ammetta o no chi li costruisce; la capacità ha di nuovo oltrepassato la governance; quel divario sarà chiuso solo da una scelta umana deliberata. Lo dice in compagnia della Rerum Novarum e della lunga storia delle tecnologie — il treno, l'automobile, il nucleare, Internet — arrivate trascinando inquietudine morale e infine né fermate né venerate ma civilizzate da persone che se ne sono assunte la responsabilità.

Approda alla speranza. Il futuro dell'IA e del calcolo quantistico non è una previsione; è, nell'espressione dell'enciclica, "il cantiere del nostro tempo". Sulla testimonianza della storia, il divario tra capacità e governance è di nuovo colmabile — non perfettamente, non senza costo, ma colmabile, con lo stesso meccanismo che lo colmò per il treno, l'automobile, il nucleare e Internet: costruttori e cittadini che si assumono la responsabilità della forma della cosa. È la nota giusta da cui partire.

Domande frequenti #

Cos'è Magnifica Humanitas, in termini chiari?

È la prima enciclica (la forma più autorevole di documento magisteriale papale) dedicata interamente all'intelligenza artificiale, pubblicata da Papa Leone XIV il 25 maggio 2026. Lunga circa 42.300 parole, sottotitolata Sulla salvaguardia della persona umana nel tempo dell'intelligenza artificiale, colloca l'IA nella "dottrina sociale" della Chiesa cattolica — lo stesso corpo di magistero che ebbe inizio con l'enciclica di Leone XIII del 1891 sulla rivoluzione industriale, Rerum Novarum, nel cui 135° anniversario questo documento è stato firmato. È indirizzata non solo ai cattolici ma esplicitamente a "tutti gli uomini e donne di buona volontà", che è il mandato per leggerla, come fa questo articolo, come argomento etico laico e non solo religioso.

Perché qualcuno nell'industria tecnologica dovrebbe interessarsi a ciò che un'enciclica papale dice dell'IA?

Perché è uno dei quadri etici più coerenti e istituzionalmente durevoli che siano stati prodotti per questa tecnologia, e perché le sue tesi centrali sono corrette nei loro stessi termini. "La tecnologia non è mai neutrale" è un'osservazione progettuale che l'intera disciplina della sicurezza dell'IA implicitamente sostiene. L'avvertimento sulla concentrazione del potere in attori transnazionali privati è una descrizione accurata del panorama del 2026 che l'EU AI Act e DORA stanno indipendentemente cercando di affrontare. Non occorre condividere la teologia per trovare utile l'analisi — e gli autori dell'enciclica invitano esplicitamente proprio a quel tipo di lettura.

Confrontare l'IA al treno, all'automobile, al nucleare e a Internet non è un modo per minimizzare il rischio?

Al contrario. Il modello storico mostra che l'inquietudine morale che accompagnava ogni tecnologia trasformativa portava un segnale reale — segnava il divario tra ciò che la tecnologia poteva fare e ciò a cui la nostra governance era pronta. In alcuni casi (il treno) le paure letterali erano insensate ma l'istinto che la dirompenza era in arrivo era giusto. In altri (il nucleare, e forse Internet) l'inquietudine fu sottostimata, e abbiamo pagato per averla liquidata. La lezione non è che l'IA è innocua perché siamo sopravvissuti alle altre. È che siamo sopravvissuti alle altre prendendo sul serio l'inquietudine e chiudendo deliberatamente il divario di governance — e che dovremmo farlo più rapidamente questa volta.

Come si collega questo al tuo articolo precedente su Lucy?

La critica dell'enciclica al transumanesimo — il trattamento dei limiti umani come difetti da ottimizzare via — è la stessa critica che il pezzo su Lucy muoveva alla fantasia di quel film sulla coscienza che migra dalla carne alla macchina. Entrambi arrivano alla conclusione che un essere umano è più di informazione estraibile, e che i limiti che siamo tentati di ingegnerizzare via sono in gran parte il luogo dove il significato vive davvero. La lettura di un critico cinematografico e un'enciclica papale che approdano alla stessa conclusione per vie diverse è segno che l'intuizione è robusta più che parrocchiale.

Dove l'enciclica e l'EU AI Act davvero concordano?

Sulla concentrazione del potere. L'osservazione dell'enciclica secondo cui "i principali motori di questa tecnologia sono ora soggetti privati, spesso transnazionali, le cui risorse e capacità di intervento superano quelle di molti governi" è, quasi parola per parola, l'inquietudine strutturale alla base degli obblighi per i sistemi ad alto rischio dell'EU AI Act, delle disposizioni di DORA sul rischio di concentrazione di terze parti e del movimento del cloud sovrano che sta rimodellando l'approvvigionamento dell'infrastruttura finanziaria. L'enciclica giunge alla sua conclusione attraverso la dottrina sociale; la regolazione vi giunge attraverso le valutazioni di conformità. La diagnosi è identica.

In sintesi, il messaggio complessivo è ottimista o pessimista sull'IA?

Ottimista, ma non ingenuamente. La tesi è che il futuro dell'IA e del calcolo quantistico non è predeterminato — è in costruzione, adesso, per scelta umana — e che la storia mostra che siamo capaci di preservare il bene di una tecnologia potente riducendone il danno, a patto di assumerci la responsabilità della sua forma anziché trattarla come una forza autonoma. La paura tratta l'IA come meteorologia. La speranza la tratta come architettura. La lettura onesta sia dell'enciclica sia dell'ingegneria è che si tratta di architettura, e che le persone che la costruiscono possono scegliere di costruirla bene. È una conclusione genuinamente speranzosa, e guadagnata anziché desiderata.

Riferimenti #

Ultima revisione .

Ultima revisione .