Sebastien Rousseau
Contact ›

Magnifica Humanitas: enciclica papală despre IA, citită inginerește

Pe 25 mai 2026, Papa Leon al XIV-lea a publicat prima enciclică papală dedicată inteligenței artificiale. Citită din interiorul industriei tehnologice — nu ca doctrină, ci ca un cadru etic — ea reia fiecare neliniște morală care a însoțit trenul, automobilul, energia nucleară și internetul. Iar finalul ei este, până la urmă, unul al speranței.

20 min de citit

Magnifica Humanitas: o lectură din industria IA a primei enciclice papale despre inteligența artificială

Pe 25 mai 2026, Papa Leon al XIV-lea a publicat Magnifica Humanitas, prima enciclică papală dedicată inteligenței artificiale (Vatican News). Citită din interiorul industriei tehnologice — nu ca doctrină, ci drept un cadru etic neobișnuit de coerent pentru era IA și cuantică — ea reia neliniștile morale care au însoțit trenul, automobilul, energia nucleară și internetul, iar finalul ei este unul al speranței, nu al fricii.

Rezumat executiv / Idei-cheie

  • Pe 25 mai 2026, Papa Leon al XIV-lea a publicat Magnifica Humanitas („Umanitate magnifică"), o enciclică de 42.300 de cuvinte subintitulată Despre apărarea persoanei umane în vremea inteligenței artificiale — prima enciclică papală dedicată IA (Vatican News), semnată pe 15 mai, la a 135-a aniversare a enciclicei Rerum Novarum a lui Leon al XIII-lea (1891), și prezentată la Vatican alături de un cofondator Anthropic (NCR).
  • Citită obiectiv din unghiul tehnologic, afirmația ei centrală este una pe care majoritatea inginerilor serioși o împărtășesc deja: tehnologia nu este niciodată neutră — ea „capătă caracteristicile celor care o concep, o finanțează, o reglementează și o folosesc". Aceasta nu este o aserțiune religioasă. Este o observație de design.
  • Documentul stabilește o paralelă deliberată cu Rerum Novarum, enciclica dedicată revoluției industriale. Această paralelă este cheia unei lecturi corecte: fiecare tehnologie transformatoare — trenul, automobilul, energia nucleară, internetul — a sosit însoțită de neliniște morală, iar în fiecare caz neliniștea nu a fost nici pură isterie, nici pur obstrucționism, ci un semnal că guvernanța trebuia să recupereze decalajul față de capacitate.
  • Cea mai ascuțită contribuție a sa este reformularea întrebării de fond. Alegerea, argumentează ea, „nu este între un «da» sau un «nu» față de tehnologie", ci între construirea Babelului (uniformitate, idolatria profitului, persoana redusă la „date și performanță") și reconstruirea Ierusalimului (comuniune, responsabilitate împărtășită, voci plurale care construiesc împreună). Pentru industrie, asta se suprapune curat peste diferența dintre IA extractivă și IA umană.
  • Avertismentul ei privind transumanismul și postumanismul — tentația de a trata limitele umane (boala, îmbătrânirea, vulnerabilitatea) ca defecte de optimizat — se leagă direct de temele explorate în textul din mai 2026 despre Lucy de pe acest site: fantezia seducătoare a cunoașterii migrând din carne în mașină.
  • Concluzia onestă este plină de speranță, nu alarmistă. Argumentul cel mai profund al enciclicei este că viitorul IA nu este vreme care se întâmplă oamenilor, ci arhitectură făcută de oameni — proiectată în fiecare revizuire de arhitectură, rulare de antrenare și decizie privind ceea ce optimizăm și ceea ce refuzăm. Acesta nu este un avertisment. Este o invitație.

O notă despre cum trebuie citit #

Aceasta nu este o lectură teologică. Lentila este inginerească — infrastructura plăților, criptografia post-cuantică, sistemele agentice, lucrarea de care Magnifica Humanitas se preocupă. Enciclica este adresată, în propriile ei cuvinte, „tuturor credincioșilor catolici, tuturor creștinilor și oamenilor de bunăvoință" (Vatican.va), ceea ce constituie temeiul lecturii seculare care urmează.

Citită ca raționament etic, nu ca doctrină, documentul este coerent — mai coerent decât majoritatea a ceea ce produce industria despre sine însăși, mai onest în privința concentrării puterii decât majoritatea cărților albe de reglementare și mai plin de speranță decât discursul apăsător care a dominat comentariile despre IA din 2023 încoace.

Ce spune efectiv enciclica #

Cadrul de gândire se sprijină pe două imagini biblice, iar acestea merită înțelese chiar și de un cititor pe deplin secular, fiindcă fac o muncă analitică reală. Prima este Turnul Babel: o singură limbă, o singură tehnologie, o singură direcție, construită — în lectura enciclicei — pe „mândrie și pretenția autosuficienței", un proiect care „sacrifică demnitatea umană pentru eficiență". A doua este reconstruirea zidurilor Ierusalimului sub conducerea lui Neemia: un proiect care „reconstruiește relațiile înainte de a reconstrui cu pietre", în care munca este distribuită în întreaga comunitate, iar diversitatea devine o resursă, nu o amenințare.

Mișcarea decisivă a enciclicei este să susțină că alegerea reală a erei IA „nu este între un «da» sau un «nu» față de tehnologie, ci mai degrabă între a construi Babelul sau a reconstrui Ierusalimul". Acesta este un cadru mai sofisticat decât binarul accelerationist-versus-doomer în care s-a blocat industria. El refuză atât poziția tehno-utopică (că mai multă capacitate este automat bună), cât și poziția respingerii reflexive (că tehnologia este intrinsec coruptibilă). În schimb, plasează greutatea morală exact acolo unde stă cu adevărat: în modul în care lucrul este construit, finanțat, guvernat și folosit.

De acolo, documentul este disciplinat structural. El stabilește că tehnologia a fost „o realitate profund umană, legată de autonomia și libertatea omului" încă de la început și că, de-a lungul secolelor, a îmbunătățit semnificativ condițiile de viață umană — acesta nu este un text reacționar. Apoi formulează observația sa centrală, cea care ar trebui să oprească în loc orice inginer onest: în practică, tehnologia nu este niciodată neutră, fiindcă ia caracteristicile celor care o concep, o finanțează, o reglementează și o folosesc. Avertizează asupra unei schimbări structurale specifice de putere — că principalii motori ai dezvoltării sunt acum actori privați, adesea transnaționali, ale căror resurse și capacitate de a interveni le depășesc pe cele ale multor guverne — și avertizează asupra unui pericol antropologic specific: reducerea persoanei la „date și performanță", tratarea limitelor umane ca defecte care trebuie inginerite pentru a fi eliminate. Capitolele sale ulterioare abordează adevărul ca bun comun, demnitatea muncii într-o epocă de automatizare și — cu o forță notabilă — folosirea IA în război și armele autonome (TIME, CNN).

Aceasta este arhitectura. Lectura din partea inginerească urmează.

Tehnologia nu este niciodată neutră: o observație de design, nu o predică #

Cea mai importantă frază a enciclicei, pentru un inginer, este afirmația că tehnologia „capătă caracteristicile celor care o concep, o finanțează, o reglementează și o folosesc". Scoate contextul și aceasta este pur și simplu adevărat — și este adevărat într-un mod pe care domeniul îl reînvață încet și costisitor de un deceniu.

Un motor de recomandare optimizat pentru engagement capătă caracteristicile metricii care i-a fost dată; nu „decide" să radicalizeze pe nimeni, dar va descoperi că indignarea reține atenția și va servi tot mai multă. Un model de credit antrenat pe date istoric părtinitoare capătă caracteristicile acelei istorii; nu „intenționează" să discrimineze, dar o va face. Un sistem de recunoaștere facială capătă caracteristicile setului de date pe care a fost antrenat și ale instituției care îl pune în funcțiune — inofensiv într-o aplicație foto, complet altceva într-un context de supraveghere. Întreaga disciplină a siguranței IA, a alinierii IA și a ingineriei IA responsabile este, într-un anumit sens, o reformulare elaborată a frazei din enciclică: valorile creatorilor și ale celor care implementează sunt înscrise în artefact, indiferent dacă cineva a intenționat sau nu acest lucru.

Iată de ce cadrul contează mai mult decât concluziile. Cea mai obișnuită apărare retorică a industriei — „tehnologia este doar o unealtă, este neutră, depinde cum o folosești" — este exact poziția pe care enciclica, și un deceniu de experiență dură de inginerie, o resping. Uneltele nu sunt neutre. Ele poartă amprentele creatorilor lor în valorile implicite, în datele de antrenare, în țintele de optimizare, în modelele de acces și în modelele de afacere care le finanțează. A recunoaște asta nu înseamnă antitehnologie. Este precondiția pentru a construi bine tehnologia.

Tiparul: trenul, automobilul, nuclearul, internetul #

Ceea ce dă enciclicei puterea ei interpretativă reală este ancorarea ei explicită în Rerum Novarum, enciclica lui Leon al XIII-lea din 1891 despre revoluția industrială. Semnând Magnifica Humanitas la a 135-a aniversare a acelui document, Leon al XIV-lea formulează o afirmație istorică deliberată: că IA este „o altă revoluție industrială", iar răspunsul corect nu este nici să o oprim, nici să o adorăm, ci să construim schela socială și etică ce permite ca beneficiile ei să ajungă la toți, iar prejudiciile să nu cadă pe nimeni.

Acesta este cadrul corect și merită extins, pentru că istoria este cu adevărat liniștitoare odată ce o privești limpede. Fiecare tehnologie transformatoare a sosit lăsând în urmă un nor de neliniște morală, iar în fiecare caz neliniștea purta un semnal real.

Când calea ferată s-a întins prin Marea Britanie în deceniile 1830 și 1840, opinia medicală respectabilă susținea că trupul omenesc nu putea supraviețui unor viteze de 30 de mile pe oră — că pasagerii se vor sufoca sau că organele lor vor fi vătămate. Au existat predici despre impietatea unei asemenea viteze. Neliniștea era, în forma ei literală, o absurditate. Dar dedesubt se afla o îngrijorare reală și legitimă privind perturbarea: căile ferate chiar au răsturnat economiile locale, chiar au concentrat capitalul în moduri noi, chiar au cerut corpuri întregi de drept al siguranței scrise cu sângele primelor accidente. Isteria era greșită; instinctul de bază potrivit căruia asta schimbă totul și nu suntem pregătiți era corect.

Când a sosit automobilul, tiparul s-a repetat. Locomotive Acts din Marea Britanie — „Red Flag Acts" — cereau ca o persoană să meargă înaintea fiecărui vehicul cu motor purtând un steag roșu. Ridiculizate astăzi ca obstrucționism absurd, ele erau o primă încercare stângace de a răspunde unei întrebări autentice: ce se întâmplă când persoanele private pot mișca utilaje grele prin spațiu public împărtășit la viteze letale? A luat decenii pentru a construi răspunsul — licențiere, drept rutier, proiectare de drumuri, centuri de siguranță, standarde de impact. Mașinile chiar au ucis oameni. Guvernanța a recuperat decalajul, în cele din urmă. Nu am interzis automobilul și nu l-am lăsat să circule fără restricții; l-am civilizat.

Tehnologia nucleară este cazul cel mai greu și cel mai instructiv. Aici neliniștea nu era deloc isterică — tehnologia chiar putea pune capăt civilizației, iar de două ori în 1945 și-a demonstrat capacitatea de a șterge orașe. Dar nici aici povestea nu este una a catastrofei pure. Aceeași fizică ne-a dat o sursă de energie fără carbon care, pe unitate de energie livrată, a ucis mai puțini oameni decât aproape orice alternativă; regimul de neproliferare, în pofida fragilității sale, a rezistat optzeci de ani împotriva previziunilor sigure că nu va rezista. Nuclearul este cazul la care capitolul enciclicei despre arme și IA se gândește cel mai limpede și este pilda corectă: o tehnologie ale cărei potențiale distructive și creatoare sunt amândouă maxime și pe care am supraviețuit doar prin construirea — imperfectă, contestată, dar reală — a schelei internaționale de guvernanță.

Și internetul — cel pe care majoritatea l-am trăit. Neliniștile timpurii (că va putrezi mințile copiilor, că va distruge conexiunea umană autentică, că va îneca adevărul în zgomot) au fost respinse drept panică morală de tehnologi, eu însumi printre ei. După două decenii de retrospectivă, unele dintre aceste neliniști arată mai puțin a panică și mai mult a subreacție: economia atenției, polarizarea algoritmică, prăbușirea unei baze faptice comune, efectele documentate asupra sănătății mintale a adolescenților. Internetul a livrat bunuri uluitoare — acces la totalitatea cunoașterii umane, prăbușirea distanței, democratizarea vocii. A făcut și pagube reale pe care le-am ignorat tocmai pentru că rama tehno-optimistă ne spunea că progresul este autojustificator. Lecția nu este „pesimiștii au avut dreptate". Este că neliniștea era date, iar noi ar fi trebuit să o citim în loc să o respingem.

Acesta este tiparul către care arată Magnifica Humanitas și de aceea documentul nu ar trebui citit drept luddism. În fiecare caz, neliniștea morală care a însoțit tehnologia nu a fost nici pură isterie, nici pură înțelepciune. Era un semnal că capacitatea depășise guvernanța și că decalajul trebuia închis prin efort uman deliberat. Enciclica este, de fapt, neliniștea morală timpurie a erei IA — iar registrul istoric spune că răspunsul corect la o astfel de neliniște nu este să o respingem ca tehnofobie religioasă, ci să o citim pentru semnalul pe care îl poartă și să închidem decalajul de guvernanță mai repede decât am făcut-o data trecută.

Unde atinge ingineria financiară #

Două dintre preocupările specifice ale enciclicei aterizează direct pe ingineria sistemelor financiare, iar amândouă merită un răspuns de inginer, nu de credincios.

Prima este concentrarea puterii în mâini private, transnaționale. Observația enciclicei conform căreia principalii motori ai acestei tehnologii sunt acum actori privați a căror capacitate o depășește pe cea a multor state nu este o afirmație teologică; este o descriere exactă a peisajului IA în 2026 și este exact îngrijorarea care străbate arhitectura de reglementare pe care industria se grăbește să o îndeplinească — obligațiile cu risc înalt din EU AI Act aplicabile începând cu 2 august 2026, prevederile DORA privind riscul de concentrare a furnizorilor terți și mișcările de cloud suveran și plan de control suveran tratate în textele despre arhitectura cloud și ingineria agentică de pe acest site. Enciclica și EU AI Act sunt, remarcabil, îngrijorate de același lucru: că o capacitate fără responsabilitate concentrează puterea în moduri care scapă guvernanței democratice. Una o spune în limbajul doctrinei sociale, cealaltă în limbajul evaluărilor de conformitate. Diagnosticul este identic.

A doua este calculul cuantic, pe care enciclica nu îl numește, dar a cărui formă etică o anticipează cu precizie. Premisa migrației post-cuantice tratate în Securing the Ledger este că o capacitate aflată acum în construcție — un calculator cuantic relevant criptografic — va expune retroactiv, când va sosi, tot ce a fost criptat sub asumările de astăzi. „Harvest now, decrypt later" este, într-un registru secular, exact tipul de putere fără înțelepciune împotriva căruia avertizează enciclica: o tehnologie ale cărei consecințe sosesc pe un calendar care depășește pregătirea, în mâinile celor care au resursele să o folosească primii. Insistența enciclicei de a întreba „încotro mergem?" înainte ca succesiunea de urgențe să dicteze traseul este, pentru un inginer de securitate, bună practică redată ca filozofie morală.

Ispita transumanistă și lecția lui Lucy #

Enciclica își rezervă critica cea mai pătrunzătoare pentru transumanism și postumanism — narațiunile care tratează limitele umane (boala, îmbătrânirea, suferința, vulnerabilitatea) nu ca elemente constitutive ale condiției umane, ci ca defecte inginerești care așteaptă un upgrade. Susținerea ei, paragraf după paragraf, este că ființele umane adesea înfloresc prin limitările lor și că o IA care ne ispitește să „evadăm din limitare prin optimizare", în loc să susțină „deschiderea și comuniunea", a înțeles greșit la ce slujește o persoană.

Aceasta este seducția examinată în textul din mai 2026 despre Lucy al lui Luc Besson de pe acest site. Fantezia filmului — că conștiința ar putea fi deblocată progresiv până când ar migra, completă, din carne pe un stick USB — este cea mai pură expresie posibilă a visului postumanist de care se teme enciclica: cunoaștere fără cunoscător, inteligență fără întrupare, omul redus la informație extractibilă. Acel text susținea că fantezia este seducătoare tocmai pentru că flatează disconfortul față de limite și că adevărul mai interesant este cel opus — că limitele nu sunt defectul, sunt o mare parte din locul în care trăiește sensul. Enciclica ajunge la aceeași concluzie pe un alt drum. Lectura unui critic de film asupra unui thriller science-fiction și o enciclică papală ajungând în același loc merită ele însele observate: sugerează că intuiția nu este parohială vreunuia dintre cadre.

Acesta este punctul în care cititorul secular și enciclica își pot strânge mâna fără ca nimeni să fie nevoit să se convertească. A crede că o ființă umană este mai mult decât un set de date nu cere a crede într-un suflet. Cere doar să observăm că lucrurile cele mai pline de sens dintr-o viață — iubirea, doliul, dobândirea lentă a înțelepciunii, apropierea pe care o face posibilă vulnerabilitatea — nu sunt probleme de optimizare și că o industrie care le tratează ca probleme de optimizare va construi unelte care fac oamenii eficienți și singuri. Enciclica numește acest lucru cu o precizie neobișnuită.

Un mesaj de speranță: arhitectură, nu vreme #

Registrul dominant al comentariului despre IA de după 2023 a fost frica. Enciclica, în pofida tuturor avertismentelor sale, nu este în cele din urmă un document temător — partea ei finală este numită „cântecul speranței" (Ascension Press), iar speranța merită citită cu precizie inginerească.

Alegerea dintre „a construi Babelul și a reconstrui Ierusalimul" nu este o profeție despre care viitor va livra tehnologia. Este o afirmație că viitorul se construiește și că oamenii care îl construiesc au agenție asupra formei lui. Acesta este un lucru pe care orice inginer îl știe din vârful degetelor chiar dacă nu l-a formulat niciodată astfel: sistemul face ceea ce este proiectat să facă. Motorul de recomandare optimizează pentru ceea ce i se spune să optimizeze. Modelul întrupează valorile cu care a fost antrenat. Agentul acționează în limitele care i se dau. IA nu este vreme care se întâmplă oamenilor. Este arhitectură făcută de oameni — și, în imaginea enciclicei, familiile lui Neemia, fiecare cu o secțiune din zid în sarcină.

Această reformulare dizolvă fatalismul fals din mare parte a discursului actual. Întrebarea „va fi IA bună sau rea pentru umanitate?" este prost formulată, pentru că tratează IA ca pe o forță autonomă cu propria traiectorie. Întrebarea onestă este „ce se construiește, de către cine, sub ce constrângeri?" — iar la aceasta se răspunde în fiecare zi, în revizuiri de design și decizii de arhitectură și în alegerile tăcute privind ceea ce optimizăm și ceea ce refuzăm.

Registrul istoric este, la cumpănă, liniștitor. Trenul a fost civilizat. Automobilul a fost civilizat. Energia nucleară, împotriva probabilităților, a fost ținută în frâu — regimul de neproliferare, în pofida fragilității sale, a durat acum optzeci de ani împotriva previziunilor sigure că nu va dura. Prejudiciile internetului sunt abordate încet, cu întârziere. În fiecare caz, binele a fost păstrat și răul a fost redus nu pentru că tehnologia a sosit pre-civilizată și nu pentru că oamenii anxioși au oprit-o, ci pentru că constructorii și cetățenii și-au asumat responsabilitatea pentru forma lucrului. IA și calculul cuantic sunt secțiunea din zid a generației prezente.

Ce înseamnă asta în funcție de rolul cititorului #

Implicațiile enciclicei diferă în funcție de rol.

Lideri și fondatori din tehnologie. Afirmația „tehnologia nu este niciodată neutră" este un mandat de guvernanță, nu un aside filozofic. Valorile, stimulentele și modelul de afacere din spatele unui sistem fac parte din specificația acestuia, iar pretinderea contrariului nu mai este credibilă pentru autoritățile de reglementare, pentru public sau pentru inginerii din interiorul firmei. Instituțiile care interiorizează acest lucru vor trata etica drept o preocupare arhitecturală, proiectată de la început, nu un strat de relații publice aplicat ulterior.

Ingineri și cercetători. Enciclica este, în mod neașteptat, de partea celui mai important argument intern al domeniului: că modul în care este construit un lucru contează la fel de mult ca dacă funcționează. Împingerea către designul mai responsabil, mai auditabil, mai uman, împotriva presiunii de a livra varianta extractivă, este munca pe care enciclica o descrie drept reconstruirea Ierusalimului. Pledoaria pentru această muncă are acum doctrina socială catolică alături de EU AI Act, DORA și zece ani de învățare post-incident.

Factori de decizie și autorități de reglementare. Enciclica și EU AI Act descriu același risc din vocabulare diferite. Convergența este o oportunitate: cadrul moral poate construi legitimitatea publică pe care reglementarea tehnică, de una singură, se chinuie să o obțină. „Concentrarea puterii fără responsabilitate" este o abstracțiune; „Babel" este o poveste, iar poveștile mișcă oamenii să acționeze.

Publicul mai larg — „oamenii de bunăvoință" ai enciclicei. Cea mai ascuțită frază a enciclicei pentru cititorul nespecialist este aceea că majoritatea oamenilor „privesc și așteaptă, observând de departe și sperând doar la ce e mai bine". Această postură nu este neutră: când vine vorba de infrastructură, abținerea este ea însăși o alegere despre cine ajunge să proiecteze valorile implicite.

Concluzie #

Magnifica Humanitas va fi citită de cea mai mare parte a industriei tehnologice, dacă va fi citită vreodată, ca un document religios cu impact limitat asupra ingineriei. Aceasta ar fi o greșeală. Citită ca raționament etic, nu ca doctrină, este printre cele mai limpezi afirmații formulate până acum ale lucrului pe care industria are cea mai mare nevoie să îl audă și pe care îl respinge cel mai tare: că artefactele care se construiesc poartă valorile creatorilor lor, fie că aceștia o recunosc sau nu, că o capacitate a depășit din nou guvernanța și că decalajul va fi închis doar prin alegere umană deliberată. Spune asta în compania Rerum Novarum și a lungii istorii a tehnologiilor — trenul, automobilul, energia nucleară, internetul — care au sosit lăsând în urmă neliniște morală și care, în cele din urmă, nu au fost nici oprite, nici adorate, ci civilizate de oameni care și-au asumat responsabilitatea pentru ele.

Aterizează pe speranță. Viitorul IA și al calculului cuantic nu este o prognoză; este, în formula enciclicei, „șantierul timpului nostru". Pe baza dovezilor istorice, decalajul dintre capacitate și guvernanță este din nou închidabil — nu perfect, nu fără cost, dar închidabil, prin același mecanism care l-a închis pentru tren, automobil, energia nucleară și internet: constructori și cetățeni care își asumă responsabilitatea pentru forma lucrului. Acesta este tonul corect de la care să pornim.

Întrebări frecvente #

Ce este Magnifica Humanitas, în termeni simpli?

Este prima enciclică (forma cea mai autoritară de document de învățătură papală) dedicată integral inteligenței artificiale, publicată de Papa Leon al XIV-lea pe 25 mai 2026. La aproximativ 42.300 de cuvinte, subintitulată Despre apărarea persoanei umane în vremea inteligenței artificiale, ea situează IA în „doctrina socială" a Bisericii Catolice — același corp de învățătură care a început cu enciclica lui Leon al XIII-lea din 1891 despre revoluția industrială, Rerum Novarum, la a 135-a aniversare a căreia a fost semnat acest document. Este adresată nu doar catolicilor, ci explicit „tuturor oamenilor de bunăvoință", ceea ce constituie temeiul pentru a o citi, așa cum face acest articol, ca pe un argument etic secular și nu doar religios.

De ce ar trebui ca cineva din industria tehnologică să îi pese ce spune o enciclică papală despre IA?

Pentru că este unul dintre cele mai coerente și mai durabile instituțional cadre etice pe care cineva le-a produs pentru această tehnologie și pentru că afirmațiile ei centrale sunt corecte în propriile lor termeni. „Tehnologia nu este niciodată neutră" este o observație de design pe care întreaga disciplină a siguranței IA o subscrie implicit. Avertismentul privind concentrarea puterii în mâinile actorilor privați transnaționali este o descriere exactă a peisajului din 2026 pe care EU AI Act și DORA încearcă independent să îl abordeze. Nu trebuie să împărtășești teologia pentru a găsi analiza utilă — iar autorii enciclicei invită explicit exact acel tip de lectură.

Nu este compararea IA cu trenul, automobilul, energia nucleară și internetul doar o modalitate de a minimaliza riscul?

Dimpotrivă, de fapt. Tiparul istoric arată că neliniștea morală care a însoțit fiecare tehnologie transformatoare purta un semnal real — marca decalajul dintre ceea ce putea face tehnologia și ceea ce era pregătită să facă guvernanța noastră. În unele cazuri (trenul), temerile literale erau o absurditate, dar instinctul că vine perturbarea era corect. În altele (nuclearul și, posibil, internetul), neliniștea a fost subestimată, iar noi am plătit pentru că am respins-o. Lecția nu este că IA este inofensivă pentru că am supraviețuit celorlalte. Este că am supraviețuit celorlalte luând neliniștea în serios și închizând decalajul de guvernanță deliberat — și că ar trebui să facem asta mai repede de data aceasta.

Cum se leagă acest text de articolul tău anterior despre Lucy?

Critica enciclicei adusă transumanismului — tratarea limitelor umane ca defecte de optimizat — este aceeași critică pe care textul despre Lucy a făcut-o fanteziei filmului despre conștiința migrând din carne în mașină. Ambele ajung la concluzia că o ființă umană este mai mult decât informație extractibilă și că limitele pe care suntem tentați să le inginerim pentru a le elimina sunt o mare parte din locul în care trăiește, de fapt, sensul. Lectura unui critic de film și o enciclică papală ajungând la aceeași concluzie pe drumuri diferite este un semn că intuiția este robustă, nu parohială.

Unde sunt de acord enciclica și EU AI Act?

Asupra concentrării puterii. Observația enciclicei conform căreia „principalii motori ai acestei tehnologii sunt acum actori privați, adesea transnaționali, ale căror resurse și capacitate de a interveni le depășesc pe cele ale multor guverne" este, aproape cuvânt cu cuvânt, neliniștea structurală care stă la baza obligațiilor cu risc înalt din EU AI Act, a prevederilor DORA privind riscul de concentrare a furnizorilor terți și a mișcării de cloud suveran care remodelează acum achizițiile de infrastructură financiară. Enciclica ajunge la concluzia sa prin doctrina socială; reglementarea ajunge la ea prin evaluări de conformitate. Diagnosticul este identic.

Deci mesajul de ansamblu despre IA este optimist sau pesimist?

Optimist, dar nu naiv. Argumentul este că viitorul IA și al calculului cuantic nu este predeterminat — se construiește, chiar acum, prin alegeri umane — și că istoria arată că suntem capabili să păstrăm binele unei tehnologii puternice în timp ce îi reducem prejudiciile, cu condiția să ne asumăm responsabilitatea pentru forma ei în loc să o tratăm ca pe o forță autonomă. Frica tratează IA ca pe vreme. Speranța o tratează ca pe arhitectură. Lectura onestă, atât a enciclicei, cât și a ingineriei, este că este arhitectură și că oamenii care o construiesc pot alege să o construiască bine. Aceasta este o concluzie cu adevărat plină de speranță și este câștigată, nu doar dorită.

Referințe #

Ultima revizuire .

Ultima revizuire .