Sebastien Rousseau
Kontaktovat ›

Magnifica Humanitas: čtení první papežské encykliky o UI

25. května 2026 vydal papež Lev XIV. první papežskou encykliku věnovanou umělé inteligenci. Čteno z pohledu technologického průmyslu — nikoli jako doktrína, ale jako etický rámec — odráží to každou morální úzkost, která provázela vlak, automobil, jadernou energii i internet. A nakonec to dospívá k naději.

17 min čtení

Magnifica Humanitas: čtení první papežské encykliky o umělé inteligenci z pohledu průmyslu

  1. května 2026 vydal papež Lev XIV. encykliku Magnifica Humanitas, první papežskou encykliku věnovanou umělé inteligenci (Vatican News). Čtena z pohledu technologického průmyslu — nikoli jako doktrína, nýbrž jako neobvykle koherentní etický rámec pro éru UI a kvant — odráží morální úzkosti, které provázely vlak, automobil, jadernou energii i internet, a vyúsťuje spíše v naději než ve strach.

Manažerské shrnutí / klíčové závěry

    1. května 2026 vydal papež Lev XIV. encykliku Magnifica Humanitas („Velkolepá lidskost"), text čítající 42 300 slov s podtitulem O ochraně lidské osoby v době umělé inteligence — první papežskou encykliku věnovanou UI (Vatican News), podepsanou 15. května, v den 135. výročí encykliky Rerum Novarum papeže Lva XIII. (1891), a představenou ve Vatikánu po boku spoluzakladatele společnosti Anthropic (NCR).
  • Čtena střízlivě z pohledu technologického oboru je její ústřední teze pozicí, kterou většina seriózních inženýrů již zastává: technologie není nikdy neutrální — „přejímá vlastnosti těch, kdo ji navrhují, financují, regulují a používají." Není to náboženské tvrzení. Je to designové pozorování.
  • Dokument záměrně paraleluje s Rerum Novarum, která reagovala na průmyslovou revoluci. Tato paralela je klíčem ke správnému čtení: každá transformační technologie — vlak, automobil, jaderná energie, internet — přicházela provázena morální úzkostí a v každém případě nešlo ani o čistou hysterii, ani o čistou obstrukci, nýbrž o signál, že správa musí dohnat schopnost.
  • Nejostřejším přínosem je přerámování základní otázky. Volba, tvrdí encyklika, „není mezi 'ano' nebo 'ne' technologii", nýbrž mezi stavěním Babelu (uniformita, modloslužba zisku, osoba redukovaná na „data a výkon") a obnovou Jeruzaléma (společenství, sdílená odpovědnost, mnohohlasost budující společně). Pro průmysl to čistě mapuje rozdíl mezi extraktivní UI a humánní UI.
  • Její varování před transhumanismem a posthumanismem — pokušením pojímat lidské meze (nemoc, stárnutí, zranitelnost) jako defekty určené k optimalizaci — přímo souvisí s tématy probranými v květnové analýze filmu Lucy z roku 2026 na těchto stránkách: se svůdnou fantazií vědění migrujícího z těla do stroje.
  • Poctivý závěr je nadějný, nikoli alarmistický. Nejhlubším argumentem encykliky je, že budoucnost UI není počasí, které se děje lidem, ale architektura vytvářená lidmi — navrhovaná v každé revizi architektury, každém trénovacím běhu a každém rozhodnutí, co optimalizovat a co odmítnout. To není varování. Je to pozvání.

Poznámka k tomu, jak text číst #

Toto není teologické čtení. Optika je inženýrská — platební infrastruktura, postkvantová kryptografie, agentní systémy, tedy práce, jíž se Magnifica Humanitas věnuje. Encyklika je adresována, jejími vlastními slovy, „všem katolickým věřícím, všem křesťanům i všem lidem dobré vůle" (Vatican.va), což je oprávnění pro sekulární čtení, jež následuje.

Čtena jako etická argumentace, nikoli jako doktrína, je koherentní — koherentnější než většina toho, co o sobě průmysl produkuje, poctivější ohledně koncentrace moci než většina regulatorních bílých knih a nadějnější než zkázou prostoupený diskurz, jenž dominuje komentování UI od roku 2023.

Co encyklika skutečně říká #

Rámovacím nástrojem jsou dva biblické obrazy a stojí za to jim porozumět i jako čistě sekulárnímu čtenáři, neboť odvádějí skutečnou analytickou práci. Prvním je babylonská věž: jeden jazyk, jedna technologie, jeden směr, postavený — v čtení encykliky — na „pýše a nároku na soběstačnost", projekt, jenž „obětuje lidskou důstojnost efektivitě". Druhým je obnova jeruzalémských hradeb za Nehemjáše: projekt, jenž „obnovuje vztahy dříve, než obnovuje kamenné zdi", v němž je práce rozdělena napříč celým společenstvím a rozmanitost se stává zdrojem, nikoli hrozbou.

Klíčovým krokem encykliky je tvrzení, že skutečná volba, před níž stojí éra UI, „není mezi 'ano' nebo 'ne' technologii, nýbrž mezi stavěním Babelu nebo obnovou Jeruzaléma". To je sofistikovanější rámec než binární spor akceleracionistů a katastrofistů, v němž průmysl uvízl. Odmítá jak technoutopickou pozici (že více schopnosti je automaticky dobré), tak pozici reflexivního odmítání (že technologie je vnitřně zkažená). Místo toho umisťuje morální váhu tam, kde skutečně spočívá: do toho, jak se věc staví, financuje, spravuje a používá.

Odtud je dokument strukturálně disciplinovaný. Ustavuje, že technologie je „hluboce lidskou realitou, spojenou s autonomií a svobodou člověka" od počátku a že po staletí významně zlepšovala lidské životní podmínky — toto není reakcionářský text. Pak činí své ústřední pozorování, jež by mělo zarazit každého poctivého inženýra: v praxi není technologie nikdy neutrální, neboť přejímá vlastnosti těch, kdo ji navrhují, financují, regulují a používají. Varuje před konkrétním strukturálním posunem moci — že hlavními hybateli vývoje jsou nyní soukromé, často transnacionální, strany, jejichž zdroje a kapacita zasahovat přesahují kapacitu mnoha vlád — a varuje před konkrétním antropologickým nebezpečím: redukcí osoby na „data a výkon", zacházením s lidskými mezemi jako s defekty určenými k inženýrskému odstranění. Pozdější kapitoly se věnují pravdě jako obecnému dobru, důstojnosti práce v době automatizace a — s pozoruhodnou důrazností — užití UI ve válce a v autonomních zbraních (TIME, CNN).

To je architektura textu. Čtení z inženýrské strany následuje.

Technologie není nikdy neutrální: designové pozorování, nikoli kázání #

Jedinou nejdůležitější větou encykliky je z pohledu inženýra tvrzení, že technologie „přejímá vlastnosti těch, kdo ji navrhují, financují, regulují a používají". Po odstranění kontextu je prostě pravdivá a je pravdivá způsobem, který se obor pomalu a draze znovu učí už deset let.

Doporučovací algoritmus optimalizovaný pro zapojení uživatele přejímá vlastnosti metriky, která mu byla zadána; „nerozhoduje se" nikoho radikalizovat, ale zjistí, že rozhořčení udržuje pozornost, a bude ho servírovat víc. Skóringový model úvěrového rizika trénovaný na historicky zaujatých datech o půjčování přejímá vlastnosti té historie; nemá „v úmyslu" diskriminovat, ale bude. Systém rozpoznávání obličejů přejímá vlastnosti datové sady, na níž byl trénován, i instituce, jež jej nasazuje — neškodný v aplikaci pro fotografie, něco zcela jiného v kontextu dohledu. Celá disciplína bezpečnosti UI, zarovnání UI a odpovědného inženýrství UI je v jistém smyslu propracovanou parafrází věty z encykliky: hodnoty tvůrců a nasazovatelů jsou vepsány do artefaktu, ať to kdokoli zamýšlel, nebo ne.

Proto je rámec důležitější než závěry. Nejčastější rétorická obrana průmyslu — „technologie je jen nástroj, je neutrální, záleží, jak ji používáte" — je přesně pozicí, kterou encyklika i desetiletí tvrdé inženýrské zkušenosti vyvracejí. Nástroje neutrální nejsou. Nesou otisky prstů svých tvůrců ve svých výchozích nastaveních, trénovacích datech, optimalizačních cílech, přístupových modelech i obchodních modelech, jež je financují. Uznat to není anti-technologické. Je to předpoklad pro to, aby se technologie stavěla dobře.

Vzorec: vlak, automobil, jaderná energie, internet #

Skutečnou interpretační sílu dává encyklice její explicitní ukotvení v Rerum Novarum, encyklice Lva XIII. z roku 1891 o průmyslové revoluci. Podpisem Magnifica Humanitas v den 135. výročí onoho dokumentu činí Lev XIV. promyšlený historický nárok: že UI je „další průmyslovou revolucí" a že správnou odpovědí není ani ji zastavit, ani ji uctívat, nýbrž vystavět sociální a etické lešení, jež dopustí, aby její přínosy dosáhly ke všem a její škody nepadly na nikoho.

To je správný rámec a stojí za to jej rozšířit, neboť historie je při střízlivém pohledu opravdu uklidňující. Každá transformační technologie přicházela s mrakem morální úzkosti a v každém případě úzkost nesla skutečný signál.

Když se v 30. a 40. letech 19. století železnice šířila Británií, respektované lékařské mínění tvrdilo, že lidské tělo nepřežije rychlost 30 mil za hodinu — že se cestující udusí nebo že utrpí poškození orgánů. Kázalo se proti bezbožnosti takové rychlosti. Úzkost byla ve své doslovné podobě nesmyslem. Pod ní však ležela reálná a legitimní obava o disrupci: železnice skutečně rozvrátily lokální ekonomiky, skutečně koncentrovaly kapitál novými způsoby, skutečně si vyžádaly zcela nové soubory bezpečnostního práva, sepsané krví prvních nehod. Hysterie byla mylná; podkladový instinkt, že toto všechno mění a my nejsme připraveni, byl správný.

Když přišel automobil, vzorec se opakoval. Britské Locomotive Acts — „Red Flag Acts" — vyžadovaly, aby před každým motorovým vozidlem šel člověk s rudým praporem. Dnes vysmívané jako absurdní obstrukce byly nemotorným prvním pokusem odpovědět na ryzí otázku: co se stane, když soukromé osoby mohou pohybovat těžkými stroji sdíleným veřejným prostorem smrtící rychlostí? Stavění odpovědi trvalo desítky let — licencování, dopravní právo, design silnic, bezpečnostní pásy, havarijní normy. Auta lidi zabíjela. Správa nakonec dohnala. Automobil jsme nezakázali, ani jsme ho nenechali běžet bez omezení; civilizovali jsme jej.

Jaderná technologie je nejtěžším a nejpoučnějším případem. Tady úzkost vůbec nebyla hysterická — technologie skutečně mohla skoncovat s civilizací a dvakrát v roce 1945 prokázala kapacitu vymazat města. I tady však příběh není ryzí katastrofou. Tatáž fyzika nám dala bezuhlíkový zdroj energie, jenž na jednotku dodané energie zabil méně lidí než téměř jakákoli alternativa; režim nešíření se přes všechnu svou křehkost udržel osmdesát let navzdory sebejistým předpovědím, že nikoli. Jaderná energie je případem, na nějž kapitola encykliky o zbraních a UI nejzřetelněji myslí, a je to správné výstražné podobenství: technologie, jejíž ničivý i tvořivý potenciál jsou oba maximální a kterou jsme přežili jen tím, že jsme — nedokonale, sporně, ale reálně — vystavěli mezinárodní lešení k její správě.

A internet — to, čím většina z nás prošla. Rané úzkosti (že znetvoří mysl dětí, zničí skutečné lidské vztahy, utopí pravdu v šumu) byly technologickou obcí, mě nevyjímaje, odmítnuty jako morální panika. S odstupem dvou desetiletí vypadají některé z těchto úzkostí méně jako panika a více jako podcenění: pozornostní ekonomika, algoritmická polarizace, kolaps sdíleného faktického základu, doložené dopady na duševní zdraví adolescentů. Internet přinesl ohromující dobra — přístup k úhrnu lidského vědění, kolaps vzdálenosti, demokratizaci hlasu. Působil však i skutečné škody, jež jsme odmávli právě proto, že nás technooptimistický rámec přesvědčil, že pokrok se sám ospravedlňuje. Poučením není „pesimisté měli pravdu". Je jím, že úzkost byla data a měli jsme je číst, místo abychom je odmítali.

To je vzorec, na nějž Magnifica Humanitas ukazuje, a proto by dokument neměl být čten jako luddismus. Ve všech případech nebyla morální úzkost provázející technologii ani ryzí hysterií, ani ryzí moudrostí. Byla signálem, že schopnost přerostla správu a že tu mezeru bylo nutno uzavřít promyšleným lidským úsilím. Encyklika je v podstatě raná morální úzkost éry UI — a historický záznam praví, že správnou odpovědí na takovou úzkost není odmítnout ji jako náboženskou technofobii, nýbrž vyčíst z ní signál a uzavřít mezeru ve správě rychleji než minule.

Kde se to dotýká finančního inženýrství #

Dvě konkrétní obavy encykliky přímo dopadají na inženýrství finančních systémů a obě si zaslouží spíše odpověď inženýra než věřícího.

První je koncentrace moci v soukromých, transnacionálních rukou. Pozorování encykliky, že hlavními hybateli této technologie jsou nyní soukromí aktéři, jejichž kapacita přesahuje kapacitu mnoha států, není teologickým tvrzením; je to přesný popis krajiny UI roku 2026 a přesně to je obava, jež se vine regulatorní architekturou, již se průmysl právě snaží naplnit — povinnosti vysokého rizika podle EU AI Act vymahatelné od 2. srpna 2026, ustanovení DORA o riziku koncentrace třetích stran a hnutí za suverénní cloud a suverénní kontrolní rovinu pokrytá v textech cloudová architektura a agentní inženýrství na těchto stránkách. Encyklika a EU AI Act se pozoruhodně obávají téhož: že schopnost bez odpovědnosti koncentruje moc způsoby, jež unikají demokratické správě. Jedna to říká jazykem sociální nauky, druhá jazykem posuzování shody. Diagnóza je totožná.

Druhou jsou kvantové výpočty, jež encyklika nejmenuje, jejichž etickou podobu však přesně předjímá. Premisou postkvantové migrace pokryté v textu Zabezpečení účetní knihy je, že schopnost, jež je nyní v konstrukci — kryptograficky relevantní kvantový počítač — až dorazí, retroaktivně odhalí vše zašifrované za dnešních předpokladů. „Harvest now, decrypt later" je v sekulárním rejstříku přesně tím druhem moci-bez-moudrosti, před nímž encyklika varuje: technologií, jejíž důsledky přicházejí na časové ose, jež předbíhá přípravu, v rukou těch, kdo mají zdroje uplatnit ji první. Trvání encykliky na tom, ptát se „kam směřujeme?" dříve, než posloupnost havarijních stavů určí cestu, je pro bezpečnostního inženýra dobrou praxí převedenou do morální filozofie.

Transhumanistické pokušení a poučení z Lucy #

Nejpronikavější kritiku si encyklika vyhrazuje pro transhumanismus a posthumanismus — pro narativy, jež zacházejí s lidskými mezemi (nemoc, stárnutí, utrpení, zranitelnost) ne jako s konstitutivními rysy lidské situace, nýbrž jako s inženýrskými defekty čekajícími na upgrade. Její teze, odstavec za odstavcem, zní, že lidské bytosti často prosperují skrze své meze a že UI, jež nás láká „uniknout omezení skrze optimalizaci" namísto podpory „otevřenosti a společenství", nepochopila, k čemu osoba je.

To je svod zkoumaný v květnové analýze filmu Lucy Luca Bessona z roku 2026 na těchto stránkách. Fantazie filmu — že vědomí by bylo možné postupně odemykat, dokud by celé nepřemigrovalo z těla na flash disk — je nejčistším možným vyjádřením posthumanistického snu, jehož se encyklika obává: vědění bez vědoucího, inteligence bez tělesnosti, člověka redukovaného na extrahovatelnou informaci. Onen text tvrdil, že fantazie je svůdná právě proto, že lichotí nepohodlí z mezí, a že zajímavější pravdou je pravá opačná — že meze nejsou chybou, jsou velkou částí toho, kde sídlí význam. Encyklika dospívá ke stejnému závěru jinou cestou. Že čtení sci-fi thrilleru filmovým kritikem a papežská encyklika dorazí na totéž místo, samo o sobě stojí za povšimnutí: naznačuje, že vhled není provinční vůči žádnému z obou rámců.

V tomto bodě si mohou sekulární čtenář a encyklika podat ruce, aniž by se kdokoli musel obracet. Věřit, že lidská bytost je víc než datová sada, nevyžaduje víru v duši. Vyžaduje jen povšimnutí si, že nejvýznamnější věci v životě — láska, žal, pomalé získávání moudrosti, blízkost umožněná zranitelností — nejsou optimalizační úlohy a že průmysl, jenž s nimi jako s optimalizačními úlohami zachází, vystaví nástroje, jež lidi zefektivní a zároveň osamí. Encyklika to pojmenovává s neobvyklou přesností.

Poselství naděje: architektura, ne počasí #

Dominujícím rejstříkem komentování UI od roku 2023 byl strach. Encyklika přes všechna svá varování není nakonec ustrašeným dokumentem — její závěrečná část se nazývá „píseň naděje" (Ascension Press) a tato naděje si zaslouží být čtena s inženýrskou přesností.

Volba mezi „stavěním Babelu a obnovou Jeruzaléma" není proroctvím o tom, jakou budoucnost technologie přinese. Je to konstatování, že budoucnost se právě staví a že lidé, kteří ji staví, mají nad její podobou činnou vůli. To je něco, co každý inženýr ví v rukou, i když to nikdy nezformuloval těmito slovy: systém dělá to, k čemu je navržen. Doporučovací engine optimalizuje pro to, co mu bylo zadáno. Model ztělesňuje hodnoty do něj natrénované. Agent jedná v rámci hranic, jež mu byly dány. UI není počasí, které se lidem děje. Je to architektura, vytvářená lidmi — a v obrazu encykliky rodinami Nehemjáše, z nichž každé byl přidělen úsek hradby.

Toto přerámování rozpouští falešný fatalismus, jenž je v současném diskurzu hojný. Otázka „bude UI pro lidstvo dobrá, nebo špatná?" je špatně formulovaná, neboť zachází s UI jako s autonomní silou s vlastní trajektorií. Poctivou otázkou je „co se staví, kým a za jakých omezení?" — a na tu se odpovídá každý den, v designových revizích, architektonických rozhodnutích a tichých volbách, co optimalizovat a co odmítnout.

Historický záznam je v součtu uklidňující. Vlak byl civilizován. Automobil byl civilizován. Jaderná energie navzdory pravděpodobnosti byla udržena — režim nešíření se přes všechnu svou křehkost už drží osmdesát let navzdory sebejistým předpovědím, že nikoli. Škody internetu jsou pomalu, opožděně řešeny. Ve všech případech bylo dobro zachováno a škoda zmenšena ne proto, že by technologie dorazila již civilizovaná, a ne proto, že by ji úzkostliví lidé zastavili, nýbrž proto, že stavitelé i občané přijali odpovědnost za podobu věci. UI a kvantové výpočty jsou úsekem hradby současné generace.

Co to znamená podle pozice čtenáře #

Důsledky encykliky se liší podle role.

Technologičtí lídři a zakladatelé. Teze „technologie není nikdy neutrální" je mandátem správy, nikoli filozofickou odbočkou. Hodnoty, motivace a obchodní model za systémem jsou součástí jeho specifikace a předstírat opak již není věrohodné ani vůči regulátorům, ani vůči veřejnosti, ani vůči inženýrům uvnitř firmy. Instituce, které toto internalizují, budou s etikou zacházet jako s architektonickou starostí, navrženou od počátku, nikoli jako s vrstvou public relations dodanou později.

Inženýři a výzkumníci. Encyklika je nečekaně na straně nejdůležitějšího vnitřního argumentu oboru: že jak je věc postavena, záleží stejně jako to, zda funguje. Prosazování odpovědnějšího, auditovatelnějšího, humánnějšího designu navzdory tlaku odeslat ten extraktivní je prací, již encyklika popisuje jako obnovu Jeruzaléma. Případ pro tuto práci má nyní za sebou katolickou sociální nauku vedle EU AI Act, DORA a deseti let učení po incidentech.

Tvůrci politik a regulátoři. Encyklika a EU AI Act popisují totéž riziko z odlišných slovníků. Konvergence je příležitostí: morální rámování může vystavět veřejnou legitimitu, již technická regulace sama o sobě dosahuje obtížně. „Koncentrace neodpovědné moci" je abstrakce; „Babel" je příběh a příběhy pohnou lidi k jednání.

Širší veřejnost — „lidé dobré vůle" encykliky. Nejostřejší věta encykliky pro laického čtenáře praví, že většina lidí „hledí a vyčkává, pozoruje zdaleka a jen doufá v dobré dopadnutí". Tento postoj není neutrální: tam, kde jde o infrastrukturu, je abstinence sama o sobě volbou, kdo bude navrhovat výchozí nastavení.

Závěr #

Magnifica Humanitas bude většinou technologického průmyslu — pokud vůbec čtena — vnímána jako náboženský dokument s omezeným dopadem na inženýrství. To by byla chyba. Čtena jako etická argumentace, nikoli jako doktrína, patří k nejjasnějším doposud učiněným formulacím toho, co průmysl nejvíce potřebuje slyšet a čemu se nejvíce brání: že stavěné artefakty nesou hodnoty svých tvůrců, ať to tvůrci přiznávají, či nikoli, že schopnost opět přerostla správu a že mezera bude uzavřena jen promyšlenou lidskou volbou. Říká to ve společnosti Rerum Novarum a dlouhé historie technologií — vlaku, automobilu, jaderné energie, internetu — jež dorazily provázeny morální úzkostí a nakonec nebyly ani zastaveny, ani uctívány, nýbrž civilizovány lidmi, kteří za ně přijali odpovědnost.

Vyúsťuje to v naději. Budoucnost UI a kvantových výpočtů není předpovědí; je, řečeno frází encykliky, „staveništěm naší doby". Z důkazů historie plyne, že mezera mezi schopností a správou je opět uzavíratelná — ne dokonale, ne bez nákladů, ale uzavíratelná, týmž mechanismem, jenž ji uzavřel pro vlak, automobil, jadernou energii i internet: tím, že stavitelé i občané přijmou odpovědnost za podobu věci. To je správný tón, od něhož začít.

Často kladené otázky #

Co je Magnifica Humanitas prostými slovy?

Je to první encyklika (nejautoritativnější forma papežského učitelského dokumentu) věnovaná zcela umělé inteligenci, vydaná papežem Lvem XIV. 25. května 2026. S přibližně 42 300 slovy a podtitulem O ochraně lidské osoby v době umělé inteligence zasazuje UI do „sociální nauky" katolické církve — téhož souboru učení, jenž započal encyklikou Lva XIII. z roku 1891 o průmyslové revoluci, Rerum Novarum, v den jejíhož 135. výročí byl tento dokument podepsán. Je adresována nejen katolíkům, ale výslovně i „všem lidem dobré vůle", což je oprávnění pro to číst ji, jak činí tento článek, jako sekulární etický argument, nikoli jen jako náboženský.

Proč by se měl kdokoli v technologickém průmyslu zajímat o to, co o UI říká papežská encyklika?

Protože jde o jeden z nejkoherentnějších a institucionálně nejtrvanlivějších etických rámců, jež kdo pro tuto technologii vytvořil, a protože jeho ústřední teze jsou na vlastních základech správné. „Technologie není nikdy neutrální" je designové pozorování, jež celá disciplína bezpečnosti UI implicitně podporuje. Varování před koncentrací moci v soukromých transnacionálních aktérech je přesný popis krajiny roku 2026, jejž se nezávisle pokoušejí řešit EU AI Act a DORA. Není třeba sdílet teologii, aby analýza byla užitečná — a autoři encykliky takový druh čtení výslovně vítají.

Není srovnání UI s vlakem, automobilem, jadernou energií a internetem jen způsobem, jak riziko zlehčit?

Naopak. Historický vzorec ukazuje, že morální úzkost provázející každou transformační technologii nesla skutečný signál — značila mezeru mezi tím, co technologie uměla, a tím, na co byla naše správa připravena. V některých případech (vlak) byly doslovné obavy nesmyslné, ale instinkt, že přichází disrupce, byl správný. V jiných (jaderná energie a sporně i internet) byla úzkost podceněna a zaplatili jsme za její odmítnutí. Poučení není, že UI je neškodná, protože jsme přežili ostatní. Je jím, že jsme ostatní přežili tím, že jsme úzkost vzali vážně a mezeru ve správě promyšleně uzavřeli — a že bychom to tentokrát měli udělat rychleji.

Jak to souvisí s vaším dřívějším článkem o Lucy?

Kritika transhumanismu v encyklice — zacházení s lidskými mezemi jako s defekty určenými k optimalizaci — je touž kritikou, již text o Lucy vyslovil o filmové fantazii vědomí migrujícího z těla do stroje. Oba docházejí k závěru, že lidská bytost je víc než extrahovatelná informace a že meze, jež jsme v pokušení inženýrsky odstranit, jsou velkou částí toho, kde význam skutečně sídlí. Že čtení filmovým kritikem a papežská encyklika docházejí k témuž závěru různými cestami, je známkou, že vhled je robustní, nikoli provinční.

V čem se encyklika a EU AI Act skutečně shodují?

V koncentraci moci. Pozorování encykliky, že „hlavními hybateli této technologie jsou nyní soukromé, často transnacionální, strany, jejichž zdroje a kapacita zasahovat přesahují kapacitu mnoha vlád", je téměř slovo od slova strukturální úzkostí, jež leží pod povinnostmi vysokého rizika EU AI Act, ustanoveními DORA o riziku koncentrace třetích stran a hnutím za suverénní cloud, jež nyní přetváří zadávání zakázek na finanční infrastrukturu. Encyklika dochází ke svému závěru skrze sociální nauku; regulace skrze posuzování shody. Diagnóza je totožná.

Je tedy celkové poselství vůči UI optimistické, nebo pesimistické?

Optimistické, ale ne naivně. Argument zní, že budoucnost UI a kvantových výpočtů není předurčená — staví se právě teď, lidskými volbami — a že historie ukazuje, že jsme schopni zachovat dobro mocné technologie a zároveň zmenšit její škodu, převezmeme-li odpovědnost za její podobu, místo abychom s ní zacházeli jako s autonomní silou. Strach zachází s UI jako s počasím. Naděje s ní zachází jako s architekturou. Poctivým čtením jak encykliky, tak inženýrství je, že jde o architekturu a že ti, kdo ji staví, mohou volit, aby ji stavěli dobře. To je opravdu nadějný závěr a je zasloužený, nikoli vysněný.

Reference #

Naposledy zkontrolováno .

Naposledy revidováno .