Sebastien Rousseau
Entrar em contato ›

Magnifica Humanitas: Leitura da Primeira Encíclica Papal sobre IA

Em 25 de maio de 2026, o Papa Leão XIV publicou a primeira encíclica papal dedicada à inteligência artificial. Lida a partir da indústria de tecnologia — não como doutrina, mas como arcabouço ético — ela ecoa cada ansiedade moral que acompanhou o trem, o automóvel, a energia nuclear e a internet. E, no fim, desemboca na esperança.

21 min read

Magnifica Humanitas: Leitura da Primeira Encíclica Papal sobre Inteligência Artificial pela Indústria de IA

Em 25 de maio de 2026, o Papa Leão XIV publicou Magnifica Humanitas, a primeira encíclica papal dedicada à inteligência artificial (Vatican News). Lida a partir da indústria de tecnologia — não como doutrina, mas como um arcabouço ético inusitadamente coerente para a era da IA e da computação quântica — ela ecoa as ansiedades morais que acompanharam o trem, o automóvel, a energia nuclear e a internet, e termina na esperança, não no medo.

Resumo Executivo / Pontos-chave

  • Em 25 de maio de 2026, o Papa Leão XIV publicou a Magnifica Humanitas ("Magnífica Humanidade"), uma encíclica de 42.300 palavras subintitulada Sobre a Salvaguarda da Pessoa Humana no Tempo da Inteligência Artificial — a primeira encíclica papal dedicada à IA (Vatican News), assinada em 15 de maio, no 135.º aniversário da Rerum Novarum (1891) de Leão XIII, e apresentada no Vaticano ao lado de um cofundador da Anthropic (NCR).
  • Lida objetivamente a partir do campo da tecnologia, sua tese central é uma posição que a maior parte dos engenheiros sérios já sustenta: a tecnologia nunca é neutra — ela "assume as características de quem a concebe, financia, regula e utiliza". Isso não é uma afirmação religiosa. É uma observação de projeto.
  • O documento traça paralelo deliberado com a Rerum Novarum, que tratou da Revolução Industrial. Esse paralelo é a chave para lê-lo corretamente: toda tecnologia transformadora — o trem, o automóvel, a energia nuclear, a internet — chegou acompanhada de ansiedade moral, e em cada caso essa ansiedade não foi pura histeria nem puro obstrucionismo, mas um sinal de que a governança precisava alcançar a capacidade.
  • Sua contribuição mais afiada é o reenquadramento da questão central. A escolha, argumenta, "não está entre um 'sim' ou um 'não' à tecnologia", mas entre construir Babel (uniformidade, idolatria do lucro, a pessoa reduzida a "dados e desempenho") e reconstruir Jerusalém (comunhão, responsabilidade compartilhada, vozes plurais construindo juntas). Para a indústria, isso mapeia com nitidez a diferença entre IA extrativa e IA humana.
  • Seu alerta sobre o transumanismo e o pós-humanismo — a tentação de tratar limites humanos (doença, envelhecimento, vulnerabilidade) como defeitos a otimizar — conecta-se diretamente aos temas explorados no artigo de maio de 2026 sobre Lucy neste site: a fantasia sedutora da migração do conhecimento da carne para a máquina.
  • A conclusão honesta é esperançosa, não alarmista. O argumento mais profundo da encíclica é que o futuro da IA não é clima, acontecendo às pessoas, mas arquitetura, feita pelas pessoas — projetada em cada revisão de arquitetura, execução de treinamento e decisão sobre o que otimizar e o que recusar. Isso não é um aviso. É um convite.

Uma Nota sobre Como Ler Este Texto #

Esta não é uma leitura teológica. A lente é a da engenharia — infraestrutura de pagamentos, criptografia pós-quântica, sistemas agênticos, o trabalho com o qual a Magnifica Humanitas se preocupa. A encíclica é dirigida, em suas próprias palavras, "a todos os fiéis católicos, a todos os cristãos e aos homens e mulheres de boa vontade" (Vatican.va), o que justifica a leitura secular que se segue.

Lido como raciocínio ético, e não como doutrina, o documento é coerente — mais do que a maior parte do que a indústria produz sobre si mesma, mais honesto sobre a concentração de poder do que a maioria dos white papers regulatórios e mais esperançoso do que o discurso catastrofista que domina o comentário sobre IA desde 2023.

O Que a Encíclica de Fato Diz #

O dispositivo de enquadramento são duas imagens bíblicas, e vale a pena compreendê-las mesmo para um leitor inteiramente secular, porque elas realizam trabalho analítico real. A primeira é a Torre de Babel: uma única língua, uma única tecnologia, uma única direção, construída — na leitura da encíclica — sobre "o orgulho e a pretensão de autossuficiência", um projeto que "sacrifica a dignidade humana em prol da eficiência". A segunda é a reconstrução das muralhas de Jerusalém sob Neemias: um projeto que "reconstrói relações antes de reconstruir com pedras", em que o trabalho é distribuído por toda a comunidade e a diversidade torna-se recurso, e não ameaça.

O movimento decisivo da encíclica é argumentar que a verdadeira escolha diante da era da IA "não está entre um 'sim' ou um 'não' à tecnologia, mas entre construir Babel ou reconstruir Jerusalém". Trata-se de um enquadramento mais sofisticado do que o binário aceleracionista contra catastrofista no qual a indústria se prendeu. Recusa tanto a posição tecno-utópica (a de que mais capacidade é automaticamente bom) quanto a posição da rejeição reflexa (a de que a tecnologia é inerentemente corruptora). Em vez disso, localiza o peso moral onde ele de fato reside: em como a coisa é construída, financiada, governada e utilizada.

A partir daí, o documento é estruturalmente disciplinado. Estabelece que a tecnologia foi, desde o princípio, "uma realidade profundamente humana, ligada à autonomia e à liberdade do homem", e que, ao longo dos séculos, melhorou significativamente as condições humanas de vida — não se trata de um texto reacionário. Em seguida, faz sua observação central, a que deveria deter qualquer engenheiro honesto: na prática, a tecnologia nunca é neutra, porque assume as características de quem a concebe, financia, regula e utiliza. Adverte sobre uma mudança estrutural específica de poder — a de que os principais agentes do desenvolvimento são hoje atores privados, frequentemente transnacionais, cujos recursos e capacidade de intervenção superam os de muitos governos — e adverte sobre um perigo antropológico específico: a redução da pessoa a "dados e desempenho", o tratamento dos limites humanos como defeitos a ser eliminados por engenharia. Seus capítulos seguintes abordam a verdade como bem comum, a dignidade do trabalho em tempo de automação e — com força notável — o uso da IA na guerra e em armas autônomas (TIME, CNN).

Essa é a arquitetura. A leitura pelo lado da engenharia vem a seguir.

A Tecnologia Nunca É Neutra: Uma Observação de Projeto, Não um Sermão #

A frase isolada mais importante da encíclica, para um engenheiro, é a afirmação de que a tecnologia "assume as características de quem a concebe, financia, regula e utiliza". Retirado o contexto, isso é simplesmente verdadeiro, e o é de um modo que o campo vem, lenta e custosamente, reaprendendo há uma década.

Um motor de recomendação otimizado para engajamento assume as características da métrica que recebeu; não "decide" radicalizar ninguém, mas descobrirá que a indignação retém atenção e servirá mais dela. Um modelo de crédito treinado em dados de empréstimos historicamente enviesados assume as características dessa história; não "pretende" discriminar, mas o fará. Um sistema de reconhecimento facial assume as características do conjunto de dados sobre o qual foi treinado e da instituição que o implanta — benigno num aplicativo de fotos, algo inteiramente distinto num contexto de vigilância. Toda a disciplina de segurança da IA, alinhamento de IA e engenharia de IA responsável é, em certo sentido, uma reformulação elaborada da frase da encíclica: os valores dos construtores e dos implantadores são inscritos no artefato, independentemente de quem quer que tenha pretendido inscrevê-los.

Por isso o enquadramento importa mais do que as conclusões. A defesa retórica mais comum da indústria — "a tecnologia é apenas uma ferramenta, é neutra, depende do uso que se faz dela" — é exatamente a posição que a encíclica, e uma década de dura experiência de engenharia, refutam. Ferramentas não são neutras. Carregam as digitais dos seus construtores nos seus padrões, nos seus dados de treinamento, nos seus objetivos de otimização, nos seus modelos de acesso e nos modelos de negócio que as financiam. Reconhecer isso não é antitecnologia. É a precondição para construir tecnologia bem.

O Padrão: Trem, Automóvel, Energia Nuclear, Internet #

O que confere à encíclica seu real poder interpretativo é a ancoragem explícita na Rerum Novarum, encíclica de Leão XIII de 1891 sobre a Revolução Industrial. Ao assinar a Magnifica Humanitas no 135.º aniversário desse documento, Leão XIV faz uma afirmação histórica deliberada: a de que a IA é "mais uma revolução industrial" e a de que a resposta correta não é nem deter, nem cultuar, mas erguer o andaime social e ético que permita que seus benefícios alcancem a todos e seus danos não caiam sobre ninguém.

Esse é o enquadramento correto, e vale a pena estendê-lo, porque a história é, quando se a observa com clareza, genuinamente reconfortante. Toda tecnologia transformadora chegou arrastando uma nuvem de ansiedade moral, e em cada caso a ansiedade trouxe sinal real.

Quando a ferrovia se espalhou pela Grã-Bretanha nas décadas de 1830 e 1840, a opinião médica respeitável sustentava que o corpo humano não sobreviveria a velocidades de 30 milhas por hora — que os passageiros sufocariam, ou que seus órgãos seriam danificados. Houve sermões sobre a impiedade de tal velocidade. A ansiedade, em sua forma literal, era um disparate. Mas sob ela havia uma preocupação real e legítima com a disrupção: as ferrovias de fato subverteram economias locais, concentraram capital de modos novos, exigiram corpos inteiramente novos de legislação de segurança, escritos no sangue dos primeiros acidentes. A histeria estava errada; o instinto subjacente de que isto muda tudo e não estamos preparados estava certo.

Quando o automóvel chegou, o padrão se repetiu. As Locomotive Acts britânicas — as "Red Flag Acts" — exigiam que uma pessoa caminhasse à frente de todo veículo motorizado carregando uma bandeira vermelha. Hoje ridicularizadas como obstrução absurda, eram uma tentativa desajeitada de responder a uma questão legítima: o que acontece quando indivíduos privados podem mover máquinas pesadas pelo espaço público compartilhado a velocidades letais? Levou décadas construir a resposta — habilitação, código de trânsito, projeto viário, cintos de segurança, normas de colisão. Os carros mataram pessoas. A governança, por fim, alcançou a capacidade. Não banimos o automóvel, nem o deixamos correr sem restrição; nós o civilizamos.

A tecnologia nuclear é o caso mais difícil e o mais instrutivo. Aqui a ansiedade nada tinha de histérica — a tecnologia realmente podia pôr fim à civilização e, duas vezes em 1945, demonstrou sua capacidade de apagar cidades. Mas mesmo aqui a história não é de pura catástrofe. A mesma física nos deu uma fonte de energia livre de carbono que, por unidade de energia entregue, matou menos pessoas do que quase qualquer alternativa; o regime de não proliferação, com toda a sua fragilidade, resistiu por oitenta anos contra previsões confiantes de que não resistiria. A nuclear é o caso em que o capítulo da encíclica sobre armas e IA mais claramente pensa, e é a parábola cautelar adequada: uma tecnologia cujos potenciais destrutivo e criativo são ambos máximos, e à qual sobrevivemos apenas por termos construído — imperfeita, contestada, mas realmente — o andaime internacional para governá-la.

E a internet — aquela pela qual a maior parte de nós viveu. As ansiedades iniciais (a de que apodreceria a mente das crianças, destruiria a verdadeira conexão humana, afogaria a verdade no ruído) foram descartadas como pânico moral pelos tecnólogos, eu mesmo entre eles. Com duas décadas de retrovisão, algumas dessas ansiedades parecem menos pânico do que sub-reação: a economia da atenção, a polarização algorítmica, o colapso de uma base factual comum, os efeitos documentados sobre a saúde mental de adolescentes. A internet entregou bens estonteantes — acesso à totalidade do conhecimento humano, o colapso da distância, a democratização da voz. Também causou danos reais que descartamos justamente porque o enquadramento tecno-otimista nos dizia que o progresso se autojustificava. A lição não é "os pessimistas tinham razão". É que a ansiedade era dado, e deveríamos tê-la lido, em vez de descartá-la.

Esse é o padrão para o qual a Magnifica Humanitas aponta, e essa é a razão pela qual o documento não deve ser lido como ludismo. Em cada caso, a ansiedade moral que acompanhou a tecnologia não foi nem pura histeria nem pura sabedoria. Foi um sinal de que a capacidade ultrapassara a governança, e que essa distância precisava ser fechada por esforço humano deliberado. A encíclica é, com efeito, a ansiedade moral inicial da era da IA — e o registro histórico diz que a resposta correta a tal ansiedade não é descartá-la como tecnofobia religiosa, mas lê-la pelo sinal que carrega e fechar a distância de governança mais rapidamente do que da última vez.

Onde Isso Toca a Engenharia Financeira #

Duas das preocupações específicas da encíclica recaem diretamente sobre a engenharia dos sistemas financeiros, e ambas merecem a resposta de um engenheiro, não a de um crente.

A primeira é a concentração de poder em mãos privadas e transnacionais. A observação da encíclica de que os principais agentes desta tecnologia são hoje atores privados cuja capacidade excede a de muitos Estados não é uma afirmação teológica; é uma descrição precisa do cenário de IA em 2026, e é exatamente a preocupação que atravessa a arquitetura regulatória que a indústria corre para atender — as obrigações de alto risco do EU AI Act exigíveis a partir de 2 de agosto de 2026, as disposições da DORA sobre risco de concentração em terceiros e os movimentos de nuvem soberana e plano de controle soberano abordados nos artigos sobre arquitetura de nuvem e engenharia agêntica deste site. A encíclica e o EU AI Act estão, de modo notável, preocupados com a mesma coisa: a de que capacidade sem responsabilização concentra poder de modos que escapam à governança democrática. Uma o diz na linguagem da doutrina social, o outro na linguagem das avaliações de conformidade. O diagnóstico é idêntico.

A segunda é a computação quântica, que a encíclica não nomeia, mas cujo contorno ético antecipa com precisão. A premissa da migração pós-quântica abordada em Protegendo o Razão é a de que uma capacidade hoje em construção — um computador quântico criptograficamente relevante — irá, quando chegar, expor retroativamente tudo o que foi cifrado sob as premissas atuais. "Harvest now, decrypt later" é, em registro secular, exatamente o tipo de poder-sem-sabedoria contra o qual a encíclica adverte: uma tecnologia cujas consequências chegam num cronograma que ultrapassa a preparação, nas mãos daqueles com recursos para empunhá-la primeiro. A insistência da encíclica em perguntar "para onde vamos?" antes que a sucessão de emergências ditasse o caminho é, para um engenheiro de segurança, boa prática traduzida em filosofia moral.

A Tentação Transumanista e a Lição de Lucy #

A encíclica reserva sua crítica mais penetrante ao transumanismo e ao pós-humanismo — narrativas que tratam os limites humanos (doença, envelhecimento, sofrimento, vulnerabilidade) não como constitutivos da condição humana, mas como defeitos de engenharia à espera de upgrade. Sua tese, parágrafo após parágrafo, é a de que os seres humanos frequentemente florescem por meio das suas limitações, e que uma IA que nos tenta a "escapar da limitação pela otimização" em vez de sustentar a "abertura e a comunhão" entendeu mal para que serve uma pessoa.

Essa é a sedução examinada no artigo de maio de 2026 sobre Lucy, de Luc Besson neste site. A fantasia do filme — a de que a consciência poderia ser progressivamente desbloqueada até migrar, completa, da carne para um pen drive — é a expressão mais pura possível do sonho pós-humanista que preocupa a encíclica: conhecimento sem conhecedor, inteligência sem corporeidade, o humano reduzido a informação extraível. Esse artigo argumentou que a fantasia é sedutora precisamente porque lisonjeia o desconforto com os limites, e que a verdade mais interessante é a oposta — a de que os limites não são o bug, são uma grande parte do lugar em que o sentido reside. A encíclica chega à mesma conclusão por outro caminho. A leitura de um crítico de cinema sobre um thriller de ficção científica e uma encíclica papal chegando ao mesmo ponto é, em si, digna de nota: sugere que o insight não é parochial a nenhum dos dois enquadramentos.

Este é o ponto em que o leitor secular e a encíclica podem apertar as mãos sem que ninguém precise se converter. Acreditar que um ser humano é mais do que um conjunto de dados não exige acreditar em uma alma. Exige apenas notar que as coisas mais significativas de uma vida — o amor, o luto, a lenta conquista da sabedoria, a proximidade que a vulnerabilidade torna possível — não são problemas de otimização, e que uma indústria que as trata como problemas de otimização construirá ferramentas que tornarão as pessoas eficientes e solitárias. A encíclica nomeia isso com precisão incomum.

Uma Mensagem de Esperança: Arquitetura, Não Clima #

O registro dominante do comentário sobre IA desde 2023 tem sido o do medo. A encíclica, apesar de todos os seus alertas, não é, no fim, um documento medroso — seu movimento final chama-se "o canto da esperança" (Ascension Press), e essa esperança merece ser lida com precisão de engenharia.

A escolha entre "construir Babel e reconstruir Jerusalém" não é uma profecia sobre qual futuro a tecnologia entregará. É uma afirmação de que o futuro está sendo construído, e de que as pessoas que o constroem têm agência sobre sua forma. É algo que todo engenheiro sabe nas mãos, ainda que nunca tenha posto em palavras: o sistema faz aquilo para o qual foi projetado. O motor de recomendação otimiza aquilo para o qual foi instruído a otimizar. O modelo encarna os valores nos quais foi treinado. O agente age dentro dos limites que recebeu. A IA não é clima, acontecendo às pessoas. É arquitetura, feita pelas pessoas — e, na imagem da encíclica, as famílias de Neemias, cada uma responsável por uma seção da muralha.

Esse reenquadramento dissolve o falso fatalismo de boa parte do discurso atual. A pergunta "a IA será boa ou má para a humanidade?" está mal formulada, porque trata a IA como uma força autônoma com trajetória própria. A pergunta honesta é "o que está sendo construído, por quem, sob quais restrições?" — e essa é uma pergunta respondida todos os dias, em revisões de projeto, em decisões de arquitetura e nas escolhas silenciosas sobre o que otimizar e o que recusar.

O registro histórico é, no balanço, reconfortante. O trem foi civilizado. O automóvel foi civilizado. A energia nuclear, contra as probabilidades, foi contida — o regime de não proliferação, com toda a sua fragilidade, dura agora oitenta anos contra previsões confiantes de que não duraria. Os danos da internet vêm sendo, lenta e tardiamente, enfrentados. Em cada caso, o bem foi preservado e o dano reduzido não porque a tecnologia tenha chegado pré-civilizada, e não porque pessoas ansiosas a tenham detido, mas porque construtores e cidadãos assumiram responsabilidade pela forma da coisa. A IA e a computação quântica são a seção da muralha da geração presente.

O Que Isso Significa por Posição do Leitor #

As implicações da encíclica diferem conforme o papel.

Líderes de tecnologia e fundadores. A tese "a tecnologia nunca é neutra" é um mandato de governança, não um aparte filosófico. Os valores, os incentivos e o modelo de negócio por trás de um sistema fazem parte de sua especificação, e fingir o contrário já não é crível diante de reguladores, do público ou dos engenheiros dentro da firma. Instituições que internalizarem isso tratarão a ética como preocupação arquitetônica, projetada desde o início, e não como camada de relações públicas aplicada depois.

Engenheiros e pesquisadores. A encíclica está, inesperadamente, do lado do argumento interno mais importante do campo: o de que como uma coisa é construída importa tanto quanto se funciona. Defender o projeto mais responsabilizável, mais auditável e mais humano contra a pressão de embarcar o extrativo é o trabalho que a encíclica descreve como reconstruir Jerusalém. A causa desse trabalho conta agora com a doutrina social católica ao lado do EU AI Act, da DORA e de dez anos de aprendizado pós-incidente.

Formuladores de políticas e reguladores. A encíclica e o EU AI Act descrevem o mesmo risco a partir de vocabulários distintos. A convergência é uma oportunidade: o enquadramento moral pode construir a legitimidade pública que a regulação técnica, sozinha, tem dificuldade em alcançar. "Concentração de poder não responsabilizável" é uma abstração; "Babel" é uma história, e histórias movem pessoas à ação.

O público mais amplo — os "homens e mulheres de boa vontade" da encíclica. A linha mais afiada da encíclica para o leitor não especialista é a de que a maior parte das pessoas está "observando e esperando, observando à distância e meramente torcendo pelo melhor". Essa postura não é neutra: onde há infraestrutura em jogo, a abstenção é em si mesma uma escolha sobre quem fica encarregado de projetar os padrões.

Conclusão #

A Magnifica Humanitas será lida pela maior parte da indústria de tecnologia, se chegar a ser lida, como documento religioso de relevância limitada para a engenharia. Isso seria um erro. Lida como raciocínio ético, e não como doutrina, ela está entre as enunciações mais claras já feitas daquilo que a indústria mais precisa ouvir e mais resiste a ouvir: que os artefatos sendo construídos carregam os valores de seus construtores, admitam-no eles ou não; que a capacidade voltou a ultrapassar a governança; e que essa distância só será fechada por escolha humana deliberada. Diz isso na companhia da Rerum Novarum e da longa história de tecnologias — o trem, o automóvel, a energia nuclear, a internet — que chegaram arrastando ansiedade moral e foram, no fim, nem detidas nem cultuadas, mas civilizadas por pessoas que assumiram responsabilidade por elas.

Desemboca na esperança. O futuro da IA e da computação quântica não é uma previsão; é, na expressão da encíclica, "o canteiro de obras do nosso tempo". À luz da evidência histórica, a distância entre capacidade e governança é, mais uma vez, passível de ser fechada — não perfeitamente, não sem custo, mas passível, pelo mesmo mecanismo que a fechou para o trem, o automóvel, a energia nuclear e a internet: construtores e cidadãos assumindo responsabilidade pela forma da coisa. Essa é a nota certa para começar.

Perguntas Frequentes #

O que é a Magnifica Humanitas, em termos simples?

É a primeira encíclica (a forma mais autoritativa de documento de magistério papal) dedicada inteiramente à inteligência artificial, publicada pelo Papa Leão XIV em 25 de maio de 2026. Com cerca de 42.300 palavras, subintitulada Sobre a Salvaguarda da Pessoa Humana no Tempo da Inteligência Artificial, situa a IA na "doutrina social" da Igreja Católica — o mesmo corpo de ensinamento que começou com a encíclica de Leão XIII de 1891 sobre a Revolução Industrial, Rerum Novarum, em cujo 135.º aniversário este documento foi assinado. É dirigida não apenas aos católicos, mas explicitamente a "todos os homens e mulheres de boa vontade", o que justifica lê-la, como faz este artigo, como argumento ético secular e não apenas como argumento religioso.

Por que alguém na indústria de tecnologia deveria se importar com o que uma encíclica papal diz sobre IA?

Porque é um dos arcabouços éticos mais coerentes e institucionalmente duradouros já produzidos para esta tecnologia, e porque suas teses centrais são corretas em seus próprios termos. "A tecnologia nunca é neutra" é uma observação de projeto que toda a disciplina de segurança da IA endossa implicitamente. O alerta sobre a concentração de poder em atores privados transnacionais é uma descrição precisa do cenário de 2026 que o EU AI Act e a DORA tentam, de modo independente, enfrentar. Não é preciso compartilhar a teologia para achar a análise útil — e os autores da encíclica convidam explicitamente exatamente esse tipo de leitura.

Comparar a IA ao trem, ao automóvel, à energia nuclear e à internet não é apenas um modo de minimizar o risco?

Pelo contrário. O padrão histórico mostra que a ansiedade moral que acompanhou cada tecnologia transformadora trouxe sinal real — marcou a distância entre o que a tecnologia podia fazer e aquilo para o qual nossa governança estava pronta. Em alguns casos (o trem), os medos literais foram um disparate, mas o instinto de que a disrupção estava chegando estava certo. Em outros (a nuclear e, possivelmente, a internet), a ansiedade foi subdimensionada, e pagamos por descartá-la. A lição não é a de que a IA é inofensiva porque sobrevivemos às outras. É a de que sobrevivemos às outras por levar a ansiedade a sério e fechar a distância de governança de modo deliberado — e que devemos fazê-lo mais rapidamente desta vez.

Como isso se conecta ao seu artigo anterior sobre Lucy?

A crítica da encíclica ao transumanismo — o tratamento dos limites humanos como defeitos a otimizar — é a mesma crítica que o artigo sobre Lucy fez sobre a fantasia do filme da consciência migrando da carne para a máquina. Ambos chegam à conclusão de que um ser humano é mais do que informação extraível, e de que os limites que somos tentados a eliminar por engenharia são uma grande parte do lugar em que o sentido de fato reside. A leitura de um crítico de cinema e uma encíclica papal chegando à mesma conclusão por caminhos distintos é sinal de que o insight é robusto, não parochial.

Onde a encíclica e o EU AI Act de fato concordam?

Na concentração de poder. A observação da encíclica de que "os principais agentes desta tecnologia são hoje atores privados, frequentemente transnacionais, cujos recursos e capacidade de intervenção superam os de muitos governos" é, quase palavra por palavra, a ansiedade estrutural subjacente às obrigações de alto risco do EU AI Act, às disposições da DORA sobre risco de concentração em terceiros e ao movimento da nuvem soberana que reconfigura hoje a contratação de infraestrutura financeira. A encíclica chega à sua conclusão pela doutrina social; a regulação chega a ela pelas avaliações de conformidade. O diagnóstico é idêntico.

A mensagem geral é, então, otimista ou pessimista quanto à IA?

Otimista, mas não ingenuamente. O argumento é o de que o futuro da IA e da computação quântica não é predeterminado — está sendo construído, agora, por escolhas humanas — e o de que a história mostra que somos capazes de preservar o bem de uma tecnologia poderosa, reduzindo o seu dano, desde que assumamos responsabilidade pela sua forma em vez de tratá-la como força autônoma. O medo trata a IA como clima. A esperança a trata como arquitetura. A leitura honesta, tanto da encíclica quanto da engenharia, é a de que se trata de arquitetura, e de que as pessoas que a constroem podem escolher construí-la bem. Essa é uma conclusão genuinamente esperançosa, e é conquistada, não meramente desejada.

Referências #

Última revisão .

Última revisão .