Sebastien Rousseau
Hubungi ›

Magnifica Humanitas: Pembacaan Industri AI atas Ensiklik Kepausan Pertama tentang AI

Pada 25 Mei 2026, Paus Leo XIV merilis ensiklik kepausan pertama yang didedikasikan untuk kecerdasan buatan. Dibaca dari dalam industri teknologi — bukan sebagai doktrin tetapi sebagai kerangka etika — ia menggemakan setiap kecemasan moral yang menyertai kereta api, mobil, tenaga nuklir, dan internet. Dan akhirnya, ia mendarat pada harapan.

18 menit baca

Magnifica Humanitas: Pembacaan Industri AI atas Ensiklik Kepausan Pertama tentang Kecerdasan Buatan

Pada 25 Mei 2026, Paus Leo XIV merilis Magnifica Humanitas, ensiklik kepausan pertama yang didedikasikan untuk kecerdasan buatan (Vatican News). Dibaca dari dalam industri teknologi — bukan sebagai doktrin, melainkan sebagai kerangka etika yang luar biasa koheren untuk era AI dan kuantum — ia menggemakan kecemasan moral yang menyertai kereta api, mobil, tenaga nuklir, dan internet, dan mendarat pada harapan alih-alih ketakutan.

Ringkasan Eksekutif / Poin-poin Utama

  • Pada 25 Mei 2026, Paus Leo XIV merilis Magnifica Humanitas ("Kemanusiaan yang Agung"), sebuah ensiklik berisi 42.300 kata dengan subjudul Tentang Menjaga Pribadi Manusia di Masa Kecerdasan Buatan — ensiklik kepausan pertama yang didedikasikan untuk AI (Vatican News), ditandatangani pada 15 Mei, peringatan ke-135 Rerum Novarum karya Paus Leo XIII (1891), dan disampaikan di Vatikan bersama salah seorang co-founder Anthropic (NCR).
  • Dibaca secara objektif dari bidang teknologi, klaim sentralnya adalah klaim yang sudah dipegang oleh sebagian besar insinyur serius: teknologi tidak pernah netral — ia "mengambil karakteristik mereka yang merancang, mendanai, mengatur, dan menggunakannya." Ini bukan pernyataan religius. Ini adalah observasi desain.
  • Dokumen ini secara sengaja diparalelkan dengan Rerum Novarum, yang membahas Revolusi Industri. Paralel itu adalah kunci untuk membacanya dengan benar: setiap teknologi transformatif — kereta api, mobil, tenaga nuklir, internet — datang disertai kecemasan moral, dan dalam setiap kasus kecemasan itu bukan histeria murni maupun obstruksi murni melainkan sinyal bahwa tata kelola harus mengejar kapabilitas.
  • Kontribusinya yang paling tajam adalah pembingkaian ulang pertanyaan inti. Pilihannya, demikian argumennya, "bukan antara 'ya' atau 'tidak' terhadap teknologi" melainkan antara membangun Babel (keseragaman, pemujaan laba, manusia direduksi menjadi "data dan kinerja") dan membangun kembali Yerusalem (persekutuan, tanggung jawab bersama, suara yang jamak membangun bersama). Bagi industri, itu memetakan secara rapi pada perbedaan antara AI ekstraktif dan AI yang manusiawi.
  • Peringatannya tentang transhumanisme dan posthumanisme — godaan untuk memperlakukan keterbatasan manusia (penyakit, penuaan, kerentanan) sebagai cacat yang harus dioptimalkan — terhubung langsung dengan tema yang dieksplorasi dalam tulisan Mei 2026 tentang Lucy di situs ini: fantasi menggoda tentang pengetahuan yang berpindah dari daging ke mesin.
  • Kesimpulan yang jujur adalah penuh harapan, bukan alarmis. Argumen terdalam ensiklik ini adalah bahwa masa depan AI bukanlah cuaca, yang terjadi pada manusia, melainkan arsitektur, yang dibuat oleh manusia — sedang dirancang dalam setiap tinjauan arsitektur, eksekusi pelatihan, dan keputusan tentang apa yang harus dioptimalkan dan apa yang harus ditolak. Itu bukan peringatan. Itu adalah undangan.

Catatan tentang Cara Membaca Tulisan Ini #

Ini bukan pembacaan teologis. Lensa yang digunakan adalah rekayasa — infrastruktur pembayaran, kriptografi pasca-kuantum, sistem agentik, pekerjaan yang menjadi perhatian Magnifica Humanitas. Ensiklik ini ditujukan, dalam kata-katanya sendiri, "kepada seluruh umat Katolik, kepada seluruh umat Kristen dan kepada orang-orang yang berkehendak baik" (Vatican.va), yang menjadi dasar bagi pembacaan sekuler yang menyusul.

Dibaca sebagai penalaran etis alih-alih doktrin, dokumen ini koheren — lebih koheren daripada sebagian besar yang diproduksi industri tentang dirinya sendiri, lebih jujur tentang konsentrasi kekuasaan daripada kebanyakan white paper regulasi, dan lebih penuh harapan daripada wacana suram yang mendominasi komentar AI sejak 2023.

Apa yang Sebenarnya Dikatakan Ensiklik #

Perangkat pembingkaiannya adalah dua citra biblika, dan keduanya patut dipahami bahkan oleh pembaca yang sepenuhnya sekuler karena keduanya melakukan kerja analitis yang nyata. Yang pertama adalah Menara Babel: satu bahasa, satu teknologi, satu arah, dibangun — dalam pembacaan ensiklik — di atas "kesombongan dan klaim atas swasembada," sebuah proyek yang "mengorbankan martabat manusia demi efisiensi." Yang kedua adalah pembangunan kembali Yerusalem di bawah Nehemia: sebuah proyek yang "membangun kembali hubungan sebelum membangun kembali dengan batu," di mana pekerjaan didistribusikan ke seluruh komunitas dan keberagaman menjadi sumber daya alih-alih ancaman.

Gerakan kunci ensiklik ini adalah berargumen bahwa pilihan nyata yang dihadapi era AI "bukan antara 'ya' atau 'tidak' terhadap teknologi, melainkan antara membangun Babel atau membangun kembali Yerusalem." Ini adalah pembingkaian yang lebih canggih daripada biner akselerasionis-versus-doomer yang membuat industri terjebak. Ia menolak baik posisi tekno-utopia (bahwa kapabilitas yang lebih besar otomatis baik) maupun posisi penolakan refleksif (bahwa teknologi secara inheren korup). Sebaliknya ia menempatkan bobot moral di mana ia sebenarnya berada: pada bagaimana sesuatu dibangun, didanai, ditata, dan digunakan.

Dari sana, dokumen ini disiplin secara struktural. Ia menetapkan bahwa teknologi telah menjadi "realitas yang sangat manusiawi, terkait dengan otonomi dan kebebasan manusia" sejak awal, dan bahwa selama berabad-abad ia telah secara signifikan memperbaiki kondisi hidup manusia — ini bukan teks reaksioner. Kemudian ia menyatakan observasi sentralnya, observasi yang seharusnya menahan setiap insinyur yang jujur: dalam praktiknya, teknologi tidak pernah netral, karena ia mengambil karakteristik mereka yang merancang, mendanai, mengatur, dan menggunakannya. Ia memperingatkan tentang pergeseran struktural spesifik dalam kekuasaan — bahwa penggerak utama pengembangan kini adalah pihak swasta, sering kali transnasional, yang sumber daya dan kapasitas intervensinya melampaui banyak pemerintah — dan ia memperingatkan tentang bahaya antropologis spesifik: reduksi pribadi menjadi "data dan kinerja," perlakuan terhadap keterbatasan manusia sebagai cacat yang harus direkayasa hilang. Bab-bab selanjutnya membahas kebenaran sebagai barang bersama, martabat kerja di masa otomasi, dan — dengan kekuatan yang patut diperhatikan — penggunaan AI dalam peperangan dan senjata otonom (TIME, CNN).

Itulah arsitekturnya. Pembacaan dari sisi rekayasa menyusul.

Teknologi Tidak Pernah Netral: Observasi Desain, Bukan Khotbah #

Kalimat tunggal terpenting dalam ensiklik ini, bagi seorang insinyur, adalah klaim bahwa teknologi "mengambil karakteristik mereka yang merancang, mendanai, mengatur, dan menggunakannya." Lepaskan konteksnya dan ini sekadar benar, dan benar dalam cara yang telah dipelajari kembali oleh bidang ini secara perlahan dan dengan biaya besar selama satu dekade.

Algoritme rekomendasi yang dioptimalkan untuk engagement mengambil karakteristik dari metrik yang diberikan kepadanya; ia tidak "memutuskan" untuk meradikalisasi siapa pun, tetapi ia akan menemukan bahwa kemarahan mempertahankan perhatian dan ia akan menyajikan lebih banyak dari itu. Model kredit yang dilatih pada data pinjaman yang secara historis bias mengambil karakteristik dari sejarah itu; ia tidak "berniat" untuk mendiskriminasi, tetapi ia akan melakukannya. Sistem pengenalan wajah mengambil karakteristik dari dataset tempat ia dilatih dan institusi yang menerapkannya — tidak berbahaya dalam aplikasi foto, sesuatu yang sepenuhnya berbeda dalam konteks pengawasan. Seluruh disiplin keamanan AI, penyelarasan AI, dan rekayasa AI yang bertanggung jawab adalah, dalam arti tertentu, pernyataan ulang yang rumit dari kalimat ensiklik: nilai-nilai pembuat dan penerap tertulis ke dalam artefak, terlepas dari apakah ada yang berniat demikian atau tidak.

Inilah sebabnya pembingkaian lebih penting daripada kesimpulan. Pembelaan retoris industri yang paling umum — "teknologi hanyalah alat, ia netral, tergantung bagaimana Anda menggunakannya" — persis adalah posisi yang dibantah oleh ensiklik dan oleh satu dekade pengalaman rekayasa yang keras. Alat tidak netral. Mereka membawa sidik jari pembuatnya dalam default mereka, data pelatihan mereka, target optimasi mereka, model akses mereka, dan model bisnis yang mendanai mereka. Mengakui ini bukanlah anti-teknologi. Ini adalah prasyarat untuk membangun teknologi dengan baik.

Pola: Kereta Api, Mobil, Nuklir, Internet #

Apa yang memberikan ensiklik ini kekuatan interpretatif yang sebenarnya adalah penambatannya yang eksplisit pada Rerum Novarum, ensiklik Paus Leo XIII tahun 1891 tentang Revolusi Industri. Dengan menandatangani Magnifica Humanitas pada peringatan ke-135 dokumen tersebut, Paus Leo XIV menyatakan klaim historis yang disengaja: bahwa AI adalah "revolusi industri lainnya," dan respons yang tepat bukanlah menghentikannya atau menyembahnya, melainkan membangun perancah sosial dan etis yang memungkinkan manfaatnya menjangkau setiap orang dan kerugiannya tidak menimpa siapa pun.

Inilah kerangka yang benar, dan ia patut diperluas, karena sejarah sungguh meyakinkan begitu Anda melihatnya dengan jernih. Setiap teknologi transformatif telah datang sambil menyeret awan kecemasan moral, dan dalam setiap kasus kecemasan itu membawa sinyal yang nyata.

Ketika kereta api menyebar ke seluruh Inggris pada tahun 1830-an dan 1840-an, opini medis terhormat berpegang bahwa tubuh manusia tidak dapat bertahan pada kecepatan 30 mil per jam — bahwa penumpang akan tercekik, atau organ mereka akan rusak. Ada khotbah tentang ketidaksalehan kecepatan semacam itu. Kecemasan itu, dalam bentuk literalnya, adalah omong kosong. Tetapi di baliknya ada kekhawatiran nyata dan sah tentang disrupsi: kereta api memang membalikkan ekonomi lokal, memang mengonsentrasikan modal dengan cara-cara baru, memang membutuhkan badan hukum keselamatan yang sepenuhnya baru yang ditulis dengan darah kecelakaan awal. Histerianya salah; insting yang mendasarinya bahwa ini mengubah segalanya dan kita belum siap adalah benar.

Ketika mobil datang, polanya berulang. Locomotive Acts Inggris — "Red Flag Acts" — mensyaratkan seseorang berjalan di depan setiap kendaraan bermotor sambil membawa bendera merah. Diejek sekarang sebagai obstruksi yang absurd, mereka adalah upaya pertama yang canggung untuk menjawab pertanyaan yang sungguh-sungguh: apa yang terjadi ketika individu swasta dapat menggerakkan mesin berat melalui ruang publik bersama pada kecepatan mematikan? Butuh berdekade-dekade untuk membangun jawabannya — lisensi, hukum lalu lintas, desain jalan, sabuk pengaman, standar tabrakan. Mobil-mobil itu memang membunuh orang. Tata kelolanya, akhirnya, mengejar. Kita tidak melarang mobil, dan kita tidak membiarkannya berjalan tanpa kekang; kita menjadikannya beradab.

Teknologi nuklir adalah kasus paling sulit dan paling instruktif. Di sini kecemasan sama sekali bukan histeris — teknologinya benar-benar dapat mengakhiri peradaban, dan dua kali pada tahun 1945 ia mendemonstrasikan kapasitasnya untuk menghapus kota-kota. Tetapi bahkan di sini ceritanya bukan tentang bencana murni. Fisika yang sama memberi kita sumber energi bebas karbon yang, per unit energi yang diberikan, telah membunuh lebih sedikit orang daripada hampir semua alternatif; rezim non-proliferasi, dengan segala kerapuhannya, telah bertahan selama delapan puluh tahun melawan prediksi yang penuh keyakinan bahwa ia tidak akan bertahan. Nuklir adalah kasus yang paling jelas dipikirkan oleh bab ensiklik tentang senjata dan AI, dan ia adalah kisah peringatan yang tepat: teknologi yang potensi destruktif dan kreatifnya sama-sama maksimal, dan yang telah kita tahan hanya dengan membangun — secara tidak sempurna, diperdebatkan, tetapi nyata — perancah internasional untuk menatanya.

Dan internet — yang paling banyak dari kita alami. Kecemasan awal (bahwa ia akan merusak pikiran anak-anak, menghancurkan koneksi manusia yang nyata, menenggelamkan kebenaran dalam kebisingan) ditepis sebagai kepanikan moral oleh para teknolog, termasuk saya sendiri. Dengan dua dekade tinjauan ke belakang, beberapa kecemasan itu terlihat kurang seperti kepanikan dan lebih seperti reaksi yang kurang: ekonomi perhatian, polarisasi algoritmik, runtuhnya basis faktual bersama, efek kesehatan mental yang terdokumentasi pada remaja. Internet memberikan barang-barang yang luar biasa — akses ke totalitas pengetahuan manusia, runtuhnya jarak, demokratisasi suara. Ia juga melakukan kerusakan nyata yang kita kesampingkan justru karena kerangka tekno-optimis memberi tahu kita bahwa kemajuan itu membenarkan diri sendiri. Pelajarannya bukan "kaum pesimis benar." Pelajarannya adalah bahwa kecemasan itu adalah data, dan kita seharusnya membacanya alih-alih menepisnya.

Inilah pola yang ditunjuk Magnifica Humanitas, dan inilah sebabnya dokumen ini tidak boleh dibaca sebagai Luddisme. Dalam setiap kasus, kecemasan moral yang menyertai teknologi bukanlah histeria murni maupun kebijaksanaan murni. Ia adalah sinyal bahwa kapabilitas telah melampaui tata kelola, dan bahwa kesenjangan itu harus ditutup oleh upaya manusia yang disengaja. Ensiklik ini, pada dasarnya, adalah kecemasan moral awal era AI — dan catatan historis mengatakan bahwa respons yang tepat terhadap kecemasan semacam itu bukanlah menepisnya sebagai technophobia religius, melainkan membacanya untuk sinyal yang dibawanya dan menutup kesenjangan tata kelola lebih cepat daripada yang kita lakukan terakhir kali.

Di Mana Hal Ini Menyentuh Rekayasa Keuangan #

Dua kekhawatiran spesifik ensiklik mendarat langsung pada rekayasa sistem keuangan, dan keduanya layak mendapatkan respons seorang insinyur alih-alih seorang penganut iman.

Yang pertama adalah konsentrasi kekuasaan di tangan pihak swasta, transnasional. Observasi ensiklik bahwa penggerak utama teknologi ini kini adalah aktor swasta yang kapasitasnya melebihi banyak negara bukanlah klaim teologis; ini adalah deskripsi akurat tentang lanskap AI 2026, dan persis adalah kekhawatiran yang mengalir melalui arsitektur regulasi yang sedang berusaha dipenuhi industri — kewajiban risiko tinggi EU AI Act yang dapat ditegakkan mulai 2 Agustus 2026, ketentuan risiko konsentrasi pihak ketiga DORA, dan gerakan cloud berdaulat serta control plane berdaulat yang dibahas dalam tulisan arsitektur cloud dan rekayasa agentik di situs ini. Ensiklik dan EU AI Act, secara luar biasa, mengkhawatirkan hal yang sama: bahwa kapabilitas tanpa akuntabilitas mengonsentrasikan kekuasaan dengan cara yang lolos dari tata kelola demokratis. Yang satu mengatakannya dalam bahasa doktrin sosial dan yang lain dalam bahasa asesmen kesesuaian. Diagnosisnya identik.

Yang kedua adalah komputasi kuantum, yang tidak disebut oleh ensiklik tetapi bentuk etisnya tepat diantisipasi. Premis migrasi pasca-kuantum yang dibahas dalam Securing the Ledger adalah bahwa sebuah kapabilitas yang sedang dibangun — komputer kuantum yang relevan secara kriptografi — ketika tiba, akan secara retroaktif mengekspos segala sesuatu yang dienkripsi di bawah asumsi hari ini. "Harvest now, decrypt later" adalah, dalam register sekuler, persis jenis kekuasaan-tanpa-kebijaksanaan yang diperingatkan ensiklik: teknologi yang konsekuensinya tiba pada garis waktu yang melampaui persiapan, di tangan mereka yang memiliki sumber daya untuk memegangnya lebih dulu. Desakan ensiklik untuk bertanya "ke mana kita pergi?" sebelum rangkaian keadaan darurat mendiktekan jalannya adalah, bagi seorang insinyur keamanan, praktik baik yang diterjemahkan sebagai filsafat moral.

Godaan Transhumanis, dan Pelajaran dari Lucy #

Ensiklik ini menyimpan kritik paling mendalamnya untuk transhumanisme dan posthumanisme — narasi yang memperlakukan keterbatasan manusia (penyakit, penuaan, penderitaan, kerentanan) bukan sebagai konstitutif dari kondisi manusia melainkan sebagai cacat rekayasa yang menunggu pemutakhiran. Klaimnya, dalam paragraf demi paragraf, adalah bahwa manusia sering kali berkembang melalui keterbatasan mereka, dan bahwa AI yang menggoda kita untuk "melarikan diri dari keterbatasan melalui optimasi" alih-alih mendukung "keterbukaan dan persekutuan" telah salah memahami untuk apa pribadi itu ada.

Inilah godaan yang diperiksa dalam tulisan Mei 2026 tentang Lucy karya Luc Besson di situs ini. Fantasi film tersebut — bahwa kesadaran dapat secara progresif dibuka kuncinya sampai berpindah, lengkap, dari daging ke flash drive — adalah ekspresi paling murni yang mungkin dari mimpi posthumanis yang dikhawatirkan ensiklik: pengetahuan tanpa pengetahu, kecerdasan tanpa pengejawantahan tubuh, manusia direduksi menjadi informasi yang dapat diekstraksi. Tulisan itu berargumen bahwa fantasi tersebut menggoda justru karena ia menyanjung ketidaknyamanan terhadap keterbatasan, dan bahwa kebenaran yang lebih menarik adalah yang sebaliknya — bahwa keterbatasan bukanlah bug, mereka adalah sebagian besar tempat di mana makna berada. Ensiklik mencapai kesimpulan yang sama melalui jalan yang berbeda. Pembacaan seorang kritikus film atas thriller fiksi ilmiah dan ensiklik kepausan yang tiba di tempat yang sama itu sendiri patut diperhatikan: ia menunjukkan bahwa wawasannya tidak parokial untuk kerangka mana pun.

Inilah titik di mana pembaca sekuler dan ensiklik dapat berjabat tangan tanpa siapa pun harus berpindah keyakinan. Meyakini bahwa seorang manusia lebih dari sekadar dataset tidak mengharuskan meyakini jiwa. Itu hanya mengharuskan menyadari bahwa hal-hal paling bermakna dalam hidup — cinta, duka, perolehan kebijaksanaan yang lambat, kedekatan yang dimungkinkan oleh kerentanan — bukanlah masalah optimasi, dan bahwa industri yang memperlakukan mereka sebagai masalah optimasi akan membangun alat yang membuat orang efisien dan kesepian. Ensiklik menamai ini dengan presisi yang tidak biasa.

Pesan Harapan: Arsitektur, Bukan Cuaca #

Register dominan komentar AI sejak 2023 adalah ketakutan. Ensiklik ini, dengan segala peringatannya, pada akhirnya bukanlah dokumen yang penakut — gerakan penutupnya disebut "nyanyian harapan" (Ascension Press), dan harapan itu patut dibaca dengan presisi rekayasa.

Pilihan antara "membangun Babel dan membangun kembali Yerusalem" bukanlah ramalan tentang masa depan mana yang akan disampaikan teknologi. Ia adalah pernyataan bahwa masa depan sedang dibangun, dan bahwa orang-orang yang membangunnya memiliki agensi atas bentuknya. Ini adalah sesuatu yang diketahui setiap insinyur dengan tangan mereka bahkan jika mereka tidak pernah mengatakannya dengan kata-kata ini: sistem melakukan apa yang dirancang untuk dilakukannya. Mesin rekomendasi mengoptimalkan untuk apa yang diperintahkan untuk dioptimalkan. Model mengejawantahkan nilai-nilai yang dilatihkan ke dalamnya. Agen bertindak dalam batas-batas yang diberikan kepadanya. AI bukanlah cuaca, yang terjadi pada manusia. Ia adalah arsitektur, yang dibuat oleh manusia — dan dalam citra ensiklik, keluarga-keluarga Nehemia, masing-masing ditugaskan sebagian dari tembok.

Pembingkaian ulang itu melarutkan fatalisme palsu dalam sebagian besar wacana saat ini. Pertanyaan "akankah AI baik atau buruk bagi kemanusiaan?" terbentuk buruk, karena ia memperlakukan AI sebagai kekuatan otonom dengan lintasannya sendiri. Pertanyaan yang jujur adalah "apa yang sedang dibangun, oleh siapa, di bawah batasan apa?" — dan itulah pertanyaan yang dijawab setiap hari, dalam tinjauan desain dan keputusan arsitektur dan pilihan-pilihan diam tentang apa yang harus dioptimalkan dan apa yang harus ditolak.

Catatan historis, secara keseluruhan, meyakinkan. Kereta api dijadikan beradab. Mobil dijadikan beradab. Tenaga nuklir, melawan rintangan, telah ditahan — rezim non-proliferasi, dengan segala kerapuhannya, kini telah bertahan selama delapan puluh tahun melawan prediksi yang penuh keyakinan bahwa ia tidak akan bertahan. Kerugian internet sedang ditangani secara perlahan dan terlambat. Dalam setiap kasus kebaikannya dilestarikan dan kerugiannya dikurangi bukan karena teknologi tiba dalam keadaan sudah beradab, dan bukan karena orang-orang yang cemas menghentikannya, tetapi karena pembangun dan warga negara mengambil tanggung jawab atas bentuk benda itu. AI dan komputasi kuantum adalah bagian tembok generasi sekarang.

Apa Artinya Ini Berdasarkan Posisi Pembaca #

Implikasi ensiklik berbeda tergantung perannya.

Pemimpin teknologi dan founder. Klaim "teknologi tidak pernah netral" adalah mandat tata kelola, bukan catatan filosofis sampingan. Nilai, insentif, dan model bisnis di balik sebuah sistem adalah bagian dari spesifikasinya, dan berpura-pura sebaliknya tidak lagi kredibel bagi regulator, publik, atau para insinyur di dalam firma. Institusi yang menginternalisasi ini akan memperlakukan etika sebagai perhatian arsitektural, dirancang sejak awal, alih-alih sebagai lapisan hubungan masyarakat yang diterapkan setelahnya.

Insinyur dan peneliti. Ensiklik, secara tak terduga, berada di pihak argumen internal terpenting bidang ini: bahwa bagaimana sesuatu dibangun penting sama seperti apakah ia bekerja. Mendorong desain yang lebih akuntabel, lebih dapat diaudit, lebih manusiawi melawan tekanan untuk merilis yang ekstraktif adalah pekerjaan yang digambarkan ensiklik sebagai membangun kembali Yerusalem. Kasus untuk pekerjaan itu kini memiliki doktrin sosial Katolik di samping EU AI Act, DORA, dan sepuluh tahun pembelajaran pascainsiden di belakangnya.

Pembuat kebijakan dan regulator. Ensiklik dan EU AI Act mendeskripsikan risiko yang sama dari kosakata yang berbeda. Konvergensi itu adalah peluang: pembingkaian moral dapat membangun legitimasi publik yang sulit dicapai oleh regulasi teknis sendiri. "Konsentrasi kekuasaan yang tidak akuntabel" adalah abstraksi; "Babel" adalah cerita, dan cerita menggerakkan orang untuk bertindak.

Publik yang lebih luas — "orang-orang yang berkehendak baik" dari ensiklik. Baris paling tajam ensiklik bagi pembaca non-spesialis adalah bahwa kebanyakan orang "menonton dan menunggu, mengamati dari jauh dan sekadar berharap yang terbaik." Sikap itu tidak netral: di mana infrastruktur menjadi perhatian, sikap menahan diri itu sendiri adalah pilihan tentang siapa yang merancang default.

Kesimpulan #

Magnifica Humanitas akan dibaca oleh sebagian besar industri teknologi, jika dibaca sama sekali, sebagai dokumen religius dengan implikasi terbatas pada rekayasa. Itu akan menjadi kesalahan. Dibaca sebagai penalaran etis alih-alih doktrin, ia adalah salah satu pernyataan terjelas yang pernah dibuat tentang hal yang paling perlu didengar industri dan paling dilawan untuk didengar: bahwa artefak yang sedang dibangun membawa nilai pembuatnya entah pembuatnya mengakuinya atau tidak, bahwa kapabilitas sekali lagi telah melampaui tata kelola, dan bahwa kesenjangan akan ditutup hanya oleh pilihan manusia yang disengaja. Ia mengatakan ini dalam kebersamaan dengan Rerum Novarum dan sejarah panjang teknologi — kereta api, mobil, tenaga nuklir, internet — yang datang sambil menyeret kecemasan moral dan pada akhirnya, tidak dihentikan maupun disembah melainkan dijadikan beradab oleh orang-orang yang mengambil tanggung jawab atas mereka.

Ia mendarat pada harapan. Masa depan AI dan komputasi kuantum bukanlah ramalan; ia adalah, dalam frasa ensiklik, "lokasi konstruksi zaman kita." Berdasarkan bukti sejarah, kesenjangan antara kapabilitas dan tata kelola sekali lagi dapat ditutup — tidak sempurna, tidak tanpa biaya, tetapi dapat ditutup, melalui mekanisme yang sama yang menutupnya untuk kereta api, mobil, nuklir, dan internet: pembangun dan warga negara mengambil tanggung jawab atas bentuk benda itu. Itulah nada yang tepat untuk memulai.

Pertanyaan yang Sering Diajukan #

Apa itu Magnifica Humanitas, dalam istilah sederhana?

Ia adalah ensiklik pertama (bentuk paling otoritatif dokumen pengajaran kepausan) yang didedikasikan sepenuhnya untuk kecerdasan buatan, dirilis oleh Paus Leo XIV pada 25 Mei 2026. Pada kira-kira 42.300 kata, dengan subjudul Tentang Menjaga Pribadi Manusia di Masa Kecerdasan Buatan, ia menempatkan AI dalam "doktrin sosial" Gereja Katolik — badan pengajaran yang sama yang dimulai dengan ensiklik Paus Leo XIII tahun 1891 tentang Revolusi Industri, Rerum Novarum, pada peringatan ke-135 dokumen ini ditandatangani. Ia ditujukan tidak hanya kepada umat Katolik tetapi secara eksplisit kepada "semua orang yang berkehendak baik," yang menjadi dasar untuk membacanya, sebagaimana artikel ini lakukan, sebagai argumen etis sekuler dan bukan hanya religius.

Mengapa siapa pun di industri teknologi harus peduli pada apa yang dikatakan ensiklik kepausan tentang AI?

Karena ia adalah salah satu kerangka etika paling koheren dan paling tahan lama secara kelembagaan yang pernah diproduksi siapa pun untuk teknologi ini, dan karena klaim sentralnya benar berdasarkan istilahnya sendiri. "Teknologi tidak pernah netral" adalah observasi desain yang secara implisit didukung oleh seluruh disiplin keamanan AI. Peringatan tentang kekuasaan yang mengonsentrasikan diri pada aktor swasta transnasional adalah deskripsi akurat tentang lanskap 2026 yang sedang dicoba ditangani secara independen oleh EU AI Act dan DORA. Anda tidak harus berbagi teologi untuk menemukan analisisnya berguna — dan para penulis ensiklik secara eksplisit mengundang persis jenis pembacaan itu.

Bukankah membandingkan AI dengan kereta api, mobil, nuklir, dan internet hanyalah cara meminimalkan risiko?

Sebaliknya, sebenarnya. Pola historis menunjukkan bahwa kecemasan moral yang menyertai setiap teknologi transformatif membawa sinyal yang nyata — ia menandai kesenjangan antara apa yang dapat dilakukan teknologi dan apa yang siap dilakukan tata kelola kita. Dalam beberapa kasus (kereta api) ketakutan literalnya adalah omong kosong tetapi insting bahwa disrupsi sedang datang adalah benar. Dalam kasus lain (nuklir, dan bisa dikatakan internet) kecemasannya dinyatakan terlalu sedikit, dan kita membayar karena menepisnya. Pelajarannya bukan bahwa AI tidak berbahaya karena kita selamat dari yang lain. Pelajarannya adalah bahwa kita selamat dari yang lain dengan menanggapi kecemasan dengan serius dan menutup kesenjangan tata kelola secara disengaja — dan bahwa kita harus melakukannya lebih cepat kali ini.

Bagaimana ini terhubung dengan artikel Anda sebelumnya tentang Lucy?

Kritik ensiklik terhadap transhumanisme — perlakuan terhadap keterbatasan manusia sebagai cacat yang harus dioptimalkan — adalah kritik yang sama yang dibuat tulisan Lucy tentang fantasi film tersebut tentang kesadaran yang berpindah dari daging ke mesin. Keduanya tiba pada kesimpulan bahwa seorang manusia lebih dari sekadar informasi yang dapat diekstraksi, dan bahwa keterbatasan yang tergoda untuk kita rekayasa hilang adalah sebagian besar tempat di mana makna sebenarnya berada. Pembacaan seorang kritikus film dan ensiklik kepausan yang mencapai kesimpulan yang sama melalui jalan yang berbeda adalah tanda bahwa wawasannya kuat alih-alih parokial.

Di mana ensiklik dan EU AI Act sebenarnya sepakat?

Pada konsentrasi kekuasaan. Observasi ensiklik bahwa "penggerak utama teknologi ini kini adalah pihak swasta, sering kali transnasional, yang sumber daya dan kapasitas intervensinya melampaui banyak pemerintah" adalah, hampir kata demi kata, kecemasan struktural yang mendasari kewajiban risiko tinggi EU AI Act, ketentuan risiko konsentrasi pihak ketiga DORA, dan gerakan cloud berdaulat yang kini membentuk ulang pengadaan infrastruktur keuangan. Ensiklik mencapai kesimpulannya melalui doktrin sosial; regulasi mencapainya melalui asesmen kesesuaian. Diagnosisnya identik.

Jadi apakah pesan keseluruhannya optimistis atau pesimistis tentang AI?

Optimistis, tetapi tidak secara naif. Argumennya adalah bahwa masa depan AI dan komputasi kuantum tidak ditentukan sebelumnya — ia sedang dibangun, saat ini, oleh pilihan manusia — dan bahwa sejarah menunjukkan kita mampu melestarikan kebaikan dari teknologi yang kuat sambil mengurangi kerugiannya, asalkan kita mengambil tanggung jawab atas bentuknya alih-alih memperlakukannya sebagai kekuatan otonom. Ketakutan memperlakukan AI sebagai cuaca. Harapan memperlakukannya sebagai arsitektur. Pembacaan yang jujur baik atas ensiklik maupun rekayasa adalah bahwa ia adalah arsitektur, dan bahwa orang-orang yang membangunnya dapat memilih untuk membangunnya dengan baik. Itu adalah kesimpulan yang sungguh penuh harapan, dan ia diperoleh alih-alih diinginkan.

Referensi #

Terakhir ditinjau .

Terakhir ditinjau .